object CatalogApiTest {
def main(args: Array[String]): Unit = {
val spark = SparkSession
.builder()
.appName("CatalogApiTest")
.getOrCreate() //查看spark sql应用用的是哪一种catalog
//目前支持hive metastore 和in-memory两种
//spark-shell默认的值为hive
//spark-shell --master spark://master:7077 --conf spark.sql.catalogImplementation=in-memory
spark.conf.get("spark.sql.catalogImplementation") //1:数据库元数据信息
spark.catalog.listDatabases().show(false)
spark.catalog.currentDatabase
val db = spark.catalog.getDatabase("default")
spark.catalog.databaseExists("twq") spark.sql("CREATE DATABASE IF NOT EXISTS twq " +
"COMMENT 'Test database' LOCATION 'hdfs://master:9999/user/hadoop-twq/spark-db'") spark.catalog.setCurrentDatabase("twq")
spark.catalog.currentDatabase //2:表元数据相关信息
spark.catalog.listTables("twq").show() val sessionDf = spark.read.parquet(s"${BASE_PATH}/trackerSession")
//创建一张表
sessionDf.createOrReplaceTempView("trackerSession") //catalog table相关元数据操作
spark.catalog.listTables("twq").show() //用sql的方式查询表
val sessionRecords = spark.sql("select * from trackerSession") sessionRecords.show() spark.catalog.tableExists("log")
spark.catalog.tableExists("trackerSession")
spark.catalog.tableExists("twq", "trackerSession") //todo 感觉应该是spark的bug
spark.catalog.listTables("twq").show()
spark.catalog.getTable("trackerSession") //表的缓存
spark.catalog.cacheTable("trackerSession")
spark.catalog.uncacheTable("trackerSession") //3:表的列的元数据信息
spark.catalog.listColumns("trackerSession").show() spark.sql("drop table trackerSession")
spark.sql("drop database twq")
spark.catalog.setCurrentDatabase("default")
spark.catalog.listTables().show() spark.stop()
}
}

  

最新文章

  1. 当前界面最上面添加视图(UIWimdow)
  2. 牛X的CSS3
  3. ORACLE 远程导入导出数据库
  4. 深入SpringBoot:自定义Endpoint
  5. android 给空白包签名
  6. POJ 2318 TOYS【叉积+二分】
  7. Visual Prolog 的 Web 专家系统 (9)
  8. 如何解决Python脚本在Linux和Windows上的格式问题
  9. mysql连接的空闲时间超过8小时后 MySQL自动断开该连接解决方案
  10. QT_编程基础
  11. 关于数组和集合的冒泡排序中容易出现的IndexOutOfBoundsException
  12. Java应用开发中的字符集与字符编码
  13. UOJ Round #1 [数论 | DP 排列]
  14. [SDOI 2011]染色
  15. 青年菜君与小农女送菜商业模式PK
  16. BZOJ_5118_Fib数列2_矩阵乘法+欧拉定理
  17. mysql 主主+ Keepalived 高可用
  18. [转帖]SAP BASIS日常需要做的工作
  19. highcharts的dataLabels如何去处阴影
  20. luogu P3197 [HNOI2008]越狱

热门文章

  1. Eureka 基础知识
  2. Docker下安装zookeeper(单机 & 集群)
  3. 移动APP接口安全性设计
  4. mpx小程序框架
  5. 【leetcode-91 动态规划】 解码方法
  6. JVM 参数调优配置
  7. java之spring mvc之helloworld
  8. 相似文档查找算法之 simHash及其 java 实现
  9. Implicit super constructor Array() is undefined for default constructor. Must define an explicit constructor
  10. 小米手机安装Google框架