文章为转载,如有版权问题,请联系,谢谢!

转自:https://blog.csdn.net/piduzi/article/details/81636253

适合场景:在运行时才确定用哪个数据源


import org.apache.hadoop.conf.Configuration
import org.apache.hadoop.fs.Path
import org.apache.spark.sql.SparkSession
import scala.collection.JavaConverters._


object ReadHive {
def main(args: Array[String]): Unit = {
val sparkBuilder = SparkSession
.builder
.master("local")
.appName("Spk Pi")
val conf = new Configuration()
// 这里的文件地址可以换成从数据库里查询
val core = new Path("C:\\Users\\shadow\\Desktop\\core-site.xml")
val hdfs = new Path("C:\\Users\\shadow\\Desktop\\hdfs-site.xml")
val hive = new Path("C:\\Users\\shadow\\Desktop\\hive-site.xml")
conf.addResource(core)
conf.addResource(hdfs)
conf.addResource(hive)
for (c <- conf.iterator().asScala){
sparkBuilder.config(c.getKey, c.getValue)
}
val spark = sparkBuilder.enableHiveSupport().getOrCreate()
spark.sql("select * from default.wt_test1").show() }
}

 

最新文章

  1. 【原】命令行方式开启WIFI热点
  2. 鼠标滚轮事件MouseWheel
  3. sqlserver 启用邮箱服务
  4. CAS单点登录(SSO)完整教程
  5. 【转载】逃离adapter的地狱-针对多个View type的组合实现方案
  6. NOI2012 美食节
  7. 02--Java TCP Socket编程
  8. 【网站管理1】_dede织梦后台如何发布文章
  9. 算法实现之python篇
  10. cs231n spring 2017 lecture13 Generative Models 听课笔记
  11. 阶段小项目2:显示bin格式图片
  12. 超全MyBatis动态SQL详解!( 看完SQL爽多了)
  13. zTree:一个依靠 jQuery 实现的多功能 “树插件”
  14. 实现Qemu aarch32虚拟开发板ping www.baidu.com
  15. c#控件的动画显示效果
  16. Google Chrome 未响应。是否立即重新启动?---解决方法(秒速解决)
  17. MySQL Event计划任务刷慢日志
  18. 给trac的ticket添加提交时字段验证
  19. HDU 5361 In Touch (2015 多校6 1009 最短路 + 区间更新)
  20. java动态编译 (java在线执行代码后端实现原理)(二)

热门文章

  1. python面试题300多题
  2. c++ builder调用sql server的存储过程进行数据的下载和上传
  3. 读懂 ECMA 规格
  4. AntDesign vue学习笔记(六)Table 显示图片
  5. subjective--主观
  6. springmvc集成shiro后,session、request是否发生变化
  7. Java NIO , AIO
  8. linuxmint安装Tools找不到Tools的压缩包问题
  9. 网络编程之TCP三次握手与四次挥手、基于TCP协议的套接字编程
  10. JS项目练习之求和(包含正则表达式验证)