Flink批处理读写Hive
2024-08-23 23:08:21
import org.apache.flink.table.api.*;
import org.apache.flink.table.catalog.hive.HiveCatalog;
/**
* @Auther WeiJiQian
* @描述
*/
public class FlinkReadHiveAndWriteHive {
public static void main(String[] args) throws Exception {
EnvironmentSettings settings = EnvironmentSettings
.newInstance()
.useBlinkPlanner()
.inBatchMode()
.build();
TableEnvironment tableEnv = TableEnvironment.create(settings);
String name = "myhive"; // Catalog名称,定义一个唯一的名称表示
String defaultDatabase = "test"; // 默认数据库名称
String hiveConfDir = "/data/apache-hive-2.3.6-bin/conf"; // hive-site.xml路径
String version = "2.3.6"; // Hive版本号
HiveCatalog hive = new HiveCatalog(name, defaultDatabase, hiveConfDir, version);
StatementSet statementSet = tableEnv.createStatementSet();
tableEnv.registerCatalog(name, hive);
tableEnv.useCatalog(name);
// 把stu77 的数据写入stu88 里面,中间可以加自己的逻辑.
Table sqlResult = tableEnv.sqlQuery("select name,age from test.stu77");
statementSet.addInsert("test.stu88",sqlResult);
statementSet.execute();
}
}
最新文章
- 谈谈service层在mvc框架中的意义和职责
- String类型传值以及对象传值
- ES6里箭头函数的陷阱
- git - 简易指南
- 程序破解之 API HOOK技术 z
- day-4
- [FML]学习笔记一Cross-validation交叉验证
- Windows Azure入门教学系列 (三):创建第一个Worker Role程序
- 【59】Quartz+Spring框架详解
- 浅谈服务间通信【MQ在分布式系统中的使用场景】
- windows下scrapy安装问题,以及Twisted安装报错(error: Microsoft Visual C++ 14.0 is required.)完美解决办法
- 使用 float 存储小数?
- vmware can not be closed virtual machine is busy
- 第一篇——Struts2的工作原理及HelloWorld简单实现
- Python入门教程丨1300多行代码,让你轻松掌握基础知识点
- 关于Python ,requests的小技巧
- [UE4]蓝图中清空变量值或设置为null
- Tensorflow中的name_scope和variable_scope
- html5之history对象理解
- 搜索:DLX算法
热门文章
- 面试官:小伙子,给我说一下spring框架吧
- Guitar Pro 7教程之打开播放文件的操作技巧
- 在Camtasia中对录制视频进行转换编辑
- 用思维导图软件iMindMap来提高记忆
- css3系列之linear-gradient() repeating-linear-gradient() 和 radial-gradient() repeating-radial-gradient()
- Python变量引用
- Java基础教程——序列化
- java实验类的实现
- 如何在word中插入代码
- 「考试」noip模拟9,11,13