hive 动态分区数设置
当对hive分区未做设置时，报错如下：
Caused by: org.apache.hadoop.hive.ql.metadata.HiveFatalException: [Error 20004]: Fatal error occurred when node tried to create too many dynamic partitions. The maximum number of dynamic partitions is controlled by hive.exec.max.dynamic.partitions and hive.exec.max.dynamic.partitions.pernode. Maximum was set to: 5000
at org.apache.hadoop.hive.ql.exec.FileSinkOperator.getDynOutPaths(FileSinkOperator.java:877)
at org.apache.hadoop.hive.ql.exec.FileSinkOperator.processOp(FileSinkOperator.java:657)
at org.apache.hadoop.hive.ql.exec.Operator.forward(Operator.java:815)
at org.apache.hadoop.hive.ql.exec.SelectOperator.processOp(SelectOperator.java:84)
at org.apache.hadoop.hive.ql.exec.mr.ExecReducer.reduce(ExecReducer.java:244)
... 7 more
超过了最大的分区数设置
解决办法：
set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict;
set hive.exec.max.dynamic.partitions.pernode=600000;
set hive.exec.max.dynamic.partitions=6000000;
set hive.exec.max.created.files=6000000;
最新文章
- [C#] C# 知识回顾 - 异常介绍
- CAS 4.0.0RC编译环境
- WPF自定义控件与样式(15)-终结篇 & 系列文章索引 & 源码共享
- Log打印日志遇到的问题
- Hadoop集群环境搭建
- [CareerCup] 11.6 Search a 2D Matrix 搜索一个二维矩阵
- Android 超仿Path时间轴和扇形菜单的效果
- 3月3日(3) Binary Tree Preorder Traversal
- Android中的六大布局
- Big ball of Mud
- 第十四章：Python の Web开发基础(一) HTML与CSS
- sublime安装AngularJS插件
- DirectX11 With Windows SDK--01 DirectX11初始化
- ES6躬行记（2）——扩展运算符和剩余参数
- 学习用Node.js和Elasticsearch构建搜索引擎（7）：零停机时间更新索引配置或迁移索引
- day09 python之函数进阶
- servlet/和/*匹配的区别
- 使用jquery方法的时候，要注意对象是哪个，否则很容易出错
- npm WARN unmet dependency问题的解决方法
- 【Android UI设计与开发】第02期：引导界面（二）使用ViewPager实现欢迎引导页面