strom部署问题
1.storm 引用的 kafka和线上的kafka版本不一致
2.bolt的prepare初始化elasticsearch连接慢,导致第一次处理数据是总是有问题
storm调用prepare方法是异步调用,不会等待所有的bolt中的prepare都完成。在处理第一条数据时等待一段时间,
3.时间窗口长度设置,默认情况下时间窗口的时间长度不能超过消息超时时间。否则会出现异常:Window duration (length + sliding interval) value 32000 is more than topology.message.timeout.secs value 10000
设置消息超时时间 topology.message.timeout.secs
4.storm消费kafka的偏移量无法保存,提示:Error:KeeperErrorCode = NoNode for /storm_kafka/consumers_sdk_start
需要配置spoutConfig.zkServers 和 spoutConfig.zkPort 指定偏移量存储的zookeeper服务器
5.kafka客户端与kafka版本不一致问题,运行topology是出现:java.nio.BufferUnderflowException
6.ERROR o.a.s.util - Async loop died! java.lang.RuntimeException: java.nio.channels.ClosedChannelException
去某个partitions中取数据的时候,storm不能访问当前partitions的broker。
是telnet端口,或者ping当天borker不通造成。可能是没有开通权限或者没有配置ip和host的映射
打断点调试org.apache.storm.kafka.ZkCoordinator.refresh的方法,发现newpartitions里面有个存储的是hostname:9092
最新文章
- html5 选择元素
- 【nodejs笔记4】搭建多人博客<;内含http请求的get post方法区别>;
- Spring源码分析——资源访问利器Resource之实现类分析
- 如何将App程序发布到App Store?
- bitnami-redmine 安装与插件使用
- RESTful简单介绍(入门)
- C++实现base64编码(1)
- [转] Linux文件系统之hard link&;symbol link
- Java模式(适配器型号)
- Archlinux中卸载 Slim
- javascript写贪吃蛇游戏(20行代码!)
- TensorFlow 聊天机器人开源项目评测第一期:DeepQA
- NGUI 做局部2d卷轴
- 洛谷P1123取数游戏题解
- composer 重装常见错误
- VS遇到的问题记录
- 【SqlServer】解析SqlServer的分页
- 使用thymeleaf一旦没有闭合标签就会报错怎么解决
- Function,Object.creat();
- 《modern-php》 - 阅读笔记 - 最佳实践
热门文章
- Abp 添加权限项<;一>;
- liteide
- wstngfw中配置snort
- Down State Flush Feature
- requests Use body.encode(&#39;utf-8&#39;) if you want to send it encoded in UTF-8
- AngularJS入门教程之与服务器(Ajax)交互操作示例
- 页面中的div居中
- python 将GIF拆分成图片方法
- Kubernetes 的 Client Libraries 的使用
- Scrapy 中常用的中间件和管道组件