Master 接受其它组件的注册
2024-10-21 09:08:27
Master对其它组件注册的处理:
- Master接受注册的对象主要就是: Driver、Application、Worker。注意:Executor 不会向 Master 注册,它是向 Driver 中的 SchedulerBackend 注册的。
- Worker是在启动后主动向Master注册的。所以无需重新启动Spark集群,即可以直接向集群中添加新的Worker。
- Master 在接收到Worker注册请求后,会首先判断一下当前的master是否是Standby的状态,如果是就不处理;如果不是,会判断当前Master的内存数据结构idToWorker中是否已经有该Worker的注册信息,如果有的话,不会重复注册。
Master如果决定接收注册的Worker,首先会创建WorkerInfo对象 ,来保存注册的Worker的信息。
注意:SparkContext 初始化时,会实例化SparkDeploySchedulerBackend,其内部有AppClient,而AppClient内部有ClientEndpoint。ClientEndpoint 会发送 RegisterApplication 给Master
最新文章
- select标签让文字垂直居中问题
- MVC 多级目录(控制器) 路由重写 及 多级Views目录 的寻找视图的规则
- iOS开发Swift篇(01) 变量&;常量&;元组
- Metronic 使用到的开源插件汇总
- 二模 (12)day2
- 本地虚拟机挂载windows共享目录搭建开发环境
- Qt Creator无法用“UTF-8”编码解码
- 一个简单的Python爬虫
- android学习日记04--开发中的通用细节
- 【干货】.NET开发通用组件发布(四) 日志记录组件
- VS SQL 出现%CommonDir%dte80a.olb 该解决方案
- Javascript DOM 编程艺术———总结-1
- 浏览器F12进行Web程序调试
- [mysql]ERROR 1364 (HY000): Field 'ssl_cipher' doesn't have a default value 解决方法
- CentOS7 Nvidia Docker环境
- linux ./configure check your system clock
- Linux 第八天
- http://ctf.bugku.com/challenges#Timer(%E9%98%BF%E9%87%8CCTF):Bugku——Timer(阿里CTF)
- netcore 发布 到 windows server IIS
- Xtreme8.0 - Sum it up 水题