Master对其它组件注册的处理:

  1. Master接受注册的对象主要就是: Driver、Application、Worker。注意:Executor 不会向 Master 注册,它是向 Driver 中的 SchedulerBackend 注册的。
  2. Worker是在启动后主动向Master注册的。所以无需重新启动Spark集群,即可以直接向集群中添加新的Worker。
  3. Master 在接收到Worker注册请求后,会首先判断一下当前的master是否是Standby的状态,如果是就不处理;如果不是,会判断当前Master的内存数据结构idToWorker中是否已经有该Worker的注册信息,如果有的话,不会重复注册。

Master如果决定接收注册的Worker,首先会创建WorkerInfo对象 ,来保存注册的Worker的信息。

注意:SparkContext 初始化时,会实例化SparkDeploySchedulerBackend,其内部有AppClient,而AppClient内部有ClientEndpoint。ClientEndpoint 会发送 RegisterApplication 给Master

最新文章

  1. select标签让文字垂直居中问题
  2. MVC 多级目录(控制器) 路由重写 及 多级Views目录 的寻找视图的规则
  3. iOS开发Swift篇(01) 变量&常量&元组
  4. Metronic 使用到的开源插件汇总
  5. 二模 (12)day2
  6. 本地虚拟机挂载windows共享目录搭建开发环境
  7. Qt Creator无法用“UTF-8”编码解码
  8. 一个简单的Python爬虫
  9. android学习日记04--开发中的通用细节
  10. 【干货】.NET开发通用组件发布(四) 日志记录组件
  11. VS SQL 出现%CommonDir%dte80a.olb 该解决方案
  12. Javascript DOM 编程艺术———总结-1
  13. 浏览器F12进行Web程序调试
  14. [mysql]ERROR 1364 (HY000): Field 'ssl_cipher' doesn't have a default value 解决方法
  15. CentOS7 Nvidia Docker环境
  16. linux ./configure check your system clock
  17. Linux 第八天
  18. http://ctf.bugku.com/challenges#Timer(%E9%98%BF%E9%87%8CCTF):Bugku——Timer(阿里CTF)
  19. netcore 发布 到 windows server IIS
  20. Xtreme8.0 - Sum it up 水题

热门文章

  1. JQuery 常用代码
  2. 分享知识-快乐自己:redis集群搭建
  3. Geoserver端口冲突解决方案
  4. poj-1442 Black Box(Treap)
  5. Post提交和Get提交的区别
  6. mongodb与mysql的命令对比
  7. 继续学习C:运算符
  8. 欧拉函数(汇总&例题)
  9. shell入门-awk-3
  10. RN控件之ProgressBarAndroid进度条