先看解决方案,再看唠嗑,唠嗑可以忽略。

解决方案:

使用start yarn.sh启动yarn就可以了。

唠嗑:

今天学习Spark基于Yarn部署。然后总以为Yarn是让Spark启动的,提交程序的时候Yarn就会启动~!于是乎我就只开启了Spark程序,没开启Yarn,然后执行提交

./spark-submit --class org.apache.spark.examples.JavaSparkPi \
--master yarn \
--deploy-mode cluster \
--driver-memory 4g \
--executor-memory 2g \
--executor-cores \
--queue thequeue \
/opt/spark/spark-2.4.-bin-hadoop2./examples/jars/spark-examples*.jar \

报错了:

ava.net.ConnectException: Call From tuge1/192.168.40.100 to tuge1: failed on connection exception: java.net.ConnectException: Connection refused; For more details see:  http://wiki.apache.org/hadoop/ConnectionRefused
at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method)
at sun.reflect.NativeConstructorAccessorImpl.newInstance(NativeConstructorAccessorImpl.java:)
at sun.reflect.DelegatingConstructorAccessorImpl.newInstance(DelegatingConstructorAccessorImpl.java:)
at java.lang.reflect.Constructor.newInstance(Constructor.java:)
at org.apache.hadoop.net.NetUtils.wrapWithMessage(NetUtils.java:)
at org.apache.hadoop.net.NetUtils.wrapException(NetUtils.java:)
at org.apache.hadoop.ipc.Client.call(Client.java:)
at org.apache.hadoop.ipc.Client.call(Client.java:)
at org.apache.hadoop.ipc.ProtobufRpcEngine$Invoker.invoke(ProtobufRpcEngine.java:)
at com.sun.proxy.$Proxy13.getClusterMetrics(Unknown Source)
at org.apache.hadoop.yarn.api.impl.pb.client.ApplicationClientProtocolPBClientImpl.getClusterMetrics(ApplicationClientProtocolPBClientImpl.java:)

从上面日志可以看出访问不了8032端口造成的,但是8032端口是 What,左思右想想不到,然后就尝试重启虚拟机等一些无用操作。最后又看了看官方文档,看到一句话说会把 配置的日志写入HDFS,然后想到要开启HDFS,于是开启了。开启后重新执行还是报同样错误,纳了闷了。到底啥端口,为啥要访问这个端口。于是最后只能问了问群里,有个热心朋友回答了,说是Spark端口,然后这个时候我还以为Spark是靠其它应用启动的 ,后来继续问,才想起来了spark是单独启动的。最后回顾了下Spark是单独启动的,MapReduce是集成的。以后遇到问题,涉及到哪方面要及时翻看之前内容,及时自我质疑,方可养成独立解决问题的能力~

最新文章

  1. 学习Cassandra的开源电子书(中英文版)
  2. WPF感悟
  3. Atitit 深入了解UUID含义是通用唯一识别码 (Universally Unique Identifier),
  4. 关于Entity Framework采用DB First模式创建后的实体批量修改相关属性技巧
  5. Java设计模式 - 适配器模式
  6. c++ basic 整理1
  7. 解决f.lux总是弹框定位
  8. matlab最小二乘法数据拟合函数详解
  9. B - Moving Tables
  10. 学习H5一周随笔
  11. 分布式版本库——Windows下Git的环境部署以及在GitHub上开源自己的项目
  12. Leetcode_204_Count Primes
  13. python之文件操作(基础)
  14. Spring Boot 2.x基础教程:工程结构推荐
  15. markdown特殊符号语法
  16. 【leetcode-84】 柱状图中最大的矩形
  17. html5(七) Web存储
  18. Django2.0资料
  19. [Oracle]In-Memory的Join Group 位于内存的何处?
  20. Unity3D学习笔记(三十二):Xlua(2)

热门文章

  1. Python 搭建webdriver环境遇到的问题总结
  2. python 学员管理系统
  3. 正则提取关键字符-python代码实现
  4. 849. Dijkstra求最短路 I
  5. 我是一个Bug, 终极大Bug
  6. javascript中this的四种用法
  7. Welcome to Erhan Blog
  8. ES Templates push
  9. 是AI就躲个飞机-纯Python实现人工智能
  10. Java核心技术卷1 第10版 笔记