Centos下安装Spark
2024-10-19 21:22:05
(注:由于第一次安装操作失误,所以重新安装了,因此截图为第一次的截图,命令为第二次安装的命令)
(注:图是本人安装所截图,本人安装参考网址:https://www.cnblogs.com/shaosks/p/9242536.html)
1、下载压缩包
命令:wget https://downloads.lightbend.com/scala/2.11.8/scala-2.11.8.tgz
2、解压压缩包
命令:tar -xzvf scala-2.11.8.tgz
3、文件配置
环境配置如下:复制自己所需内容即可
export JAVA_HOME=/opt/java/jdk1.8.0_301
export HADOOP_HOME=/opt/Hadoop/hadoop-2.7.3
export HADOOP_CONF_DIR=${HADOOP_HOME}/etc/hadoop
export HADOOP_COMMON_LIB_NATIVE_DIR=${HADOOP_HOME}/lib/native
export SPARK_HOME=/opt/spark/spark-2.1.0-bin-hadoop2.6
export SCALA_HOME=/opt/scala/scala-2.11.8
export CLASSPATH=$:CLASSPATH:$JAVA_HOME/lib/
export PATH=.:${JAVA_HOME}/bin:${HIVE_HOME}/bin:${HADOOP_HOME}/bin:/opt/mongodb/bin:${SPARK_HOME}/bin:${SCALA_HOME}/bin:$PATH
export JAVA_LIBRARY_PATH=$HADOOP_HOME/lib/native
export HIVE_HOME=/opt/hive/apache-hive-2.3.9-bin
export HIVE_CONF_DIR=${HIVE_HOME}/conf
4、启动Hadoop
5、启动Spark
命令(没有空格!!没有空格!!!没有空格!!!闷头查了半天bash,,,,):spark-shell
6、启动报错
1、未启动Hadoop时,报错如下:
2、未修改log4j.properties前报错如下:
修改log4j.properties:
进入conf文件夹下进行如下操作,如图:
[root@june spark]# cd spark-2.1.0-bin-hadoop2.6/
[root@june spark-2.1.0-bin-hadoop2.6]# cd conf
[root@june conf]# ls
docker.properties.template metrics.properties.template spark-env.sh.template
fairscheduler.xml.template slaves.template
log4j.properties.template spark-defaults.conf.template
[root@june conf]# cp log4j.properties.template log4j.properties
[root@june conf]# ls
docker.properties.template metrics.properties.template
fairscheduler.xml.template slaves.template
log4j.properties spark-defaults.conf.template
log4j.properties.template spark-env.sh.template
[root@june conf]# vim log4j.properties
找到下图位置修改,修改完后如图:
最新文章
- Myeclipse 2015 stable 2.0 完美破解方法
- s3c2440 移值u-boot-2016.03 第4篇 支持NAND flash 识别
- Android 之 log
- IE下只读INPUT键入BACKSPACE 后退问题(readonly='true')
- c#中获取数组的行列个数的方法
- disruptor - Concurrent Programming Framework 并发编程框架
- 减少GC开销的5个编码技巧
- 'customerService' for bean class [com.cd.service.business.customer.impl.CustomerService]
- PHP生成xml 无法识别或是无法读取或是浏览器不识别等问题
- jdk环境变量配置及配置原因
- Django—templates系统:模版语言
- Python内置函数(28)——iter
- 极速创建 IOS APP !涛舅舅苹果 IOS APP自助生成系统!不用证书、不用越狱、永久可用
- C++ 中缀转后缀表达式并求值
- 1.YAF 的安装
- dotnet不是内部或外部的命令,也不是可运行的程序或批处理文件
- 单点登录(SSO)原理与案例
- Pytorch 入门之Siamese网络
- eclipse安装properties插件
- HDU 3546
热门文章
- libevent源码学习(1):日志及错误处理
- Qt的VS插件下载地址
- 【LeetCode】663. Equal Tree Partition 解题报告 (C++)
- 【LeetCode】1003. Check If Word Is Valid After Substitutions 解题报告(Python)
- 【LeetCode】208. Implement Trie (Prefix Tree) 实现 Trie (前缀树)
- 【剑指Offer】平衡二叉树 解题报告(Python & C++)
- WPF中的StaticResource和DynamicResource有什么区别
- Intriguing Properties of Contrastive Losses
- Spring企业级程序设计 • 【第7章 Spring框架整合】
- 从零开始学springboot-2.配置项目