Ubuntu下安装spark
2024-09-06 18:12:54
方法一:
jps 查看Java 包
sudo apt-get install openjdk**
sudo apt-get install scala
选择安装源然后 sudo wget 下载链接
sudo tar xf sprak***
cd sprk**
sudo ./bin/pyspark (不打sudo 会有error)
最终报错(重启后不再报错)
方法二:
解压 java jdk-8u**: sudo tar xf *** -C /opt/
解压Scala :sudo tar xf *** -C /opt/
解压spark:sudo tar xf *** -C /opt/
sudo gedit /etc/profile
加入:
export JAVA_HOME=/opt/jdk1..0_111
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH export SCALA_HOME=/opt/scala-2.12.
export PATH=${SCALA_HOME}/bin:$PATH export SPARK_HOME=/opt/spark-2.1.-bin-hadoop2.
export PATH=${SPARK_HOME}/bin:$PATH export PYTHONPATH=/opt/spark-2.1.0-bin-hadoop2.7/python
保存退出。
source /etc/profile
将spark××/python/lib/目录下的py4j**.zip压缩文件解压到spark××/python/目录下:sudo unzip -d /opt/spar*/python/ py4j**.zip
import pyspark 成功
但是pyspark 下sc ,name 'sc' is not defined !!! ubuntu spark 环境搭建http://blog.csdn.net/u010171031/article/details/51849562有讲
关机重启试试重启后不再报错
最新文章
- 【转】PowerShell 连接SQL Server 数据库 - ADO.NET
- [nRF51822] 4、 图解nRF51 SDK中的Schedule handling library 和Timer library
- CSS Float 以及相关布局模式
- iTunes Connect TERMS OF SERVICE
- A + B Again
- 总结c++ primer中的notes
- MySQL Server类型之MySQL客户端工具的下载、安装和使用
- 带你深入了解Web站点数据库的分布存储
- 【LeetCode练习题】Scramble String
- ORM-Dapper+DapperExtensions
- Python自学笔记-lambda函数(来自廖雪峰的官网Python3)
- JavaScript观察者模式
- Pytorch windows10安装教程
- mybatis源码分析(二)------------配置文件的解析
- Dubbo接口压测
- [No0000198]swagger api一键导入postman
- SPFA最短路算法
- MySql采用range分区可提升查询效率
- 实现锁死的有滚动条的div的表格(datagird)
- SSH基本管理和配置文件的使用