Spark程序本地运行

 

本次安装是在JDK安装完成的基础上进行的!  SPARK版本和hadoop版本必须对应!!!

spark是基于hadoop运算的,两者有依赖关系,见下图:

前言:

1.环境变量配置:

1.1 打开“控制面板”选项

1.2.找到“系统”选项卡

1.3.点击“高级系统设置”

1.4.点击“环境变量”

2.新建和编辑环境变量

1.下载hadoop-2.6.0.tar.gz文件,并解压在本地

1.1 新建环境变量上配置

HADOOP_HOME
D:\JAVA\hadoop

1.2 修改PATH路径

$HADOOP_HOME/bin;

2.下载scala-2.10.6.zip文件,并解压在本地

2.1 新建环境变量上配置

SCALA_HOME
D:\JAVA\scala

2.2 修改PATH路径

%SCALA_HOME%\bin;%SCALA_HOME%\jre\bin;

3.下载spark-1.6.2-bin-hadoop2.6.tgz文件,并解压在本地

3.1 新建环境变量上配置

SPARK_HOME

D:\JAVA\spark_home\bin

3.2 修改PATH路径

PATH

$SPARK_HOME/bin;

4.下载scala-IDE.zip文件,并解压在本地

新建一个工程,修改library:

Scala library一定要是:2.10.X

新建一个自己的library:添加一个Jar文件(${spark_home}/lib)

下跟Word Count代码

package com

import org.apache.spark.SparkConf
import org.apache.spark.api.java.JavaSparkContext
import org.apache.spark.SparkContext /**
* 统计字符出现次数
*/
object WordCount {
def main(args: Array[String]): Unit = { System.setProperty("hadoop.home.dir", "D:\\JAVA\\hadoop");
val sc = new SparkContext("local", "My App")
val line = sc.textFile("/srv/1.txt") line.map((_, 1)).reduceByKey(_+_).collect().foreach(println) sc.stop()
println(111111)
}
}

hadoop下载点击这里

spark下载点击这里

scala安装包,scala IDE下载点击这里

最新文章

  1. 判断访问的是移动端还是PC端,如果是移动端跳转页面
  2. Prefab Assist插件
  3. CoreOS实践(2)—在coreos上安装Kubernetes
  4. ASP.NET MVC 自定义路由中几个需要注意的小细节
  5. 使用Vibrator控制手机振动
  6. 为什么匿名内部类参数必须为final类型(转载)
  7. 精通CSS高级Web标准解决方案(1-1选择器)
  8. JavaScript--变量、作用域及内存(12)
  9. 基础学习总结(四)---内存获取、XML之PULL解析
  10. Activity 【生命周期】
  11. JavaScript对象基础知识
  12. 深入理解java虚拟机---读后笔记(垃圾回收)
  13. 10682 deathgod想知道的事(数论)
  14. struts2 内容记录
  15. 下载安装Emacs和基本配置--待更新中
  16. 当 return 遇到 try
  17. 106. Construct Binary Tree from Inorder and Postorder Traversal根据后中序数组恢复出原来的树
  18. .14-浅析webpack源码之Watchpack模块
  19. 微信服务号 redirect_uri域名与后台配置不一致,错误代码10003
  20. python系列-1 字符串操作

热门文章

  1. Facebook支撑万亿Post搜索背后的技术窥探
  2. js插件开发的一些感想和心得
  3. java 集合stream操作
  4. LoadRunner 12下载和安装教程
  5. 初识GitHub与Git
  6. 使用JQuery插件Jcrop进行图片截取
  7. A tiny program to benchmark image transpose algorithms
  8. 网易云基于 Kubernetes 的深度定制化实践
  9. hdu2829 Lawrence
  10. AVFoundation - 拍照(Simple)