【Hadoop】配置全分布式模式
2024-08-25 11:22:20
分布式原理
配置
详细过程
假设有三台虚拟机,1台master主机namenode,2台slave奴隶机datanode
所有机器都要配好jdk、Java环境变量、hadoop_env.sh里java路径改好
主机
Use the following:
先在解压的hadoop-2.6.0目录下创建data/tmp文件夹
etc/hadoop/core-site.xml:
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://master:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/programs/hadoop-2.6.0/data/tmp</value>
</property>
</configuration>
etc/hadoop/hdfs-site.xml:
datanode有几台机器value就是几
<configuration>
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
</configuration>
etc/hadoop/slaves:
两台slave机ip或域名
2台slave机,配置都是一样的
在解压的hadoop-2.6.0目录下创建data/tmp文件夹
etc/hadoop/core-site.xml:
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://master:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/programs/hadoop-2.6.0/data/tmp</value>
</property>
</configuration>
配置完成了,重启主机hdfs
停止sbin/stop-dfs.sh
开启sbin/start-dfs.sh
在浏览器看一下LiveNodes,数量为2就说明正常了
最新文章
- 关于H5中自定义属性的设置和获取
- Hadoop HDFS编程 API入门系列之合并小文件到HDFS(三)
- HBase协处理器统计表数据量
- Git CMD - push: Update remote refs along with associated objects
- bzoj 4034 [HAOI2015] T2(树链剖分,线段树)
- hive中partition如何使用
- 修改EBS R12 URL连接端口
- SQL Server无法连接到(local)问题的解决的方法
- 百度移动深度学习 Mobile-deep-learning(MDL)
- MongDB增删改查
- Python高效编程技巧
- 一、Django用Eclipse编写一个登录界面
- JS中的history对象
- 数据仓库基础(十一)Informatica小技巧(2)
- 1005 Spell It Right (20 分)
- centOS7下SVN的安装和使用
- Oracle PLSQL Demo - 27.Declare &; Run Sample
- 第三百一十四节,Django框架,自定义分页
- [USACO08JAN]电话线$Telephone \ \ Lines$(图论$+SPFA+$ 二分答案)
- 淘宝IP地址库