简单说明hadoop集群运行三种模式和配置文件
2024-09-26 17:42:13
Hadoop的运行模式分为3种：本地运行模式，伪分布运行模式，集群运行模式，相应概念如下：
1、独立模式即本地运行模式（standalone或local
mode）无需运行任何守护进程（daemon），所有程序都在单个JVM上执行。由于在本机模式下测试和调试MapReduce程序较为方便，因此，这种模式适宜用在开发阶段。
单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时，Hadoop无法了解硬件安装环境，便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时，Hadoop会完全运行在本地。因为不需要与其他节点交互，单机模式就不使用HDFS，也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。
2、伪分布运行模式
伪分布:如果Hadoop对应的Java进程都运行在一个物理机器上,称为伪分布运行模式。
3、集群模式
如果Hadoop对应的Java进程运行在多台物理机器上,称为集群模式.
Hadoop的配置文件：
conf/hadoop-env.sh 配置JAVA_HOME
core-site.xml 配置HDFS节点名称和地址
hdfs-site.xml 配置HDFS存储目录，复制数量
mapred-site.xml 配置mapreduce的jobtracker地址
最新文章
- 转：JQuery.Ajax之错误调试帮助信息
- Javascrip的概述
- Gradle的安装
- uva 514
- linux常用编辑器
- python学习day8
- crawler_UE使用技巧
- jquery-base64.js插件使用
- 洗礼灵魂，修炼python（2）--python安装和配置
- Redis案例——商品秒杀，购物车
- 离线批量数据通道Tunnel的最佳实践及常见问题
- php7 三元运算 精简
- 完全卸载MySQL
- jfinal 项目 控制层、ORM层、AOP层，在发表之前一定要记得保存
- noah
- RandomStringUtils工具类
- Unity 代码优化
- yum安装报错：Failure when receiving data from the peer
- SMO详解
- Selenium报错整理