Hadoop的体系结构之MapReduce的体系结构
2024-10-20 18:55:44
MapReduce的体系结构
Hadoop MapReduce是一个使用简易的软件框架,基于它写出来的应用程序能够运行在上千个商用机器组成的大型集群上,
并以一种可靠容错的方式并行处理上TB的数据集。
采用MapReduce架构实现的程序能够在大量的普通配置的计算机构成的集群中实现并行化操作。
MapReduce系统在运行过程中只关心数据如何分割、如何调度,以及集群中计算机如何对错误进行处理,
管理着计算机之间的通信。
MapReduce框架由一个单独的master JobTracker和集群节点上的slave TaskTracker共同组成。
master负责调度一个作业中的所有任务,把这些任务分布在不同的slave上。
master监控slave节点上这些任务的执行情况,并重新执行失败的任务,而slave仅负责执行由master指派的任务。
1、MapReduce是一种编程模式
2、Map/Reduce
最新文章
- [ACM_动态规划] 找零种类
- Unity3D项目开发一点经验
- jquery-validation 使用
- Cheatsheet: 2016 01.01 ~ 01.31
- 初步理解MVC
- Yii 实现MySQL多库和读写分离
- Lua基础之语法
- Swift—Cocoa错误处理模式-备
- PHPUnit-附录 C. XML 配置文件
- Mondrian Schema workbench工作界面 简介(实在懒得写,居然有人弄了,收藏了)
- ASP.NET Core框架揭秘(持续更新中…)
- apache负载调优
- JavaScript中的constructor和继承
- Exception in thread ";main"; java.lang.NoSuchMethodError: scala.Predef$.refArrayOps([Ljava/lang/Object;)Lscala/collection/mutable/ArrayOps;
- Google advertiser api开发概述——部分失败
- c++第二十一天
- New Concept English Two 7
- verilog中初值定义
- Spring学习(3):Spring概述(转载)
- Mac 开发配置手册
热门文章
- android.widget.BaseAdapter调用DataSetObservable.notifyChanged/Invalidated
- Java BigDecimal进行精确计算
- [CXF REST标准实战系列] 一、JAXB xml与javaBean的转换(转)
- (转)Stack Overflow 2016最新架构探秘
- RAC安装重新运行root.sh
- Linux内存初始化(四) 创建系统内存地址映射
- Linux常见的进程调度算法
- Python hex() 函数
- failed to load selinux policy freezing
- Pandas dataframe 与 Spark dataframe 的区别