Hadoop(4)MapReduce 任务的推测(speculative)执行
2024-08-27 11:51:51
Straggle(掉队者)是指那些跑的很慢但最终会成功完成的任务。一个掉队的Map任务会阻止Reduce任务开始执行。
Hadoop不能自动纠正掉队任务,但是可以识别那些跑的比较慢的任务,然后它会产生另一个等效的任务作为备份,并使用首先完成的那个任务的结果,此时另外一个任务则会被要求停止执行。这种技术称为推测执行(speculative execution)。
默认使用推测执行。
属性 | 描述 |
---|---|
mapreduce.map.speculative | 控制Map任务的推测执行(默认true) |
mapreduce.reduce.speculative | 控制Reduce任务的推测执行(默认true) |
mapreduce.job.speculative.speculativecap | 推测执行功能的任务能够占总任务数量的比例(默认0.1,范围0~1) |
mapreduce.job.speculative.slownodethreshold | 判断某个TaskTracker是否适合启动某个task的speculative task(默认1) |
mapreduce.job.speculative.slowtaskthreshold | 判断某个task是否可以启动speculative task(默认1) |
最新文章
- Java基础の第二弹 基础语法
- [CareerCup] 8.5 Online Book Reader System 在线读书系统
- proxool在web环境中的使用
- oracle impdp的table_exists_action详解
- 给定金额m和红包数量n
- VC6.0 list sort出错
- codeforces Dima and Bacteria
- Oracle数据库之PL/SQL异常处理
- 齐B小短裙
- leetcode 211. Add and Search Word - Data structure design Trie树
- 梳排序(Comb sort)
- 做自己的Android ROM,屏蔽对framework中的系统APK的签名检查
- web前端调试的消除缓存对更改页面的影响
- 移动端自动化测试-WTF Appium?
- StanFord ML 笔记 第十部分
- Visual Studio配置C/C++-PostgreSQL(9.6.3)开发环境(ZT)
- 并发编程 —— 自己写一个异步回调 API
- docker使用Dockerfile搭建spark集群
- [LeetCode&;Python] Problem 496. Next Greater Element I
- 5-分西瓜差最小(背包 || dfs)