Straggle(掉队者)是指那些跑的很慢但最终会成功完成的任务。一个掉队的Map任务会阻止Reduce任务开始执行。

Hadoop不能自动纠正掉队任务,但是可以识别那些跑的比较慢的任务,然后它会产生另一个等效的任务作为备份,并使用首先完成的那个任务的结果,此时另外一个任务则会被要求停止执行。这种技术称为推测执行(speculative execution)。

默认使用推测执行。

属性 描述
mapreduce.map.speculative 控制Map任务的推测执行(默认true)
mapreduce.reduce.speculative 控制Reduce任务的推测执行(默认true)
mapreduce.job.speculative.speculativecap 推测执行功能的任务能够占总任务数量的比例(默认0.1,范围0~1)
mapreduce.job.speculative.slownodethreshold 判断某个TaskTracker是否适合启动某个task的speculative task(默认1)
mapreduce.job.speculative.slowtaskthreshold 判断某个task是否可以启动speculative task(默认1)

最新文章

  1. Java基础の第二弹 基础语法
  2. [CareerCup] 8.5 Online Book Reader System 在线读书系统
  3. proxool在web环境中的使用
  4. oracle impdp的table_exists_action详解
  5. 给定金额m和红包数量n
  6. VC6.0 list sort出错
  7. codeforces Dima and Bacteria
  8. Oracle数据库之PL/SQL异常处理
  9. 齐B小短裙
  10. leetcode 211. Add and Search Word - Data structure design Trie树
  11. 梳排序(Comb sort)
  12. 做自己的Android ROM,屏蔽对framework中的系统APK的签名检查
  13. web前端调试的消除缓存对更改页面的影响
  14. 移动端自动化测试-WTF Appium?
  15. StanFord ML 笔记 第十部分
  16. Visual Studio配置C/C++-PostgreSQL(9.6.3)开发环境(ZT)
  17. 并发编程 —— 自己写一个异步回调 API
  18. docker使用Dockerfile搭建spark集群
  19. [LeetCode&Python] Problem 496. Next Greater Element I
  20. 5-分西瓜差最小(背包 || dfs)

热门文章

  1. Redis—.Net中的使用
  2. Python 帮你玩微信跳一跳 GitHub Python脚本
  3. go的安装及环境变量设置
  4. vue+iview tables多个分页实现
  5. 记一次bypass某场景GD库及拓展分析
  6. ChibiOS/RT移植到STM32F407
  7. (二)react-native开发系列之windows开发环境配置
  8. 他爬取了B站所有番剧信息,发现了这些……
  9. vsftpd设置虚拟用户
  10. Python安装package_name包