如果一个文件块有130M,请问有多少个mapper
2024-09-06 10:55:46
如果一个文件块有130M,请问有多少个mapper
130M的文件将被分成2个mapper。
原因:根据FileInputFormat类 有一个成员变量
private static final double SPLIT_SLOP = 1.1
也就是说如果文件大小在10%之内,程序并不会单独去开启一个mapper,而是会把这些多余的文件放在最后一个mapper。
public abstract class FileInputFormat<K, V> extends InputFormat<K, V> { private static final Log LOG = LogFactory.getLog(FileInputFormat.class); private static final double SPLIT_SLOP = 1.1; // 10% slop private static final PathFilter hiddenFileFilter = new PathFilter(){
public boolean accept(Path p){
最新文章
- 2014年年度工作总结--IT狂人实录
- 欢迎加入threejs
- android studio 项目迁移编码问题
- oracle 11g的企业管理器
- 帐户当前被锁定,所以用户 sa 登录失败。系统管理员无法将该帐户解锁 解决方法
- html插入图片和多媒体
- JavaScript正则验证邮箱
- vi的用法 【转】
- C++ Template之技巧性基础知识
- qt学习笔记(五) QGraphicsPixmapItem与QGraphicsScene的编程实例 图标拖动渐变效果
- Jquery伪选择器学习笔记
- C# Dictionary 应用
- CTF---隐写术入门第三题 打不开的文件
- spark2.1操作json(save/read)
- (简单)华为荣耀9i LLD-AL20的Usb调试模式在哪里开启的方法
- asp.net Web项目中使用Log4Net进行错误日志记录
- 洛谷 [USACO17OPEN]Bovine Genomics G奶牛基因组(金) ———— 1道骗人的二分+trie树(其实是差分算法)
- Windows10上强制Visual Studio以管理员身份运行
- Canvas组件:画布,可以实现动画操作。
- asp.net对接拼多多