在数据开发过程中,我们通常需要将两个作业进行对比从而定位作业运行性能或者结果有差异的问题,但是对比作业时需要同时打开两个studio 的tab页,或者两个Logview页,不停切换进行对比,使用起来非常的不方便。MaxCompute Studio从3.1.0版本开始支持作业对比,可以在一个页面同时比较两个作业,并且能自动标注出作业的差异点。

本文我以查找同个作业执行两次用时差别很大的原因为例,通过MaxCompute Studio的对比功能对两次执行的job进行对比,找出执行时间差别大的原因。

作业对比入口

MaxCompute Studio的Maxcompute 工具菜单中进入作业对比。

输入两个需要对比的job的logview url 地址,点击“OK”按钮就可以开始对比:

对比基本信息

作业一运行了01:11:08 ,作业二运行了00:45:59,想知道是什么导致了相差近半个小时。先看基本信息对比:

通过基本信息可以看到studio 标注出作业一的耗时明显上升,其他项目,如IO Bytes 等相差不多, 输入输出表完全相同。基本可以断定是同一作业,为了确保是同一个作业还可以对比执行计划和脚本。

对比执行图

打开执行图 Tab ,可以一目了然看到两个作业的执行计划,执行图无法进行标注,可以通过查看text diff查看。

点击text diff 后可以对比fuxi task 的执行时间, 输入输出等详细信息。可以比较绝对值,可以按比例比较,不一致的地方都会进行有效标注。

这里可以发现执行计划是完全一致的。

对比脚本

点击脚本对比Tab 后,可以对比settings 和script ,settings 非常关键,不同的参数可能会导致完全不同的结果。这里需要使用text diff 功能比较sql 脚本。

可以看到脚本对比功能很方便使用,即便是很复杂的sql 脚本都可以快速发现区别,这里发现只有分区日期不同,其他完全一致。

进一步分析执行计划

通过前面几个对比,确定两个作业完全一致, 再回到执行图中, 通过回放可以发现运行瓶颈在J4, 查看text diff 发现作业一的J4 用时52分, 作业二28分,由此判断作业一主要是J4用时长导致整体运行变慢。

接下来重点分析J4 ,打开J4的 Operation Graph, Studio 在Operation 层新添加了Metric 信息, 可以看到每个operation 的执行时间,inner_time_ms, 这个时间指Operation 执行完所有行的平均时间(每个fuxi instance 都会用这个operation执行, 当这个operation 处理完所有分配给他的数据后就得出一个时间,这里的inner_time_ms 指的是这些fuxi instance 对应的Operation 执行的平均时间) ,通过这个时间可以发现某个Operation 执行时间是否过长,例如自定义udf 是否有性能问题。

对比J4 的实际运行时间相差不多,并且执行的都比较快,由此可以考虑J4 是否存在等待资源情况, 导致fuxi instance 并没有及时开始运行。

对比分析Tab

打开作业分析tab的时序图子页面,可以明显发现作业一的J4_2_3 task 运行时间大于作业二的, 与前面看到的执行计划图一致。

鼠标放到J4上点击展开作业后,可以看出fuxi instance 开始执行时间非常晚,这进一步验证了资源不足导致作业等待情况。

小结

通过Studio 的作业对比功能,调查了资源等待导致的作业运行变慢情况, 并且排查的效率更高。作业对比还有很多其他功能,各位可以自行尝试。


本文作者:海清

原文链接

本文为云栖社区原创内容,未经允许不得转载。

最新文章

  1. 字节流InputStream/OutputStream
  2. 第八节 C#的using语句
  3. mybatis实战教程(mybatis in action)之九:mybatis 代码生成工具的使用
  4. CentOS 6.4 安装 Transmission 2.76
  5. CCI_chapter 16 Low level
  6. lock锁速记
  7. JS练习第三课
  8. Python:Day18 os模块、logging模块、正则表达式
  9. 《 Oracle查询优化改写 技巧与案例 》电子工业出版社
  10. JavaScript倒计时实现
  11. android--Activity有返回值的跳转
  12. ?js调用PHP里的变量,怎么弄?
  13. hbase操作
  14. linux系统编程之文件与IO(五):stat()系统调用获取文件信息
  15. python2.0_s12_day19_前端模版使用
  16. linux系统磁盘挂载
  17. Error starting mongod. /var/run/mongodb/mongod.pid exists.启动mongodb报错
  18. 使用css做图标
  19. 数据结构之Hyperloglog
  20. 06.Javascript——入门this的用法(难点)

热门文章

  1. agc014F Strange Sorting
  2. Mac安装软件新方法:Homebrew-cask
  3. No module named zope.interface error 的解决
  4. C# params 用法简介
  5. windows下nginx直接处理静态文件
  6. 使用netbeans 搭建maven工程 整合spring springmvc框架
  7. git之操作准则
  8. IntelliJ IDEA中设置同时打开多个文件且分行显示
  9. golang context用法详解
  10. 关于如何在部署环境修改process.env & 本地测试