如何获得由Hadoop执行的完成作业统计信息? [英] How to get completed job's statistics executed by Hadoop?

查看:394
本文介绍了如何获得由Hadoop执行的完成作业统计信息?的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

当我们通过Hadoop运行数据密集型工作时。 Hadoop执行作业。
现在我想要的是工作完成时。它会给我关于
执行工作的统计数字,消耗时间,映射器数量,还原器数量和其他有用信息。

浏览器中显示的信息,如作业跟踪器,作业执行期间的数据节点。
但是,如何在我的应用程序中获得统计数据,并通过Hadoop运行作业,并在作业完成后为我提供结果,如报告。我的应用程序在JAVA中



任何可以帮助我的API。
建议将被赞赏。

解决方案

查看以下方法 JobClient



这两个调用都返回 TaskReport 对象,您可以从中获取开始/结束时间以及每个任务的单个计数器。

When we run data intensive job over Hadoop. Hadoop executes the job. Now what i want is when the job is completed. it will give me the statistics regarding executed job i.e; time consumed, mapper quantity, reducer quantity and other useful information.

The information displayed in browser like job tracker, data node during the job execution. But how can i get the statistics in my application which runs the job over Hadoop and gives me results like a report at the end of job completion. My application is in JAVA

Any API which can help me. Suggestions will be appreciated.

解决方案

Look into the following methods of JobClient:

Both these calls return arrays of TaskReport object, from which you can pull start / finish times, and individual counters for each task

这篇关于如何获得由Hadoop执行的完成作业统计信息?的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆