脚本测试 jar包提交部分

在HDFS上创建wordcount用例的目录

指令

python ChangEClient.py fs -mkdir /user/daixin/wordcount

返回结果

Create directory success

在创建的HDFS目录上put运行wordcount的输入数据

指令

python ChangEClient.py fs -put word /user/daixin/wordcount/word

返回结果

Start upload, 1 segs in total
uploading No.1 seg
[{"filename":"word","size":58,"date":"2016-10-28 21:43:04"},{"filename":"cache","size":
4096,"date":"2016-10-27 14:43:22"}]
upload complete.

输入文件word内容如下

Renaissance
Sea
Renaissance
Zaper
Ocean
Renaissance
Zaper

提交Job

指令

python ChangEClient.py jar hadoop-examples-1.0.0.jar word-
count /user/daixin/wordcount/word /user/daixin/wordcount/out

返回结果

Your job id is missionId_282159085539.jar

使用cat指令查看跑完的结果

python ChangEClient.py fs -cat /user/daixin/wordcount/out/part-r-00000

可以看到结果是正确的

Ocean 1
Renaissance 3
Sea 1
Zaper 2

查询job状态

先提交job到MapReduce

python ChangEClient.py jar hadoop-examples-1.0.0.jar word-
count /user/daixin/wordcount/word /user/daixin/wordcount/logout6

返回结果

      Your job id is missionId_031638273327.jar

可知这个job的id是missionId_031638273327.jar
接着查询这个job的状态,使用参数 job -ls [job_id]

python ChangEClient.py job -ls missionId_031638273327.jar

返回的结果包括 运行状态MapRecude执行百分比

job执行状态查询

这时候HDFS上也已经有了结果文件part-r-00000
输出目录logout6中的内容

Kill job

同样,先提交job到MapReduce

python ChangEClient.py jar hadoop-examples-1.0.0.jar word-
count /user/daixin/wordcount/word /user/daixin/wordcount/logout7

返回结果

      Your job id is missionId_031653432201.jar

可知这个 job 的 id 是 missionId_031653432201.jar

接着使用返回的 id 对 job 进行 kill 操作,终止执行。
使用参数 job -kill [job_id]

python ChangEClient.py job -kill missionId_031653432201.jar

返回结果如下

      message:Killed
      app_message:missionId_031653432201.jar killed successfully

说明 job 已经被成功 kill 掉,为了确认job确实终止执行了,我们再次通过job id查询这个job的状态

python ChangEClient.py job -ls missionId_031653432201.jar

返回结果同样告诉我们这个job已经被kill掉了

    message:Success
    Status:KILLED
    App_message:missionId_031653432201.jar was submitted successfully
kill job过程

一段时间后查询hdfs上输出目录下的情况,并没有看到part-r-00000等结果文件,说明job确实被终止执行了,kill job 执行成功。


输出目录logout7中的内容
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 目的这篇教程从用户的角度出发,全面地介绍了Hadoop Map/Reduce框架的各个方面。先决条件请先确认Had...
    SeanC52111阅读 1,781评论 0 1
  • 首先,我们在使用前先看看HDFS是什麽?这将有助于我们是以后的运维使用和故障排除思路的获得。 HDFS采用mast...
    W_Bousquet阅读 4,263评论 0 2
  • 环境 一台ubuntu 14.04虚拟机。 Hadoop版本:2.6.0。 增加用户 为了隔离Hadoop和其它软...
    doc001阅读 1,867评论 1 9
  • 之前的有点忘记了,这里在云笔记拿出来再玩玩.看不懂的可以留言 大家可以尝试下Ambari来配置Hadoop的相关环...
    HT_Jonson阅读 3,080评论 0 50
  • 桔纱阅读 194评论 0 7