hadoop中一些常用的命令介绍


Posted in PHP onJune 19, 2013

假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。
启动与关闭
启动Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/start-all.sh

关闭Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/stop-all.sh
文件操作
Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

查看文件列表
查看hdfs中/user/admin/aaron目录下的文件。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -ls /user/admin/aaron
这样,我们就找到了hdfs中/user/admin/aaron目录下的文件了。
我们也可以列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -lsr /user/admin/aaron

创建文件目录
查看hdfs中/user/admin/aaron目录下再新建一个叫做newDir的新目录。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -mkdir /user/admin/aaron/newDir

删除文件
删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rm /user/admin/aaron/needDelete
删除hdfs中/user/admin/aaron目录以及该目录下的所有文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rmr /user/admin/aaron

上传文件
上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/aaron目录下
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?put /home/admin/newFile /user/admin/aaron/

下载文件
下载hdfs中/user/admin/aaron目录下的newFile文件到本机/home/admin/newFile中
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?get /user/admin/aaron/newFile /home/admin/newFile

查看文件
我们可以直接在hdfs中直接查看文件,功能与类是cat类似
查看hdfs中/user/admin/aaron目录下的newFile文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?cat /home/admin/newFile

MapReduce Job操作
提交MapReduce Job
原则上说,Hadoop所有的MapReduce Job都是一个jar包。
运行一个/home/admin/hadoop/job.jar的MapReduce Job
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的Job
假设Job_Id为:job_201005310937_0053
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop job -kill job_201005310937_0053

更多Hadoop的命令
上面介绍的这些Hadoop的操作命令是我们最常用的。如果你希望了解更多,可以按照如下的方式获取命令的说明信息。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop
我们可以看到更多命令的说明信息:

Usage: hadoop [--config confdir] COMMAND
where COMMAND is one of:
  namenode -format     format the DFS filesystem
  secondarynamenode    run the DFS secondary namenode
  namenode             run the DFS namenode
  datanode             run a DFS datanode
  dfsadmin             run a DFS admin client
  fsck                 run a DFS filesystem checking utility
  fs                   run a generic filesystem user client
  balancer             run a cluster balancing utility
  jobtracker           run the MapReduce job Tracker node
  pipes                run a Pipes job
  tasktracker          run a MapReduce task Tracker node
  job                  manipulate MapReduce jobs
  queue                get information regarding JobQueues
  version              print the version
  jar <jar>            run a jar file
  distcp <srcurl> <desturl> copy file or directories recursively
  archive -archiveName NAME <src>* <dest> create a hadoop archive
  daemonlog            get/set the log level for each daemon
 or
  CLASSNAME            run the class named CLASSNAME
Most commands print help when invoked w/o parameters.
PHP 相关文章推荐
PHP Mysql编程之高级技巧
Aug 27 PHP
PHP冒泡排序算法代码详细解读
Jul 17 PHP
Zend的MVC机制使用分析(二)
May 02 PHP
PHP 简易输出CSV表格文件的方法详解
Jun 20 PHP
浅析PHP的ASCII码转换类
Jul 05 PHP
php 获取页面中指定内容的实现类
Jan 23 PHP
php中hashtable实现示例分享
Feb 13 PHP
PHP5.3安装Zend Guard Loader图文教程
Sep 29 PHP
PHP+jQuery 注册模块开发详解
Oct 14 PHP
Yii框架登录流程分析
Dec 03 PHP
php面向对象中static静态属性与方法的内存位置分析
Feb 08 PHP
分享php多功能图片处理类
May 15 PHP
hadoop常见错误以及处理方法详解
Jun 19 #PHP
php常用Output和ptions/Info函数集介绍
Jun 19 #PHP
解析PHP中的正则表达式以及模式匹配
Jun 19 #PHP
php无限分类且支持输出树状图的详细介绍
Jun 19 #PHP
Android ProgressBar进度条和ProgressDialog进度框的展示DEMO
Jun 19 #PHP
具有时效性的php加密解密函数代码
Jun 19 #PHP
一个简单的php加密解密函数(动态加密)
Jun 19 #PHP
You might like
PHP递归算法的详细示例分析
2013/02/19 PHP
phplist及phpmailer(组合使用)通过gmail发送邮件的配置方法
2016/03/30 PHP
smarty的section嵌套循环用法示例
2016/05/28 PHP
清华大学出版的事半功倍系列 javascript全部源代码
2007/05/04 Javascript
围观tangram js库
2010/12/28 Javascript
JQuery插件Style定制化方法的分析与比较
2012/05/03 Javascript
jQuery 瀑布流 绝对定位布局(二)(延迟AJAX加载图片)
2012/05/23 Javascript
引用外部脚本时script标签关闭的写法
2014/01/20 Javascript
浅谈利用JavaScript进行的DDoS攻击原理与防御
2015/06/04 Javascript
Node.js中的process.nextTick使用实例
2015/06/25 Javascript
JavaScript获取短信验证码(周期性)
2016/12/29 Javascript
jquery中封装函数传递当前元素的方法示例
2017/05/05 jQuery
微信小程序如何获取用户手机号
2018/01/26 Javascript
原生js实现的移动端可拖动进度条插件功能详解
2019/08/15 Javascript
vux-scroller实现移动端上拉加载功能过程解析
2019/10/08 Javascript
15分钟上手vue3.0(小结)
2020/05/20 Javascript
Vuex实现购物车小功能
2020/08/17 Javascript
[01:03:51]2018DOTA2亚洲邀请赛 4.7 淘汰赛 VP vs LGD 第三场
2018/04/09 DOTA
查看Python安装路径以及安装包路径小技巧
2015/04/28 Python
CentOS 6.5下安装Python 3.5.2(与Python2并存)
2017/06/05 Python
python提取图像的名字*.jpg到txt文本的方法
2018/05/10 Python
Python实现两个list求交集,并集,差集的方法示例
2018/08/02 Python
Python 操作SQLite数据库的示例
2020/10/16 Python
AmazeUI 导航条的实现示例
2020/08/14 HTML / CSS
如果有两个类A,B,怎么样才能使A在发生一个事件的时候通知B
2016/03/12 面试题
初始化了一个没有run()方法的线程类,是否会出错?
2014/03/27 面试题
2013年办公室秘书的个人自我鉴定
2013/10/24 职场文书
大学生就业策划书范文
2014/04/04 职场文书
我的长生果教学反思
2014/04/28 职场文书
宾馆仓管员岗位职责
2014/07/27 职场文书
课外科技活动总结
2014/08/27 职场文书
2015年高三毕业班班主任工作总结
2015/10/22 职场文书
《倍数和因数》教学反思
2016/02/23 职场文书
go开发alertmanger实现钉钉报警
2021/07/16 Golang
基于HTML十秒做出淘宝页面
2021/10/24 HTML / CSS
python画条形图的具体代码
2022/04/20 Python