hadoop中一些常用的命令介绍


Posted in PHP onJune 19, 2013

假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。
启动与关闭
启动Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/start-all.sh

关闭Hadoop
1.进入HADOOP_HOME目录。
2.执行sh bin/stop-all.sh
文件操作
Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

查看文件列表
查看hdfs中/user/admin/aaron目录下的文件。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -ls /user/admin/aaron
这样,我们就找到了hdfs中/user/admin/aaron目录下的文件了。
我们也可以列出hdfs中/user/admin/aaron目录下的所有文件(包括子目录下的文件)。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -lsr /user/admin/aaron

创建文件目录
查看hdfs中/user/admin/aaron目录下再新建一个叫做newDir的新目录。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -mkdir /user/admin/aaron/newDir

删除文件
删除hdfs中/user/admin/aaron目录下一个名叫needDelete的文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rm /user/admin/aaron/needDelete
删除hdfs中/user/admin/aaron目录以及该目录下的所有文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rmr /user/admin/aaron

上传文件
上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/aaron目录下
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?put /home/admin/newFile /user/admin/aaron/

下载文件
下载hdfs中/user/admin/aaron目录下的newFile文件到本机/home/admin/newFile中
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?get /user/admin/aaron/newFile /home/admin/newFile

查看文件
我们可以直接在hdfs中直接查看文件,功能与类是cat类似
查看hdfs中/user/admin/aaron目录下的newFile文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs ?cat /home/admin/newFile

MapReduce Job操作
提交MapReduce Job
原则上说,Hadoop所有的MapReduce Job都是一个jar包。
运行一个/home/admin/hadoop/job.jar的MapReduce Job
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop jar /home/admin/hadoop/job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的Job
假设Job_Id为:job_201005310937_0053
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop job -kill job_201005310937_0053

更多Hadoop的命令
上面介绍的这些Hadoop的操作命令是我们最常用的。如果你希望了解更多,可以按照如下的方式获取命令的说明信息。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop
我们可以看到更多命令的说明信息:

Usage: hadoop [--config confdir] COMMAND
where COMMAND is one of:
  namenode -format     format the DFS filesystem
  secondarynamenode    run the DFS secondary namenode
  namenode             run the DFS namenode
  datanode             run a DFS datanode
  dfsadmin             run a DFS admin client
  fsck                 run a DFS filesystem checking utility
  fs                   run a generic filesystem user client
  balancer             run a cluster balancing utility
  jobtracker           run the MapReduce job Tracker node
  pipes                run a Pipes job
  tasktracker          run a MapReduce task Tracker node
  job                  manipulate MapReduce jobs
  queue                get information regarding JobQueues
  version              print the version
  jar <jar>            run a jar file
  distcp <srcurl> <desturl> copy file or directories recursively
  archive -archiveName NAME <src>* <dest> create a hadoop archive
  daemonlog            get/set the log level for each daemon
 or
  CLASSNAME            run the class named CLASSNAME
Most commands print help when invoked w/o parameters.
PHP 相关文章推荐
php中判断一个字符串包含另一个字符串的方法
Mar 19 PHP
网站用php实现paypal整合方法
Nov 28 PHP
php处理文件的小例子(解压缩,删除目录)
Feb 03 PHP
PHP不用第三变量交换2个变量的值的解决方法
Jun 02 PHP
深入PHP数据加密详解
Jun 18 PHP
PHP获取MAC地址的具体实例
Dec 13 PHP
ThinkPHP模板IF标签用法详解
Jul 01 PHP
PHP中feof()函数实例测试
Aug 23 PHP
php简单日历函数
Oct 28 PHP
PHP仿qq空间或朋友圈发布动态、评论动态、回复评论、删除动态或评论的功能(上)
May 26 PHP
Yii2.0框架behaviors方法使用实例分析
Sep 30 PHP
PHP重载基础知识回顾
Sep 10 PHP
hadoop常见错误以及处理方法详解
Jun 19 #PHP
php常用Output和ptions/Info函数集介绍
Jun 19 #PHP
解析PHP中的正则表达式以及模式匹配
Jun 19 #PHP
php无限分类且支持输出树状图的详细介绍
Jun 19 #PHP
Android ProgressBar进度条和ProgressDialog进度框的展示DEMO
Jun 19 #PHP
具有时效性的php加密解密函数代码
Jun 19 #PHP
一个简单的php加密解密函数(动态加密)
Jun 19 #PHP
You might like
用PHP实现WEB动态网页静态
2006/10/09 PHP
JavaScript入门教程(3) js面向对象
2009/01/31 Javascript
jqGrid日期格式的判断示例代码(开始日期与结束日期)
2013/11/08 Javascript
js监听滚动条滚动事件使得某个标签内容始终位于同一位置
2014/01/24 Javascript
JavaScript获取网页、浏览器、屏幕高度和宽度汇总
2014/12/18 Javascript
基于jQuery创建鼠标悬停效果的方法
2015/03/07 Javascript
javascript限制文本框输入值类型的方法
2015/05/07 Javascript
基于d3.js实现实时刷新的折线图
2016/08/03 Javascript
实现div内部滚动条滚动到底部和顶部的代码
2017/11/15 Javascript
不使用 JS 匿名函数理由
2017/11/17 Javascript
NestJs 静态目录配置详解
2019/03/12 Javascript
node.js监听文件变化的实现方法
2019/04/17 Javascript
微信小程序实现判断是分享到群还是个人功能示例
2019/05/03 Javascript
Vue 实现一个命令式弹窗组件功能
2019/09/25 Javascript
小程序实现投票进度条
2019/11/20 Javascript
vue如何使用async、await实现同步请求
2019/12/09 Javascript
微信小程序停止其他视频播放当前视频的实例代码
2019/12/25 Javascript
python清除字符串里非字母字符的方法
2015/07/02 Python
Python实现的爬虫功能代码
2017/06/24 Python
Windows系统下多版本pip的共存问题详解
2017/10/10 Python
Python爬虫实现简单的爬取有道翻译功能示例
2018/07/13 Python
flask框架中勾子函数的使用详解
2018/08/01 Python
python tkinter组件摆放方式详解
2019/09/16 Python
Python标准库itertools的使用方法
2020/01/17 Python
Django使用django-simple-captcha做验证码的实现示例
2021/01/07 Python
pycharm 多行批量缩进和反向缩进快捷键介绍
2021/01/15 Python
html5实现微信打飞机游戏
2014/03/27 HTML / CSS
伯克斯奥特莱斯:Burkes Outlet
2019/03/30 全球购物
三星印度官网:Samsung印度
2019/08/03 全球购物
Tenstickers法国:墙贴和装饰贴纸
2019/08/26 全球购物
人力资源管理专业毕业生推荐信
2013/11/07 职场文书
广告业务员岗位职责
2014/02/06 职场文书
投资合作协议书
2014/04/17 职场文书
民警群众路线教育实践活动对照检查材料
2014/10/04 职场文书
学校中秋节活动总结
2015/03/23 职场文书
Win11 25163.1010更新补丁KB5016904推送,测试服务验证管道(附更新修复汇总)
2022/07/23 数码科技