实验2-熟悉常用的HDFS操作.pdf

2熟悉常用的HDFS操作

1实验目的

1.理解HDFS在Hadoop体系结构中的角色；

2.熟练使用HDFS操作常用的Shell命令；

3.熟悉HDFS操作常用的JavaAPI。

2实验平台

操作系统：Linux

Hadoop版本：2.6.0或以上版本

JDK版本：1.6或以上版本

JavaIDE：Eclipse

3实验内容和要求

1.编程实现以下指定功能，并利用Hadoop提供的Shell命令完成相同任务：

（1）向HDFS中上传任意文本文件，如果指定的文件在HDFS中已经存在，由用户指定

是追加到原有文件末尾还是覆盖原有的文件；

（2）从HDFS中下载指定文件，如果本地文件与要下载的文件名称相同，则自动对下

载的文件重命名；

2。

欢迎下载

（3）将HDFS中指定文件的内容输出到终端中；

（4）显示HDFS中指定的文件的读写权限、大小、创建时间、路径等信息；

（5）给定HDFS中某一个目录，输出该目录下的所有文件的读写权限、大小、创建时

间、路径等信息，如果该文件是目录，则递归输出该目录下所有文件相关信息；

（6）提供一个HDFS内的文件的路径，对该文件进行创建和删除操作。如果文件所在

目录不存在，则自动创建目录；

3。

欢迎下载

（7）提供一个HDFS的目录的路径，对该目录进行创建和删除操作。创建目录时，如

果目录文件所在目录不存在则自动创建相应目录；删除目录时，由用户指定当

该目录不为空时是否还删除该目录；

（8）向HDFS中指定的文件追加内容，由用户指定内容追加到原有文件的开头或结尾；

（9）删除HDFS中指定的文件；

由于已经删除，所以会显示操作失败。

（10）删除HDFS中指定的目录，由用户指定目录中如果存在文件时是否删除目录；

由于前面已经删除，所以显示无该文件.

4。

欢迎下载

（11）在HDFS中，将文件从源路径移动到目的路径。

移动成功：

2.编程实现一个类“MyFSDataInputStream”，该类继承“org.apache.hadoop.fs.FSData

InputStream”，要求如下：实现按行读取HDFS中指定文件的方法“readLine()”，如

果读到文件末尾，则返回空，否则返回文件一行的文本。

进行文档读取如下：

3.查看Java帮助手册或其它资料，用“java.net.URL”和“org.apache.hadoop.fs.FsUR

LStreamHandlerFactory”编程完成输出HDFS中指定文件的文本到终端中。

4实验报告

《云计算》课程机房上机实验报告

题目：熟悉常用HDFS操作姓名包生友日期

实验环境：

操作系统：Linux

Hadoop版本：2.6.0或以上版本

JDK版本：1.6或以上版本

JavaIDE：Eclipse

实验内容与完成情况：在上面实验内容中

出现的问题：刚开始时出现HDFS命令未找到，没有所操作的目录，没有所操作的

文件等等。

解决方案（列出遇到的问题和解决办法，列出没有解决的问题）：

HDFS命令未找到：需要在前面加上在hdfs前面