HDFS文件处理

上传、删除文件至HDFS

这份文档详细阐述了HDFS读写异常的处理方法，有助于理解HDFS基础架构。

HDFS文件权限与Linux系统文件权限相似，包括： r (read)：读取权限 w (write)：写入权限 x (execute)：执行权限，对文件无效，对文件夹表示是否允许访问其内容 例如，如果Linux系统用户zhangsan使用hadoop命令创建一个文件，那么该文件在HDFS中的owner就是zhangsan。 HDFS权限的设定目标是防止合法用户误操作，而不是阻止恶意攻击。HDFS遵循信任机制，用户声明的身份即被视为其真实身份。

Hive HDFS目录文件数超限：问题根源与解决方案 Hive任务在执行过程中，若遭遇失败或异常退出，可能会遗留临时目录于HDFS之上。随着时间推移，这些未清理的目录会导致HDFS目录文件数达到上限，进而引发“hdfs exceeded directory item limit”错误。 解决方法： 脚本清理：编写脚本定期清理HDFS上过期的无用临时目录，释放目录空间。 参数调优：调整Hive配置参数，例如设置合理的临时目录清理周期，避免目录文件数过多。 通过以上方法，可有效解决Hive HDFS目录文件数超限问题，确保Hive任务的顺利执行。

在HDFS中读取文件，客户端首先会与NameNode建立连接，获取目标文件的所有数据块信息以及每个数据块所在的DataNode位置信息。 客户端会根据一定的策略（目前尚未考虑数据节点的相对位置）从每个数据块对应的DataNode集合中选择一个节点建立连接，并开始读取数据。数据以数据包的形式传输到客户端。当读取完一个数据块后，客户端会断开与当前DataNode的连接，并选择下一个数据块对应的DataNode，重复上述过程，直到读取完所有需要的数据。

本项目提供一个 Java 操作 HDFS 文件的实用案例，涵盖文件创建、删除、上传、下载等常用功能。请确保在运行前已成功搭建 Hadoop 集群。

本代码范例展示如何将本地文件上传至HDFS。利用Hadoop API操作，实现本地文件上传到HDFS。

hdfs-site.xml 是 Hadoop 分布式文件系统 (HDFS) 的核心配置文件之一。 它包含了 HDFS 的各种配置参数，例如 NameNode 和 DataNode 的地址、端口、数据块大小等。 通过修改 hdfs-site.xml 文件，用户可以自定义 HDFS 集群的行为以满足特定需求。

需求说明 统计HDFS上的文件的词频，并将统计结果输出到HDFS。 核心特点 使用Maven进行jar包管理。 核心处理部分封装为接口（支持可插拔设计）。 路径、文件名等变量配置在自定义配置文件中，方便修改。 通过反射机制动态创建对象（实现接口）。 代码结构良好，具备较强的可插拔性。 主要实现流程 读取HDFS上的文件数据。 对文件内容进行词频统计。 将统计结果写回到HDFS中指定路径。 配置管理：路径和文件名等信息可通过配置文件进行修改，增强灵活性。 技术栈 HDFS Java API Maven 反射机制 自定义配置文件 通过这些技术实现了一个高效且可维护的HDFS文件词频统计系统，且代码架构清晰，易于扩展。

介绍如何使用Java代码实现HDFS文件系统基础操作，包括创建目录、上传文件、下载文件、删除文件、文件重命名以及获取文件列表等功能。