HDFS SSH 操作

本项目提供一个 Java 操作 HDFS 文件的实用案例，涵盖文件创建、删除、上传、下载等常用功能。请确保在运行前已成功搭建 Hadoop 集群。

这份Hadoop Java API指南深入浅出地解析了各个API的功能和使用方法，非常适合刚开始学习Hadoop的开发者查阅。指南涵盖了HDFS的核心操作，并提供了清晰的代码示例，帮助您快速上手。需要注意的是，您需要自行搭建Hadoop集群环境。

介绍如何使用Java代码实现HDFS文件系统基础操作，包括创建目录、上传文件、下载文件、删除文件、文件重命名以及获取文件列表等功能。

此代码示范了 Hadoop 3.x 中 HDFS 的 API 操作。

HDFS目录和文件管理

Hadoop Shell与HDFS操作详解####一、分布式文件系统与HDFS概述分布式文件系统是一种允许多台计算机通过网络共享文件的文件系统。随着数据量的不断增长，单个操作系统管理的数据已经无法满足需求。在这种背景下，分布式文件系统应运而生，它能够将数据分布在多台计算机的文件系统中，并提供统一的访问接口，方便数据的存储和管理。 HDFS(Hadoop Distributed File System)作为Hadoop项目的核心组件之一，是一种专为大数据处理设计的分布式文件系统。HDFS的设计目标是提供高吞吐量的数据访问能力，适合大规模数据集的应用场景。它具有良好的容错性，能够自动将数据复制到其他节点，从而保证数据的可靠性和可用性。 ####二、HDFS体系结构与基本概念HDFS采用主从(Master-Slave)架构。主要包括NameNode（主节点）和DataNode（从节点）两大部分： - NameNode:存储元数据信息，包括文件系统的目录结构、文件和目录的元数据、文件块的位置信息等。 - DataNode:存储实际的数据块。每个文件会被切分成固定大小的数据块，这些数据块会被分散存储在不同的DataNode上。 HDFS还支持多种重要的功能特性，如： - 数据冗余:为了提高数据的可靠性和可用性，HDFS会自动将数据块复制到多个DataNode上，默认的复制因子为3。 - 流式数据访问:适合大文件的高效读写操作，但不适合低延迟数据访问。 - 简单的一致性模型:为每个文件保存一个写指针，支持写入操作的一致性，但不支持并发写操作。 ####三、HDFS的Shell操作HDFS提供了丰富的命令行工具用于管理和操作文件系统，类似于Linux的Shell命令。下面列举了一些常用的HDFS命令及其用法： - hadoop fs -ls:查看指定路径下的文件和目录列表。 - hadoop fs -lsr:递归查看指定路径下的所有子目录和文件。 - hadoop fs -du:显示指定路径下文件的大小。 - hadoop fs -dus:统计指定路径下文件(夹)的总大小。 - hadoop fs -count:统计指定路径

使用bin/hadoop dfs –ls /user/ 命令可以查看HDFS指定路径下的所有文件和文件夹。通过bin/hadoop dfs –put my_file /data/ 可以将本地文件上传至HDFS。使用bin/hadoop dfs –get /tmp /data/my_file 可以将HDFS中的文件下载到本地。使用bin/hadoop dfs –cat /tmp /data/my_file 可以查看HDFS中文件的内容。另外，bin/hadoop dfs –text /tmp /data/my_sequence_file 可以查看HDFS中sequence文件的内容。要删除HDFS上的文件，可以使用bin/hadoop dfs –rm /tmp /data/my_file 命令。如果不小心误删除，可以从/user_name/.Trash目录中恢复。

用于共享 HDFS 以测试 12345555

HDFS文件分块存储，每个块64MB，拥有多个副本，分布在不同节点保证数据可靠性。元数据记录了文件块位置信息，方便快速定位。