Hadoop简介及部署

Hadoop 提供以下几种部署模式： 本地模式 伪分布模式 完全分布式模式 HA 完全分布式模式

记录Hadoop高可用集群的部署步骤，以及一些Hadoop服务管理的常用命令。

文档内容包含JDK、Hadoop、Zookeeper、HBase等组件的安装步骤，已在虚拟机中完成部署。

本课程指导您使用SAS编程方法读写和操作Hadoop数据。涵盖的基础SAS方法包括：使用DATA步骤读写原始数据、管理Hadoop文件系统，以及通过HADOOP过程从SAS执行Map-Reduce和Pig代码。此外，本课程还包括SAS/ACCESS Interface to Hadoop方法，该方法允许LIBNAME访问和SQL直通技术，以读写Hadoop HIVE或Cloudera Impala表结构。虽然没有详细介绍，但本课程还简要概述了额外的SAS和Hadoop技术，包括DS2、高性能分析、SAS LASR Server和内存统计，以及支持这些技术的计算基础设施和数据访问方法。本课程包含在Expert Exchange on Hadoop：使用SAS/ACCESS服务配置SAS/ACCESS Interface to Hadoop或SAS/ACCESS Interface to Impala以配合您的Hadoop环境。

理解数据封装的概念对于理解Hadoop至关重要。数据封装是一种将数据与操作数据的方法分离的技术。在Hadoop中，数据存储在HDFS（分布式文件系统）中，而计算框架（如MapReduce）用于处理数据。这种分离允许用户专注于数据逻辑，而无需担心底层存储和处理细节。

Apache Flink是一款先进的开源流处理框架，专为实时和批量数据流处理而设计。其核心特性包括高吞吐量、低延迟以及高可靠性的数据处理服务，支持事件时间处理和“精确一次”的状态一致性。Flink同时支持批处理和流处理任务，具备灵活的窗口操作和状态管理功能，广泛应用于实时数据分析、复杂事件处理、数据管道和ETL等场景。部署Flink集群需要环境准备、下载和解压Flink、配置Flink等多个步骤，确保集群稳定运行。

Hadoop是一个开源软件，专注于以数据为中心，提供高可用性、可扩展的分布式计算能力。它特别适用于海量非结构化数据的分析，例如日志分析。 许多知名企业，包括Google、Facebook、Yahoo!、Amazon、百度、人人网和腾讯都在使用Hadoop。百度作为中国领先的搜索引擎，利用Hadoop分析搜索日志，并在网页数据库中进行数据挖掘。百度每周处理约3000TB的数据，其Hadoop集群规模从10个节点到500个节点不等。此外，百度还支持Hypertable技术。

通过 Docker 部署 Hadoop 集群 提供了大数据环境的搭建步骤

基于 Ubuntu 系统，完成了 Hadoop 单机版和伪分布式环境的搭建，历时一整个学期。