Spark安装

Spark是伯克利加州大学AMP实验室开发的开源通用并行框架，具有Hadoop MapReduce的优点。Spark的独特之处在于，它可以将作业中间输出结果保存在内存中，从而避免了对HDFS的频繁读写，非常适合需要迭代的MapReduce算法，如数据挖掘和机器学习。

适用于 Spark on YARN 模式安装的二进制包

ClusterManager：负责管理集群，包括监控 Worker 节点，在 Standalone 模式下为 Master，在 YARN 模式下为资源管理器。 Worker：控制计算节点，启动 Executor，在 Standalone 模式下为主节点，在 YARN 模式下为 NodeManager。 Driver：运行 Spark 应用程序的 main() 函数，创建 SparkContext。 Executor：执行器，在 Worker 节点上执行任务，每个应用程序都有独立的 Executors。 SparkContext：应用程序的上下文，控制应用程序的生命周期。 RDD：基本计算单元，可形成 DAG Graph。 DAG Scheduler：将作业分解为 Stage，每个 Stage 根据 RDD 的分区决定 Task 数量，生成 Task 集。 TaskScheduler：将 Task 分发给 Executor 执行。 Stage：作业包含一到多个 Stage。 Task：Stage 包含一到多个 Task，实现并行运行。 Transformations：操作（map、filter 等），延迟执行，记录操作但不会执行，直到 Actions 时才启动计算。 Actions：操作（count、collect 等），返回结果或将 RDD 数据写入存储系统，触发计算。 SparkEnv：线程级别的上下文，包含运行时重要组件的引用。 MapOutPutTracker：存储 Shuffle 元信息。 BroadcastManager：控制广播变量和存储元信息。 BlockManager：负责存储管理。

在Spark Shell中编写WordCount程序的步骤如下：1. 首先启动HDFS。2. 将文件上传至HDFS路径 hdfs://hdp-01:9000/wordcount/input/a.txt。3. 在Spark Shell中使用Scala编写Spark程序：scala> sc.textFile(\"hdfs://hdp-01:9000/wordcount/input/\").flatMap(.split(\" \")).map((,1)).reduceByKey( + ).sortBy(_._2,false).collect。注意：Spark是懒加载的，需要调用action方法才会正式运行。

提供 Spark 3.0 和 Hadoop 2.7.1 的安装包。

在这份安装与配置指南中，你将找到包含spark-3.0.3-bin-hadoop2.7的文件夹，适用于hadoop3.2以下版本，以及详细的Spark搭建步骤和相关课件。随着大数据技术的进步，这些内容将帮助您快速启动和配置Spark环境。

为您提供了关于安装Spark的详细指南，适用于Markdown格式文件。

本指南详细阐述了在Windows 10系统上安装Spark的过程，帮助用户熟悉Spark的安装步骤。

该资源包含安装Spark所需的Java JDK、Scala、Hadoop、Spark以及Hadoop所需的Winutils.exe文件，所有版本均已对应好，安装方法可参考我的博客。

本手册提供了Hadoop2.9.2和Spark2.4.8的安装步骤。