Hadoop集群Hive和Spark连接驱动

软件版本 Hadoop: 3.3.3 Spark: 3.2.1 (Hadoop 3.2 兼容版本) Hive: 3.1.3 Zookeeper: 3.5.10 MySQL: 8.0.29 (适用于 CentOS/RHEL 8 x86_64 架构)## 文件列表 hadoop-3.3.3.tar.gz spark-3.2.1-bin-hadoop3.2.tgz apache-hive-3.1.3-bin.tar.gz apache-zookeeper-3.5.10-bin.tar.gz mysql-8.0.29-1.el8.x86_64.rpm-bundle

Hive JDBC驱动包 此驱动包用于建立与Hive的JDBC连接，并经过测试确保可用。

Hadoop、Hive、Spark 配置修改 本指南介绍如何在 Hadoop、Hive 和 Spark 中修改和添加配置信息。 Hadoop 配置 Hadoop 的配置文件位于 $HADOOP_HOME/etc/hadoop 目录下。 一些常用的配置文件包括： core-site.xml：Hadoop 核心配置 hdfs-site.xml：HDFS 配置 yarn-site.xml：YARN 配置 mapred-site.xml：MapReduce 配置 可以通过修改这些文件中的属性来配置 Hadoop。 Hive 配置 Hive 的配置文件位于 $HIVE_HOME/conf 目录下。 一些常用的配置文件包括： hive-site.xml：Hive 的主要配置文件 hive-default.xml.template：Hive 默认配置模板 可以通过修改 hive-site.xml 文件中的属性来配置 Hive。 Spark 配置 Spark 的配置文件位于 $SPARK_HOME/conf 目录下。 一些常用的配置文件包括： spark-defaults.conf：Spark 默认配置 spark-env.sh：Spark 环境变量 可以通过修改这些文件中的属性来配置 Spark。

提供了一个完全分布式Hadoop+Spark集群搭建的详细文档，从环境准备开始，包括机器名和IP映射步骤，SSH免密设置，Java安装，涵盖Zookeeper、Hadoop、Hive、Spark的安装和配置过程。文档包含了Eclipse/IDEA的安装指南，涵盖了3-4节点集群部署，包括各角色（如Namenode、Secondary Namenode、Datanode、Resourcemanager）的节点分配，详细说明和截图展示。同时提供可访问的IP、用户名和密码设置。

在 Windows 环境下，使用 Python 2.7 配置 Spark 1.6 (Hadoop 2.6) 时，需要借助一些工具来实现与 Hadoop 的交互。

FineBI 连接 Hive 所需驱动位于 FineBI 安装目录下的 webapps/webroot/WEB-INF/lib 文件夹中。

为确保 FineBI 与不同 Hive 版本的兼容性，需使用对应版本的驱动包。下表列出了 FineBI 连接 Hive 1.2、2.1.1、2.1.2 和 2.3 版本所需的驱动包信息： | Hive 版本 | 驱动包 || -------- | -------------------------------------- || Hive 1.2 | hive-jdbc-1.2.1.jar || Hive 2.1.1 | hive-jdbc-2.1.1.jar || Hive 2.1.2 | hive-jdbc-2.1.2.jar || Hive 2.3 | hive-jdbc-2.3.0.jar, hive-exec-2.3.0.jar | 请根据您所使用的 Hive 版本选择对应的驱动包，并在 FineBI 中进行配置。

Apache Spark是Apache软件基金会下的开源大数据处理框架，以高效、灵活和易用性著称。\"spark--bin-hadoop2-without-hive.tgz\"是专为Hadoop 2设计的Spark二进制发行版压缩包，不包含Hive组件，适用于无需Hive环境的系统部署和运行。Spark核心概念包括RDD（Resilient Distributed Datasets）、DataFrame和Dataset，架构涵盖Master、Worker节点及Executor，支持Spark Core、Spark SQL、Spark Streaming、MLlib和GraphX等组件。与Hadoop集成，可读写HDFS数据，同时兼容YARN资源管理系统。

spark中不要有hive的jar包，需重新编译，适用于hive2.3、hadoop2.7.6