ZooKeeper集群

ZooKeeper集群搭建指南 本指南详细介绍ZooKeeper集群的搭建步骤，涵盖环境准备、配置文件修改、集群启动等关键环节，帮助您快速构建稳定可靠的分布式协调服务。 一、环境准备 准备至少三台服务器，确保网络互通。 在每台服务器上安装Java环境，并配置JAVA_HOME环境变量。 下载ZooKeeper安装包并解压至指定目录。 二、配置文件修改 进入ZooKeeper的conf目录，复制zoo_sample.cfg文件并重命名为zoo.cfg。 修改zoo.cfg文件，配置以下参数： dataDir: ZooKeeper数据存储目录。 clientPort: ZooKeeper客户端连接端口，默认为2181。 server.id: 每台服务器的唯一标识，取值范围为1-255。 server.id=host:port:port: 集群中各服务器的地址和端口信息，其中第一个端口用于集群内部通信，第二个端口用于Leader选举。 三、集群启动 在每台服务器的ZooKeeper根目录下创建myid文件，并在文件中写入对应的server.id值。 执行zkServer.sh start命令启动ZooKeeper服务。 使用zkServer.sh status命令查看各服务器状态，确保集群正常运行。 四、验证集群 使用zkCli.sh命令连接到ZooKeeper集群。 执行ls /命令查看ZooKeeper根节点，确认集群运作正常。 通过以上步骤，即可成功搭建ZooKeeper集群，为您的分布式应用提供可靠的协调服务。

ZooKeeper集群配置 本章节将详细介绍如何配置ZooKeeper集群，重点关注仲裁和观察者的设置。 仲裁与多数原则 在ZooKeeper中，仲裁是指能够处理客户端请求并参与群首选举的最少服务器数量。为了避免脑裂（即多个服务器集合同时处理请求），仲裁法定人数必须始终构成集群中服务器总数的多数。 例如，一个包含5台服务器的ZooKeeper集群，其仲裁法定人数至少需要为3台，确保只有一组服务器能够获得处理请求和参与选举的权利。 观察者 观察者可以处理客户端请求并接收服务器状态更新，但它们不参与群首选举，也不计入仲裁法定人数。 通过合理配置仲裁和观察者，可以提高ZooKeeper集群的容错性和性能。

本指南提供了在本地环境中构建 ZooKeeper 集群的详细步骤。它涵盖安装 VMware 虚拟机，然后使用 ZooKeeper 将它们配置为一个集群的过程。

介绍如何使用二进制和 Docker 两种方式部署 Zookeeper 和 Kafka 集群。 二进制部署 安装 JDK: 可以选择二进制安装或使用 yum 包管理器安装。 安装 Zookeeper: 下载 Zookeeper 安装包，解压并配置相关参数。 部署 Kafka: 下载 Kafka 安装包，解压并配置相关参数，包括 Zookeeper 连接信息等。 Docker 部署 搭建 Zookeeper 集群: 使用 Docker Compose 编排 Zookeeper 容器，构建 Zookeeper 集群。 搭建 Kafka 集群: 使用 Docker Compose 编排 Kafka 容器，配置 Kafka 连接 Zookeeper 集群。 测试验证: 验证 Zookeeper 中 Kafka 节点信息是否正确。 在 Kafka 中创建 Topic，验证 Zookeeper 中是否同步了相关信息。

在Zookeeper配置文件中，添加指定格式的server信息，并在dataDir目录下创建myid文件，包含对应的id。Zookeeper集群中的Nimbus主机并不一定是leader，因为当leader故障时，follower可转变为leader。

Zookeeper在集群模式下的安装与配置需要创建myid文件，分别设置不同机器的标识。在conf目录下，配置zoo.cfg文件包括dataDir=/usr/local/zk/data，以及各服务器的端口设置。Zookeeper支持多机集群，也可在单台物理机上实现伪集群。配置中的initLimit用于客户端连接初始化心跳时间，syncLimit用于Leader与Follower消息传递时的时间限制。server.A=B：C：D中，A表示服务器编号，B为IP地址，C为信息交换端口，D为选举重新通信端口。

zkWeb 提供了用户友好的Web界面，简化了ZooKeeper集群的管理任务。通过 zkWeb，用户可以直观地查看集群状态、节点数据、进行节点操作等，无需编写复杂的命令行指令，极大地提高了运维效率。

zookeeper-3.4.9 是 Linux 环境下 Kafka 集群配置的得力助手，简化集群设置流程，助力高效管理 Kafka 集群。

软件版本 Hadoop: 3.3.3 Spark: 3.2.1 (Hadoop 3.2 兼容版本) Hive: 3.1.3 Zookeeper: 3.5.10 MySQL: 8.0.29 (适用于 CentOS/RHEL 8 x86_64 架构)## 文件列表 hadoop-3.3.3.tar.gz spark-3.2.1-bin-hadoop3.2.tgz apache-hive-3.1.3-bin.tar.gz apache-zookeeper-3.5.10-bin.tar.gz mysql-8.0.29-1.el8.x86_64.rpm-bundle

ZooKeeper是一个分布式应用程序协调服务，它是Google Chubby的开源实现，也是Hadoop和HBase的重要组件。它为分布式应用提供一致性服务。