Flume日志收集实战

本书全方位解析 Flume 架构和组件，如文件通道、HDFS 接收器和 Hadoop 文件系统，辅助你掌控 Flume。提供了各组件的详细配置选项，方便根据需求定制 Flume。

Apache Flume在Hadoop上的分布式日志收集（中文版），建议与Apache Flume在Hadoop上的分布式日志收集英文版对照使用！

Flume是一个由Cloudera提供的强大工具，用于收集、聚合和传输海量日志数据。它支持自定义数据发送器，用于收集数据，并提供简单的处理功能，可将数据写入各种可定制的数据接收方。Flume以其高可用性、高可靠性和分布式架构而著称。

Apache Flume是一款高度可靠且灵活的数据收集系统，专为聚合、传输和存储大规模日志数据而设计。在大数据领域，Flume扮演着不可或缺的角色，尤其是在处理实时流数据时。其核心架构包括源（Source）、通道（Channel）和接收器（Sink），分别负责从各种数据源收集数据、临时存储数据以及将数据传输到目的地，如HDFS、HBase或其他存储系统。Flume 1.8版本引入了多种数据源支持、高可用性机制、自定义插件开发、灵活的配置文件和动态路由等关键特性，同时通过性能优化提升了数据处理效率。

Flume采集数据到Kafka 配置Flume Source: 从数据源(如文件系统、网络端口)采集数据。 配置Flume Channel: 选择内存或文件通道缓存数据。 配置Flume Sink: 将数据发送至Kafka，需指定Kafka Broker地址、Topic等信息。 Kafka接收数据 创建Kafka Topic: 为Flume准备接收数据的主题。 启动Kafka Broker: 确保Kafka服务正常运行。 从Kafka读取数据存储到HDFS 配置Kafka Consumer: 创建Kafka消费者，读取指定Topic的数据。 配置HDFS Sink: 将读取的数据写入HDFS，需指定HDFS路径等信息。 运行数据写入程序: 启动程序，将Kafka数据持续写入HDFS。 总结 此方案实现了日志数据从源头采集，经过Kafka缓冲，最终存储到HDFS的完整流程，具有高吞吐量、可扩展性等优点。

Logstash 6.2.2 是一款开源数据管道工具，支持实时数据采集、转换和传输。它能够从多种数据源获取数据，并通过灵活的过滤和转换规则将数据标准化，最终输出到 Elasticsearch 等目标系统。Logstash 简化了日志数据的处理流程，提升了数据的可读性和分析价值，为系统监控、性能分析和安全审计等提供了有力支持。

Flume是Cloudera提供的分布式日志采集、聚合和传输系统，具备高可用性和可靠性。它支持定制化数据发送方，用于收集各类数据，并提供简单处理功能，能够将数据写入多种可定制的接收端。目前Flume分为两个版本，Flume-og（0.9X系列）和经过重大重构的Flume-ng（1.X系列），两者在架构和功能上有显著差异，使用时需注意区分。

Flume集群搭建指南：Kafka数据接入实战 1. 环境准备 确保所有节点已安装Java运行环境。 下载Flume安装包并解压至指定目录。 配置Flume环境变量。 2. Flume Agent配置 flume-env.sh：设置Java堆大小等参数。 flume.conf：定义Agent名称、Source、Channel和Sink。 3. Source配置 Kafka Source：指定Kafka集群地址、主题名称、消费者组等信息。 4. Channel配置 Memory Channel：内存通道，用于临时存储数据。 File Channel：文件通道，提供持久化存储。 5. Sink配置 HDFS Sink：将数据写入HDFS文件系统。 Logger Sink：将数据输出到日志文件。 6. 启动Flume Agent 在每个节点上执行flume-ng agent -n agent_name -c conf -f conf/flume.conf命令启动Agent。 7. 验证数据流 向Kafka主题发送消息。 检查Flume日志和HDFS文件，确认数据已成功传输。 8. 集群配置 配置多个Flume Agent，并设置相同的Source和Channel。 通过负载均衡器将数据分发到不同的Agent节点，实现高可用性和负载均衡。

FlumeNG用于收集tomcat日志，具体场景为将/opt/tomcat下的日志存储到/var/log/data目录。配置包括source1类型为exec，command为tail -n +0 -F /opt/tomcat/logs/catalina.out；sink1类型为file_roll，directory为/var/log/data；channel1类型为file，checkpointDir为/var/checkpoint，dataDirs为/var/tmp，capacity为1000，transactionCapacity为100。运行命令：bin/flume-ng agent --conf --conf-file tomcat.conf --name agent1 -Dflume.root.logger=INFO,console。