Flume日志收集实战

本书全方位解析 Flume 架构和组件，如文件通道、HDFS 接收器和 Hadoop 文件系统，辅助你掌控 Flume。提供了各组件的详细配置选项，方便根据需求定制 Flume。

Apache Flume在Hadoop上的分布式日志收集（中文版），建议与Apache Flume在Hadoop上的分布式日志收集英文版对照使用！

Flume是一个由Cloudera提供的强大工具，用于收集、聚合和传输海量日志数据。它支持自定义数据发送器，用于收集数据，并提供简单的处理功能，可将数据写入各种可定制的数据接收方。Flume以其高可用性、高可靠性和分布式架构而著称。

Flume采集数据到Kafka 配置Flume Source: 从数据源(如文件系统、网络端口)采集数据。 配置Flume Channel: 选择内存或文件通道缓存数据。 配置Flume Sink: 将数据发送至Kafka，需指定Kafka Broker地址、Topic等信息。 Kafka接收数据 创建Kafka Topic: 为Flume准备接收数据的主题。 启动Kafka Broker: 确保Kafka服务正常运行。 从Kafka读取数据存储到HDFS 配置Kafka Consumer: 创建Kafka消费者，读取指定Topic的数据。 配置HDFS Sink: 将读取的数据写入HDFS，需指定HDFS路径等信息。 运行数据写入程序: 启动程序，将Kafka数据持续写入HDFS。 总结 此方案实现了日志数据从源头采集，经过Kafka缓冲，最终存储到HDFS的完整流程，具有高吞吐量、可扩展性等优点。

Logstash 6.2.2 是一款开源数据管道工具，支持实时数据采集、转换和传输。它能够从多种数据源获取数据，并通过灵活的过滤和转换规则将数据标准化，最终输出到 Elasticsearch 等目标系统。Logstash 简化了日志数据的处理流程，提升了数据的可读性和分析价值，为系统监控、性能分析和安全审计等提供了有力支持。

Flume集群搭建指南：Kafka数据接入实战 1. 环境准备 确保所有节点已安装Java运行环境。 下载Flume安装包并解压至指定目录。 配置Flume环境变量。 2. Flume Agent配置 flume-env.sh：设置Java堆大小等参数。 flume.conf：定义Agent名称、Source、Channel和Sink。 3. Source配置 Kafka Source：指定Kafka集群地址、主题名称、消费者组等信息。 4. Channel配置 Memory Channel：内存通道，用于临时存储数据。 File Channel：文件通道，提供持久化存储。 5. Sink配置 HDFS Sink：将数据写入HDFS文件系统。 Logger Sink：将数据输出到日志文件。 6. 启动Flume Agent 在每个节点上执行flume-ng agent -n agent_name -c conf -f conf/flume.conf命令启动Agent。 7. 验证数据流 向Kafka主题发送消息。 检查Flume日志和HDFS文件，确认数据已成功传输。 8. 集群配置 配置多个Flume Agent，并设置相同的Source和Channel。 通过负载均衡器将数据分发到不同的Agent节点，实现高可用性和负载均衡。

FlumeNG用于收集tomcat日志，具体场景为将/opt/tomcat下的日志存储到/var/log/data目录。配置包括source1类型为exec，command为tail -n +0 -F /opt/tomcat/logs/catalina.out；sink1类型为file_roll，directory为/var/log/data；channel1类型为file，checkpointDir为/var/checkpoint，dataDirs为/var/tmp，capacity为1000，transactionCapacity为100。运行命令：bin/flume-ng agent --conf --conf-file tomcat.conf --name agent1 -Dflume.root.logger=INFO,console。

标题中的“基于Apache Spark+Flume+Kafka+HBase的实时日志分析系统”描述了一个集成大数据处理和实时分析的架构。此系统利用了Apache Spark、Flume、Kafka和HBase这四个开源组件，构建了一个高效、可靠且可扩展的日志处理平台。具体来说：Apache Spark作为实时分析的核心，从Kafka接收数据流并进行实时处理和分析；Flume负责从各种分布式应用服务器收集日志数据，并将其发送到Kafka队列；Kafka作为数据缓冲区，接收Flume推送的日志数据并分发给Spark；HBase用于存储经过Spark处理后的结果数据，支持快速随机访问和高并发读写能力。该系统广泛应用于实时监控、异常检测和用户行为分析等领域，帮助企业提升运营效率。

在 Windows 环境下搭建 Flume-ng 并使用 Log4j 将日志输出到 HDFS。