标签：Flume 教程 eventsSource channels sources 保姆 eventsChannel conf events

准备工作：

1、准备多个大文件，以备后面使用
2、提前创建好目录和文件上传至linux中

操作步骤：

1、首先先将我们要操作的文件拷贝到指定的文件夹下，方便一会使用命令和写配置文件
命令cp events.csv flumelogfile/events/events_2021-12-26.csv

2、创建events-flume-logger.conf
内容如下：

events.sources=eventsSource
events.channels=eventsChannel
events.sinks=eventsSink

events.sources.eventsSource.type=spooldir
events.sources.eventsSource.spoolDir=/opt/kb15tmp/flumelogfile/events
events.sources.eventsSource.deserializer=LINE
events.sources.eventsSource.deserializer.maxLineLength=32000
events.sources.eventsSource.includePattern=events_[0-9]{4}-[0-9]{2}-[0-9]{2}.csv

events.channels.eventsChannel.type=file
events.channels.eventsChannel.checkpointDir=/opt/kb15tmp/checkpoint/events
events.channels.eventsChannel.dataDirs=/opt/kb15tmp/checkpoint/data/events

events.sinks.eventsSink.type=logger

events.sources.eventsSource.channels=eventsChannel
events.sinks.eventsSink.channel=eventsChannel

sources以spooldir的形成监控磁盘文件，还可以用来监控新文件，channels以memory的形式将event数据存储在内存中，sinks以logger的形式将内容写入到日志中。

3、执行命令
进入到flume目录下，执行命令./bin/flume-ng agent --name events --conf conf/ --conf-file conf/KB15conf/events-flume-logger.conf -Dflume.root.logger=INFO,console

4、执行结果
因为执行的文件大小非常大，处理数据需要一定时间，在flume执行完成的时候，可以看到文件名有.COMPLETED后缀，说明执行完成了。

标签：Flume,教程,eventsSource,channels,sources,保姆,eventsChannel,conf,events
来源： https://blog.csdn.net/weixin_44911081/article/details/122157245

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。