目录

Flume

监控端口数据案例

1）案例需求：

使用Flume监听一个端口，收集该端口数据，并打印到控制台。

2）需求分析：

Flume 入门案例 - 监控端口数据案例-最码农

3）实现步骤：

（1）安装netcat工具


[hadoop@hadoop102 software]$ sudo yum install -y nc

（2）判断6666端口是否被占用


[hadoop@hadoop102 flume-telnet]$ sudo netstat -nlp | grep 6666

（3）创建Flume Agent配置文件netcat-flume-logger.conf

（4）在flume目录下创建job文件夹并进入jobs文件夹。


[hadoop@hadoop102 flume]$ mkdir jobs
[hadoop@hadoop102 flume]$ cd jobs/

（5）在job文件夹下创建Flume Agent配置文件netcat-flume-logger.conf。


[hadoop@hadoop102 jobs]$ vim netcat-flume-logger.conf

（6）在netcat-flume-logger.conf文件中添加如下内容


#Named
a1.sources = r1
a1.channels = c1
a1.sinks = k1 

#Source
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 6666

#Channel
a1.channels.c1.type = memory
a1.channels.c1.capacity = 10000
a1.channels.c1.transactionCapacity = 100

#Sink
a1.sinks.k1.type = logger

#Bind
a1.sources.r1.channels = c1 
a1.sinks.k1.channel = c1

（7）先开启flume监听端口

第一种写法：


flume-ng agent --conf $FLUME_HOME/conf --conf-file $FLUME_HOME/jobs/netcat-flume-logger.conf --name a1 -Dflume.root.logger=INFO,console

第二种写法：


flume-ng agent -c  $FLUME_HOME/conf  -f  $FLUME_HOME/jobs/netcat-flume-logger.conf -n a1 -Dflume.root.logger=INFO,console

参数说明：

  • –conf/-c：表示配置文件存储在conf/目录
  • –name/-n：表示给agent起名为a1
  • –conf-file/-f：flume本次启动读取的配置文件是在job文件夹下的flume-telnet.conf文件。
  • -Dflume.root.logger=INFO,console ：-D表示flume运行时动态修改flume.root.logger参数属性值，并将控制台日志打印级别设置为INFO级别。日志级别包括:log、info、warn、error。

8）使用netcat工具向本机的6666端口发送内容


[hadoop@hadoop102 ~]$ nc localhost 6666

hello
hadoop

（9）在Flume监听页面观察接收数据情况

Flume 入门案例 - 监控端口数据案例-最码农