进入cd /usr/local/flume/conf/

vi kafka.conf

配置

agent.sources=s1

agent.channels=c1

agent.sinks=k1

agent.sources.s1.type=exec

agent.sources.s1.command=tail -F /tmp/logs/kafka.log

agent.sources.s1.channels=c1

agent.channels.c1.type=memory

agent.channels.c1.capacity=10000

agent.channels.c1.transactionCapacity=100

#设置Kafka接收器

agent.sinks.k1.type=org.apache.flume.sink.kafka.KafkaSink

#设置Kafka的broker地址和端口号

agent.sinks.k1.brokerList=192.168.16.100:9092

#设置Kafka的Topic

agent.sinks.k1.topic=kafkatest

#设置序列化方式

agent.sinks.k1.serializer.class=kafka.serializer.StringEncoder

agent.sinks.k1.channel=c1

vi kafka.sh

for ((i=0;i<=1000;i++));

do

echo "kafka_test-"+$i >> /tmp/logs/kafka.log;

done

克隆一个窗口

cd /tmp/

mkdir logs

cd logs/ ls

cat kafka.log

另一个窗口touch /tmp/logs/kafka.log

sh kafka.sh

直接完事也太快了需要加延迟sleep 10

rm -rf * 干点所有

sh kafka.sh

cat logs里面的文件

老命令

kafka-server-start.sh -daemon config/server.properties &

新命令(一般用新)

kafka-server-start.sh /usr/local/kafka/config/server.properties &

克隆一个窗口

kafka-topics.sh --create --zookeeper 192.168.16.100:2181 --replication-factor 1 --partitions 1 --topic kafkatest

d.打开新终端,在kafka安装目录下执行如下命令,生成对topickafkatest的消费

kafka-console-consumer.sh --bootstrap-server 192.168.16.100:9092 --topic kafkatest --from-beginning

e.启动flum

flume-ng agent --conf . --conf-file /usr/local/flume/conf/kafka.conf --name agent -D flume.root.logger=DEBUG,console

flume-ng agent --name agent --conf . --conf-file kafka.conf -Dflume.root.logger=DEBUG,console

最新文章

  1. TortoiseGit中push的使用
  2. jQuery选择器之子元素过滤选择器Demo
  3. N! HDU 1042
  4. zookeeper使用和原理探究(一)
  5. HUD 2089 位数dp
  6. 1653: [Usaco2006 Feb]Backward Digit Sums
  7. [leetcode-625-Minimum Factorization]
  8. django图书管理半成品(MySQL)
  9. 大数据学习之HDFS基本命令操作05
  10. NodeMan介绍
  11. 使用css实现时间轴
  12. Http实现文件下载
  13. dfs和bfs(链式前向星实现)
  14. linux sed的一些技巧
  15. (转)忘记wamp-mysql数据库root用户密码重置方法
  16. html5 canvas路径绘制2
  17. Oracle根据表生成系统流水号
  18. xp系统报错 windows explorer has encountered a problem and needs to close.We are sorry for the inconvenience
  19. oracle 多列数据相同,部分列数据不同合并不相同列数据
  20. duilib入门简明教程 -- 前言(1)

热门文章

  1. Combine String HDU - 5707 dp or 广搜
  2. 【转载】从头到尾彻底理解KMP
  3. 【线性代数】3-5:独立性,基和维度(Independence,Basis and Dimension)
  4. NSObject和反射2
  5. [Linux]虚拟机无法安装deepin15.9的解决方案
  6. javascript中的BOM
  7. mybatis集成spring
  8. 用java写一个两个任意长度字符串数字和的算法
  9. 【Eureka】Eureka 是什么
  10. Leetcode题目160.相交链表(简单)