标签:oldboyedu 副本 broker kafka topic 集群 leader 搭建
kafka相关术语
Producer: 消息生产者,就是向kafka broker发消息的客户端
Consumer: 消息消费者,向kafka broker取消息的客户端
Consumer Group(简称"CG"):消费者组
Broker:一台kafka服务器就是一个broker,一个集群由多个broker组成,一个broker可以容纳多个topic
Topic: 可以理解为一个队列,生产者和消费者面向的就是一个topic
Parition: 为了实现扩展性,一个非常大的topic可以分不到多个broker(即服务器)上,一个topic可以分为多个pairtition,每个partition是一个有序的队列。
Replica: 副本,为保证集群中的某个节点发生故障时,该节点上的partition数据不丢失,且kafka仍然能够继续工作,kafka提供了副本机制,一个topic的每个分区都有若干个副本,一个leader和若干个follower。
Leader: 每个分区多个副本为"主",生产者发送数据的对象,以及消费者消费数据的对象都是leader。
Follower: 每个分区多个副本中的"从",实时从leader中同步数据,保持和leader数据的同步。leader发生故障时,某个follower会成为新的leader。
部署kafka环境
1>:下载Kafka软件并解压到指定目录
下载略
环境变量写到/etc/profild.d/下面
export KAFKA_HOME=/oldboyedu/softwares/kafka
export PATH=$PATH:$KAFKA_HOME/bin
2>:创建符号连接并配置环境变量
创建软连接略
修改配置文件:/oldboyedu/softwares/kafka/config/server.properties
...
broker.id=101
log.dirs=/oldboyedu/data/kafka-3.0.0
zookeeper.connect=10.0.0.102:2181,10.0.0.103:2181,10.0.0.104:2181/oldboyedu-kafka-3.0.0
3>:启动kafka节点
kafka-server-start.sh -daemon /oldboyedu/softwares/kafka/config/server.properties
标签:oldboyedu,副本,broker,kafka,topic,集群,leader,搭建 来源: https://www.cnblogs.com/lingfeng-Yang/p/15773331.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。