Kafka 集群安装(基于 Zookeeper)


本文使用的 kafka 版本为 3.9.0,用三台机器进行集群,安装 kafka 前,机器上的环境要求:

  1. jre 运行环境(kafka 由 scala 语言编写,所以需要依赖 jvm )
  2. zookeeper 程序(从 kafka 4.0 开始,其放弃了 zookeeper,开始使用内置的 kraft)
  3. 三台主机都要关闭防火墙 systemctl stop firewalld

一、安装 kafka(三台主机做相同的操作):

  1. 下载kafka:kafka 官方地址
  2. 上传 kafka 到目录,本文使用的目录为 /usr/local/kafka,上传后目录结构如下:
    上传kafka
  3. 解压 kafka,tar -zxvf kafka_2.13-3.9.0.tgz,解压后的目录结构如下:
    解压kafka后目录结构
  4. 为了方便使用,此处对解压后的文件进行重命名 mv kafka_2.13-3.9.0 kafka,重命名后的目录结构如下:
    重命名后的路径
  5. 提前创建数据目录,mkdir data,创建后目录结构如下:
    创建data后目录结构
  6. 修改 kafka 配置文件,vim /usr/local/kafka/kafka/config/server.properties,重点关注以下属性:
    # 每台主机中的 broker 必须唯一,本次实验三台主机 brokerId 分别是 0 1 2
    broker.id=0
    # 对外暴露的端口和地址,不要用 localhost 注册,分别用每台主机的 ip 注册
    listeners=PLAINTEXT://192.168.2.28:9092
    # 设置刚刚创建的数据目录
    log.dirs=/usr/local/kafka/data
    # 设置 zookeeper 的地址,如果 zookeeper 是集群的话,可以这样写
    # zookeeper.connect=192.168.2.28:2181,192.168.2.29:2181,192.168.2.30:2181
    zookeeper.connect=192.168.2.28:2181
    
  7. 至此 kafka 集群安装完成,当三台主机都运行后,都会被注册到 zookeeper,然后 kafka 会自动进行集群。

二、测试是否安装成功:

  1. 运行 zookeeper
  2. 三台主机分别启动:
    nohup sh /usr/local/kafka/kafka/bin/kafka-server-start.sh /usr/local/kafka/kafka/config/server.properties &
  3. 在任意一台主机中创建一个主题(下面命令中的 IP 可以是三台主机中的任意一台)
    sh /usr/local/kafka/kafka/bin/kafka-topics.sh --bootstrap-server 192.168.2.28:9092 --create --replication-factor 2 --partitions 4 --topic repeatKafka
  4. 查看集群是否成功:
    sh /usr/local/kafka/kafka/bin/kafka-topics.sh --bootstrap-server 192.168.2.28:9092 --describe --topic repeatKafka
  5. 当出现下图中的结构(brokerId 设置的 0,1,2 都在 replicas 中出现),代表集群成功。
    请添加图片描述
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值