Kafka集群环境配置

Kafka集群环境配置

1 环境准备

1.1 集群规划

Node02

Node03

Node04

zk

zk

zk

kafka

kafka

kafka

1.2 jar包下载

安装包：kafka_2.11-0.8.2.1.tgz
下载地址：http://kafka.apache.org/downloads.html

2 Kafka集群部署

1）解压安装包

1$ tar -zxvf kafka_2.11-0.8.2.1.tgz -C /usr/local/bigdata
2

2） 进入到安装目录

1$ cd /usr/local/bigdata/kafka_2.11-0.8.2.1 
2

3）在/usr/local/bigdata/kafka_2.11-0.8.2.1 目录下创建logs文件夹

1$ mkdir logs
2

4）修改配置文件

1$ cd config/
2$ vi server.properties
3

输入以下内容：

1#broker的全局唯一编号，不能重复,其他机器上有修改
2broker.id=0
3#删除topic功能使能
4delete.topic.enable=true
5#处理网络请求的线程数量
6num.network.threads=3
7#用来处理磁盘IO的现成数量
8num.io.threads=8
9#发送套接字的缓冲区大小
10socket.send.buffer.bytes=102400
11#接收套接字的缓冲区大小
12socket.receive.buffer.bytes=102400
13#请求套接字的缓冲区大小
14socket.request.max.bytes=104857600
15#kafka运行日志存放的路径
16log.dirs=/usr/local/bigdata/kafka_2.11-0.8.2.1/logs
17#topic在当前broker上的分区个数
18num.partitions=1
19#用来恢复和清理data下数据的线程数量
20num.recovery.threads.per.data.dir=1
21#segment文件保留的最长时间，超时将被删除
22log.retention.hours=168
23#配置连接Zookeeper集群地址
24zookeeper.connect=Node02:2181,Node03:2181,Node04:2181
25

5）配置环境变量

1$ vi ~/.bashrc
2
3
4
5
6#KAFKA_HOME
7export KAFKA_HOME=/usr/local/bigdata/kafka_2.11-0.8.2.1 
8export PATH=$PATH:$KAFKA_HOME/bin
9```s
10$ source ~/.bashrc
11

6）分发安装包

1$ scp -r kafka_2.11-0.8.2.1/ hadoop@Node03:/usr/local/bigdata/
2$ scp -r kafka_2.11-0.8.2.1/ hadoop@Node04:/usr/local/bigdata/
3

注意：分发之后记得配置其他机器的环境变量

7）分别在Node03和Node04上修改配置文件

修改/usr/local/bigdata/kafka_2.11-0.8.2.1/config/server.properties中的 broker.id=1、broker.id=2

注：broker.id不得重复

3 Kafka集群的启动和关闭

启动Kafka之前要先启动zookeeper

1#启动
2$ /usr/local/bigdata/zookeeper-3.4.6/bin/zkServer.sh start
3
4#查看状态
5
6$ /usr/local/bigdata/zookeeper-3.4.6/bin/zkServer.sh status

• 启动集群
  依次在Node02、Node03、Node04节点上启动kafka

  $ kafka-server-start.sh /usr/local/bigdata/kafka_2.11-0.8.2.1/config/server.properties &

• 关闭集群

  $ kafka-server-stop.sh stop

本文同步分享在 博客“foochane”（JianShu）。
如有侵权，请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一起分享。