centos7系统超详细部署Kafka教程

Linux命令

centos7系统超详细部署Kafka教程

2024-12-05 00:56


部署Kafka在CentOS 7系统上是一项具有挑战性的任务,但通过以下详细步骤,您可以顺利完成安装与配置。?✨ 1. 准备系统环境 ?️ 1.1 确认系统安装和管理员权限

                                            




部署KafkaCentOS 7系统上是一项具有挑战性的任务,但通过以下详细步骤,您可以顺利完成安装与配置。?✨

1. 准备系统环境 ?️

1.1 确认系统安装和管理员权限

首先,确保您的CentOS 7系统已正确安装,并且您拥有管理员权限。可以通过以下命令切换到超级用户:

sudo su -

1.2 检查Java环境

Kafka依赖于Java环境,因此必须确保Java已安装并配置正确。使用以下命令检查Java版本:

java -version

如果未安装Java,可以通过以下命令安装OpenJDK:

sudo yum install java-1.8.0-openjdk -y

安装完成后,再次检查Java版本以确认安装成功。

2. 下载和解压Kafka ?

2.1 进入安装目录

打开终端,使用以下命令进入您希望安装Kafka的目录,例如 /opt

cd /opt

2.2 下载Kafka二进制包

使用 curl命令下载Kafka的二进制压缩包。请将 <kafka-version>和 <scala-version>替换为您需要的版本号,例如 2.13-3.4.0

sudo curl -LO https://downloads.apache.org/kafka/<kafka-version>/kafka_<scala-version>-<kafka-version>.tgz

例如:

sudo curl -LO https://downloads.apache.org/kafka/3.4.0/kafka_2.13-3.4.0.tgz

2.3 解压缩下载的文件

下载完成后,解压缩文件:

sudo tar -xvf kafka_2.13-3.4.0.tgz

2.4 进入Kafka目录

解压完成后,进入Kafka目录:

cd kafka_2.13-3.4.0

3. 配置Zookeeper ?

Kafka依赖于Zookeeper来管理集群的元数据。

3.1 备份并编辑Zookeeper配置

首先备份默认的Zookeeper配置文件,然后进行编辑:

sudo cp config/zookeeper.properties config/zookeeper.properties.bak
sudo nano config/zookeeper.properties

3.2 修改配置参数

在配置文件中,根据需求修改以下参数:

dataDir=/var/lib/zookeeper        # Zookeeper数据存储目录
clientPort=2181                   # Zookeeper客户端连接端口

注意:确保 dataDir目录存在并具有适当的权限。如果目录不存在,可以创建:

sudo mkdir -p /var/lib/zookeeper
sudo chown -R $(whoami) /var/lib/zookeeper

4. 配置Kafka ?️

4.1 备份并编辑Kafka配置文件

同样,备份默认的Kafka配置文件,并进行编辑:

sudo cp config/server.properties config/server.properties.bak
sudo nano config/server.properties

4.2 修改关键配置参数

在配置文件中,根据需求修改以下参数:

broker.id=0                                # Kafka节点ID,集群中每个节点必须唯一
listeners=PLAINTEXT://:9092                # 监听地址和端口
log.dirs=/var/lib/kafka-logs               # Kafka日志存储目录
zookeeper.connect=localhost:2181            # Zookeeper连接地址

建议:将 log.dirs设置为一个持久化存储路径,以防止数据丢失。

5. 启动Zookeeper ?‍♂️

5.1 启动Zookeeper服务器

Kafka目录下,运行以下命令启动Zookeeper

bin/zookeeper-server-start.sh config/zookeeper.properties

启动后,您会看到Zookeeper的启动日志,确认没有错误信息。

6. 启动Kafka节点 ?

6.1 启动Kafka服务器

打开另一个终端窗口,进入Kafka目录,运行以下命令启动Kafka节点:

bin/kafka-server-start.sh config/server.properties

启动后,您将看到Kafka的启动日志,确保服务正常运行。

7. 创建主题 ?

7.1 创建新的主题

Kafka目录下,使用以下命令创建一个新的主题。请将 <topic-name>替换为您希望创建的主题名称,例如 test-topic

bin/kafka-topics.sh --create --topic <topic-name> --bootstrap-server localhost:9092 --partitions 1 --replication-factor 1

例如:

bin/kafka-topics.sh --create --topic test-topic --bootstrap-server localhost:9092 --partitions 1 --replication-factor 1

7.2 验证主题创建

使用以下命令列出所有主题,确认新主题已创建:

bin/kafka-topics.sh --list --bootstrap-server localhost:9092

8. 发布和订阅消息 ?

8.1 发布消息到主题

Kafka目录下,运行以下命令启动生产者,并发布消息到指定主题:

bin/kafka-console-producer.sh --topic <topic-name> --bootstrap-server localhost:9092

输入消息后按 Enter键发送。例如:

Hello Kafka!

8.2 订阅主题的消息

標簽:
  • centos7
  • Kafka
© 蓝易云.