RocketMq集群搭建（实战）

诺米 • 2023年7月28日 am5:00 • 中间件 • 7118 阅读

前言

本文基于最新版rocketmq 5.1.3搭建，2个服务器（准备搭建2主2从），A服务器部署A-m和B-s，B服务器部署A-s和B-m

注：若我们生产环境是3主3从，则部署逻辑是，A服务器不是A-m和B-s，B服务器部署B-m和C-s，C服务器部署C-m和A-s

1.准备环境

1.linux服务器2台(centos7)

2.jdk(本文使用的1.8(有人说使用系统自带的可能导致一些问题,未测试))

2.开始搭建

1.下载安装包并上传

从apache官网下载rocketmq二进制安装包并上传到服务器A(192.168.145.128), 地址: https://rocketmq.apache.org/download

我的安装目录：

/data/software/

2.解压后目录

/data/software/rocketmq-all-5.1.3-bin-release

3.修改配置文件

rocketmq默认给出三种建议配置模式

2m-2s-async(主从异步),----本文采用这种

2.2m-2s-sync(主从同步)

3.2m-noslave(仅master)

修改2m-2s-async下的配置文件

修改哪个都行,只需要启动时指定配置文件即可,一般符合命名约束

注意:

1、autoCreateTopicEnable=true,建议线下开启测试,线上关闭

2、同一个机器上启动多个broker时,需使用不同的broker配置文件来启动实例,
eg节点1启动一个a-m和b-s,使用broker-a.properties和broker-b-s.properties

3、listenPort默认为10911,当一个机器上启动多个broker示例时,需区分开端口

4、broker启动时,默认内存设置比较大,改成适合机器的,细节可看步骤6

5、当一个节点启动多个broker实例时,存储路径如果显示的设置,则需要指定不同的storePath路径,(不设置的话,默认不同)

3.1修改broker-a.properties主要内容为如下:

 #所属集群名字
    brokerClusterName=rocketmq-cluster
    #broker名字，名字可重复,为了管理,每个master起一个名字,他的slave同他,eg:Amaster叫broker-a,他的slave也叫broker-a
    brokerName=broker-a
    #0 表示 Master，>0 表示 Slave
    brokerId=0
    brokerIP1=192.168.145.128
    #nameServer地址，分号分割
    namesrvAddr=192.168.145.128:9876;192.168.145.129:9876
    #在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
    defaultTopicQueueNums=4
    #是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
    autoCreateTopicEnable=true
    #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
    autoCreateSubscriptionGroup=true
    #Broker 对外服务的监听端口,
    listenPort=10911
    #删除文件时间点，默认凌晨 4点
    deleteWhen=04
    #文件保留时间，默认 48 小时
    fileReservedTime=120
    #commitLog每个文件的大小默认1G
    mapedFileSizeCommitLog=1073741824
    #ConsumeQueue每个文件默认存30W条，根据业务情况调整
    mapedFileSizeConsumeQueue=300000
    #destroyMapedFileIntervalForcibly=120000
    #redeleteHangedFileInterval=120000
    #检测物理文件磁盘空间
    diskMaxUsedSpaceRatio=88
    #存储路径
    storePathRootDir=/usr/local/rocketmq/store/broker-a
    #commitLog 存储路径
    storePathCommitLog=/usr/local/rocketmq/store/broker-a/commitlog
    #消费队列存储路径存储路径
    storePathConsumeQueue=/usr/local/rocketmq/store/broker-a/consumequeue
    #消息索引存储路径
    storePathIndex=/usr/local/rocketmq/store/broker-a/index
    #checkpoint 文件存储路径
    storeCheckpoint=/usr/local/rocketmq/store/checkpoint
    #abort 文件存储路径
    abortFile=/usr/local/rocketmq/store/abort
    #限制的消息大小
    maxMessageSize=65536
    #flushCommitLogLeastPages=4
    #flushConsumeQueueLeastPages=2
    #flushCommitLogThoroughInterval=10000
    #flushConsumeQueueThoroughInterval=60000
    #Broker 的角色
    #- ASYNC_MASTER 异步复制Master
    #- SYNC_MASTER 同步双写Master
    #- SLAVE
    brokerRole=ASYNC_MASTER
    #刷盘方式
    #- ASYNC_FLUSH 异步刷盘
    #- SYNC_FLUSH 同步刷盘
    flushDiskType=ASYNC_FLUSH
    #checkTransactionMessageEnable=false
    #发消息线程池数量
    #sendMessageThreadPoolNums=128
    #拉消息线程池数量
    #pullMessageThreadPoolNums=128

3.2修改broker-b-s.properties主要内容为如下:

 #所属集群名字
    brokerClusterName=rocketmq-cluster
    #broker名字，名字可重复,为了管理,每个master起一个名字,他的slave同他,eg:Amaster叫broker-a,他的slave也叫broker-a
    brokerName=broker-b
    #0 表示 Master，>0 表示 Slave
    brokerId=1
    brokerIP1=192.168.145.128
    #nameServer地址，分号分割
    namesrvAddr=192.168.145.128:9876;192.168.145.129:9876
    #在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
    defaultTopicQueueNums=4
    #是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
    autoCreateTopicEnable=true
    #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
    autoCreateSubscriptionGroup=true
    #Broker 对外服务的监听端口,
    listenPort=10920
    #删除文件时间点，默认凌晨 4点
    deleteWhen=04
    #文件保留时间，默认 48 小时
    fileReservedTime=120
    #commitLog每个文件的大小默认1G
    mapedFileSizeCommitLog=1073741824
    #ConsumeQueue每个文件默认存30W条，根据业务情况调整
    mapedFileSizeConsumeQueue=300000
    #destroyMapedFileIntervalForcibly=120000
    #redeleteHangedFileInterval=120000
    #检测物理文件磁盘空间
    diskMaxUsedSpaceRatio=88
    #存储路径
    storePathRootDir=/usr/local/rocketmq/store/broker-b-s
    #commitLog 存储路径
    storePathCommitLog=/usr/local/rocketmq/store/broker-b-s/commitlog
    #消费队列存储路径存储路径
    storePathConsumeQueue=/usr/local/rocketmq/store/broker-b-s/consumequeue
    #消息索引存储路径
    storePathIndex=/usr/local/rocketmq/store/broker-b-s/index
    #checkpoint 文件存储路径
    storeCheckpoint=/usr/local/rocketmq/store/checkpoint
    #abort 文件存储路径
    abortFile=/usr/local/rocketmq/store/abort
    #限制的消息大小
    maxMessageSize=65536
    #flushCommitLogLeastPages=4
    #flushConsumeQueueLeastPages=2
    #flushCommitLogThoroughInterval=10000
    #flushConsumeQueueThoroughInterval=60000
    #Broker 的角色
    #- ASYNC_MASTER 异步复制Master
    #- SYNC_MASTER 同步双写Master
    #- SLAVE
    brokerRole=SLAVE
    #刷盘方式
    #- ASYNC_FLUSH 异步刷盘
    #- SYNC_FLUSH 同步刷盘
    flushDiskType=ASYNC_FLUSH
    #checkTransactionMessageEnable=false
    #发消息线程池数量
    #sendMessageThreadPoolNums=128
    #拉消息线程池数量
    #pullMessageThreadPoolNums=128

4.配置第二台机器(192.168.145.129)

本文使用的克隆虚拟机,可快速获取一个与原机器一样的机器,因为完全一样,需要更改下mac地址,如果使用静态ip,改下网关的配置即可。
配置文件broker-b.properties和broker-a-s.properties配置和上面一致，只需brokerIP1=192.168.145.129 （当前机器IP）即可

5.启动nameServer（2台服务器都执行）

5.1上述配置文件中指定了commitLog,队列,日志等的存储路径,创建该文件夹

 节点1执行:
 mkdir -p /usr/local/rocketmq/store/broker-a /usr/local/rocketmq/store/broker-a/nsumequeue /usr/local/rocketmq/store/broker-a/commitlog /usr/local/rocketmq/store/broker-a/index /usr/local/rocketmq/logs /usr/local/rocketmq/store/broker-b-s /usr/local/rocketmq/store/broker-b-s/nsumequeue /usr/local/rocketmq/store/broker-b-s/commitlog /usr/local/rocketmq/store/broker-b-s/index
 节点2执行:
 mkdir -p /usr/local/rocketmq/store/broker-a-s /usr/local/rocketmq/store/broker-a-s/nsumequeue /usr/local/rocketmq/store/broker-a-s/commitlog /usr/local/rocketmq/store/broker-a-s/index /usr/local/rocketmq/logs /usr/local/rocketmq/store/broker-b /usr/local/rocketmq/store/broker-b/nsumequeue /usr/local/rocketmq/store/broker-b/commitlog /usr/local/rocketmq/store/broker-b/index

5.2.启动服务器的nameServer

服务器rocketmq安装目录执行:
nohup sh bin/mqnamesrv > /data/software/rocketmq-all-5.1.3-bin-release/namesrv.log 2>&1 &

6.启动broker（2台服务器都执行）

启动服务器A的broker-a的master,对应的配置文件broker-a.properties
启动多个实例时,指定对应的配置文件

nohup sh bin/mqbroker -n "192.168.145.128：9876;192.168.145.129:9876;" -c /data/software/rocketmq-all-5.1.3-bin-release/conf/2m-2s-async/broker-a.properties > /data/software/rocketmq-all-5.1.3-bin-release/logs/broker-a.log 2>&1 &

nohup sh bin/mqbroker -n "192.168.145.128：9876;192.168.145.129:9876;" -c /data/software/rocketmq-all-5.1.3-bin-release/conf/2m-2s-async/broker-b-s.properties > /data/software/rocketmq-all-5.1.3-bin-release/logs/broker-b-s.log 2>&1 &

7.启动web管理界面

rocketmq提供多种管理方式,命令行和界面等,
apache提供一个开源的扩展项目: https://github.com/apache/rocketmq-externals 里面包含一个子项目rocketmq-console,配置下,打个包就可以用了

1.这是一个springboot项目,默认名称服务(rocketmq.config.namesrvAddr)为空,需改为自己的

2.使用maven打包

mvn clean package -Dmaven.test.skip=true

上传到服务器启动即可java -jar启动

nohup java -Xms256m -Xmx512m -Xmn128m -jar -Dfile.encoding=utf-8 -Dspring.config.location=application.yml rocketmq-console-ng-1.0.0.jar > mq-console.log 2>&1 &
tail -f console.log

至此搭建完毕

提示：本人搭建时，通过执行命令 sh bin/mqadmin clusterList -n 192.168.145.128 遇到集群列表只显示了本机启动的2个broker，实际应该是4个（两主两从），最后排查发现是两条服务器端口不通，解决方案是关闭防火墙，搞定！

1、所有文章未经授权禁止转载、摘编、复制或建立镜像，如有违反，追究法律责任。
2、本站文章部分来源注册用户发布或互联网收集而来，若有侵权，请邮件联系作者。
邮箱地址：wtao219@qq.com

THE END

二维码

【安全漏洞通告】EDAS客户机中Dubbo应用CVE-2020-1948安全漏洞通告及解决方案

< <上一篇

网站图片防盗链（nginx通过referers实现图片资源防盗链）

下一篇>>

搜索内容