RocketMQ是由阿里捐赠给Apache的一款低延迟、高并发、高可用、高可靠的分布式消息中间件。经历了淘宝双十一的洗礼。RocketMQ既可为分布式应用系统提供异步解耦和削峰填谷的能力,同时也具备互联网应用所需的海量消息堆积、高吞吐、可靠重试等特性。
本文主要介绍的是 RocketMQ的安装与简单的使用测试 。
安装
1、系统要求
位操作系统,推荐 Linux/Unix/macOS
64位 JDK 1.8+
2、下载安装
RocketMQ 的安装包分为两种,二进制包和源码包。二进制包是已经编译完成后可以直接运行的,源码包是需要编译后运行的。
这里以在Linux环境下利用社区5.1.3的源码包为例,介绍RocketMQ安装过程。
点击下载
解压5.1.3的源码包并编译构建二进制可执行文件
$ unzip rocketmq-all-5.1.3-source-release.zip
$ cd rocketmq-all-5.1.3-source-release/
$ mvn -Prelease-all -DskipTests -Dspotbugs.skip=true clean install -U
$ cd distribution/target/rocketmq-5.1.3/rocketmq-5.1.3
3、 启动NameServer
安装完RocketMQ包后,我们启动NameServer
cd 进入 rocketmq-all-5.1.2-source-release --> distribution --> target --> rocketmq-5.1.2 --> rocketmq-5.1.2 文件夹目录,执行以下命令 :
### 启动namesrv
$ nohup sh bin/mqnamesrv &
### 验证namesrv是否启动成功
$ tail -f ~/logs/rocketmqlogs/namesrv.log
The Name Server boot success...
4、启动Broker+Proxy
NameServer成功启动后,我们启动Broker和Proxy,5.x 版本下我们建议使用 Local 模式部署,即 Broker 和 Proxy 同进程部署。5.x 版本也支持 Broker 和 Proxy 分离部署以实现更灵活的集群能力。详情参考部署教程。
与启动NameServer 同级目录下,执行以下命令:
### 先启动broker
$ nohup sh bin/mqbroker -n localhost:9876 --enable-proxy &
### 验证broker是否启动成功, 比如, broker的ip是192.168.1.2 然后名字是broker-a
$ tail -f ~/logs/rocketmqlogs/proxy.log
The broker[broker-a,192.169.1.2:10911] boot success...
也可在此文件夹下可执行 jps 命令查看服务启动情况:
zhanghua@Breeze rocketmq-5.1.2 % jps
1284 ProxyStartup
1254 NamesrvStartup
zhanghua@Breeze rocketmq-5.1.2 %
说明服务已经启动成功 。
至此,一个单节点副本的 RocketMQ 集群已经部署起来了,我们可以利用脚本进行简单的消息收发。
工具测试消息收发
在进行工具测试消息收发之前,我们需要告诉客户端NameServer的地址,RocketMQ有多种方式在客户端中设置NameServer地址,这里我们利用环境变量NAMESRV_ADDR
1、 添加 NAMESRV_ADDR 环境变量 (macOS系统为例)
打开终端执行一下命令:
vim ~/.bash_profile
按 i 进入文件编辑模式
export NAMESRV_ADDR=localhost:9876 (添加 NAMESRV_ADDR 环境变量)
esc 退出文件编辑模式
wq! 保存文件并退出
执行编辑生效命令:
source ~/.profile
2、工具测试收发消息
1)、执行以下命令:
zhanghua@Breeze rocketmq-5.1.2 % sh bin/tools.sh org.apache.rocketmq.example.quickstart.Producer
执行结果:
zhanghua@Breeze rocketmq-5.1.2 % sh bin/tools.sh org.apache.rocketmq.example.quickstart.Producer
************
SendResult [sendStatus=SEND_OK, msgId=C0A81F5108D03D494FBF0C4818E40033, offsetMsgId=C0A81F5100002A9F00000000004A6EFD, messageQueue=MessageQueue [topic=TopicTest, brokerName=broker-a, queueId=0], queueOffset=5037]
SendResult [sendStatus=SEND_OK, msgId=C0A81F5108D03D494FBF0C4818E50034, offsetMsgId=C0A81F5100002A9F00000000004A6FED, messageQueue=MessageQueue [topic=TopicTest, brokerName=broker-a, queueId=1], queueOffset=5036]
SendResult [sendStatus=SEND_OK,
************
zhanghua@Breeze rocketmq-5.1.2 %
消息发送成功后退出!
2)、执行以下命令:
zhanghua@Breeze rocketmq-5.1.2 % sh bin/tools.sh org.apache.rocketmq.example.quickstart.Consumer
执行结果:
zhanghua@Breeze rocketmq-5.1.2 % sh bin/tools.sh org.apache.rocketmq.example.quickstart.Consumer
************
ConsumeMessageThread_please_rename_unique_group_name_4_19 Receive New Messages: [MessageExt [brokerName=broker-a, ***** ***** Message{topic='TopicTest', flag=0, properties={CONSUME_START_TIME=1688347339937, MSG_REGION=DefaultRegion, UNIQ_KEY=C0A81F5108D03D494FBF0C481CB703E5, CLUSTER=DefaultCluster, MIN_OFFSET=0, ***** ***** body=[72, 101, 108, 108, 111, 32, 82, 111, 99, 107, 101, 116, 77, 81, 32, 57, 57, 55], transactionId='null'}]]
ConsumeMessageThread_please_rename_unique_group_name_4_17 Receive New Messages: [MessageExt [brokerName=broker-a, ***** ***** Message{topic='TopicTest', flag=0, properties={CONSUME_START_TIME=1688347339937, MSG_REGION=DefaultRegion, UNIQ_KEY=C0A81F5108D03D494FBF0C481CB203DD, CLUSTER=DefaultCluster, MIN_OFFSET=0, ***** ***** body=[72, 101, 108, 108, 111, 32, 82, 111, 99, 107, 101, 116, 77, 81, 32, 57, 56, 57], transactionId='null'}]]
************
Consumer Started.
消息消费成功后继续等待,接受下一次消息并消费!
SDK测试消息收发
工具测试完成后,我们可以尝试使用 SDK 收发消息。这里以 Java SDK 为例介绍一下消息收发过程,可以从 rocketmq-clients 中参阅更多细节。
1、在IDEA中创建一个Java工程。
2、在 pom.xml 文件中添加以下依赖引入Java依赖库,将 rocketmq-client-java-version
替换成 最新的版本.
<dependency>
<groupId>org.apache.rocketmq</groupId>
<artifactId>rocketmq-client-java</artifactId>
<version>${rocketmq-client-java-version}</version>
</dependency>
3、通过mqadmin创建 Topic。
$ sh bin/mqadmin updatetopic -n localhost:9876 -t TestTopic -c DefaultCluster
执行结果:
zhanghua@Breeze rocketmq-5.1.2 % sh bin/mqadmin updatetopic -n localhost:9876 -t TestTopic -c DefaultCluster
create topic to 192.168.31.81:10911 success.
TopicConfig [topicName=TestTopic, readQueueNums=8, writeQueueNums=8, perm=RW-, topicFilterType=SINGLE_TAG, topicSysFlag=0, order=false, attributes={}]
zhanghua@Breeze rocketmq-5.1.2 %
4、在已创建的Java工程中,创建发送普通消息程序并运行,示例代码如下:
import lombok.extern.slf4j.Slf4j;
import org.apache.rocketmq.client.apis.ClientConfiguration;
import org.apache.rocketmq.client.apis.ClientConfigurationBuilder;
import org.apache.rocketmq.client.apis.ClientException;
import org.apache.rocketmq.client.apis.ClientServiceProvider;
import org.apache.rocketmq.client.apis.message.Message;
import org.apache.rocketmq.client.apis.producer.Producer;
import org.apache.rocketmq.client.apis.producer.SendReceipt;
import org.apache.rocketmq.shaded.org.slf4j.Logger;
import org.apache.rocketmq.shaded.org.slf4j.LoggerFactory;
/**
* @Author: zhanghua
* @Date: 2023/6/30
* @Version 1.0
*/
@Slf4j
public class ProducerExample {
private static final Logger logger = LoggerFactory.getLogger(ProducerExample.class);
public static void main(String[] args) throws ClientException {
// 接入点地址,需要设置成Proxy的地址和端口列表,一般是xxx:8081;xxx:8081。
String endpoint = "localhost:8080";
// 消息发送的目标Topic名称,需要提前创建。
String topic = "TestTopic";
ClientServiceProvider provider = ClientServiceProvider.loadService();
ClientConfigurationBuilder builder = ClientConfiguration.newBuilder().setEndpoints(endpoint);
ClientConfiguration configuration = builder.build();
// 初始化Producer时需要设置通信配置以及预绑定的Topic。
Producer producer = provider.newProducerBuilder()
.setTopics(topic)
.setClientConfiguration(configuration)
.build();
// 普通消息发送。
Message message = provider.newMessageBuilder()
.setTopic(topic)
// 设置消息索引键,可根据关键字精确查找某条消息。
.setKeys("messageKey")
// 设置消息Tag,用于消费端根据指定Tag过滤消息。
.setTag("messageTag")
// 消息体。
.setBody("messageBody".getBytes())
.build();
try {
// 发送消息,需要关注发送结果,并捕获失败等异常。
SendReceipt sendReceipt = producer.send(message);
log.info("Send message successfully, messageId={}", sendReceipt.getMessageId());
} catch (ClientException e) {
log.error("Failed to send message", e);
}
// producer.close();
}
}
启动执行程序:
结果
Connected to the target VM, address: '127.0.0.1:59576', transport: 'socket'
09:41:38.707 [main] INFO org.example.ProducerExample - Send message successfully, messageId=01EECD4D9B9BC30AA804B3C15200000000
5、在已创建的Java工程中,创建订阅普通消息程序并运行。Apache RocketMQ 支持SimpleConsumer和PushConsumer两种消费者类型,您可以选择以下任意一种方式订阅消息。
import lombok.extern.slf4j.Slf4j;
import org.apache.rocketmq.client.apis.ClientConfiguration;
import org.apache.rocketmq.client.apis.ClientException;
import org.apache.rocketmq.client.apis.ClientServiceProvider;
import org.apache.rocketmq.client.apis.consumer.ConsumeResult;
import org.apache.rocketmq.client.apis.consumer.FilterExpression;
import org.apache.rocketmq.client.apis.consumer.FilterExpressionType;
import org.apache.rocketmq.client.apis.consumer.PushConsumer;
import org.apache.rocketmq.shaded.org.slf4j.Logger;
import org.apache.rocketmq.shaded.org.slf4j.LoggerFactory;
import java.io.IOException;
import java.util.Collections;
/**
* @Author: zhanghua
* @Date: 2023/6/30
* @Version 1.0
*/
@Slf4j
public class PushConsumerExample {
private static final Logger logger = LoggerFactory.getLogger(PushConsumerExample.class);
private PushConsumerExample() {
}
public static void main(String[] args) throws ClientException, IOException, InterruptedException {
final ClientServiceProvider provider = ClientServiceProvider.loadService();
// 接入点地址,需要设置成Proxy的地址和端口列表,一般是xxx:8081;xxx:8081。
String endpoints = "localhost:8080";
ClientConfiguration clientConfiguration = ClientConfiguration.newBuilder()
.setEndpoints(endpoints)
.build();
// 订阅消息的过滤规则,表示订阅所有Tag的消息。
String tag = "*";
FilterExpression filterExpression = new FilterExpression(tag, FilterExpressionType.TAG);
// 为消费者指定所属的消费者分组,Group需要提前创建。
String consumerGroup = "MessageQueue";
// 指定需要订阅哪个目标Topic,Topic需要提前创建。
String topic = "TestTopic";
// 初始化PushConsumer,需要绑定消费者分组ConsumerGroup、通信参数以及订阅关系。
PushConsumer pushConsumer = provider.newPushConsumerBuilder()
.setClientConfiguration(clientConfiguration)
// 设置消费者分组。
.setConsumerGroup(consumerGroup)
// 设置预绑定的订阅关系。
.setSubscriptionExpressions(Collections.singletonMap(topic, filterExpression))
// 设置消费监听器。
.setMessageListener(messageView -> {
log.info(" ==== == PushConsumer == ==== 消费到了");
// 处理消息并返回消费结果。
log.info("消费到的消息 messageId={}", messageView.getMessageId());
log.info("消费到的消息内容 ---- {}", messageView);
return ConsumeResult.SUCCESS;
})
.build();
Thread.sleep(Long.MAX_VALUE);
// 如果不需要再使用 PushConsumer,可关闭该实例。
// pushConsumer.close();
}
}
启动执行程序(消费消息):
结果
Connected to the target VM, address: '127.0.0.1:50931', transport: 'socket'
08:43:43.208 [RocketmqMessageConsumption-0-17] INFO org.example.PushConsumerExample - ==== == PushConsumer == ==== 消费到了
08:43:43.211 [RocketmqMessageConsumption-0-17] INFO org.example.PushConsumerExample - 消费到的消息 messageId=01EECD4D9B9BC3062104B3B38100000000
08:43:43.212 [RocketmqMessageConsumption-0-17] INFO org.example.PushConsumerExample - 消费到的消息内容 ---- MessageViewImpl{messageId=01EECD4D9B9BC3062104B3B38100000000, topic=TestTopic, bornHost=Breeze, bornTimestamp=1688344961960, endpoints=ipv4:192.168.31.81:8081, deliveryAttempt=1, tag=messageTag, keys=[messageKey], messageGroup=null, deliveryTimestamp=null, properties={}}
Disconnected from the target VM, address: '127.0.0.1:50931', transport: 'socket'
Process finished with exit code 137 (interrupted by signal 9: SIGKILL)
关闭服务器
zhanghua@Breeze rocketmq-5.1.2 % sh bin/mqshutdown broker
zhanghua@Breeze rocketmq-5.1.2 % sh bin/mqshutdown namesrv
遇到问题
磁盘空间不足问题:
Exception in thread "main" org.apache.rocketmq.client.exception.MQClientException: Send [3] times, still failed, cost [781]ms, Topic: bingheTopic, BrokersSent: …………
Caused by: org.apache.rocketmq.client.exception.MQBrokerException: CODE: 14 DESC: service not available now. It may be caused by one of the following reasons:
the broker's disk is full [CL: 0.93 CQ: 0.93 INDEX: -1.00], messages are put to the slave, message store has been shut down, etc.
解决方法:
进入 rocketmq-all-5.1.2-source-release -- > distribution -- > target -- > rocketmq-5.1.2 -- > rocketmq-5.1.2 -- > bin 目录下
1、vim runbroker.sh
JVM配置参数修改为
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m"
2、vim runserver.sh
JVM配置参数修改为
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn256m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"
至此RocketMQ 的安装与简单使用介绍完毕 !
系统配置文件介绍
文章持续更新中、希望对各位有所帮助、有问题可留言 大家共同学习!