文章目录

  • MQ介绍
    • 1、什么是MQ?为什么要用MQ?
    • 2、MQ的优缺点
    • 3、几大MQ产品特点比较
  • Rabbitmq安装
    • **实验环境**
    • **安装Erlang语言包**
    • **安装RabbitMQ:**
  • RabbitMQ集群搭建
    • 搭建方式普通集群
    • 搭建镜像集群
    • RabbitMQ基础使用

MQ介绍

这一部分理论介绍,其实在每个MQ产品中都是大致相同的,可以参见RocketMQ的部分。

1、什么是MQ?为什么要用MQ?

MQ:MessageQueue,消息队列。 队列,是一种FIFO 先进先出的数据结构。消息由生产者发送到MQ进行排队,然后按原来的顺序交由消息的消费者进行处理。QQ和微信就是典型的MQ。

MQ的作用主要有以下三个方面:

  • 异步

    例子:快递员发快递,直接到客户家效率会很低。引入菜鸟驿站后,快递员只需要把快递放到菜鸟驿站,就可以继续发其他快递去了。客户再按自己的时间安排去菜鸟驿站取快递。

    作用:异步能提高系统的响应速度、吞吐量。

  • 解耦

    例子:《Thinking in JAVA》很经典,但是都是英文,我们看不懂,所以需要编辑社,将文章翻译成其他语言,这样就可以完成英语与其他语言的交流。

    作用:

    1、服务之间进行解耦,才可以减少服务之间的影响。提高系统整体的稳定性以及可扩展性。

    2、另外,解耦后可以实现数据分发。生产者发送一个消息后,可以由一个或者多个消费者进行消费,并且消费者的增加或者减少对生产者没有影响。

  • 削峰

    例子:长江每年都会涨水,但是下游出水口的速度是基本稳定的,所以会涨水。引入三峡大坝后,可以把水储存起来,下游慢慢排水。

    作用:以稳定的系统资源应对突发的流量冲击。

2、MQ的优缺点

​ 上面MQ的所用也就是使用MQ的优点。 但是引入MQ也是有他的缺点的:

  • 系统可用性降低

系统引入的外部依赖增多,系统的稳定性就会变差。一旦MQ宕机,对业务会产生影响。这就需要考虑如何保证MQ的高可用。

  • 系统复杂度提高

引入MQ后系统的复杂度会大大提高。以前服务之间可以进行同步的服务调用,引入MQ后,会变为异步调用,数据的链路就会变得更复杂。并且还会带来其他一些问题。比如:如何保证消费不会丢失?不会被重复调用?怎么保证消息的顺序性等问题。

  • 消息一致性问题

A系统处理完业务,通过MQ发送消息给B、C系统进行后续的业务处理。如果B系统处理成功,C系统处理失败怎么办?这就需要考虑如何保证消息数据处理的一致性。

3、几大MQ产品特点比较

​ 常用的MQ产品包括Kafka、RabbitMQ和RocketMQ。我们对这三个产品做下简单的比较,重点需要理解他们的适用场景。

另外,关于这三大产品更详细的比较,可以参见《kafka vs rabbitmq vs rocketmq.pdf》

关于RabbitMQ的功能特性,可以在官网( https://www.rabbitmq.com/ )上看到,包含 Asynchronous Message(异步消息)、Developer Experience(开发体验)、Distributed Deployment(分布式部署)、Enterprise & Cloud Ready(企业云部署)、Tools & Plugins(工具和插件)、Management & Monitoring(管理和监控)六大部分。所以其中的功能是相当丰富的,而我们肯定只能关注重点的部分内容,所以还是要经常到官网上去看看的。

Rabbitmq安装

实验环境

​ 准备了三台虚拟机 192.168.232.128~130,预备搭建三台机器的集群。

​ 三台机器均预装CentOS7 操作系统。分别配置机器名 worker1,worker2,worker3。然后需要关闭防火墙(或者找到RabbitMQ的业务端口全部打开。 5672(amqp端口);15672(http Api端口);25672(集群通信端口))。

RabbitMQ版本:目前最新的是3.8.11. 但是目前3.8.11还是RC版,而3.8.10版本还是beta版本。所以选择最近的3.8.9版本。

RabbitMQ是基于Erlang语言开发,所以安装前需要安装Erlang语言环境。需要注意下的是RabbitMQ与ErLang是有版本对应关系的。3.8.9版本的RabbitMQ只支持22.x和23.x版本的Erlang。

Docker hub上也已经有官方上传的镜像

安装Erlang语言包

​ 这个语言包,在windows下的安装比较简单,是一个可执行程序,直接图形化安装就行了。而Linux上的安装稍微复杂,需要有非常多的依赖包。简单起见,可以下载rabbitmq提供的zero dependency版本。 下载地址 https://github.com/rabbitmq/erlang-rpm/releases

​ 下载完成后,可以尝试使用下面的指令安装

[root@worker2 tools]# rpm -ivh erlang-23.1.4-1.el7.x86_64.rpm
警告:erlang-23.1.4-1.el7.x86_64.rpm: 头V4 RSA/SHA1 Signature, 密钥 ID 6026dfca: NOKEY
准备中...                          ################################# [100%]
正在升级/安装...1:erlang-23.1.4-1.el7              ################################# [100%]

这样Erlang语言包就安装完成了。 安装完后可以使用 erl 指令检测下是否安装成功。

支持的erlang版本是22~23 ,21版本在这个RocketMQ版本中不再支持。

安装RabbitMQ:

​ 安装包可以到github仓库中下载发布包。下载地址: https://github.com/rabbitmq/rabbitmq-server/releases/tag/v3.8.9

​ 然后使用 rpm -Uvh 指令安装RabbitMQ的rpm包时,会报错,需要安装一个socat。

​ 而这个socat我也在网上下载到了rpm安装包。 socat-1.7.3.2-1.1.el7.x86_64.rpm ,但是安装时,却提示需要tcp_wrappers依赖。

[root@worker2 tools]# rpm -ivh socat-1.7.3.2-1.1.el7.x86_64.rpm
警告:socat-1.7.3.2-1.1.el7.x86_64.rpm: 头V4 RSA/SHA1 Signature, 密钥 ID 87e360b8: NOKEY
错误:依赖检测失败:tcp_wrappers 被 socat-1.7.3.2-1.1.el7.x86_64 需要

​ 这时,当然可以按他的提示去安装依赖包。 但是我就没有这么做了。 直接用yum安装这个socat依赖。在使用yum时,可以做一个小配置,将yum源配置成阿里的yum源,这样速度会比较快。

mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.backupcurl -o /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repoyum makecache然后安装socat
yum install socat

​ socat安装完成后,就可以安装RabbitMQ了。安装指令:rpm -Uvh rabbitmq-server-3.8.9-1.el7.noarch.rpm

​ 安装完成后,可以查看下他的安装情况

[root@worker2 share]# whereis rabbitmqctl
rabbitmqctl: /usr/sbin/rabbitmqctl /usr/share/man/man8/rabbitmqctl.8.gz
##启动RabbitMQ服务
[root@worker2 tools]# service rabbitmq-server start
Redirecting to /bin/systemctl start rabbitmq-server.service
##查看服务状态
[root@worker2 share]# service rabbitmq-server status
Redirecting to /bin/systemctl status rabbitmq-server.service
● rabbitmq-server.service - RabbitMQ brokerLoaded: loaded (/usr/lib/systemd/system/rabbitmq-server.service; disabled; vendor preset: disabled)Active: active (running) since 五 2021-01-22 14:11:48 CST; 56min agoMain PID: 2538 (beam.smp)Status: "Initialized"CGroup: /system.slice/rabbitmq-server.service├─2538 /usr/lib64/erlang/erts-11.1.3/bin/beam.smp -W w -K true -A 64 -MBas ageffcbf -MHas ageffcbf -MBlmbcs 512 -MHlmbcs 512 -MMmcs 30 -P 1048576 -t 5000000 -stbt db -zdbbl...├─2643 erl_child_setup 32768├─2691 inet_gethost 4└─2692 inet_gethost 41月 22 14:11:46 worker2 rabbitmq-server[2538]: ##########  Licensed under the MPL 2.0. Website: https://rabbitmq.com
1月 22 14:11:46 worker2 rabbitmq-server[2538]: Doc guides: https://rabbitmq.com/documentation.html
1月 22 14:11:46 worker2 rabbitmq-server[2538]: Support:    https://rabbitmq.com/contact.html
1月 22 14:11:46 worker2 rabbitmq-server[2538]: Tutorials:  https://rabbitmq.com/getstarted.html
1月 22 14:11:46 worker2 rabbitmq-server[2538]: Monitoring: https://rabbitmq.com/monitoring.html
1月 22 14:11:46 worker2 rabbitmq-server[2538]: Logs: /var/log/rabbitmq/rabbit@worker2.log
1月 22 14:11:46 worker2 rabbitmq-server[2538]: /var/log/rabbitmq/rabbit@worker2_upgrade.log
1月 22 14:11:46 worker2 rabbitmq-server[2538]: Config file(s): (none)
1月 22 14:11:48 worker2 rabbitmq-server[2538]: Starting broker... completed with 3 plugins.
1月 22 14:11:48 worker2 systemd[1]: Started RabbitMQ broker.
[root@worker2 share]#

其他常用的启停操作:

rabbitmq-server -deched --后台启动服务

rabbitmqctl start_app --启动服务

rabbitmqctl stop_app --关闭服务

这样RabbitMQ服务就启动完成了。 之后可以配置下打开他的Web管理页面:

[root@worker2 tools]# rabbitmq-plugins enable rabbitmq_management
Enabling plugins on node rabbit@worker2:
rabbitmq_management
The following plugins have been configured:rabbitmq_managementrabbitmq_management_agentrabbitmq_web_dispatch
Applying plugin configuration to rabbit@worker2...
The following plugins have been enabled:rabbitmq_managementrabbitmq_management_agentrabbitmq_web_dispatchset 3 plugins.
Offline change; changes will take effect at broker restart.

​ 可以看到,这时需要重启RabbitMQ服务才能生效。重启后,就可以访问Web控制台了。 访问端口192.168.232.129:15672。

​ 这时,可以使用默认的guest/guest用户登录。 但是注意下,默认情况下,只允许在localhost本地登录,远程访问是无法登录的。这时,可以创建一个管理员账户来登录。

[root@worker2 tools]# rabbitmqctl add_user admin admin
Adding user "admin" ...
[root@worker2 tools]# rabbitmqctl set_permissions -p / admin "." "." ".*"
Setting permissions for user "admin" in vhost "/" ...
[root@worker2 tools]# rabbitmqctl set_user_tags admin administrator
Setting tags for user "admin" to [administrator] ...

​ 这样就可以用admin/admin用户登录Web控制台了。

RabbitMQ集群搭建

在RabbitMQ中,一个节点的服务其实也是作为一个集群来处理的,在web控制台的admin-> cluster 中可以看到集群的名字,并且可以在页面上修改。而多节点的集群有两种方式

  • 默认的普通集群模式

    这种模式使用Erlang语言天生具备的集群方式搭建。这种集群模式下,集群的各个节点之间只会有相同的元数据,即队列结构,而消息不会进行冗余,只存在一个节点中。消费时,如果消费的不是存有数据的节点, RabbitMQ会临时在节点之间进行数据传输,将消息从存有数据的节点传输到消费的节点。

    很显然,这种集群模式的消息可靠性不是很高。因为如果其中有个节点服务宕机了,那这个节点上的数据就无法消费了,需要等到这个节点服务恢复后才能消费,而这时,消费者端已经消费过的消息就有可能给不了服务端正确应答,服务起来后,就会再次消费这些消息,造成这部分消息重复消费。 另外,如果消息没有做持久化,重启就消息就会丢失。

    并且,这种集群模式也不支持高可用,即当某一个节点服务挂了后,需要手动重启服务,才能保证这一部分消息能正常消费。

    所以这种集群模式只适合一些对消息安全性不是很高的场景。而在使用这种模式时,消费者应该尽量的连接上每一个节点,减少消息在集群中的传输。

  • 镜像模式

    这种模式是在普通集群模式基础上的一种增强方案,这也就是RabbitMQ的官方HA高可用方案。需要在搭建了普通集群之后再补充搭建。其本质区别在于,这种模式会在镜像节点中间主动进行消息同步,而不是在客户端拉取消息时临时同步。

    并且在集群内部有一个算法会选举产生master和slave,当一个master挂了后,也会自动选出一个来。从而给整个集群提供高可用能力。

    这种模式的消息可靠性更高,因为每个节点上都存着全量的消息。而他的弊端也是明显的,集群内部的网络带宽会被这种同步通讯大量的消耗,进而降低整个集群的性能。这种模式下,队列数量最好不要过多。

搭建方式普通集群

​ 1:需要同步集群节点中的cookie。

默认会在 /var/lib/rabbitmq/目录下生成一个.erlang.cookie。 里面有一个字符串。我们要做的就是保证集群中三个节点的这个cookie字符串一致。

​ 我们实验中将worker1和worker3加入到worker2的RabbitMQ集群中,所以将worker2的.erlang.cookie文件分发到worker1和worker3。

​ 2:将worker1的服务加入到worker2的集群中。

首先需要保证worker1上的rabbitmq服务是正常启动的。 然后执行以下指令:

[root@worker1 rabbitmq]# rabbitmqctl stop_app
Stopping rabbit application on node rabbit@worker1 ...
[root@worker1 rabbitmq]# rabbitmqctl join_cluster --ram rabbit@worker2
Clustering node rabbit@worker1 with rabbit@worker2
[root@worker1 rabbitmq]# rabbitmqctl start_app
Starting node rabbit@worker1 ...

然后同样把worer3上的rabbitmq加入到worker2的集群中。

加入完成后,可以在worker2的Web管理界面上看到集群的节点情况:

也可以用后台指令查看集群状态 rabbitmqctl cluster_status

搭建镜像集群

这样就完成了普通集群的搭建。 再此基础上,可以继续搭建镜像集群

通常在生产环境中,为了减少RabbitMQ集群之间的数据传输,在配置镜像策略时,会针对固定的虚拟主机virtual host来配置。

RabbitMQ中的vritual host可以类比为MySQL中的库,针对每个虚拟主机,可以配置不同的权限、策略等。并且不同虚拟主机之间的数据是相互隔离的。

我们首先创建一个/mirror的虚拟主机,然后再添加给对应的镜像策略:

[root@worker2 rabbitmq]# rabbitmqctl add_vhost /mirror
Adding vhost "/mirror" ...
[root@worker2 rabbitmq]# rabbitmqctl set_policy ha-all --vhost "/mirror" "^" '{"ha-mode":"all"}'
Setting policy "ha-all" for pattern "^" to "{"ha-mode":"all"}" with priority "0" for vhost "/mirror" ...

同样,这些配置的策略也可以在Web控制台操作。另外也提供了HTTP API来进行这些操作。

这些参数需要大致了解下。其中,pattern是队列的匹配规则, ^表示全部匹配。 ^ ha \ 这样的配置表示以ha开头。通常就用虚拟主机来区分就够了,这个队列匹配规则就配置成全匹配。

然后几个关键的参数:

HA mode: 可选值 all , exactly, nodes。生产上通常为了保证高可用,就配all

  • all : 队列镜像到集群中的所有节点。当新节点加入集群时,队列也会被镜像到这个节点。
  • exactly : 需要搭配一个数字类型的参数(ha-params)。队列镜像到集群中指定数量的节点。如果集群内节点数少于这个数字,则队列镜像到集群内的所有节点。如果集群内节点少于这个数,当一个包含镜像的节点停止服务后,新的镜像就不会去另外找节点进行镜像备份了。
  • nodes: 需要搭配一个字符串类型的参数。将队列镜像到指定的节点上。如果指定的队列不在集群中,不会报错。当声明队列时,如果指定的所有镜像节点都不在线,那队列会被创建在发起声明的客户端节点上。

还有其他很多参数,可以后面慢慢再了解。

通常镜像模式的集群已经足够满足大部分的生产场景了。虽然他对系统资源消耗比较高,但是在生产环境中,系统的资源都是会做预留的,所以正常的使用是没有问题的。但是在做业务集成时,还是需要注意队列数量不宜过多,并且尽量不要让RabbitMQ产生大量的消息堆积。

另外,网上还有很多利用第三方工具,例如HA-proxy来搭建高可用集群的方式。这里就不多做介绍了,有兴趣再自行了解。

RabbitMQ基础使用

RabbitMQ搭建完成后,可以在Web控制台上选择Exchange或者Queue来发送消息了,我们可以简单体验下,也可以留到下一部分编程模型时再深入体验。

这时我们可以去体验下RabbitMQ提供的管理工具,学习使用命令行工具和Http API来操作RabbitMQ。当然,对于RabbitMQ来说,这些都是非常简单的,因为几乎所有的配置都可以在Web管理界面上直观的看到。

最全RabbitMQ教程1-安装使用篇相关推荐

  1. 2021全网最全Activiti7教程04(Activiti7进阶篇-欢迎收藏)

      本篇重点给大家介绍下Activiti中的高级内容,比如流程实例,个人任务,流程变量,组任务及网关. 全网最详细Activiti系列文章,强烈建议收藏加关注哦! Activiti进阶篇 1.流程实例 ...

  2. Detectron2小白教程之安装试用篇

    这里写自定义目录标题 官方安装说明 1.安装python 2.安装opencv 3.安装nvdia显卡驱动 4.安装cuda11.7 5.安装pytorch 6.安装nijia 7.clone并安装d ...

  3. 计算机硬件 系统安装维护教程 02安装基础篇-01:启动热键、BIOS与UEFI

    文章目录 启动热键 BIOS与UEFI 启动热键 实际上来讲他可能不叫这名,但是大家都这么叫,而且我也确实不知道还有什么更合适的,如果有,我会在以后更新此文档. 首先,我们要先知道什么是启动热键,他是 ...

  4. 最全Pycharm教程(10)——Pycharm调试器总篇

    最全Pycharm教程(1)--定制外观 最全Pycharm教程(2)--代码风格 最全Pycharm教程(3)--代码的调试.执行 最全Pycharm教程(4)--有关Python解释器的相关配置 ...

  5. 【连载】物联网全栈教程-从云端到设备(十三)---安装单片机编译环境

    物联网全栈教程-从云端到设备(十三) 一 很多朋友一听说要搞硬件总觉得还要重新学习很多电路基础知识,零妖告诉你这是个错误的想法.如果在十年前你这么想那么我是非常支持你的,但是在物联网时代你需要改变一下 ...

  6. 32位mysql安装包_《MySQL 入门教程》第 02 篇 MySQL 安装

    文章来源:<MySQL 入门教程>第 02 篇 MySQL 安装 原文作者:不剪发的Tony老师 来源平台:CSDN 上一篇我们了解了什么是MySQL数据库. 本文介绍如何在 Window ...

  7. Linux环境CentOS6.9安装配置Elasticsearch6.2.2最全详细教程

    Linux环境CentOS6.9安装配置Elasticsearch6.2.2最全详细教程 前言 第一步:下载Elasticsearch6.2.2 第二步:创建应用程序目录 第四步:创建Elastics ...

  8. 【Android 教程系列第 31 篇】通过 adb install 命令安装 apk 时提示 signatures do not match previously installed version

    这是[Android 教程系列第 31 篇],如果觉得有用的话,欢迎关注专栏. 遇到的一个小问题,做下记录. 一:问题描述 在使用 adb install 命令安装 apk 时,提示的内容如下 主要提 ...

  9. Lattice ddr3教程全攻略之时序约束篇

    Lattice ddr3教程全攻略之时序约束篇 在看这篇教程之前,建议先看看我的<Lattice ddr3教程全攻略之仿真篇>,假定你自己的工程仿真好了,自己的代码综合编译通过,但是呢,在 ...

最新文章

  1. POJ 1470 Closest Common Ancestors (最近公共祖先LCA 的离线算法Tarjan)
  2. Eclipse Collections随Java版本的演变
  3. 爆款专栏《Python 黑科技》目录导航丨进度:12/50
  4. 避免下载Word/Excel文件时被IE开启
  5. 只保留日期_全历手表与年历腕表都能看日期,为何唯独万年历腕表价格不菲?...
  6. 使用Python批量提取并保存docx文档中的图片
  7. MongoDB 通过 Java 代码 批量操作
  8. 网站自动适配技术实现原理
  9. Android App应用市场功能的框架图
  10. raw格式转换成qcow2格式
  11. 饭饭科普46 — 为什么出现区块链
  12. 理性分析:那些吃蝙蝠的人,根本动机是什么?
  13. 微信小程序如何实现登录注册带源码
  14. STM32高级开发(15)-使用eclipse开发STM32
  15. 倍福端子用直径2.4mm的螺丝刀
  16. python123判断火车票座位_[python篇]自己动手实现火车票中转查询
  17. 2022年度技术总结
  18. Cesium常用知识及学习
  19. Java面试题全集(C)
  20. 江苏区块链产业发展试点公示 点燃苏州数字经济新引擎

热门文章

  1. 【开源电机驱动】电流数据处理与分析
  2. 温度传感器如何成为漏水监测报警系统的
  3. 玩转项目变更之变更申请
  4. 6.10数藏汇总|国家队入场数字藏品,成为风向标?
  5. 仿饿了么加入购物车旋转控件
  6. 地铁供电系统原理图_策划|5分钟读懂地铁运行原理
  7. XEP-0199: XMPP Ping
  8. 网页快照(图片)工具分享
  9. 基于php的二手车交易网站
  10. 品牌如何借势奥运进行微博营销