在双11大促中的数据库服务器
首先我先说我所在的这家公司,他并不是像淘宝京东那样的,一线的综合性电商公司,但是他也是一家龙头企业,我们先来看这家公司的数据库架构是什么样的,说起来这家公司的数据库架构呢,是很简单的,也是一家十分常见的数据库架构,相信跟大多数公司,使用数据库架构是十分相似的,这家公司的所有的数据库呢,全都集中在一台服务器上,而这种服务器呢,是由15个从所组成的架构,当初这个架构呢,这里的从服务器可能没有画这么多,但是也只是表示他很多的意思,现在看到的架构呢并不是现在的架构了,就是双十一之前的架构,后来经过DBA和开发员的努力呢,给他进行了一些修改,具体怎么修改我们下面回来谈的,但是我们先看这个架构会有什么样的问题,首先在这个主服务器和主从的一个集群中,就存在一个master服务器,也就是只有一个主数据库服务器,没有任何高可用的主从复制文件,也就是一旦主服务器一旦出现了故障
很难自动进行故障切换,我们必须由DBA手动的,从众多的从服务器中选择一台数据最多的从服务器,手动的把它提升为主服务器,并且对其他的从服务器呢,再进行同步
然而这个操作过程是相当耗时的,我们的从服务器比较多,所以完成一次切换可能要耗费半个小时左右的时间,而且这个从服务器,在这么大的业务量的时候
在这种业务量大的时候呢,对主服务器的容量也是一个比较大的挑战,而这个网卡的容量呢,也的确在今后引起一定的故障
那么大家了解这个架构之后呢,我们就可以看看在双十一大促的时候,我们对数据库集群的一个监控信息,通过监控信息,我们就可以了解到,具体是什么因素影响了我们数据库服务器的性能,首先我们来看这个监控图
显示了在大促时期的服务器QPS和TPS的数量,大家要注意的是,我这个监控图呢,只显示了一台主服务器上的监控数据,这个主服务器的性能还相当不错的,当时还是比较好的服务器硬件了,大概是64核CPU,512G的内存,所以QPS和TPS的数量还是相当不错的,大家可以看到,最高峰时QPS数呢,也就是每秒的查询数量呢,也超过了35万次,而每秒的TPS数呢,最高峰也超过了5万次,将近10万次的样子,相信在大多数的应用环境当中,是比较高的吞吐量了,之所以能有这么高的吞吐量呢
是因为我们之前对这个服务器做了大量的优化,起码来说SQL性能是相当好的,所以QPS和TPS才可能达到这么高,除了QPS和TPS之外呢,我们在看看下面一些监控图,这个监控图是对并发数量和CPU数量使用率来进行的一些监控
并发量是指数据库在同一时间处理的请求的数量,这个指标常常会和连接数想混淆,同时可以有上千或者几千个连接,但是这里只有一小部分是在处理的,通常大量连接是处理sleep状态
从上面的这张图不难看出,这台数据库的并发请求呢,最大已经操作700,同时CPU也达到了百分百的程度,这里要说的idle这个指标,这个指标是指的空闲的百分比,这个值超高就是使用CPU的空闲率越高,比如说这个值如果达到90%,就是空闲达到90%,而不是繁忙度达到百分之九十,这个大家一定要注意
接下来咱们来看看磁盘IO的数据,这张图就是当时的读写,大家看到这个磁盘读写是相当高的,这里还要说明的一点就是,当时这个服务器上的磁盘呢,使用的是fashion IO的设备,所以他的吞吐量要比普通的磁盘要大很多
从上面这张图不难看出,就是这么高的QPS和TPS,磁盘的IO能力还是很不错的,但是从上面这张图中呢,我们也可以清楚地看到,磁盘的读有很高的峰值,发生在凌晨2点半左右的时间,这是什么原因呢,这个双十一当时给我们带来了很大的恐慌,因为这可能意味着服务器性能的急剧的下降,则造成大量的阻塞
在当时呢我们对服务器及时的进行了检查,发现这个峰值是由于一个数据库备份的远程同步计划任务所造成的,所以这就给了我们一个教训,最好不要在主库上进行数据库备份,或者在大型活动之前呢,先停止严重对性能的影响的任务在双11大促中的数据库服务器相关推荐
- 唯品会2017年双11大促技术保障实践，全域提供25万QPS服务能力
作者简介: 刘惊惊,唯品会业务架构部高级架构师,负责唯品会电商平台的用户系统,营销系统和库存系统的架构设计工作.2016年加入唯品会,参与了唯品会电商系统的大重构,负责多个核心系统的梳理和大促准备. ...
- 京东双 11 大促价疑遭提前泄露；库克：iPhone 11 中国定价策略成功；GitLab 重大安全版本更新 | 极客头条...
整理 | 屠敏 快来收听极客头条音频版吧,智能播报由标贝科技提供技术支持. 「CSDN 极客头条」,是从 CSDN 网站延伸至官方微信公众号的特别栏目,专注于一天业界事报道.风里雨里,我们将每天为朋友 ...
- 蚂蚁金服双 11 大促全面揭秘：百万支付、容器化和平台智能化
你们都很关心的 "OB双11大促实战分享" 专题来啦!本文将为你系统性地介绍OceanBase支撑蚂蚁双11背后的技术原理和实战分享. 从平台到架构,再到实现,一起来探索蚂蚁双11 ...
- 《程序员》：唯品会双11大促技术保障实践
作者简介: 刘惊惊,唯品会业务架构部高级架构师,负责唯品会电商平台的用户系统,营销系统和库存系统的架构设计工作.2016年加入唯品会,参与了唯品会电商系统的大重构,负责多个核心系统的梳理和大促准备. ...
- 蚂蚁金服天街：蚂蚁双11大促OceanBase核心技术全解析
演讲嘉宾简介:田启杰(花名:天街) 现任蚂蚁金服高级技术专家,2012年加入OceanBase 团队,曾五次作为OceanBase负责人承担双11大促保障工作,致力于OceanBase 提供高可用/高 ...
- 唯品会双11大促技术保障实践
作者简介: 刘惊惊,唯品会业务架构部高级架构师,负责唯品会电商平台的用户系统,营销系统和库存系统的架构设计工作.2016年加入唯品会,参与了唯品会电商系统的大重构,负责多个核心系统的梳理和大促准备. ...
- Lazada双11大促玩法规则解读，2022备战清单来袭！
双11大促商家自检清单 01.营销工具 (1)代金券 Voucher [11.03-11.10发放]发送大促优惠券,大额优惠券冲击力更强 [分析]当领取率超过80%,及时增加库存数量;当领取率低于20 ...
- 阿里云 MSE 云原生网关助力斯凯奇轻松应对双 11 大促
客户简介 斯凯奇(SKECHERS)1992 年诞生于美国加州,如今已遍布全球 170 多个国家地区.在美国是仅次于耐克的第二大鞋类品牌.2020 年 11 月斯凯奇宣布与阿里云达成合作,加速数字化升 ...
- 转转集团二手双11大促：长沙用户“秒杀”99新iPhone12成首单
11月11日消息,昨晚八点后,双11迎来高潮时刻.转转集团数据显示,11月10日晚8时该集团二手双11盛典大促开始后,卖出的首单商品为一部99新iPhone12,由长沙用户一秒下单从转转卖场入手. 据 ...
最新文章
- Hyper-V 2016 系列教程25 配置NFS 存储服务器
- 算法---------路径总和
- HDU 4406 最大费用最大流
- 彻底解决IAR中Go to definition of不可用
- Elasticsearch 冷热集群架构实战
- 批量插入数据到mysql_批量插入数据到 MySQL的几种方式
- TensorFlow入门--实现多层感知机
- 苹果再遭炮轰；ofo 收购哈罗？华为推可折叠 5G 手机 | 极客头条
- HTML中IE版本条件注释整理
- 康托展开逆展开算法笔记
- C++ set自定义排序
- ipa包安装到苹果手机中的几种方式——Qt for IOS
- Redis发布订阅[西橙先生]
- windows客户端开发--如何测量一个字符串显示的物理长度
- 线性表：链表的基本操作
- 柳絮会携带新冠病毒？这些新冠谣言别信！
- HDMI光纤延长器 HDMI高清视频光端机 8路HDMI光端机
- 怎样搭建企业内部知识库
- 雪亮工程系列之——数据存储
- github优秀项目分享：基于yolov3的轻量级人脸检测、增值税发票OCR识别 等8大项目...