近好不容易抽空研究了下Cobar,感觉这个产品确实很不错(在文档方面比Amoeba强多了),特此推荐给大家。Cobar是阿里巴巴研发的关系型数据 的分布式处理系统,该产品成功替代了原先基于Oracle的数据存储方案,目前已经接管了3000+个MySQL数据库的schema,平均每天处理近 50亿次的SQL执行请求。

首先,使用Cobar的核心功能如下:

分布式:

Cobar的分布式主要是通过将表放入不同的库来实现:

1. Cobar支持将一张表水平拆分成多份分别放入不同的库来实现表的水平拆分

2. Cobar也支持将不同的表放入不同的库

3. 多数情况下,用户会将以上两种方式混合使用

这里需要强调的是,Cobar不支持将一张表,例如test表拆分成test_1, test_2, test_3.....放在同一个库中,必须将拆分后的表分别放入不同的库来实现分布式。

HA:

在用户配置了MySQL心跳的情况下,Cobar可以自动向后端连接的MySQL发送心跳,判断MySQL运行状况,一旦运行出现异常,Cobar可以自动切换到备机工作。但需要强调的是:

1.

Cobar的主备切换有两种触发方式,一种是用户手动触发,一种是Cobar的心跳语句检测到异常后自动触发。那么,当心跳检测到主机异常,切换到备机,

如果主机恢复了,需要用户手动切回主机工作,Cobar不会在主机恢复时自动切换回主机,除非备机的心跳也返回异常。

2. Cobar只检查MySQL主备异常,不关心主备之间的数据同步,因此用户需要在使用Cobar之前在MySQL主备上配置双向同步,详情可以参阅MySQL参考手册。

其次,我们也需要注意Cobar的功能约束:

1) 不支持跨库情况下的join、分页、排序、子查询操作。

2) SET语句执行会被忽略,事务和字符集设置除外。

3) 分库情况下,insert语句必须包含拆分字段列名。

4) 分库情况下,update语句不能更新拆分字段的值。

5) 不支持SAVEPOINT操作。

6) 暂时只支持MySQL数据节点。

7) 使用JDBC时,不支持rewriteBatchedStatements=true参数设置(默认为false)。

8) 使用JDBC时,不支持useServerPrepStmts=true参数设置(默认为false)。

9) 使用JDBC时,BLOB, BINARY, VARBINARY字段不能使用setBlob()或setBinaryStream()方法设置参数。

然后,我们来分析一下Cobar逻辑层次图:

* dataSource:数据源,表示一个具体的数据库连接,与物理存在的数据库schema一一对应。

* dataNode:数据节点,由主、备数据源,数据源的HA以及连接池共同组成,可以将一个dataNode理解为一个分库。

* table:表,包括拆分表(如tb1,tb2)和非拆分表。

* tableRule:路由规则,用于判断SQL语句被路由到具体哪些datanode执行。

* schema:cobar可以定义包含拆分表的schema(如schema1),也可以定义无拆分表的schema(如schema2)。

Cobar支持的数据库结构(schema)的层次关系具有较强的灵活性,用户可以将表自由放置不同的datanode,也可将不同的

datasource放置在同一MySQL实例上。在实际应用中,我们需要通过配置文件(schema.xml)来定义我们需要的数据库服务器和表的分布

策略,这点我们将在后面的安装和配置部分中介绍到。

接着,我们来介绍Cobar的安装和配置步骤:下面我们将使用一个最简单的分库分表的例子来说明Cobar的基本用法,数据库schema如下图(该实例也可参考:Cobar产品首页)。

1) 系统对外提供的数据库名是dbtest,并且其中有两张表tb1和tb2。

2) tb1表的数据被映射到物理数据库dbtest1的tb1上。

3) tb2表的一部分数据被映射到物理数据库dbtest2的tb2上,另外一部分数据被映射到物理数据库dbtest3的tb2上。

1、环境准备

操作系统:Linux或者Windows (推荐在Linux环境下运行Cobar)

MySQL:http://www.mysql.com/downloads/ (推荐使用5.1以上版本)

JDK:http://www.oracle.com/technetwork/java/javase/downloads/ (推荐使用1.6以上版本)

Cobar:http://code.alibabatech.com/wiki/display/cobar/release/ (下载tar.gz或者zip文件)

2、数据准备

假设本文MySQL所在服务器IP为192.168.0.1,端口为3306,用户名为test,密码为空,我们需要创建schema:dbtest1、dbtest2、dbtest3,table:tb1、tb2,SQL如下:

#创建dbtest1

drop database if exists dbtest1;

create database dbtest1;

use dbtest1;

#在dbtest1上创建tb1

create table tb1(

id    int not null,

gmt   datetime);

#创建dbtest2

drop database if exists dbtest2;

create database dbtest2;

use dbtest2;

#在dbtest2上创建tb2

create table tb2(

id    int not null,

val   varchar(256));

#创建dbtest3

drop database if exists dbtest3;

create database dbtest3;

use dbtest3;

#在dbtest3上创建tb2

create table tb2(

id    int not null,

val   varchar(256));

3、配置Cobar

Cobar解压之后有四个目录:

bin/:可执行文件目录,包含启动(start)、关闭(shutdown)和重启(restart)脚本

lib/:逻辑类库目录,包含了Cobar所需的jar包

conf/:配置文件目录,下面会详细介绍

logs/:运行日志目录,最主要的log有两个:程序日志(stdout.log)和控制台输出(console.log)

配置文件的用法如下:

log4j.xml:日志配置,一般来说保持默认即可

schema.xml:定义了schema逻辑层次图中的所有元素,并利用这些元素以及rule.xml中定义的规则组建分布式数据库系统

rule.xml:定义了分库分表的规则

server.xml:系统配置文件

我们在schema.xml中配置数据库结构(schema)、数据节点(dataNode)、以及数据源(dataSource)。

cobar:schema SYSTEM "schema.dtd">

dsTest[0]

dsTest[1]

dsTest[2]

192.168.0.1:3306/dbtest1

192.168.0.1:3306/dbtest2

192.168.0.1:3306/dbtest3

test

test

STRICT_TRANS_TABLES

我们注意到,上述配置实际上已经把图2中的数据库结构配置好了。dbtest主要映射的是dnTest1库(即

192.168.0.1:3306/dbtest1库),而其中的tb2表则是按照规则rule1,被分配到dnTest2库(即

192.168.0.1:3306/dbtest2库)和dnTest3库(即192.168.0.1:3306/dbtest3库)中。此外,规则

rule1的定义可以在rule.xml中找到,代码如下:

cobar:rule SYSTEM "rule.dtd">

id

2

512

结合schema.xml中的内容,我们可以看出分表的规则是,按照id字段把tb2表中的数据分配到dnTest2和dnTest3两个分区中,其中

id小于512的数据会被放到dnTest2库的分区中,而其余的会被放到dnTest3库的分区中,更多路由算法可以参考《路由文档》。最后,我们来看一下server.xml的配置,代码如下。

cobar:server SYSTEM "server.dtd">

passwd

dbtest

这里的server.xml配置比较简单,只配置了本地Cobar服务的数据库结构、用户名和密码。在启动Cobar服务之后,使用用户名root和密码passwd就可以登录Cobar服务。

4、运行Cobar

启动Cobar服务很简单,运用bin目录下的start.sh即可(停止使用shutdown.sh)。启动成功之后,可以在logs目录下的stdout.log中看到如下日志:

10:54:19,264 INFO  ===============================================

10:54:19,265 INFO  Cobar is ready to startup ...

10:54:19,265 INFO  Startup processors ...

10:54:19,443 INFO  Startup connector ...

10:54:19,446 INFO  Initialize dataNodes ...

10:54:19,470 INFO  dnTest1:0 init success

10:54:19,472 INFO  dnTest3:0 init success

10:54:19,473 INFO  dnTest2:0 init success

10:54:19,481 INFO  CobarManager is started and listening on 9066

10:54:19,483 INFO  CobarServer is started and listening on 8066

10:54:19,484 INFO  ===============================================

接着,我们就可以使用“mysql -h127.0.0.1 -uroot -ppasswd -P8066

-Ddbtest”命令来登录Cobar服务了,再接下来的操作就和在其他MySQL Client中一样了。比如,我们可以使用“show

databases”命令查看数据库,使用“show tables”命令查看数据表,如下图:

接着,我们按照下图中的SQL指定向数据表插入测试记录。

可以看到,这里的tb2中包含了id为1、2、513的3条记录。而实际上,这3条记录存储在不同的物理数据库上的,大家可以到物理库上验证一下。

至于Cobar的连接和使用方法和MySQL一样,Java程序中可以使用JDBC(建议5.1以上的版本),PHP中可以使用PDO。当然,Cobar还提供HA、集群等高级的功能,更多信息请参考其《产品文档》。此外,产品文档中还为我们提供了详细的PPT文档《Cobar原理及应用.ppt》来介绍Cobar在实际生产环境中的使用方法,真可谓之用心良苦啊!

此外,特别解释一下大家可能比较关心的心跳检测问题,Cobar的心跳检测主要用在以下两个地方。

1、在配置数据节点的时候,我们需要使用心跳检测来探测数据节点的运行状况。Cobar中使用执行SQL的方式来进行探测,简单且实用。例如,我们可以把前面实例中的schema.xml中的dataNode配置成下面的样子。

... ...

dsTest[0]

256

select user()

... ...

2、当我们需要对Cobar作集群(cluster),进行负载均衡的时候,我们也需要用到心跳机制。不过此处的配置则是在server.xml中,代码如下:

... ...

192.168.0.1

1

192.168.0.2

2

192.168.0.3

3

cobar1,cobar2

cobar2,cobar3

... ...

最后,简单看一下Cobar的实现原理。首先是系统模块架构。

从上图中可以看到,Cobar的前、后端模块都实现了MySQL协议;当接受到SQL请求时,会依次进行解释(SQL Parser)和路由(SQL

Router)工作,然后使用SQL

Executor去后端模块获取数据集(后端模块还负责心跳检测功能);如果数据集来自多个数据源,Cobar则需要把数据集进行组合(Result

Merge),最后返回响应。整个过程应该比较容易理解,

下面是Cobar的网络通讯模块架构。

从上图中可以看出,Cobar采用了主流的Reactor设计模式来处理请求,并使用NIO进行底层的数据交换,这大大提升系统的负载能力。其

中,NIOAcceptor用于处理前端请求,NIOConnector则用于管理后端的连接,NIOProcessor用于管理多线程事件处

理,NIOReactor则用于完成底层的事件驱动机制,就是看起来和Mina和Netty的网络模型比较相似。如果有兴趣,大家还可以到Cobar站点

的下载页面(http://code.alibabatech.com/wiki/display/cobar/release)获取该项目的源码,真是

太周到了,让我们为富有开源精神的阿里人掌声鼓励一下!

转载:http://www.osforce.cn/course/68/info

java cobar_alibaba的COBAR真是强大.相关推荐

  1. java 图片插件_[Java教程]10款功能强大的jQuery/CSS3图片特效插件

    [Java教程]10款功能强大的jQuery/CSS3图片特效插件 0 2014-11-26 03:01:04 1.CSS3实现的底部带滚动云彩效果的网站登录页面 CSS3实现的底部带滚动云彩效果的网 ...

  2. java手机大头_Java也强大:

    Java也强大:手机大头 手机大头是业内首家开创性地将手机浏览器.手机音乐.手机铃声.手机视频等多功能有机整合于一身的手机端的多媒体软件.特点是整合度很高,只在用户需要安装的时候才安装需要使用的那一部 ...

  3. Alibaba的COBAR真是强大

     最近好不容易抽空研究了下Cobar,感觉这个产品确实很不错(在文档方面比Amoeba强多了),特此推荐给大家.Cobar是阿里巴巴研发的关系型数据的分布式处理系统,该产品成功替代了原先基于Ora ...

  4. alibaba的COBAR真是强大.

    最近好不容易抽空研究了下Cobar,感觉这个产品确实很不错(在文档方面比Amoeba强多了),特此推荐给大家.Cobar是阿里巴巴研发的关系型数据的分布式处理系统,该产品成功替代了原先基于Oracle ...

  5. java 格式化 布尔型_这么久才知道Java中的format很强大!

    Java中允许我们对指定的对象进行某种格式化,从而得到我们想要的格式化样式. Format 首先介绍java.text包中的Format Foramt是一个抽象基类,其具体子类必须实现 format( ...

  6. java 日历工具_java中强大的时间处理工具:Calendar类(日历类)

    java中的Calendar类为什么起个名字就叫做日历呢?因为这个类可以让我们像看日历一样得到这个时间的所有属性,你还在为不知道2014年5月7日是周几而苦恼吗?你还在为2005年8月14日是8月的第 ...

  7. java gui狼_5个强大的Java分布式缓存框架

    在开发中大型Java软件项目时,很多Java架构师都会遇到数据库读写瓶颈,如果你在系统架构时并没有将缓存策略考虑进去,或者并没有选择更优的缓存策略,那么到时候重构起来将会是一个噩梦.本文主要是分享了5 ...

  8. java sendmessage函数_功能强大的SendMessage函数

    功能强大的SendMessage函数 分类:计算机等级 | 更新时间:2016-07-08| 来源:转载 Windows API(应用程序接口)是Windows系列软件为程序开发人员提供的火力强大的& ...

  9. Java图片gh颜色渐变_强大的Java图像滤镜特效类库Java Image Filters

    Java Image Filters是一款基于Java的图像处理类库,特别是在图像滤镜特效方面,Java Image Filters简直就是强大到天衣无缝.它几乎提供了PS上大部分的图像特效.比如反色 ...

  10. java分布式的缓存_5个强大的Java分布式缓存框架

    5个强大的Java分布式缓存框架 在开发中大型Java软件项目时,很多Java架构师都会遇到数据库读写瓶颈,如果你在系统架构时并没有将缓存策略考虑进去,或者并没有选择更优的缓存策略,那么到时候重构起来 ...

最新文章

  1. 利用JS使用POST方式提交请求的方法
  2. 【POJ】2503 Babelfish(字典树,map,指针)
  3. 火锅店市场容量或变化趋势_2020-2026年中国氮肥市场深度研究与投资前景预测报告...
  4. ThinkPHP模板之二
  5. optee3.14 qemu_v8的环境搭建篇(ubuntu20.04)--镜像方式-直接使用
  6. 计算机科学与技术与cs,CSgo! | 遇见CS—带你走进传说中的计算机专业
  7. stm32的dma缓冲区长度,,存放数据数组会不会冲掉
  8. mysql数据每日更新_[每日更新-MySQL]4.记录操作(数据操作)
  9. SAP Spartacus ProductService.get的几个调用场景
  10. 2019 年 8 月编程语言排行榜,C#重回增长之路
  11. 01-第一章 Java开发中通用的方法和准则
  12. Linux环境下如何计算CPU占用率
  13. 如何在结构体里面套结构体_Rust 学习笔记-13 Rust 结构体
  14. 南华大学ACM队2021年7.14训练赛题解
  15. python基础: 序列
  16. pytorch 模型输出特征 保存npy
  17. Kali 渗透测试:基于结构化异常处理的渗透-使用Python编写渗透模块
  18. 编程达人教你如何快速掌握一门编程语言
  19. 云计算技术架构-云计算四种模式(公有云、私有云、混合云、行业云)
  20. Vue强制刷新页面重新加载数据方法

热门文章

  1. loadrunner批量添加压力
  2. 安装 Northwind 示例数据库
  3. UCGUI使用的24位颜色RGB数值对照表
  4. 电脑蓝牙连接android程序,win7系统下电脑与Android手机蓝牙连接方法
  5. SNN系列|神经元模型篇(2) Izhikevich
  6. 表达式引擎Aviator基本介绍及使用以及基于Aviator的规则引擎(附代码详细介绍)
  7. 四川取消英语计算机考试,2020年起,四川将不再承接全国英语等级考试,已有多省份停考!...
  8. matlab 相位谱是直线,matlab幅度谱和相位谱
  9. 计算机编号、硬盘序列号和Mac地址查询方法
  10. 权限设计,可控制每个接口的使用。