转载自：/29254281/viewspace-2086198/
MySQL分库分表,一般只能按照一个维度进行查询.
以订单表为例,按照用户ID mod 64 分成 64个数据库.
按照用户的维度查询很快,因为最终的查询落在一台服务器上.
但是如果按照商户的维度查询,则代价非常高.
需要查询全部64台服务器.
在分页的情况下,更加恶化.
比如某个商户查询第10页的数据(按照订单的创建时间).需要在每台数据库服务器上查询前100条数据,程序收到 64*100 条数据,然后按照订单的创建时间排序,截取排名90-100号的10条记录返回,然后抛弃其余的6390条记录.如果查询的是第100页,第1000页,则对数据库IO,网络,中间件CPU,都是不小的压力.
分库分表之后,为了应对多维度查询,很多情况下会引入冗余.
比如两个集群,一个按照用户ID分库分表,另外一个按照商户ID分库分表.
这样多维度查询的时候,各查各的.
但是有几个问题,一样不好解决.
比如,
每扩展一个维度,就需要引入一个集群.
集群间的数据,如何保证一致性.
冗余占用大量磁盘空间.
从朋友那里看到的订单表结构.做冗余会占用大量的磁盘空间.
createtableTS_ORDER(ORDER_IDNUMBER(8)notnull,SNVARCHAR2(50),MEMBER_IDNUMBER(8),STATUSNUMBER(2),PAY_STATUSNUMBER(2),SHIP_STATUSNUMBER(2),SHIPPING_IDNUMBER(8),SHIPPING_TYPEVARCHAR2(255),SHIPPING_AREAVARCHAR2(255),PAYMENT_IDNUMBER(8),PAYMENT_NAMEVARCHAR2(50),PAYMENT_TYPEVARCHAR2(50),PAYMONEYNUMBER(20,2),CREATE_TIMENUMBER(20)notnull,SHIP_NAMEVARCHAR2(255),SHIP_ADDRVARCHAR2(255),SHIP_ZIPVARCHAR2(20),SHIP_EMAILVARCHAR2(50),SHIP_MOBILEVARCHAR2(50),SHIP_TELVARCHAR2(50),SHIP_DAYVARCHAR2(255),SHIP_TIMEVARCHAR2(255),IS_PROTECTVARCHAR2(1),PROTECT_PRICENUMBER(20,2),GOODS_AMOUNTNUMBER(20,2),SHIPPING_AMOUNTNUMBER(20,2),ORDER_AMOUNTNUMBER(20,2),WEIGHTNUMBER(20,2),GOODS_NUMNUMBER(8),GAINEDPOINTNUMBER(11)default0,CONSUMEPOINTNUMBER(11)default0,DISABLEDVARCHAR2(1),DISCOUNTNUMBER(20,2),IMPORTEDNUMBER(2)default0,PIMPORTEDNUMBER(2)default0,COMPLETE_TIMENUMBER(11)default0,CANCEL_REASONVARCHAR2(255),SIGNING_TIMENUMBER(11),THE_SIGNVARCHAR2(255),ALLOCATION_TIMENUMBER(11),SHIP_PROVINCEIDNUMBER(11),SHIP_CITYIDNUMBER(11),SHIP_REGIONIDNUMBER(11),SALE_CMPLNUMBER(2),SALE_CMPL_TIMENUMBER(11),DEPOTIDNUMBER(11),ADMIN_REMARKVARCHAR2(1000),COMPANY_CODEVARCHAR2(32),PARENT_SNVARCHAR2(50),REMARKVARCHAR2(100),GOODSCLOB,ORIGINAL_AMOUNTNUMBER(20,2),IS_ONLINECHAR(1),IS_COMMENTEDCHAR(1)default0,ORDER_FLAGCHAR(1)default1)
可以试试用表代替索引的方法.
1.分库分表
2.最终一致性
3.用表代替索引的功能
首先,还是基于分库分表.订单表按照用户ID mod 64 分到不同的服务器上(按照查询最多的维度分)。
数据库服务器1 的数据库名称为 db_1
数据库服务器2 的数据库名称为 db_2
...
以db_1为例,创建如下表
1.订单表
TS_ORDER_1 分区表,每个月一个分区.
2.事务表
create table tran_log_1(
tran_id bigint primary key,
param varchar(2000)
);
分区表,每个月一个分区.
3.消息表
create table msg_log_1(
tran_id bigint,
shardKey varchar(20) not null,
primary key(tran_id,shardKey)
);
分区表,每个月一个分区.
4.维度索引表
create table shard_shop_1(
id bigint primary key auto_increment,
shopid int,
ts timestamp,
state int,
dbid int,
orderid bigint,
index(shopid,ts,state)
);
分区表,每个月一个分区.
关于使用事务表,消息表实现分库分表最终一致性请参考
/29254281/viewspace-1819422/
关于集群主键生成服务请参考
/29254281/viewspace-1811711/
订单创建的流程
Web服务器接收到用户订单,首先通过RPC获取一个事务ID(tran_id).
用事务ID mod 64 找到数据库服务器,
将事务ID,参数写入tran_log 表,
然后将事务ID,参数写入消息队列.
如果写入消息队列成功,则提交事务.否则回滚事务.
此时就可以返回用户界面.
后端处理服务收到消息队列的信息,首先查询tran_log 表,是否存在这个事务ID,如果不存在则不予处理.
然后将队列的消息,分为两个维度分别处理,一个是用户维度,一个是商户维度.
作为用户维度,
先根据用户ID mod 64 找到最终落地的数据库,查询那个数据库的消息表msg_log,在用户维度,是否存在这个事务ID,如果存在,则不予处理.
(select count(*) from msg_log_XX where shardKey='订单创建:用户维度' and tran_id=?)
如果不存在,则开启一个事务
插入订单表,我觉得可以用tran_id直接作为订单的ID,
并且插入消息表insertmsg_log_XX(tran_id,shardKey) values(?,'订单创建:用户维度');
提交事务,commit.
作为商户维度,
则根据商户ID mod 64 找到最终的数据库,和用户维度的数据库,可能不是同一台服务器.
同样,也是先查询落地数据库的消息表,
(select count(*) from msg_log_XXX where shardKey='订单创建:商户维度' and tran_id=?)
如果不存在记录,则开启事务,
插入维度索引表,
insert intoshard_shop_XXX（shopid,ts,state,dbid,orderid) values(......)
shopid,ts,state 商户ID,订单时间,订单状态都是根据订单的原始信息.
dbid 指的是 根据用户维度(主维度),订单数据所在的数据库ID,
orderid 指的是 在用户维度(主维度),订单表的主键.
插入消息表,insertmsg_log_XX(tran_id,shardKey)values(?,'订单创建:商户维度');
最后提交.
这样,作为商户维度查询的时候,先根据商户的ID mod 64 找到 维度索引表,获取该商户的订单信息
select * fromshard_shop_1 where shopid=? and state=2 order by ts limit 300,10;
获取的信息可能如下
可以看到,符合条件的订单信息,分别来自 服务器1,2,16,32,64
获取了这部分信息,就可以直接去这些服务器上取数据,并且是主键查询,速度很快.
每隔一段时间,由后台程序,查看tran_log和msg_log,如果发现有缺失的数据,则进行事务补偿.
扩展的时候,则新增维度索引表即可.
因为所有的表,都是按月的分区表,可以将过去的冷数据,在一个服务器集中存放,这个实例就同时存放64个数据库.毕竟都是冷数据,访问量很小.
能分还要能合.比如:
