分库分表的问题?

2020-03-28 09:07:12 +08:00
 salamanderMH

问题

上次面试问了分库分表的问题,大致是有一个商家订单表,让你 分库分表( 分 100 张表),然后怎么分,请问这个是怎么分呢?

PS:其实线上我没有做过分库分表

2728 次点击
所在节点    数据库
20 条回复
Cyen
2020-03-28 09:09:03 +08:00
这个应该是水平分表吧
Akiyu
2020-03-28 09:11:09 +08:00
这种问题可以参考现实中的案例, 就好像邮编一样
省, 市, 区划分, 然后以编号划分, 等等
opengps
2020-03-28 09:32:45 +08:00
按年限分显然不合适,因为新订单挤在一个库,读写压力太集中,达不到分散压力提升承载力效果。
那就根据用户 id 去路由分表吧,预留 128 个表,对用户 id 进行某种换算取余,让某个用户的订单全都进某个指定的表,查询的时候也是按照这个算法指定取数据的表即可
ylsc633
2020-03-28 09:43:28 +08:00
sadfQED2
2020-03-28 09:46:43 +08:00
Uid 分表呀,这还用想么。如果有其他字段的统计或者分页需求,再冗余一份其他字段的索引表,索引表也 128 分表
areless
2020-03-28 10:51:56 +08:00
id mod 100,自增主键步长 100,100 张表起始 id 1-100
tabris17
2020-03-28 10:54:51 +08:00
按商户分,按 SKU 分,都可以的
wysnylc
2020-03-28 11:15:17 +08:00
如果数据量可观,第一层按时间分例如年份月份,第二层用主键取余分
这样的好处是如果数据量暴涨,可以通过增加取余表的方式来扩充,如果第一层就直接按主键取余那么数据暴涨后的迁移只能停机
cabing
2020-03-28 11:49:11 +08:00
uid 和时间都需要分吧。只是需要区分主次,次的信息少点。
th00000
2020-03-28 12:17:47 +08:00
其实我一直有一个问题, 如果 mysql 分库分表了, 那跟直接用 nosql 数据库有什么区别?
用 nosql 数据库更加高效且便宜。
CoderGeek
2020-03-28 12:22:04 +08:00
uid mod 100
es 做统计 mysql 分表统计没效率
xsen
2020-03-28 12:35:57 +08:00
其实对于传统 mysql 需要分库分表的,用 NewSQL 似乎更为适合些,比如 TiDB——95%以上都可以兼容 MySQL 。而且,随着数据量上去,水平加机器,扩展集群就可以
lewis89
2020-03-28 12:55:54 +08:00
@xsen #12 NewSQL 现在用的还不多,没有流行起来,好的分库分表本质上还是要借用 CQRS 的思想,将 OLTP 跟 OLAP 隔离开来,在 OLAP 端 用消息队列在后面重建数据仓库 专门用来应对低频但是复杂的查询,在 OLTP 端用 MySQL 来支撑数据写入跟业务校验。
yanyueio
2020-03-28 12:58:36 +08:00
哎、老生常谈啦。(网上一大堆了,搜一下吧)

你开个 docker,同时外挂 volume,把实验的数据放进去。

以后每次面试带上笔记本,要问就直接把 case 拿出来给官家看。

同时,个人也渐渐觉得,如果真的太大了,后期可考虑转型到 new sql 。
xsen
2020-03-28 13:03:26 +08:00
@lewis89 #13 对于是否要做隔离,这个我不做讨论。但是对于传统的方案,针对 OLAP 需要通过消息队列重建数据仓库的做法,那是因为 SQL (传统的)的无法满足针对大数据量的复杂查询(要么效率极低)。所以你说的方案是之前不得已而为之

不流行也是正常,毕竟 NewSQL 也是近几年才成熟起来的
epicSoldier
2020-03-28 13:07:47 +08:00
订单如果是数字的话按订单最后两位分成 100 个表
lewis89
2020-03-28 13:14:54 +08:00
@xsen #15 现在也是,做海量数据的 还是要靠大数据那套东西,业务的归业务 分析的归分析,这是最好的办法,即使是 NewSQL 流行之后,也是会做冷热跟多副本处理的,生产的东西 跟 数据分析的东西 其价值是不一样的,对于数据量大的公司丢一些订单的影响非常大,但是对于数据分析来讲,用副本或者说非实时的数据去做分析 实际上不会有太大的影响,因为大部分行业 对数据的实时性分析 没那么高的要求。
xsen
2020-03-28 13:24:33 +08:00
@lewis89 #17 NewSQL 本质就是分布式数据库。所以结合相应的大数据方案( spark 或 flink )基本可以做到实战时的数据分析与查询。分布式本身要解决的一个问题就是,在数据量级别扩大之后,保证处理的速度

基于 NewSQL 的方案,数据其实不用两套也是可以的——因为对海量数据有支持、还能保证查询速度
brucefu
2020-03-28 14:58:04 +08:00
1 、通过查询条件进行分表。用 uid 查就 mod uid 分表,用订单号查就 mod 订单号。如果多个字段都有用查询,就要再加个索引表,索引表也要分表。
2 、统计所有商家订单量这种,可以利用 redis 来异步缓存起来。数据量很大的时候,这种数据时效性就是不能完全保证的,需要定时 check 数据。单表数据量特别大的时候,别用 count 计算,用 id 推算、或分段计算。数据特别大,又不要求准确性,可以用 explain (我在程序中没用过,线下查数据时经常用)
JJstyle
2020-03-28 15:07:13 +08:00
mod 订单号是好理解,那查询、统计怎么办呢?走 es 吗?

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/656996

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX