请教一个 mysql 批量插入的问题

2020-02-21 14:41:32 +08:00
 mawerss1

背景:

数据库是 mysql 5.7,
表结构:
id
data
modified_time

data 是一个很长的 json 串,需求是批量插入每次最多要几千条,插入前比较 modified_time 和插入的数据比较,时间戳比较新的插入,否则失败

现在我的做法是用 insert into on ON DUPLICATE KEY UPDATE,但是如何比较这个时间就不会了,试了用触发器来写,但是批量插入如果有一条时间对不上的话,整个 sql 就不会再执行了,没办法跳过,请教大家有更好的做法吗
4810 次点击
所在节点    MySQL
23 条回复
anjuyiyu
2020-02-22 12:42:38 +08:00
id + 时间做一个临时表?
另:这里是否可以考虑下时间分片做日结表?
Aresxue
2020-02-24 16:54:01 +08:00
1.别用触发器;
2.考虑做分表;
3.在代码里做好数据的清洗,最好是先删除数据库中较老时间的数据然后再插入,能不用 update 就尽量规避;
4.注意调整 max_allowed_packet 的限制。
mawerss1
2020-02-24 19:34:01 +08:00
@Aresxue update 有什么问题吗

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/646359

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX