V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
MySQL 5.5 Community Server
MySQL 5.6 Community Server
Percona Configuration Wizard
XtraBackup 搭建主从复制
Great Sites on MySQL
Percona
MySQL Performance Blog
Severalnines
推荐管理工具
Sequel Pro
phpMyAdmin
推荐书目
MySQL Cookbook
MySQL 相关项目
MariaDB
Drizzle
参考文档
http://mysql-python.sourceforge.net/MySQLdb.html
rogwan
V2EX  ›  MySQL

MySQL 每次随机取一些值,下次在剩下的数据池中再取,有什么好的解决方法吗?

  •  
  •   rogwan · 2017-04-22 12:25:36 +08:00 · 4347 次点击
    这是一个创建于 2807 天前的主题,其中的信息可能已经有所发展或是发生改变。
    从数据表中查询数值,分批次用,每次 10 条。用 order by rand() 之后,第一次用 10 条,第二次再用 10 条的时候,结果又 rand 了一次(搞得第二次取的 10 条数据中,有部分和第一次取的 10 条数据有重合)。

    我想第二次用的 10 条数据,不要和第一次用的 10 条数据有重复;每次随机取值都是在剩下的数据池中取,有什么好的解决方法吗?
    14 条回复    2017-05-10 12:24:33 +08:00
    bosshida
        1
    bosshida  
       2017-04-22 13:19:37 +08:00 via iPhone
    增加一个字段 is_used ,用过就更新一下?
    Jodal
        2
    Jodal  
       2017-04-22 14:47:21 +08:00 via iPad   ❤️ 1
    一个方案是增加一个 where 过滤,然后 rand 。如 select * from table_name where id > x 。下次改变 x 值。第二个方案是 redis cache 起来取每次取完 10 条后, set 删除这 10 条,下次再取 10 条。仅供参考。
    mringg
        3
    mringg  
       2017-04-22 14:54:36 +08:00 via iPhone
    分页。。。。
    moult
        4
    moult  
       2017-04-22 14:59:23 +08:00   ❤️ 1
    加一个 rand_val 字段,每次插入的时候,就产生一个随机数写入。
    读取的时候,也生成一个随机数作为条件进行查询
    先查询 where rand_val > ? order by rand_val 如果没有结果,就查询 where rand_val < ? order by rand_val desc
    也就是查询这个随机数附近的记录
    读取之后,标记 rand_val=0 表示读取过了!
    dsg001
        5
    dsg001  
       2017-04-22 17:22:20 +08:00   ❤️ 1
    读取所有 id 乱序保存,使用时读取切片
    rogwan
        6
    rogwan  
    OP
       2017-04-22 20:22:42 +08:00
    @mringg 分页就是会出现我说的问题(第二页的内容 和 第一页的内容可能会有重复的部分)

    @dsg001 你了解这样做数据量大了,查询性能会大幅下降吗?
    rogwan
        7
    rogwan  
    OP
       2017-04-22 20:27:12 +08:00
    @Jodal
    @moult

    查了下资料,用 rand 加 seed ,然后再设置 offset 和 limit 。这样看起来好像没有重复了,现在数据量少,不知道实际性能是不是高效?
    ioioioioioioi
        8
    ioioioioioioi  
       2017-04-22 20:29:34 +08:00 via iPhone
    增加一个 random 字段,每小时更新
    whileFalse
        9
    whileFalse  
       2017-04-22 20:50:25 +08:00
    @rogwan 如果数据量很大的话,第二次查询 10 条出现第一次查询的结果的可能性非常低。
    而且如果数据量大,生成一次随机列表可以用很久
    所以数据量大你无论用哪种方式都没问题。
    dsg001
        10
    dsg001  
       2017-04-22 20:59:57 +08:00
    @rogwan 准备每次都查询全部 id ?一次查询保存到内存,然后切片使用,再有需要则更新内存数据
    kokutou
        11
    kokutou  
       2017-04-22 21:36:59 +08:00 via Android
    那么问题来了。。。
    为啥不一次取 20 条。
    ghostheaven
        12
    ghostheaven  
       2017-04-23 00:27:43 +08:00 via Android
    取出来的放到另一张表 b 里,取的时候 left join 一下这张表,多加个判断 where b.id is null
    abcbuzhiming
        13
    abcbuzhiming  
       2017-05-10 09:02:39 +08:00
    @rogwan 我跟你说你这个问题我遇到过,我们的试验结论是 mysql 在随机查询上的性能完全无法接受,从 100w 样本中抽数据速度就会掉到需要 5-6 秒的程度(机械硬盘 7200 转)。后来我们是用 redis,把数据弄到缓存里,直接用代码随机,从缓存中抽取来解决的
    rogwan
        14
    rogwan  
    OP
       2017-05-10 12:24:33 +08:00
    @abcbuzhiming 是的,后来我们也测试了一下,样本还没你 100w 那么多,就发现速度不行了。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2790 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 13:39 · PVG 21:39 · LAX 05:39 · JFK 08:39
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.