V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
thelostsheep
V2EX  ›  问与答

各位数据库大佬 求解一个小数溢出的问题

  •  
  •   thelostsheep · Oct 22, 2020 · 1051 views
    This topic created in 2025 days ago, the information mentioned may be changed or developed.

    小白之前写 hql 代码很简单 两个表 union all 以后对某个字段进行 sum 语法已经跑通验证了没有问题 今天就直接造数测试 然后问题来了!!! 我对要 sum 的字段设了五个相同的值 345.78 sum 以后就应该是 1728.9 但是 sum 后值确是 1728.8999999999999 小数位溢出 我又测试了其他相同的小数 都没有这个问题 各位大佬看看 可能是什么情况呢 小白被这个问题搞了一天了 哭泣。。。。 提前感谢各位老师了!!!

    4 replies    2020-10-23 09:47:38 +08:00
    CloudnuY
        1
    CloudnuY  
       Oct 22, 2020 via iPhone
    double 精度缺失问题
    lpts007
        2
    lpts007  
       Oct 22, 2020
    这个问题百度不到吗
    thelostsheep
        3
    thelostsheep  
    OP
       Oct 23, 2020
    所有的字段都是 string 类型
    thelostsheep
        4
    thelostsheep  
    OP
       Oct 23, 2020
    就是百度不到 哭了 很神奇的问题 不知道问题出在哪里了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2969 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 06:29 · PVG 14:29 · LAX 23:29 · JFK 02:29
    ♥ Do have faith in what you're doing.