各位数据库大佬 求解一个小数溢出的问题

2020-10-22 17:20:36 +08:00
 thelostsheep

小白之前写 hql 代码很简单 两个表 union all 以后对某个字段进行 sum 语法已经跑通验证了没有问题 今天就直接造数测试 然后问题来了!!! 我对要 sum 的字段设了五个相同的值 345.78 sum 以后就应该是 1728.9 但是 sum 后值确是 1728.8999999999999 小数位溢出 我又测试了其他相同的小数 都没有这个问题 各位大佬看看 可能是什么情况呢 小白被这个问题搞了一天了 哭泣。。。。 提前感谢各位老师了!!!

682 次点击
所在节点    问与答
4 条回复
CloudnuY
2020-10-22 17:29:45 +08:00
double 精度缺失问题
lpts007
2020-10-22 17:44:00 +08:00
这个问题百度不到吗
thelostsheep
2020-10-23 09:47:03 +08:00
所有的字段都是 string 类型
thelostsheep
2020-10-23 09:47:38 +08:00
就是百度不到 哭了 很神奇的问题 不知道问题出在哪里了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/717546

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX