一个解决 js 浮点运算精度的代码,比市面上很多解决方案都要准确的方案^_^

2018-02-01 11:19:50 +08:00
 BarZu

https://my.oschina.net/cjlice/blog/1616682

5951 次点击
所在节点    JavaScript
8 条回复
gomars
2018-02-01 13:58:42 +08:00
整数
lred
2018-02-01 14:29:51 +08:00
之前写过一个库
https://github.com/fzred/calculatorjs
楼主的方案不错,比我的简洁很多,介意我直接复制到我的项目吗?
sundev
2018-02-01 14:51:57 +08:00
再加个方法,修复 toFixed 四舍五入的问题应该就齐活了!
Mutoo
2018-02-01 15:16:00 +08:00
操作数 1:
0.1000000000000000055511151231257827021181583404541015625
操作数 2:
0.200000000000000011102230246251565404236316680908203125
相加
结果:0.30000000000000004

答案为什么不是 0.3000000000000000444089209850062616169452667236328125

十进制高精度算法还是老老实实逐位运算比较靠谱
sundev
2018-02-01 15:23:48 +08:00
@Mutoo 他的这个算法只能解决浮点数运算过程中精度丢失的问题,就是把浮点数转换为整数进行运算。但是转换后超过 16 位时,精度一样会丢失,这是 IEEE 754 标准中定义尾数部分只有 53 位决定的。
DOLLOR
2018-02-01 17:44:31 +08:00
@Mutoo 你的答案也不对吧
可以用
https://github.com/MikeMcl/bignumber.js

BigNumber('0.1000000000000000055511151231257827021181583404541015625')
.plus('0.200000000000000011102230246251565404236316680908203125')
.toString();

答案应该是 0.3000000000000000166533453693773481063544750213623046875
xieranmaya
2018-02-26 18:24:03 +08:00
Jobing
2022-11-05 21:40:37 +08:00
可以采用 npm 的一个开源库解决:json-bn 。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/427647

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX