java double 计算效率跟小数位多少有关吗?

2016-06-23 11:13:47 +08:00
 skywalkboy

java 中 double 中的小数位跟计算效率有关吗,现在有个十多位小数的乘法运算,在 java 中用什么类型效率比较快

1291 次点击
所在节点    问与答
1 条回复
SoloCompany
2016-06-24 00:06:44 +08:00
和小数位数没太大关系,和有效数字有关,当然如果你的数都是 0~1 之间的那么有效数字个数就大概等价于小数位了,这个也和 java 没有关系,请参考 IEEE 64bit 标准,双精度数是 52 有效数字位以及 11 个指数位
52 * log(2) = 15.65
也就是说换算成十进制大概可以有 15 ~ 16 个有效数字

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/287737

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX