Java 采用 IEEE 754 实现浮点数。
所以我们会看到(见链接部分),在二进制中,float 类型有 24 位精确,在十进制中,float 类型有 log10(2^24)≈7 位精确。
我想问的是,使用 log10(2^24) 这个公式来由二进制精度计算十进制精度的的依据是什么?
我找了一些常见的解释,但还是不能很好地理解。
谢谢。
Why IEEE754 single-precision float has only 7 digit precision?
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.