小心 Java .math.MathContext

2020-07-08 11:38:07 +08:00
 anzu

你以为他们输出是相同的,其实完全不同

BigDecimal original = new BigDecimal("2.345");
BigDecimal scaled = original.add(BigDecimal.TEN).setScale(2, RoundingMode.HALF_UP);
MathContext mc = new MathContext(2, RoundingMode.HALF_UP);
BigDecimal scaled2 = original.add(BigDecimal.TEN, mc);

// 12.35
System.out.println(scaled.toPlainString());
// 12
System.out.println(scaled2.toPlainString());

MathContext 的构造函数 MathContext(int setPrecision, RoundingMode setRoundingMode) 其中 setPrecision 指的是有效数字,而不是小数保留位数。与 roundingMode 参数放一起容易令人混淆。而且一般用到 BigDecimal 多半是重要的计算场景,一旦出错后果严重。

也有不少人吐槽: https://stackoverflow.com/questions/7539/use-of-java-math-mathcontext

2073 次点击
所在节点    Java
4 条回复
aguesuka
2020-07-08 11:57:42 +08:00
单元测试的重要性就出来了
anzu
2020-07-08 12:02:11 +08:00
@aguesuka 我就是写单元测试才发现的..
lululau
2020-07-08 12:30:34 +08:00
precision 直翻不是“精度”的意思吗,精度不是相当于有效数字吗
yidinghe
2020-07-08 17:26:37 +08:00
@lululau 对,事后再来看都看得懂,就是第一眼光看参数类型的话容易理解错

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/688167

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX