你以为他们输出是相同的,其实完全不同
BigDecimal original = new BigDecimal("2.345");
BigDecimal scaled = original.add(BigDecimal.TEN).setScale(2, RoundingMode.HALF_UP);
MathContext mc = new MathContext(2, RoundingMode.HALF_UP);
BigDecimal scaled2 = original.add(BigDecimal.TEN, mc);
// 12.35
System.out.println(scaled.toPlainString());
// 12
System.out.println(scaled2.toPlainString());
MathContext 的构造函数 MathContext(int setPrecision, RoundingMode setRoundingMode) 其中 setPrecision 指的是有效数字,而不是小数保留位数。与 roundingMode 参数放一起容易令人混淆。而且一般用到 BigDecimal 多半是重要的计算场景,一旦出错后果严重。
也有不少人吐槽: https://stackoverflow.com/questions/7539/use-of-java-math-mathcontext
1
aguesuka 2020-07-08 11:57:42 +08:00 via Android
单元测试的重要性就出来了
|
3
lululau 2020-07-08 12:30:34 +08:00
precision 直翻不是“精度”的意思吗,精度不是相当于有效数字吗
|