V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
anzu
V2EX  ›  Java

小心 Java .math.MathContext

  •  1
     
  •   anzu · 2020-07-08 11:38:07 +08:00 · 2076 次点击
    这是一个创建于 1607 天前的主题,其中的信息可能已经有所发展或是发生改变。

    你以为他们输出是相同的,其实完全不同

    BigDecimal original = new BigDecimal("2.345");
    BigDecimal scaled = original.add(BigDecimal.TEN).setScale(2, RoundingMode.HALF_UP);
    MathContext mc = new MathContext(2, RoundingMode.HALF_UP);
    BigDecimal scaled2 = original.add(BigDecimal.TEN, mc);
    
    // 12.35
    System.out.println(scaled.toPlainString());
    // 12
    System.out.println(scaled2.toPlainString());
    

    MathContext 的构造函数 MathContext(int setPrecision, RoundingMode setRoundingMode) 其中 setPrecision 指的是有效数字,而不是小数保留位数。与 roundingMode 参数放一起容易令人混淆。而且一般用到 BigDecimal 多半是重要的计算场景,一旦出错后果严重。

    也有不少人吐槽: https://stackoverflow.com/questions/7539/use-of-java-math-mathcontext

    4 条回复    2020-07-08 17:26:37 +08:00
    aguesuka
        1
    aguesuka  
       2020-07-08 11:57:42 +08:00 via Android
    单元测试的重要性就出来了
    anzu
        2
    anzu  
    OP
       2020-07-08 12:02:11 +08:00
    @aguesuka 我就是写单元测试才发现的..
    lululau
        3
    lululau  
       2020-07-08 12:30:34 +08:00
    precision 直翻不是“精度”的意思吗,精度不是相当于有效数字吗
    yidinghe
        4
    yidinghe  
       2020-07-08 17:26:37 +08:00
    @lululau 对,事后再来看都看得懂,就是第一眼光看参数类型的话容易理解错
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2715 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 07:30 · PVG 15:30 · LAX 23:30 · JFK 02:30
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.