草庐IT

BigDecimal精度详解

木子一叶 2023-04-16 原文 
[BigDecimal精确度的计数保留法及精度丢失的解决办法]

目录

BigDecimal精确度的计数保留法

在银行、帐户、计费等领域，BigDecimal提供了精确的数值计算。其中8种舍入方式值得掌握。

1、ROUND_UP

  • 舍入远离零的舍入模式。
  • 在丢弃非零部分之前始终增加数字(始终对非零舍弃部分前面的数字加1)。
  • 注意，此舍入模式始终不会减少计算值的大小。
BigDecimal bd = new BigDecimal("2.18491");
//2.19
System.out.println(bd.setScale(2, BigDecimal.ROUND_UP));

2、ROUND_DOWN

  • 接近零的舍入模式。
  • 在丢弃某部分之前始终不增加数字(从不对舍弃部分前面的数字加1，即截短)。
  • 注意，此舍入模式始终不会增加计算值的大小。
BigDecimal bd = new BigDecimal("2.18491");
//2.18
System.out.println(bd.setScale(2, BigDecimal.ROUND_DOWN));

3、ROUND_HALF_UP

  • 向“最接近的”数字舍入，如果与两个相邻数字的距离相等，则为向上舍入的舍入模式。
  • 如果舍弃部分 >= 0.5，则舍入行为与ROUND_UP相同；否则舍入行为与ROUND_DOWN相同。
  • 注意，这是我们大多数人在小学时就学过的舍入模式(四舍五入)。
BigDecimal bd = new BigDecimal("2.18491");
//2.18
System.out.println(bd.setScale(2, BigDecimal.ROUND_HALF_UP));

BigDecimal bd1 = new BigDecimal("2.18591");
//2.19
System.out.println(bd1.setScale(2, BigDecimal.ROUND_HALF_UP));

4、ROUND_HALF_DOWN

  • 向“最接近的”数字舍入，如果与两个相邻数字的距离相等，则为向下舍入的舍入模式。
  • 如果舍弃部分 > 0.5，则舍入行为与 ROUND_UP 相同;否则舍入行为与 ROUND_DOWN 相同(五舍六入)。
BigDecimal bd = new BigDecimal("2.18500");
//2.18
System.out.println(bd.setScale(2, BigDecimal.ROUND_HALF_DOWN));

BigDecimal bd1 = new BigDecimal("2.18510");
//2.19
System.out.println(bd1.setScale(2, BigDecimal.ROUND_HALF_DOWN));

5、ROUND_HALF_DOWN 银行家舍入法

向“最接近的”数字舍入，如果与两个相邻数字的距离相等，则向相邻的偶数舍入。

如果舍弃部分左边的数字为奇数，则舍入行为与 ROUND_HALF_UP 相同;

如果为偶数，则舍入行为与 ROUND_HALF_DOWN 相同。

注意，在重复进行一系列计算时，此舍入模式可以将累加错误减到最小。

此舍入模式也称为“银行家舍入法”，主要在美国使用。四舍六入，五分两种情况。

如果前一位为奇数，则入位，否则舍去。

以下例子为保留小数点1位，那么这种舍入方式下的结果。

1.15>1.2 
1.25>1.2

6、ROUND_CEILING

接近正无穷大的舍入模式。

如果 BigDecimal 为正，则舍入行为与 ROUND_UP 相同;

如果为负，则舍入行为与 ROUND_DOWN 相同。

注意，此舍入模式始终不会减少计算值。

7、ROUND_FLOOR

接近负无穷大的舍入模式。

如果 BigDecimal 为正，则舍入行为与 ROUND_DOWN 相同;

如果为负，则舍入行为与 ROUND_UP 相同。

注意，此舍入模式始终不会增加计算值。

8、ROUND_UNNECESSARY

断言请求的操作具有精确的结果，因此不需要舍入。

如果对获得精确结果的操作指定此舍入模式，则抛出ArithmeticException。

BigDecimal精度丢失的问题

BigDecimal bdTest = new BigDecimal(1.745);
BigDecimal bdTest1 = new BigDecimal(0.745);
bdTest = bdTest.setScale(2, BigDecimal.ROUND_HALF_UP);
bdTest1 = bdTest1.setScale(2, BigDecimal.ROUND_HALF_UP);
System.out.println("bdTest:" + bdTest); // 1.75
System.out.println("bdTest1:" + bdTest1); // 0.74

运行以上代码可以看到，1.745四舍五入的结果是1.75，0.745四舍五入的结果是0.74。

原因

使用参数为float或double的BigDecimal创建对象会丢失精度。因此强烈建议不要使用参数为float或double的BigDecimal创建对象。

System.out.println(new BigDecimal(1.745)); // 1.74500000000000010658141036401502788066864013671875
System.out.println(new BigDecimal(0.745)); // 0.74499999999999999555910790149937383830547332763671875

解决方案

  1. 使用BigDecimal(String val)的构造方法创建对象
new BigDecimal("1.745");
  1. 使用使用BigDecimal的valueOf(double val)方法创建对象
BigDecimal.valueOf(1.745);

参考链接

  1. BigDecimal.ROUND_HALF_XXX的各种用法
  2. BigDecimal精度丢失
详解BigDecimalROUNDliJava

有关BigDecimal精度详解的更多相关文章

  1. [工业相机] 分辨率、精度和公差之间的关系 - 2

    📢博客主页：https://blog.csdn.net/weixin_43197380📢欢迎点赞👍收藏⭐留言📝如有错误敬请指正！📢本文由Loewen丶原创，首发于CSDN，转载注明出处🙉📢现在的付出，都会是一种沉淀，只为让你成为更好的人✨文章预览：一.分辨率（Resolution）1、工业相机的分辨率是如何定义的？2、工业相机的分辨率是如何选择的？二.精度（Accuracy）1、像素精度（PixelAccuracy）2、定位精度和重复定位精度（RepeatPrecision）三.公差（Tolerance）四.课后作业（Post-ClassExercises）视觉行业的初学者，甚至是做了1~2年

  2. ruby-on-rails - ruby on rails 模型验证中的浮点精度 - 2

    我正在尝试使用正则表达式验证美元金额:^[0-9]+\.[0-9]{2}$这工作正常，但每当用户提交表单并且美元金额以0(零)结尾时，ruby(或rails？)将0砍掉。所以500.00变成500.0，因此正则表达式验证失败。有没有办法让ruby​​/rails保持用户输入的格式，而不管尾随零？ 最佳答案 我假设您的美元金额是小数类型。因此，用户在字段中输入的任何值在保存到数据库之前都会从字符串转换为适当的类型。验证适用于已转换为数字类型的值，因此在您的情况下，正则表达式并不是真正合适的验证过滤器。不过，您有几种可能性可以解决这个问

  3. ruby - 1.8 与 1.9 中的 BigDecimal - 2

    当升级到ruby​​1.9时，我在比较BigDecimal的预期值与实际值时测试失败，这是除float的结果。expected:'0.495E0',9(18)got:'0.49500000000000005E0',18(27)googlingforthingslike"bigdecimalrubyprecision"and"bigdecimalchangesruby1.9"isn'tgettingmeanywhere.HowdidBigDecimal'sbehaviorchangeinruby1.9?update1>RUBY_VERSION=>"1.8.7">1.23.to_d=>#>

  4. 物联网MQTT协议详解 - 2

    一、什么是MQTT协议MessageQueuingTelemetryTransport：消息队列遥测传输协议。是一种基于客户端-服务端的发布/订阅模式。与HTTP一样，基于TCP/IP协议之上的通讯协议，提供有序、无损、双向连接，由IBM（蓝色巨人）发布。原理：（1）MQTT协议身份和消息格式有三种身份：发布者（Publish）、代理（Broker）（服务器）、订阅者（Subscribe）。其中，消息的发布者和订阅者都是客户端，消息代理是服务器，消息发布者可以同时是订阅者。MQTT传输的消息分为：主题（Topic）和负载（payload）两部分Topic，可以理解为消息的类型，订阅者订阅（Su

  5. Tcl脚本入门笔记详解（一） - 2

    TCL脚本语言简介•TCL（ToolCommandLanguage）是一种解释执行的脚本语言（ScriptingLanguage）,它提供了通用的编程能力：支持变量、过程和控制结构；同时TCL还拥有一个功能强大的固有的核心命令集。TCL经常被用于快速原型开发，脚本编程，GUI和测试等方面。•实际上包含了两个部分：一个语言和一个库。首先，Tcl是一种简单的脚本语言，主要使用于发布命令给一些互交程序如文本编辑器、调试器和shell。由于TCL的解释器是用C\C++语言的过程库实现的，因此在某种意义上我们又可以把TCL看作C库，这个库中有丰富的用于扩展TCL命令的C\C++过程和函数，所以，Tcl是

  6. ruby - Ruby 的任意精度算术 - 2

    Ruby到底是怎么做到的？Jörg或其他人是否知道幕后发生的事情？不幸的是，我不太了解C，所以bignum.c对我帮助不大。我只是有点好奇有人可以解释(用简单的英语)它使用的任何神奇算法背后的理论。irb(main):001:0>999**99936806348825922326789470084006052186583833823203735320465595962143702560930047223153010387361450517521869134525758989639113039318944796977164583238219236607653663113200177617

  7. ruby - 无法将 BigDecimal 强制转换为 BigDecimal - 2

    这应该很简单，但它正在爆炸。有什么想法吗？d=BigDecimal.new("2.0")YAML::load({:a=>d}.to_yaml)TypeError:BigDecimalcan'tbecoercedintoBigDecimalfrom/Users/benjohnson/.rvm/rubies/ruby-1.9.3-p125/lib/ruby/1.9.1/irb/inspector.rb:86:in`inspect'from/Users/benjohnson/.rvm/rubies/ruby-1.9.3-p125/lib/ruby/1.9.1/irb/inspector.rb

  8. ruby-on-rails - Rails 2.3.11 DateTime BigDecimal 精度 - 2

    我目前有一个运行Ruby1.8.7和Rails2.3.2的RubyonRails项目我有一些从数据库中读取数据的单元测试，特别是两个连续项目的日期时间列，这两个项目应该相隔24小时。在一项测试中，我将项目2的日期时间设置为与项目1的日期时间相同。当我执行断言以确保两个值相等时，测试在rails2.3.2下工作正常。当我升级到rails2.3.11时，测试失败显示两次之间的差异将关闭并出现以下错误:expectedbutwas.这两个版本的rails中似乎存在浮点转换问题。如何解决float问题？ 最佳答案 这也发生在我身上，我最终这

  9. 【详解】Docker安装Elasticsearch7.16.1集群 - 2

    开门见山|拉取镜像dockerpullelasticsearch:7.16.1|配置存放的目录#存放配置文件的文件夹mkdir-p/opt/docker/elasticsearch/node-1/config#存放数据的文件夹mkdir-p/opt/docker/elasticsearch/node-1/data#存放运行日志的文件夹mkdir-p/opt/docker/elasticsearch/node-1/log#存放IK分词插件的文件夹mkdir-p/opt/docker/elasticsearch/node-1/plugins若你使用了moba，直接右键新建即可如上图所示依次类推创建

  10. 【Elasticsearch基础】Elasticsearch索引、文档以及映射操作详解 - 2

    文章目录概念索引相关操作创建索引更新副本查看索引删除索引索引的打开与关闭收缩索引索引别名查询索引别名文档相关操作新建文档查询文档更新文档删除文档映射相关操作查询文档映射创建静态映射创建索引并添加映射概念es中有三个概念要清楚，分别为索引、映射和文档（不用死记硬背，大概有个印象就可以）索引可理解为MySQL数据库；映射可理解为MySQL的表结构；文档可理解为MySQL表中的每行数据静态映射和动态映射上面已经介绍了，映射可理解为MySQL的表结构，在MySQL中，向表中插入数据是需要先创建表结构的；但在es中不必这样，可以直接插入文档，es可以根据插入的文档（数据），动态的创建映射（表结构），这就

随机推荐