草庐IT

c# - .NET 的 Double.ToString 方法中的两次错误

coder 2024-05-21 原文

在数学上,考虑这个问题的有理数

8725724278030350 / 2**48

哪里**分母中表示求幂,即分母为248权力。 (分数不是最低的,可以减少 2。)这个数字是 正好可表示为 System.Double .它的十进制扩展是
31.0000000000000'49'73799150320701301097869873046875 (exact)

其中撇号不代表丢失的数字,而仅标记四舍五入为 的边界。 15 分别 17 数字是要执行的。

请注意以下事项: 如果此数字四舍五入为 15 位,结果将为 31 (后跟 13 个 0 s)因为接下来的数字( 49... )以 4 开头(意思是向下舍入)。但是如果数字先四舍五入到 17 位,然后再四舍五入到 15 位,结果可能是 31.0000000000001 .这是因为第一次舍入通过增加 49... 向上舍入。数字到 50 (terminates) (接下来的数字是 73... ),然后第二次舍入可能会再次向上舍入(当中点舍入规则表示“远离零舍入”时)。

(当然,还有更多具有上述特征的数字。)

现在,事实证明 .NET 对这个数字的标准字符串表示是 "31.0000000000001" . 问题:这不是一个错误吗? 通过标准字符串表示,我们指的是 String由参数生成 Double.ToString()实例方法当然与 ToString("G") 产生的相同.

需要注意的一个有趣的事情是,如果你将上面的数字转换为 System.Decimal然后你会得到一个 decimal31确切地!见 this Stack Overflow question讨论类型转换 Double 令人惊讶的事实至 Decimal涉及首先四舍五入到 15 位数字。这意味着转换到 Decimal在调用 ToSting() 时进行正确的舍入到 15 位数字做一个不正确的。

综上所述,我们有一个浮点数,当输出给用户时,它是 31.0000000000001 ,但当转换为 Decimal 时(其中 29 位数可用),变为 31确切地。这是不幸的。

这里有一些 C# 代码供您验证问题:
static void Main()
{
  const double evil = 31.0000000000000497;
  string exactString = DoubleConverter.ToExactString(evil); // Jon Skeet, http://csharpindepth.com/Articles/General/FloatingPoint.aspx 

  Console.WriteLine("Exact value (Jon Skeet): {0}", exactString);   // writes 31.00000000000004973799150320701301097869873046875
  Console.WriteLine("General format (G): {0}", evil);               // writes 31.0000000000001
  Console.WriteLine("Round-trip format (R): {0:R}", evil);          // writes 31.00000000000005

  Console.WriteLine();
  Console.WriteLine("Binary repr.: {0}", String.Join(", ", BitConverter.GetBytes(evil).Select(b => "0x" + b.ToString("X2"))));

  Console.WriteLine();
  decimal converted = (decimal)evil;
  Console.WriteLine("Decimal version: {0}", converted);             // writes 31
  decimal preciseDecimal = decimal.Parse(exactString, CultureInfo.InvariantCulture);
  Console.WriteLine("Better decimal: {0}", preciseDecimal);         // writes 31.000000000000049737991503207
}

上面的代码使用了 Skeet 的 ToExactString方法。如果不想用他的东西(可以通过网址找到),把上面依赖exactString的代码行删掉就好了.你仍然可以看到 Double有问题的 ( evil ) 是圆形和类型转换的。

附加:

好的,所以我测试了更多数字,这是一个表格:
  exact value (truncated)       "R" format         "G" format     decimal cast
 -------------------------  ------------------  ----------------  ------------
 6.00000000000000'53'29...  6.0000000000000053  6.00000000000001  6
 9.00000000000000'53'29...  9.0000000000000053  9.00000000000001  9
 30.0000000000000'49'73...  30.00000000000005   30.0000000000001  30
 50.0000000000000'49'73...  50.00000000000005   50.0000000000001  50
 200.000000000000'51'15...  200.00000000000051  200.000000000001  200
 500.000000000000'51'15...  500.00000000000051  500.000000000001  500
 1020.00000000000'50'02...  1020.000000000005   1020.00000000001  1020
 2000.00000000000'50'02...  2000.000000000005   2000.00000000001  2000
 3000.00000000000'50'02...  3000.000000000005   3000.00000000001  3000
 9000.00000000000'54'56...  9000.0000000000055  9000.00000000001  9000
 20000.0000000000'50'93...  20000.000000000051  20000.0000000001  20000
 50000.0000000000'50'93...  50000.000000000051  50000.0000000001  50000
 500000.000000000'52'38...  500000.00000000052  500000.000000001  500000
 1020000.00000000'50'05...  1020000.000000005   1020000.00000001  1020000

第一列给出了 Double 的精确值(虽然被截断了)代表。第二列给出了来自 "R" 的字符串表示格式字符串。第三列给出了通常的字符串表示。最后第四列给出了 System.Decimal转换此 Double 的结果.

我们得出以下结论:
  • 通过 ToString() 舍入到 15 位数字并通过转换为 Decimal 舍入到 15 位数字在很多情况下不同意
  • 转换为 Decimal在很多情况下也会错误地舍入,并且这些情况下的错误不能被描述为“两次”错误
  • 就我而言,ToString()似乎产生比 Decimal 更大的数字当他们不同意时转换(无论两轮中的哪一轮正确)

  • 我只尝试过像上面这样的情况。我还没有检查其他“表格”的数量是否存在四舍五入错误。

    最佳答案

    所以从你的实验来看,似乎 Double.ToString不做正确的舍入。

    这是相当不幸的,但并不特别令人惊讶:对二进制到十进制的转换进行正确的舍入非常重要,而且可能非常慢,在极端情况下需要多精度算术。见大卫·盖伊的 dtoa.c代码 here有关正确舍入 double 字符串和字符串 double 转换所涉及的内容的一个示例。 (Python 目前使用此代码的变体来进行浮点到字符串和字符串到浮点的转换。)

    即使是当前的 IEEE 754 浮点运算标准也推荐,但并不要求从二进制浮点类型到十进制字符串的转换始终正确舍入。这是第 5.12.2 节“表示有限数字的外部十进制字符序列”中的一个片段。

    There might be an implementation-defined limit on the number of significant digits that can be converted with correct rounding to and from supported binary formats. That limit, H, shall be such that H ≥ M+3 and it should be that H is unbounded.



    这里M定义为 Pmin(bf) 的最大值所有支持的二进制格式 bf ,以及自 Pmin(float64)定义为 17 .NET 通过 Double 支持 float64 格式类型,M应该至少是 17在网上。简而言之,这意味着如果 .NET 遵循该标准,它将提供至少 20 位有效数字的正确舍入字符串转换。所以看起来好像.NET Double不符合这个标准。

    在回答“这是一个错误”问题时,尽管我希望它是一个错误,但我在数字格式文档中可以找到的任何地方似乎都没有任何准确性或 IEEE 754 一致性声明对于.NET。所以它可能被认为是不受欢迎的,但我很难将其称为实际错误。

    编辑:Jeppe Stig Nielsen 指出 System.Double MSDN 上的页面指出

    Double complies with the IEC 60559:1989 (IEEE 754) standard for binary floating-point arithmetic.



    我不清楚这个符合性声明到底应该涵盖什么,但即使对于 IEEE 754 的 1985 年旧版本,所描述的字符串转换似乎也违反了该标准的二进制到十进制要求。

    鉴于此,我很乐意将我的评估升级为“可能的错误”。

    关于c# - .NET 的 Double.ToString 方法中的两次错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/11085052/

    有关c# - .NET 的 Double.ToString 方法中的两次错误的更多相关文章

    1. ruby - 如何使用 Nokogiri 的 xpath 和 at_xpath 方法 - 2

      我正在学习如何使用Nokogiri,根据这段代码我遇到了一些问题:require'rubygems'require'mechanize'post_agent=WWW::Mechanize.newpost_page=post_agent.get('http://www.vbulletin.org/forum/showthread.php?t=230708')puts"\nabsolutepathwithtbodygivesnil"putspost_page.parser.xpath('/html/body/div/div/div/div/div/table/tbody/tr/td/div

    2. ruby - 如何从 ruby​​ 中的字符串运行任意对象方法? - 2

      总的来说,我对ruby​​还比较陌生,我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础,我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用

    3. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法? - 2

      类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

    4. ruby - 其他文件中的 Rake 任务 - 2

      我试图在一个项目中使用rake,如果我把所有东西都放到Rakefile中,它会很大并且很难读取/找到东西,所以我试着将每个命名空间放在lib/rake中它自己的文件中,我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题,但没有任务。我现在只有一个.rake文件作为测试,名为“servers.rake”,它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时

    5. ruby-on-rails - Ruby net/ldap 模块中的内存泄漏 - 2

      作为我的Rails应用程序的一部分,我编写了一个小导入程序,它从我们的LDAP系统中吸取数据并将其塞入一个用户表中。不幸的是,与LDAP相关的代码在遍历我们的32K用户时泄漏了大量内存,我一直无法弄清楚如何解决这个问题。这个问题似乎在某种程度上与LDAP库有关,因为当我删除对LDAP内容的调用时,内存使用情况会很好地稳定下来。此外,不断增加的对象是Net::BER::BerIdentifiedString和Net::BER::BerIdentifiedArray,它们都是LDAP库的一部分。当我运行导入时,内存使用量最终达到超过1GB的峰值。如果问题存在,我需要找到一些方法来更正我的代

    6. ruby - Facter::Util::Uptime:Module 的未定义方法 get_uptime (NoMethodError) - 2

      我正在尝试设置一个puppet节点,但ruby​​gems似乎不正常。如果我通过它自己的二进制文件(/usr/lib/ruby/gems/1.8/gems/facter-1.5.8/bin/facter)在cli上运行facter,它工作正常,但如果我通过由ruby​​gems(/usr/bin/facter)安装的二进制文件,它抛出:/usr/lib/ruby/1.8/facter/uptime.rb:11:undefinedmethod`get_uptime'forFacter::Util::Uptime:Module(NoMethodError)from/usr/lib/ruby

    7. ruby-on-rails - Rails 3 中的多个路由文件 - 2

      Rails2.3可以选择随时使用RouteSet#add_configuration_file添加更多路由。是否可以在Rails3项目中做同样的事情? 最佳答案 在config/application.rb中:config.paths.config.routes在Rails3.2(也可能是Rails3.1)中,使用:config.paths["config/routes"] 关于ruby-on-rails-Rails3中的多个路由文件,我们在StackOverflow上找到一个类似的问题

    8. ruby-on-rails - Rails 常用字符串(用于通知和错误信息等) - 2

      大约一年前,我决定确保每个包含非唯一文本的Flash通知都将从模块中的方法中获取文本。我这样做的最初原因是为了避免一遍又一遍地输入相同的字符串。如果我想更改措辞,我可以在一个地方轻松完成,而且一遍又一遍地重复同一件事而出现拼写错误的可能性也会降低。我最终得到的是这样的:moduleMessagesdefformat_error_messages(errors)errors.map{|attribute,message|"Error:#{attribute.to_s.titleize}#{message}."}enddeferror_message_could_not_find(obje

    9. Ruby 方法() 方法 - 2

      我想了解Ruby方法methods()是如何工作的。我尝试使用“ruby方法”在Google上搜索,但这不是我需要的。我也看过ruby​​-doc.org,但我没有找到这种方法。你能详细解释一下它是如何工作的或者给我一个链接吗?更新我用methods()方法做了实验,得到了这样的结果:'labrat'代码classFirstdeffirst_instance_mymethodenddefself.first_class_mymethodendendclassSecond使用类#returnsavailablemethodslistforclassandancestorsputsSeco

    10. ruby-on-rails - Rails - 一个 View 中的多个模型 - 2

      我需要从一个View访问多个模型。以前,我的links_controller仅用于提供以不同方式排序的链接资源。现在我想包括一个部分(我假设)显示按分数排序的顶级用户(@users=User.all.sort_by(&:score))我知道我可以将此代码插入每个链接操作并从View访问它,但这似乎不是“ruby方式”,我将需要在不久的将来访问更多模型。这可能会变得很脏,是否有针对这种情况的任何技术?注意事项:我认为我的应用程序正朝着单一格式和动态页面内容的方向发展,本质上是一个典型的网络应用程序。我知道before_filter但考虑到我希望应用程序进入的方向,这似乎很麻烦。最终从任何

    随机推荐