在数学上,考虑这个问题的有理数
8725724278030350 / 2**48
**分母中表示求幂,即分母为2到 48权力。 (分数不是最低的,可以减少 2。)这个数字是 正好可表示为 System.Double .它的十进制扩展是31.0000000000000'49'73799150320701301097869873046875 (exact)
31 (后跟 13 个 0 s)因为接下来的数字( 49... )以 4 开头(意思是向下舍入)。但是如果数字先四舍五入到 17 位,然后再四舍五入到 15 位,结果可能是 31.0000000000001 .这是因为第一次舍入通过增加 49... 向上舍入。数字到 50 (terminates) (接下来的数字是 73... ),然后第二次舍入可能会再次向上舍入(当中点舍入规则表示“远离零舍入”时)。"31.0000000000001" . 问题:这不是一个错误吗? 通过标准字符串表示,我们指的是 String由参数生成 Double.ToString()实例方法当然与 ToString("G") 产生的相同.System.Decimal然后你会得到一个 decimal即 31确切地!见 this Stack Overflow question讨论类型转换 Double 令人惊讶的事实至 Decimal涉及首先四舍五入到 15 位数字。这意味着转换到 Decimal在调用 ToSting() 时进行正确的舍入到 15 位数字做一个不正确的。31.0000000000001 ,但当转换为 Decimal 时(其中 29 位数可用),变为 31确切地。这是不幸的。static void Main()
{
const double evil = 31.0000000000000497;
string exactString = DoubleConverter.ToExactString(evil); // Jon Skeet, http://csharpindepth.com/Articles/General/FloatingPoint.aspx
Console.WriteLine("Exact value (Jon Skeet): {0}", exactString); // writes 31.00000000000004973799150320701301097869873046875
Console.WriteLine("General format (G): {0}", evil); // writes 31.0000000000001
Console.WriteLine("Round-trip format (R): {0:R}", evil); // writes 31.00000000000005
Console.WriteLine();
Console.WriteLine("Binary repr.: {0}", String.Join(", ", BitConverter.GetBytes(evil).Select(b => "0x" + b.ToString("X2"))));
Console.WriteLine();
decimal converted = (decimal)evil;
Console.WriteLine("Decimal version: {0}", converted); // writes 31
decimal preciseDecimal = decimal.Parse(exactString, CultureInfo.InvariantCulture);
Console.WriteLine("Better decimal: {0}", preciseDecimal); // writes 31.000000000000049737991503207
}
ToExactString方法。如果不想用他的东西(可以通过网址找到),把上面依赖exactString的代码行删掉就好了.你仍然可以看到 Double有问题的 ( evil ) 是圆形和类型转换的。 exact value (truncated) "R" format "G" format decimal cast
------------------------- ------------------ ---------------- ------------
6.00000000000000'53'29... 6.0000000000000053 6.00000000000001 6
9.00000000000000'53'29... 9.0000000000000053 9.00000000000001 9
30.0000000000000'49'73... 30.00000000000005 30.0000000000001 30
50.0000000000000'49'73... 50.00000000000005 50.0000000000001 50
200.000000000000'51'15... 200.00000000000051 200.000000000001 200
500.000000000000'51'15... 500.00000000000051 500.000000000001 500
1020.00000000000'50'02... 1020.000000000005 1020.00000000001 1020
2000.00000000000'50'02... 2000.000000000005 2000.00000000001 2000
3000.00000000000'50'02... 3000.000000000005 3000.00000000001 3000
9000.00000000000'54'56... 9000.0000000000055 9000.00000000001 9000
20000.0000000000'50'93... 20000.000000000051 20000.0000000001 20000
50000.0000000000'50'93... 50000.000000000051 50000.0000000001 50000
500000.000000000'52'38... 500000.00000000052 500000.000000001 500000
1020000.00000000'50'05... 1020000.000000005 1020000.00000001 1020000
Double 的精确值(虽然被截断了)代表。第二列给出了来自 "R" 的字符串表示格式字符串。第三列给出了通常的字符串表示。最后第四列给出了 System.Decimal转换此 Double 的结果.ToString() 舍入到 15 位数字并通过转换为 Decimal 舍入到 15 位数字在很多情况下不同意Decimal在很多情况下也会错误地舍入,并且这些情况下的错误不能被描述为“两次”错误ToString()似乎产生比 Decimal 更大的数字当他们不同意时转换(无论两轮中的哪一轮正确)最佳答案
所以从你的实验来看,似乎 Double.ToString不做正确的舍入。
这是相当不幸的,但并不特别令人惊讶:对二进制到十进制的转换进行正确的舍入非常重要,而且可能非常慢,在极端情况下需要多精度算术。见大卫·盖伊的 dtoa.c代码 here有关正确舍入 double 字符串和字符串 double 转换所涉及的内容的一个示例。 (Python 目前使用此代码的变体来进行浮点到字符串和字符串到浮点的转换。)
即使是当前的 IEEE 754 浮点运算标准也推荐,但并不要求从二进制浮点类型到十进制字符串的转换始终正确舍入。这是第 5.12.2 节“表示有限数字的外部十进制字符序列”中的一个片段。
There might be an implementation-defined limit on the number of significant digits that can be converted with correct rounding to and from supported binary formats. That limit, H, shall be such that H ≥ M+3 and it should be that H is unbounded.
M定义为 Pmin(bf) 的最大值所有支持的二进制格式 bf ,以及自 Pmin(float64)定义为 17 .NET 通过 Double 支持 float64 格式类型,M应该至少是 17在网上。简而言之,这意味着如果 .NET 遵循该标准,它将提供至少 20 位有效数字的正确舍入字符串转换。所以看起来好像.NET Double不符合这个标准。Double complies with the IEC 60559:1989 (IEEE 754) standard for binary floating-point arithmetic.
关于c# - .NET 的 Double.ToString 方法中的两次错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/11085052/
我正在学习如何使用Nokogiri,根据这段代码我遇到了一些问题:require'rubygems'require'mechanize'post_agent=WWW::Mechanize.newpost_page=post_agent.get('http://www.vbulletin.org/forum/showthread.php?t=230708')puts"\nabsolutepathwithtbodygivesnil"putspost_page.parser.xpath('/html/body/div/div/div/div/div/table/tbody/tr/td/div
总的来说,我对ruby还比较陌生,我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础,我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用
类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc
我试图在一个项目中使用rake,如果我把所有东西都放到Rakefile中,它会很大并且很难读取/找到东西,所以我试着将每个命名空间放在lib/rake中它自己的文件中,我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题,但没有任务。我现在只有一个.rake文件作为测试,名为“servers.rake”,它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时
作为我的Rails应用程序的一部分,我编写了一个小导入程序,它从我们的LDAP系统中吸取数据并将其塞入一个用户表中。不幸的是,与LDAP相关的代码在遍历我们的32K用户时泄漏了大量内存,我一直无法弄清楚如何解决这个问题。这个问题似乎在某种程度上与LDAP库有关,因为当我删除对LDAP内容的调用时,内存使用情况会很好地稳定下来。此外,不断增加的对象是Net::BER::BerIdentifiedString和Net::BER::BerIdentifiedArray,它们都是LDAP库的一部分。当我运行导入时,内存使用量最终达到超过1GB的峰值。如果问题存在,我需要找到一些方法来更正我的代
我正在尝试设置一个puppet节点,但rubygems似乎不正常。如果我通过它自己的二进制文件(/usr/lib/ruby/gems/1.8/gems/facter-1.5.8/bin/facter)在cli上运行facter,它工作正常,但如果我通过由rubygems(/usr/bin/facter)安装的二进制文件,它抛出:/usr/lib/ruby/1.8/facter/uptime.rb:11:undefinedmethod`get_uptime'forFacter::Util::Uptime:Module(NoMethodError)from/usr/lib/ruby
Rails2.3可以选择随时使用RouteSet#add_configuration_file添加更多路由。是否可以在Rails3项目中做同样的事情? 最佳答案 在config/application.rb中:config.paths.config.routes在Rails3.2(也可能是Rails3.1)中,使用:config.paths["config/routes"] 关于ruby-on-rails-Rails3中的多个路由文件,我们在StackOverflow上找到一个类似的问题
大约一年前,我决定确保每个包含非唯一文本的Flash通知都将从模块中的方法中获取文本。我这样做的最初原因是为了避免一遍又一遍地输入相同的字符串。如果我想更改措辞,我可以在一个地方轻松完成,而且一遍又一遍地重复同一件事而出现拼写错误的可能性也会降低。我最终得到的是这样的:moduleMessagesdefformat_error_messages(errors)errors.map{|attribute,message|"Error:#{attribute.to_s.titleize}#{message}."}enddeferror_message_could_not_find(obje
我想了解Ruby方法methods()是如何工作的。我尝试使用“ruby方法”在Google上搜索,但这不是我需要的。我也看过ruby-doc.org,但我没有找到这种方法。你能详细解释一下它是如何工作的或者给我一个链接吗?更新我用methods()方法做了实验,得到了这样的结果:'labrat'代码classFirstdeffirst_instance_mymethodenddefself.first_class_mymethodendendclassSecond使用类#returnsavailablemethodslistforclassandancestorsputsSeco
我需要从一个View访问多个模型。以前,我的links_controller仅用于提供以不同方式排序的链接资源。现在我想包括一个部分(我假设)显示按分数排序的顶级用户(@users=User.all.sort_by(&:score))我知道我可以将此代码插入每个链接操作并从View访问它,但这似乎不是“ruby方式”,我将需要在不久的将来访问更多模型。这可能会变得很脏,是否有针对这种情况的任何技术?注意事项:我认为我的应用程序正朝着单一格式和动态页面内容的方向发展,本质上是一个典型的网络应用程序。我知道before_filter但考虑到我希望应用程序进入的方向,这似乎很麻烦。最终从任何