草庐IT

c++ - double float 的显示及其比较

coder 2024-02-22 原文

序言

我正在研究一个为不懂浮点运算的人开发的系统。出于这个原因， float 比较的实现不会暴露给使用该系统的人。目前 float 的比较是这样发生的(由于遗留原因，这不能改变):

// If either number is not finite, do default comparison
if (!IsFinite(num1) || !IsFinite(num2)) {
    output = (num1 == num2);
} else {
    // Get exponents of both numbers to determine epsilon for comparison
    tmp = (OSINT32*)&num1+1;
    exp1 = (((*tmp)>>20)& 0x07ff) - 1023;
    tmp = (OSINT32*)&num2+1;
    exp2 = (((*tmp)>>20)& 0x07ff) - 1023;

    // Check if exponent is the same
    if (exp1 != exp2) {
        output = false;
    } else {
        // Calculate epsilon based on the magic number 47 (presumably calculated experimentally)?
        epsilon = pow(2.0,exp1-47);
        output = (fabs(num2-num1) <= eps);
    }
}

关键是，我们根据数字的指数来计算epsilon，以防止界面用户出现浮点比较错误。 重要注意事项:这是为那些不是软件程序员的人准备的，所以当他们执行 pow(sqrt(2), 2) == 2 时，他们不会得到很大的帮助惊喜。也许这不是最好的主意，但正如我所说，它无法更改。

问题

我们无法确定如何向用户显示数字。过去他们只是将数字显示到 15 位有效数字。但这会导致以下类型的问题:

>> SHOW 4.1 MOD 1
>>    0.099999999999999996
>> SHOW (4.1 MOD 1) == 0.1
>>    TRUE

由于生成的 epsilon，比较认为这是正确的。但是数字的打印让人迷惑，0.099999999999999996 = 0.1是怎么来的呢。 我们需要一种方法来显示数字，使其代表与其比较的数字为 TRUE 的最短有效位数。因此，对于 0.09999999999999996，这将是 0.1，对于 0.569999999992724327，它将是 0.569999999992725 .

这可能吗？

最佳答案

你可以计算出(num - pow(2.0, exp - 47))和 (num + pow(2.0, exp - 47)) , 将两者都转换为字符串并搜索范围之间的最小小数。

double 的精确值是 mantissa * pow(2.0, exp - 51)整数值 mantissa , 所以如果你加/减 pow(2.0, exp - 47)您将尾数更改为 2^4 ，它应该可以精确表示而没有舍入错误(除非在尾数不足/溢出的极端情况下，即如果它是二进制 <= pow(2,4) 或 >= pow(2, 53) - pow(2,4) 。您可能需要检查这些*)。

然后你有两个字符串，搜索第一个数字不同的位置并将其截断。尽管有很多舍入情况，尤其是当您不仅想要范围内的正确数字，而且该数字接近输入数字时(但这可能不需要)。例如，如果你得到 "1.23"和 "1.24" ，你甚至可能想要输出 `"1.235"。

这也说明你的例子是错误的。 0.569999999992724327 的 epsilon是(最大精度)0.000000000000003552713678800500929355621337890625 .范围是 0.569999999992720773889232077635824680328369140625至 0.569999999992727879316589678637683391571044921875并将在 0.569999999992725 处被切断(或 0.569999999992723 如果您喜欢四舍五入)

一种更容易实现的大锤方法是将其输出到最大精度，切掉一个数字，将其转换回 double ，检查它是否比较正确。然后继续切割，直到比较失败。 (可以通过二进制搜索进行改进)

* 它们应该仍然可以精确表示，但是您的比较方法会表现得很奇怪。考虑 num1 == 1和 num2 == 1 - pow(2.0, -53) = 0.99999999999999988897769753748434595763683319091796875 .有区别0.00000000000000011102230246251565404236316680908203125低于你的 epsilon 0.000000000000003552713678800500929355621337890625 ，但是比较会说它们不同，因为它们有不同的指数

关于c++ - double float 的显示及其比较，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/35591270/

amp及其codesectionstrongc++

有关c++ - double float 的显示及其比较的更多相关文章

  1. ruby-on-rails - Rails 编辑表单不显示嵌套项 - 2

    我得到了一个包含嵌套链接的表单。编辑时链接字段为空的问题。这是我的表格:Editingkategori{:action=>'update',:id=>@konkurrancer.id})do|f|%>'Trackingurl',:style=>'width:500;'%>'Editkonkurrence'%>|我的konkurrencer模型:has_one:link我的链接模型:classLink我的konkurrancer编辑操作:defedit@konkurrancer=Konkurrancer.find(params[:id])@konkurrancer.link_attrib

  2. ruby - 解析 RDFa、微数据等的最佳方式是什么，使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作，但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式，例如使用这个yaml文件，它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  3. ruby - Ruby 的 Hash 在比较键时使用哪种相等性测试？ - 2

    我有一个围绕一些对象的包装类，我想将这些对象用作散列中的键。包装对象和解包装对象应映射到相同的键。一个简单的例子是这样的:classAattr_reader:xdefinitialize(inner)@inner=innerenddefx;@inner.x;enddef==(other)@inner.x==other.xendenda=A.new(o)#oisjustanyobjectthatallowso.xb=A.new(o)h={a=>5}ph[a]#5ph[b]#nil,shouldbe5ph[o]#nil,shouldbe5我试过==、===、eq?并散列所有无济于事。

  4. ruby-on-rails - 如何优雅地重启 thin + nginx？ - 2

    我的瘦服务器配置了nginx，我的ROR应用程序正在它们上运行。在我发布代码更新时运行thinrestart会给我的应用程序带来一些停机时间。我试图弄清楚如何优雅地重启正在运行的Thin实例，但找不到好的解决方案。有没有人能做到这一点？ 最佳答案 #Restartjustthethinserverdescribedbythatconfigsudothin-C/etc/thin/mysite.ymlrestartNginx将继续运行并代理请求。如果您将Nginx设置为使用多个上游服务器，例如server{listen80;server

  5. ruby-on-rails - 使用 Sublime Text 3 突出显示 HTML 背景语法中的 ERB？ - 2

    所以我在关注Railscast，我注意到在html.erb文件中，ruby代码有一个微弱的背景高亮效果，以区别于其他代码HTML文档。我知道Ryan使用TextMate。我正在使用SublimeText3。我怎样才能达到同样的效果？谢谢! 最佳答案 为SublimeText安装ERB包。假设您安装了SublimeText包管理器*，只需点击cmd+shift+P即可获得命令菜单，然后键入installpackage并选择PackageControl:InstallPackage获取包管理器菜单。在该菜单中，键入ERB并在看到包时选择

  6. ruby-on-rails - link_to 不显示任何 rails - 2

    我试图在索引页中创建一个超链接，但它没有显示，也没有给出任何错误。这是我的index.html.erb代码。ListingarticlesTitleTextssss我检查了我的路线，我认为它们也没有问题。PrefixVerbURIPatternController#Actionwelcome_indexGET/welcome/index(.:format)welcome#indexarticlesGET/articles(.:format)articles#indexPOST/articles(.:format)articles#createnew_articleGET/article

  7. ruby-on-rails - 如何在 Rails View 上显示错误消息？ - 2

    我是rails的新手，想在form字段上应用验证。myviewsnew.html.erb.....模拟.rbclassSimulation{:in=>1..25,:message=>'Therowmustbebetween1and25'}end模拟Controller.rbclassSimulationsController我想检查模型类中row字段的整数范围，如果不在范围内则返回错误信息。我可以检查上面代码的范围，但无法返回错误消息提前致谢 最佳答案 关键是您使用的是模型表单，一种显示ActiveRecord模型实例属性的表单。c

  8. ruby-on-rails - 复数 for fields_for has_many 关联未显示在 View 中 - 2

    目前，Itembelongs_toCompany和has_manyItemVariants。我正在尝试使用嵌套的fields_for通过Item表单添加ItemVariant字段，但是使用:item_variants不显示该表单。只有当我使用单数时才会显示。我检查了我的关联，它们似乎是正确的，这可能与嵌套在公司下的项目有关，还是我遗漏了其他东西？提前致谢。注意:下面的代码片段中省略了不相关的代码。编辑:不知道这是否相关，但我正在使用CanCan进行身份验证。routes.rbresources:companiesdoresources:itemsenditem.rbclassItemi

  9. ruby - 使用 `+=` 和 `send` 方法 - 2

    如何将send与+=一起使用？a=20;a.send"+=",10undefinedmethod`+='for20:Fixnuma=20;a+=10=>30 最佳答案 恐怕你不能。+=不是方法，而是语法糖。参见http://www.ruby-doc.org/docs/ProgrammingRuby/html/tut_expressions.html它说Incommonwithmanyotherlanguages,Rubyhasasyntacticshortcut:a=a+2maybewrittenasa+=2.你能做的最好的事情是:

  10. ruby-on-rails - 在 Flash 警报 Rails 3 中显示错误消息 - 2

    如果我在模型中设置验证消息validates:name,:presence=>{:message=>'Thenamecantbeblank.'}我如何让该消息显示在闪光警报中，这是我迄今为止尝试过的方法defcreate@message=Message.new(params[:message])if@message.valid?ContactMailer.send_mail(@message).deliverredirect_to(root_path,:notice=>"Thanksforyourmessage,Iwillbeintouchsoon")elseflash[:error]

随机推荐