草庐IT

javascript - 浮点表示似乎可以正确地进行整数运算——为什么？

coder 2024-02-13 原文

我一直在玩弄 float ，根据我过去对它们的了解，0.1 + 0.2 最终变成了类似 0.30000000000000004 并不让我吃惊。

然而， 让我感到惊讶的是，整数运算总是似乎 工作得很好并且没有任何这些工件。

我首先在 JavaScript(node.js 中的 Chrome V8)中注意到了这一点:

0.1 + 0.2 == 0.3 // false, NOT surprising
123456789012 + 18 == 123456789030  // true
22334455667788 + 998877665544 == 23333333333332 // true
1048576 / 1024 == 1024  // true

C++(Mac OS X 上的 gcc)似乎具有相同的属性。

最终结果似乎是整数——找不到更好的词了——有效。只有当我开始使用十进制数字时，事情才会变得不稳定。

这是设计的一个特征、一个数学产物，还是编译器和运行时环境所做的一些优化？

最佳答案

Is this is a feature of the design, an mathematical artifact, or some optimisation done by compilers and runtime environments?

这是实数的特征。现代代数的一个定理(现代代数，不是高中代数；数学专业的学生在完成基本微积分和线性代数类(class)后会学习现代代数)说对于一些正整数b，任何正实数r 可以表示为 r = a * bp，其中 a 是在 [1,b) 和 p 中是某个整数。例如，102410 = 1.02410*103。正是这个定理证明了我们使用科学计数法是合理的。

那个数字 a 可以分类为终结(例如 1.0)、重复(1/3=0.333...)或非重复(pi 的表示)。终端号码这里有一个小问题。任何终端号码也可以表示为重复号码。例如，0.999...和 ​​1 是相同的数字。这种表示形式上的歧义可以通过指定可以表示为终端号的数字来表示来解决。

您所发现的是所有整数在任何基数中都具有终结表示这一事实的结果。

此处存在一个问题，即实数在计算机中的表示方式。正如 int 和 long long int 不代表所有整数一样，float 和 double 也不代表所有整数所有的实数。大多数计算机上用来表示实数 r 的方案是以 r = a*2p 的形式表示sup>，但尾数(或尾数)a 被 chop 为特定位数，指数 p 被限制为某个有限数。这意味着某些整数无法准确表示。例如，尽管 googol (10100) 是一个整数，但它的浮点表示并不精确。 googol 的基数 2 表示是一个 333 位数字。此 333 位尾数被 chop 为 52+1 位。

这样做的结果是 double 算术不再精确，即使对于大于 253 的整数也是如此。尝试使用 unsigned long long int 类型对 253 和 264 之间的值进行实验。您会发现 double 算法对于这些大整数不再精确。

关于javascript - 浮点表示似乎可以正确地进行整数运算——为什么？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/13064715/

mdashjavascriptcodeemsupc++floating-point

有关javascript - 浮点表示似乎可以正确地进行整数运算——为什么？的更多相关文章

  1. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法？ - 2

    类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

  2. ruby-on-rails - Rails - 子类化模型的设计模式是什么？ - 2

    我有一个模型:classItem项目有一个属性“商店”基于存储的值，我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式？如果方法中没有大的if-else语句，这是如何干净利落地完成的？ 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么？，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.co

  3. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们？ - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  4. ruby - 解析 RDFa、微数据等的最佳方式是什么，使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作，但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式，例如使用这个yaml文件，它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  5. ruby - 使用 Vim Rails，您可以创建一个新的迁移文件并一次性打开它吗？ - 2

    使用带有Rails插件的vim，您可以创建一个迁移文件，然后一次性打开该文件吗？textmate也可以这样吗？ 最佳答案 你可以使用rails.vim然后做类似的事情::Rgeneratemigratonadd_foo_to_bar插件将打开迁移生成的文件，这正是您想要的。我不能代表textmate。 关于ruby-使用VimRails，您可以创建一个新的迁移文件并一次性打开它吗？，我们在StackOverflow上找到一个类似的问题： https://sta

  6. ruby - 为什么 4.1%2 使用 Ruby 返回 0.0999999999999996？但是 4.2%2==0.2 - 2

    为什么4.1%2返回0.0999999999999996？但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意，这不是与Ruby相关的问题，而是与所有编程语言相关的问题，因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返

  7. ruby - 我可以使用 Ruby 从 CSV 中删除列吗？ - 2

    查看Ruby的CSV库的文档，我非常确定这是可能且简单的。我只需要使用Ruby删除CSV文件的前三列，但我没有成功运行它。 最佳答案 csv_table=CSV.read(file_path_in,:headers=>true)csv_table.delete("header_name")csv_table.to_csv#=>ThenewCSVinstringformat检查CSV::Table文档:http://ruby-doc.org/stdlib-1.9.2/libdoc/csv/rdoc/CSV/Table.html

  8. ruby-on-rails - 如何使用 instance_variable_set 正确设置实例变量？ - 2

    我正在查看instance_variable_set的文档并看到给出的示例代码是这样做的:obj.instance_variable_set(:@instnc_var,"valuefortheinstancevariable")然后允许您在类的任何实例方法中以@instnc_var的形式访问该变量。我想知道为什么在@instnc_var之前需要一个冒号:。冒号有什么作用？ 最佳答案 我的第一直觉是告诉你不要使用instance_variable_set除非你真的知道你用它做什么。它本质上是一种元编程工具或绕过实例变量可见性的黑客攻击

  9. ruby - ruby 中的 TOPLEVEL_BINDING 是什么？ - 2

    它不等于主线程的binding，这个toplevel作用域是什么？此作用域与主线程中的binding有何不同？>ruby-e'putsTOPLEVEL_BINDING===binding'false 最佳答案 事实是，TOPLEVEL_BINDING始终引用Binding的预定义全局实例，而Kernel#binding创建的新实例>Binding每次封装当前执行上下文。在顶层，它们都包含相同的绑定(bind)，但它们不是同一个对象，您无法使用==或===测试它们的绑定(bind)相等性。putsTOPLEVEL_BINDINGput

  10. ruby - 我可以使用 aws-sdk-ruby 在 AWS S3 上使用事务性文件删除/上传吗？ - 2

    我发现ActiveRecord::Base.transaction在复杂方法中非常有效。我想知道是否可以在如下事务中从AWSS3上传/删除文件:S3Object.transactiondo#writeintofiles#raiseanexceptionend引发异常后，每个操作都应在S3上回滚。S3Object这可能吗？？ 最佳答案 虽然S3API具有批量删除功能，但它不支持事务，因为每个删除操作都可以独立于其他操作成功/失败。该API不提供任何批量上传功能(通过PUT或POST)，因此每个上传操作都是通过一个独立的API调用完成的

随机推荐