草庐IT

javascript - 无法通过计算得到0.30000000000000004

coder 2024-05-09 原文

当我在控制台中运行 0.1 + 0.2 时，结果是 0.30000000000000004。所以我试着自己计算一下。以下是我采取的步骤。

1) 将 0.1 表示为 IEEE754 double:

0.1 = 0 01111111011 1001100110011001100110011001100110011001100110011010

2) 将 0.2 表示为 IEEE754 double:

0.2 = 0 01111111100 1001100110011001100110011001100110011001100110011010

这里的计算应该是正确的，因为我已经使用 my custom function 检查了它们，它显示了 JavaScript 如何存储数字。

3) 将两个数字都转换为科学记数法:

0.1 = 1.1001100110011001100110011001100110011001100110011010 x 2-4

0.2 = 1.1001100110011001100110011001100110011001100110011010 x 2-3

现在，由于指数不同，我们将 0.2 调整为 -4:

0.2 = 0.11001100110011001100110011001100110011001100110011010 x 2-4

4) 添加它们:

  1.1001100110011001100110011001100110011001100110011010
+ 0.1100110011001100110011001100110011001100110011001101
  ------------------------------------------------------
 10.0110011001100110011001100110011001100110011001100111

所以总和是:

10.0110011001100110011001100110011001100110011001100111 x 2-4

5) 规范化:

1.00110011001100110011001100110011001100110011001100111 x 2-3

6) 小数点后四舍五入到52位:

1.1100110011001100110011001100110011001100110011010000 x 2-3

在我删除指数后，我得到以下结果数字:

0.001110011001100110011001100110011001100110011001101

当我使用 this calculator 将其转换为十进制时，它会显示:

0.225000000000000088817841970012523233890533447265625

不完全是预期的 0.30000000000000004。

我在这里错过了什么？

尝试 #2:(修正了调整指数时的错误)

3) 将两个数字都转换为科学记数法:

0.1 = 1.1001100110011001100110011001100110011001100110011010 x 2-4

0.2 = 1.1001100110011001100110011001100110011001100110011010 x 2-3

现在，由于指数不同，我们将 0.2 调整为 -4:

0.2 = 11.00110011001100110011001100110011001100110011001101 x 2-4

4) 添加它们:

      1.1001100110011001100110011001100110011001100110011010
   + 11.0011001100110011001100110011001100110011001100110100
      ------------------------------------------------------
    100.110011001100110011001100110011001100110011001100111

所以总和是:

100.110011001100110011001100110011001100110011001100111 x 2-4

5) 规范化:

1.00110011001100110011001100110011001100110011001100111 x 2-2

6) 使用round to the nearest 算法将其舍入为 52 位。这里最接近的是 chop 后的数字(向下舍入):

1.0011001100110011001100110011001100110011001100110011 x 2-2

在我删除指数后，我得到以下结果数字:

0.010011001100110011001100110011001100110011001100110011

当我使用 this calculator 将其转换为十进制时，它会显示:

0.299999999999999988897769753748434595763683319091796875

这次快到了 :)，但仍然关闭。你们能帮我解决问题吗？

最佳答案

你有:

0.2 = 1.1001100110011001100110011001100110011001100110011010 x 2 ** -3

如果你想得到指数 -4，你需要将尾数乘以 2，而不是除以它:

0.2 = 10.1001100110011001100110011001100110011001100110011010 x 2 ** -4

但实际上你想要的可能是 0.1 和 -3 指数:

0.1 = 0.1100110011001100110011001100110011001100110011001101(0) x 2 ** -3

关于javascript - 无法通过计算得到0.30000000000000004，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/37327359/

0.3000000000000000430000000000000004codesup1.1001100110011001100110011001100javascriptbinaryieee-754

有关javascript - 无法通过计算得到0.30000000000000004的更多相关文章

  1. ruby-on-rails - 由于 "wkhtmltopdf"，PDFKIT 显然无法正常工作 - 2

    我在从html页面生成PDF时遇到问题。我正在使用PDFkit。在安装它的过程中，我注意到我需要wkhtmltopdf。所以我也安装了它。我做了PDFkit的文档所说的一切......现在我在尝试加载PDF时遇到了这个错误。这里是错误:commandfailed:"/usr/local/bin/wkhtmltopdf""--margin-right""0.75in""--page-size""Letter""--margin-top""0.75in""--margin-bottom""0.75in""--encoding""UTF-8""--margin-left""0.75in""-

  2. ruby - 通过 rvm 升级 ruby​​gems 的问题 - 2

    尝试通过RVM将RubyGems升级到版本1.8.10并出现此错误:$rvmrubygemslatestRemovingoldRubygemsfiles...Installingrubygems-1.8.10forruby-1.9.2-p180...ERROR:Errorrunning'GEM_PATH="/Users/foo/.rvm/gems/ruby-1.9.2-p180:/Users/foo/.rvm/gems/ruby-1.9.2-p180@global:/Users/foo/.rvm/gems/ruby-1.9.2-p180:/Users/foo/.rvm/gems/rub

  3. ruby-on-rails - 无法使用 Rails 3.2 创建插件？ - 2

    我对最新版本的Rails有疑问。我创建了一个新应用程序(railsnewMyProject)，但我没有脚本/生成，只有脚本/rails，当我输入ruby./script/railsgeneratepluginmy_plugin"Couldnotfindgeneratorplugin.".你知道如何生成插件模板吗？没有这个命令可以创建插件吗？PS:我正在使用Rails3.2.1和ruby​​1.8.7[universal-darwin11.0] 最佳答案 随着Rails3.2.0的发布，插件生成器已经被移除。查看变更日志here.现在

  4. ruby - 无法运行 Rails 2.x 应用程序 - 2

    我尝试运行2.x应用程序。我使用rvm并为此应用程序设置其他版本的ruby​​:$rvmuseree-1.8.7-head我尝试运行服务器，然后出现很多错误:$script/serverNOTE:Gem.source_indexisdeprecated,useSpecification.Itwillberemovedonorafter2011-11-01.Gem.source_indexcalledfrom/Users/serg/rails_projects_terminal/work_proj/spohelp/config/../vendor/rails/railties/lib/r

  5. ruby - 通过 erb 模板输出 ruby​​ 数组 - 2

    我正在使用puppet为ruby​​程序提供一组常量。我需要提供一组主机名，我的程序将对其进行迭代。在我之前使用的bash脚本中，我只是将它作为一个puppet变量hosts=>"host1,host2"我将其提供给bash脚本作为HOSTS=显然这对ruby​​不太适用——我需要它的格式hosts=["host1","host2"]自从phosts和putsmy_array.inspect提供输出["host1","host2"]我希望使用其中之一。不幸的是，我终其一生都无法弄清楚如何让它发挥作用。我尝试了以下各项:我发现某处他们指出我需要在函数调用前放置“function_”……这

  6. ruby-on-rails - 无法在centos上安装therubyracer(V8和GCC出错) - 2

    我正在尝试在我的centos服务器上安装therubyracer，但遇到了麻烦。$geminstalltherubyracerBuildingnativeextensions.Thiscouldtakeawhile...ERROR:Errorinstallingtherubyracer:ERROR:Failedtobuildgemnativeextension./usr/local/rvm/rubies/ruby-1.9.3-p125/bin/rubyextconf.rbcheckingformain()in-lpthread...yescheckingforv8.h...no***e

  7. ruby - 无法让 RSpec 工作—— 'require' : cannot load such file - 2

    我花了三天的时间用头撞墙，试图弄清楚为什么简单的“rake”不能通过我的规范文件。如果您遇到这种情况:任何文件夹路径中都不要有空格!。严重地。事实上，从现在开始，您命名的任何内容都没有空格。这是我的控制台输出:(在/Users/*****/Desktop/LearningRuby/learn_ruby)$rake/Users/*******/Desktop/LearningRuby/learn_ruby/00_hello/hello_spec.rb:116:in`require':cannotloadsuchfile--hello(LoadError) 最佳

  8. ruby - 通过 ruby​​ 进程共享变量 - 2

    我正在编写一个gem，我必须在其中fork两个启动两个webrick服务器的进程。我想通过基类的类方法启动这个服务器，因为应该只有这两个服务器在运行，而不是多个。在运行时，我想调用这两个服务器上的一些方法来更改变量。我的问题是，我无法通过基类的类方法访问fork的实例变量。此外，我不能在我的基类中使用线程，因为在幕后我正在使用另一个不是线程安全的库。所以我必须将每个服务器派生到它自己的进程。我用类变量试过了，比如@@server。但是当我试图通过基类访问这个变量时，它是nil。我读到在Ruby中不可能在分支之间共享类变量，对吗？那么，还有其他解决办法吗？我考虑过使用单例，但我不确定这是

  9. ruby-on-rails - 使用一系列等级计算字母等级 - 2

    这里是Ruby新手。完成一些练习后碰壁了。练习:计算一系列成绩的字母等级创建一个方法get_grade来接受测试分数数组。数组中的每个分数应介于0和100之间，其中100是最大分数。计算平均分并将字母等级作为字符串返回，即“A”、“B”、“C”、“D”、“E”或“F”。我一直返回错误:avg.rb:1:syntaxerror,unexpectedtLBRACK,expecting')'defget_grade([100,90,80])^avg.rb:1:syntaxerror,unexpected')',expecting$end这是我目前所拥有的。我想坚持使用下面的方法或.join，

  10. ruby - 通过 RVM (OSX Mountain Lion) 安装 Ruby 2.0.0-p247 时遇到问题 - 2

    我的最终目标是安装当前版本的RubyonRails。我在OSXMountainLion上运行。到目前为止，这是我的过程:已安装的RVM$\curl-Lhttps://get.rvm.io|bash-sstable检查已知(我假设已批准)安装$rvmlistknown我看到当前的稳定版本可用[ruby-]2.0.0[-p247]输入命令安装$rvminstall2.0.0-p247注意:我也试过这些安装命令$rvminstallruby-2.0.0-p247$rvminstallruby=2.0.0-p247我很快就无处可去了。结果:$rvminstall2.0.0-p247Search

随机推荐