草庐IT

2.0999999999999996

全部标签

ruby - 为什么 4.1%2 使用 Ruby 返回 0.0999999999999996?但是 4.2%2==0.2

为什么4.1%2返回0.0999999999999996?但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意,这不是与Ruby相关的问题,而是与所有编程语言相关的问题,因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返

python - 为什么 str(float) 在 Python 3 中返回的位数比 Python 2 多?

在Python2.7中,float的repr返回最接近的十进制数,最长为17位;这足以精确地识别每个可能的IEEE浮点值。float的str的工作方式类似,只是它将结果限制为12位;在大多数情况下,这是一个更合理的结果,并使您免受二进制和十进制表示之间的细微差别。Python2演示:http://ideone.com/OKJtxvprintstr(1.4*1.5)2.1printrepr(1.4*1.5)2.0999999999999996在Python3.2中,str和repr似乎返回相同的内容。Python3演示:http://ideone.com/oAKRsbprint(str(

python - 为什么 str(float) 在 Python 3 中返回的位数比 Python 2 多?

在Python2.7中,float的repr返回最接近的十进制数,最长为17位;这足以精确地识别每个可能的IEEE浮点值。float的str的工作方式类似,只是它将结果限制为12位;在大多数情况下,这是一个更合理的结果,并使您免受二进制和十进制表示之间的细微差别。Python2演示:http://ideone.com/OKJtxvprintstr(1.4*1.5)2.1printrepr(1.4*1.5)2.0999999999999996在Python3.2中,str和repr似乎返回相同的内容。Python3演示:http://ideone.com/oAKRsbprint(str(