我有一个字符串"1/16"我想将它转换为float并乘以45。但是，我没有得到想要的结果。我在script/console中尝试>>"1/16".to_f=>1.0>>"1/16".to_f*45=>45.0如何获得2.81的预期结果大图:我有一个这样的下拉列表:每当用户选择oz值时，我想将它乘以45我也是这样的:first,*rest=params[:volume].to_s.split(//)ifrest.first=="oz"@indprodprice=@prods.orig_price.to_i*first.to_f*28.3495else@indprodprice=@prod
我正在使用Ruby1.8.7和Rails2.3.5。如果我有一个像12.525这样的float，如何获取小数点后的位数？在这种情况下，我希望得到“3”。 最佳答案 我猜是这样的:n=12.525n.to_s.split('.').last.size 关于ruby-on-rails-如何计算Float中的小数位数？，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/8597766/
有人可以解释为什么在这里乘以100得到的结果不太准确，而两次乘以10得到的结果更准确吗？±%scLoadingdevelopmentenvironment(Rails3.0.1)>>129.95*10012994.999999999998>>129.95*101299.5>>129.95*10*1012995.0 最佳答案 如果您使用限制为53位有效位的double二进制手动进行计算，您将看到发生了什么:129.95=1.0000001111100110011001100110011001100110011001100110x2^7
time=Time.nowfvalue=time.to_freturntime==Time.at(fvalue)这里有人可以解释为什么上面的表达式返回false吗？如何从与原始时间变量匹配的float创建新的时间对象？谢谢 最佳答案 IEEE754double(由to_f返回)不够准确，无法表示确切时间。t1=Time.nowf1=t1.to_ft2=Time.at(f1)#theylookthesamet1.inspect#=>'2013-09-0923:46:08+0200't2.inspect#=>'2013-09-0923:
据我了解.round()-ruby中的功能将小数向上舍入，最后一个有效数字是5？例如1.5.round(0)#=>2(OK)但为什么1.025.round(2)#=>1.02而不是我期望的1.03？irb(main):037:0>1.025.round(2)=>1.02我该怎么做才能解决这个问题？ 最佳答案 这与最后一位数字为5无关，与将十进制值转换为double浮点值有关。http://en.wikipedia.org/wiki/Double_precision_floating-point_format基本上，十进制数必须以有限
现在我正在构建一个从电子表格导入数据的小应用程序，由于原始条目的性质，有一个正在读取的字符串具有8½、2½等值。例如，我使用简单函数的目标是将2½转换为float2.5。我已经尝试过.to_f方法，但它给我留下了一个奇怪的值2.02½。如有任何见解或建议，我们将不胜感激! 最佳答案 Unicode只支持smallnumberofvulgarfractions所以一个简单的查找表就可以解决问题:#Youmightwanttodoublecheckthismappingvulgar_to_float={"\u00BC"=>1.0/4.0
如果我有一个像3.75这样的float，我怎样才能将它分成整数3和float0.75？我是否必须将float转换为字符串，然后用“.”拆分字符串，然后再将部分转换为整数和float，或者是否有更优雅或“正确”的方法来执行此操作？ 最佳答案 为此，您可以使用带参数1的Numeric#divmod:Returnsanarraycontainingthequotientandmodulusobtainedbydividingnumbynumeric.a.divmod1=>[3,0.75]如果你想得到精确的值，BigDecimal也可以使用
Floatround向上或向下舍入。我总是需要它向下舍入。我有解决方案，但我不太喜欢它...也许有更好的方法。这就是我想要的:1.9999.round_down(2)#=>1.991.9901.round_down(2)#=>1我想出了这个解决方案，但我想知道是否有更好的解决方案(我不喜欢我将float转换两次)。已经有这个方法了吗？因为我发现我找不到它很奇怪。classFloatdefround_down(n=0)((self*10**n).to_i).to_f/10**nendend谢谢。 最佳答案 1.9999.to_i#=>
我正在编写处理货币、费用等的代码。我将使用BigDecimal类进行数学和存储，但我们遇到了一些奇怪的事情。这个声明:1876.8==BigDecimal('1876.8')返回错误。如果我通过格式化字符串"%.13f"运行这些值，我得到:"%.20f"%1876.8=>1876.8000000000000"%.20f"%BigDecimal('1876.8')=>1876.8000000000002请注意BigDecimal在最后一位小数处的额外2。我认为BigDecimal应该可以解决将实数直接存储在计算机nativefloat中的不准确性。这个2来自哪里？
在Ruby中，0.0*-1==-0.0。我有一个应用程序，我将一堆Float对象与-1相乘，但我不喜欢-0.0输出，因为它令人困惑。是否有一种聪明的方法可以使Float#to_s输出0.0而不是-0.0？我完全可以通过某种清理器/辅助方法运行每个Float对象，但以下只会让我更加困惑:defclean_output(amount)ifamount.zero?0.0elseamountendend更新:为了更准确地说明我在寻找什么，我想要一个可以在一大堆float上运行的解决方案，其中一些是负数，一些是正数。负数应该保持负数，除非它们是负零，即-0.0。例子:clean_output(-
