草庐IT

half-precision-float

全部标签

ruby - 如何比较 Floats 和 delta?

Ruby中是否有一些功能/语法来比较两个float和增量?类似于来自test/unit的assert_in_delta(expected_float,actual_float,delta)但返回bool值? 最佳答案 (expected_float-actual_float).abs 关于ruby-如何比较Floats和delta?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/

ruby-on-rails - 如何在 Ruby 中将 MS Excel 日期从 float 转换为日期格式?

尝试在ruby​​脚本中使用roogem解析XLSX文件。在Excel中,日期以DDDDD.ttttt格式存储为float或整数,从1900-01-00(00no01)开始计算。因此,为了转换诸如40396之类的日期-您将使用1900-01-00+40396,您应该得到2010-10-15,但我得到的是2010-08-08。我正在使用active_support/time进行这样的计算:Time.new("1900-01-01")+40396.days我的计算有误还是主动支持有问题?我在Windows7+最新的active_supportgem(3.2.1)上运行ruby​​1.9.3

ruby - 如何将分数转换为在 ruby​​ 中 float

我有一个字符串"1/16"我想将它转换为float并乘以45。但是,我没有得到想要的结果。我在script/console中尝试>>"1/16".to_f=>1.0>>"1/16".to_f*45=>45.0如何获得2.81的预期结果大图:我有一个这样的下拉列表:每当用户选择oz值时,我想将它乘以45我也是这样的:first,*rest=params[:volume].to_s.split(//)ifrest.first=="oz"@indprodprice=@prods.orig_price.to_i*first.to_f*28.3495else@indprodprice=@prod

ruby-on-rails - 如何计算Float中的小数位数?

我正在使用Ruby1.8.7和Rails2.3.5。如果我有一个像12.525这样的float,如何获取小数点后的位数?在这种情况下,我希望得到“3”。 最佳答案 我猜是这样的:n=12.525n.to_s.split('.').last.size 关于ruby-on-rails-如何计算Float中的小数位数?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/8597766/

从 float 转换的 Ruby Time 对象不等于原始 Time 对象

time=Time.nowfvalue=time.to_freturntime==Time.at(fvalue)这里有人可以解释为什么上面的表达式返回false吗?如何从与原始时间变量匹配的float创建新的时间对象?谢谢 最佳答案 IEEE754double(由to_f返回)不够准确,无法表示确切时间。t1=Time.nowf1=t1.to_ft2=Time.at(f1)#theylookthesamet1.inspect#=>'2013-09-0923:46:08+0200't2.inspect#=>'2013-09-0923:

c - 奇怪的 "half to even"不同语言的舍入

按照目前的情况,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visitthehelpcenter指导。关闭10年前。GNUbash,版本4.2.24:$>printf"%.0f,%.0f\n"48.549.548,50ruby1.8.7>printf("%.0f,%.0f\n",48.5,49.5)48,50Perl5.12.4$>perl-e'printf("%.0f,%.0f\n",48.5,49.5)'48,50海湾合作委员会4.5.3:>printf("%.0

ruby-on-rails - 在 rails3 的 Controller 上使用 number_with_precision

我想在Controller上使用这个辅助方法。有什么办法可以实现吗? 最佳答案 可能不是一个好主意,但如果必须,请像这样包含帮助程序:classWhateverControllerincludeActionView::Helpers::NumberHelperdefshowrender:text=>number_with_precision(2342.234,:precision=>2)endend 关于ruby-on-rails-在rails3的Controller上使用number_

ruby - 在 Ruby 中将 float 拆分为整数和小数

如果我有一个像3.75这样的float,我怎样才能将它分成整数3和float0.75?我是否必须将float转换为字符串,然后用“.”拆分字符串,然后再将部分转换为整数和float,或者是否有更优雅或“正确”的方法来执行此操作? 最佳答案 为此,您可以使用带参数1的Numeric#divmod:Returnsanarraycontainingthequotientandmodulusobtainedbydividingnumbynumeric.a.divmod1=>[3,0.75]如果你想得到精确的值,BigDecimal也可以使用

ruby-on-rails - 一种向下舍入 Floats 的方法

Floatround向上或向下舍入。我总是需要它向下舍入。我有解决方案,但我不太喜欢它...也许有更好的方法。这就是我想要的:1.9999.round_down(2)#=>1.991.9901.round_down(2)#=>1我想出了这个解决方案,但我想知道是否有更好的解决方案(我不喜欢我将float转换两次)。已经有这个方法了吗?因为我发现我找不到它很奇怪。classFloatdefround_down(n=0)((self*10**n).to_i).to_f/10**nendend谢谢。 最佳答案 1.9999.to_i#=>

ruby - 如何有效地清除 Ruby 的负零 float ?

在Ruby中,0.0*-1==-0.0。我有一个应用程序,我将一堆Float对象与-1相乘,但我不喜欢-0.0输出,因为它令人困惑。是否有一种聪明的方法可以使Float#to_s输出0.0而不是-0.0?我完全可以通过某种清理器/辅助方法运行每个Float对象,但以下只会让我更加困惑:defclean_output(amount)ifamount.zero?0.0elseamountendend更新:为了更准确地说明我在寻找什么,我想要一个可以在一大堆float上运行的解决方案,其中一些是负数,一些是正数。负数应该保持负数,除非它们是负零,即-0.0。例子:clean_output(-