草庐IT

floating-point-precision

全部标签

ruby - 将 float 四舍五入到 ruby​​ 中最接近的整数

如果我有一个49.967的float并且我执行.to_i它将把它削减到49这对于我使用磁盘空间分析.967超过900mb的空间不会在显示中考虑。是否有将数字四舍五入到最接近的整数的函数,或者我必须像这样自己定义它:classFloatdefto_nearest_i(self+0.5).to_iendend这样我就可以做:>>5.44.to_nearest_i=>5>>5.54.to_nearest_i=>6 最佳答案 试试Float.round。irb(main):001:0>5.44.round=>5irb(main):002:0

ruby - 如何使用#{variable} 在 Ruby 中格式化带有 float 的字符串?

我想格式化一个包含浮点变量的字符串,包括带有固定小数位数的它们,我想用这种格式化语法来实现:amount=Math::PIputs"Currentamount:#{amount}"我想获得当前金额:3.14。我知道我可以用amount=Math::PIputs"Currentamount%.2f"%[amount]但我想问是否有可能以#{}方式进行。 最佳答案 您可以使用"#{'%.2f'%var}":irb(main):048:0>num=3.1415=>3.1415irb(main):049:0>"Piis:#{'%.2f'%n

ruby - 你如何在 JRuby 中将 float 四舍五入到小数点后两位?

如何在JRuby(1.6.x)中将float四舍五入到小数点后两位?number=1.1164number.round(2)#Theaboveshowsthefollowingerror#wrongnumberofarguments(1for0) 最佳答案 (5.65235534).round(2)#=>5.65 关于ruby-你如何在JRuby中将float四舍五入到小数点后两位?,我们在StackOverflow上找到一个类似的问题: https://st

javascript - NVD3 javascript : add colors to points in a scatter plot

我正在尝试根据一些具有x、y和z值的数据绘制散点图。我的代码和NVD3网站上的例子是一样的,http://nvd3.org/ghpages/scatter.html,除了我还计算了z值。比方说z=x+y。我不想更改半径值,而是想通过在两种颜色之间插值来设置颜色。所有点都显示在图表上,但我不知道如何为单个点设置颜色,只能为系列设置颜色。为简单起见,我首先尝试将点设置为静态颜色,如下所示:[{"key":"XPlusY","values":[{"x":0,"y":0,"z":0,"color":"#ff0000"},...]但这不起作用,所以我想我需要在javascript中执行此操作。我

Javascript float + float = 字符串?

当我运行它时,它返回NaN。如果我不parseFloat,我将添加2个字符串。我错过了什么?我会说我的结果应该总是一个float?functioncalculate(i){varresult=0.0;$j(".t"+i+"input").each(function(){varnumber=$j(this).val();number=number.replace(",",".");if(parseFloat(number)!=NaN){result=parseFloat(result);number=parseFloat(number);result+=number;}});consol

javascript - 了解类 : Compose a Triangle from extending 3 points?

问题:我怎样才能使用Triangle类扩展Point(supers(?))并组成一个如下所示的对象://"name":"ThomasTheTriangle",//"points":[//{age:"2015-05-28T06:23:26.160Z",x:1,y:1},//{age:"2015-05-28T06:23:26.161Z",x:0,y:3},//{age:"2015-05-28T06:23:26.164Z",x:2,y:3}//]JS:classPoint{constructor(x,y){this.name="Point"this.age=newDate();this.x=

javascript - 另一个 float 问题

我已经阅读了这里关于float的大部分帖子,并且我理解使用IEEE754(并且只是由于以二进制形式存储数字的性质)无法表示某些分数的基本潜在问题。我想弄清楚以下内容:如果Python和JavaScript都使用IEEE754标准,为什么要在Python中执行以下内容.1+.1结果0.20000000000000001(这是预期的)在Javascript中(至少在Chrome和Firefox中)答案是.2无论表现如何.1+.2两种语言的结果都是0.30000000000000004此外,执行变量a=0.3;在JavaScript中打印结果0.3在Python中执行a=0.3结果为0.29

javascript - 解析十六进制 float

我有整数,例如,4060。如何从中获取HEXfloat(\x34\xC8\x7D\x45)?JS没有float类型,不知道怎么转换。谢谢。 最佳答案 如果你想要一个十六进制的字符串,试试这个:>varb=newBuffer(4);>b.writeFloatLE(4060,0)>b.toString('hex')'00c07d45'另一种方式(使用您的输入):>Buffer('34C87D45','hex').readFloatLE(0)4060.5126953125更新:newBuffer(size)已被弃用,但它很容易被Buffe

javascript - 如何在 javascript 中解析包含数字/ float 文本的字符串?

我正在尝试构建一个能够解析句子并返回数字的javascript函数。这是一个jsFiddle我已经为下面的测试用例设置了-'我有1磅'->1'我有£3.50可以花掉'->3.50'我有23.00磅'->23'£27.33'->27.33'4345.85美元'->4345.85'3.00'->3'7.0'->7“应该有2.0。”->2“应该是15点20分。”->15.20'3.15'->3.15“我只有5个,不是很好。”->5'34.23'->34.23'sdfg545.14sdfg'->545.14'昨天我花了235468.13英镑。今天我想少花钱。->235468.13'昨天我花了3

javascript - Google Closure 编译器解析错误 : invalid property id for `css({float:' left'})`

我正在使用GoogleClosureCompiler应用程序(命令行界面)。当我运行它时,出现以下错误。deploy/js/Home.js:40:ERROR-Parseerror.invalidpropertyidthis.$images.wrapAll('').css({float:'left'});^1error(s),0warning(s) 最佳答案 我相信你需要做:{'float':'left'}这是因为float在listofJavakeywordsreservedbyJavaScript上,因此它不能用作属性名称。这在较