草庐IT

floating-point

全部标签

javascript - 另一个 float 问题

我已经阅读了这里关于float的大部分帖子,并且我理解使用IEEE754(并且只是由于以二进制形式存储数字的性质)无法表示某些分数的基本潜在问题。我想弄清楚以下内容:如果Python和JavaScript都使用IEEE754标准,为什么要在Python中执行以下内容.1+.1结果0.20000000000000001(这是预期的)在Javascript中(至少在Chrome和Firefox中)答案是.2无论表现如何.1+.2两种语言的结果都是0.30000000000000004此外,执行变量a=0.3;在JavaScript中打印结果0.3在Python中执行a=0.3结果为0.29

javascript - 解析十六进制 float

我有整数,例如,4060。如何从中获取HEXfloat(\x34\xC8\x7D\x45)?JS没有float类型,不知道怎么转换。谢谢。 最佳答案 如果你想要一个十六进制的字符串,试试这个:>varb=newBuffer(4);>b.writeFloatLE(4060,0)>b.toString('hex')'00c07d45'另一种方式(使用您的输入):>Buffer('34C87D45','hex').readFloatLE(0)4060.5126953125更新:newBuffer(size)已被弃用,但它很容易被Buffe

javascript - 如何在 javascript 中解析包含数字/ float 文本的字符串?

我正在尝试构建一个能够解析句子并返回数字的javascript函数。这是一个jsFiddle我已经为下面的测试用例设置了-'我有1磅'->1'我有£3.50可以花掉'->3.50'我有23.00磅'->23'£27.33'->27.33'4345.85美元'->4345.85'3.00'->3'7.0'->7“应该有2.0。”->2“应该是15点20分。”->15.20'3.15'->3.15“我只有5个,不是很好。”->5'34.23'->34.23'sdfg545.14sdfg'->545.14'昨天我花了235468.13英镑。今天我想少花钱。->235468.13'昨天我花了3

javascript - javascript 如何以如此准确的方式打印 0.1?

我已经heardjavascript数字是IEEE754float,这解释了原因>0.3-0.20.09999999999999998但是我不明白>0.10.1我认为0.1不能准确地存储为以2为底的float,但它会立即打印出来,就像它一直是0.1一样。是什么赋予了?解释器在打印之前是否进行了舍入?至少有2个版本的IEEE754对我没有帮助:1984版本和2008.听起来后者添加了fullsupportfordecimalarithmetic.好像我们没有那个。 最佳答案 JavaScript使用IEEE-754double(200

javascript - 有没有办法在 Javascript 中 chop 科学记数法?

众所周知,因为它是SO上最常被问及的主题之一,所以我遇到了舍入错误的问题(这实际上不是错误,我很清楚)。我将不解释我的观点,而是举例说明我可能拥有的数字以及我希望能够获得的输入:假设vara=15*1e-9;alert(a)输出1.5000000000000002e-8我希望能够获得1.5e-8,但我不能只乘以10e8,舍入并除以10e8,因为我不知道它是e-8还是e-45或其他任何内容。所以基本上我希望能够获得1.5000002部分,应用toFixed(3)并放回指数部分。我可以转换成字符串并解析,但它似乎不对...有什么想法吗?(如果你觉得这是许多重复的问题之一,我提前道歉,但我找

javascript - Google Closure 编译器解析错误 : invalid property id for `css({float:' left'})`

我正在使用GoogleClosureCompiler应用程序(命令行界面)。当我运行它时,出现以下错误。deploy/js/Home.js:40:ERROR-Parseerror.invalidpropertyidthis.$images.wrapAll('').css({float:'left'});^1error(s),0warning(s) 最佳答案 我相信你需要做:{'float':'left'}这是因为float在listofJavakeywordsreservedbyJavaScript上,因此它不能用作属性名称。这在较

javascript - 优化javascript代码以使用整数运算

有一些算法可以“非常好”地解决问题,前提是“非常好”意味着最小化浮点算术运算的数量以支持整数算术。以Bresenham'slinealgorithm为例为了弄清楚要填充哪些像素以便在Canvas上画一条线:这个人几乎只用了一些简单的整数运算就使整个过程变得可行。这种事情在很多情况下显然是好的。但是,在javascript中需要大量float学运算的操作值得担心吗?我知道就语言规范而言,一切都几乎是十进制数。我想知道是否实际上尝试让事情尽可能接近整数是否值得——浏览器是否进行了优化以使其值得? 最佳答案 您可以在javascript中

javascript - 使用 jquery 将 3.2242143 转换为 3.2 的简单方法

我有很多这样的数据:3.23214215但我想使用3.2部分,我可以使用jquery做什么,谢谢 最佳答案 yourNumber.toFixed(1);https://developer.mozilla.org/en/JavaScript/Reference/Global_Objects/Number/toFixed 关于javascript-使用jquery将3.2242143转换为3.2的简单方法,我们在StackOverflow上找到一个类似的问题: h

Javascript 值不显示小数,除非它不是 0.00

//Valuebeingparsedatthispointis"150.00"varproductValue=parseFloat($("#product-cost-value-value").text().replace(',','.'));console.log(productValue);记录的值为150。但是,如果我给它添加一些值,就像这样。该值更改为显示我想要的两位小数。console.log(productValue+0.01);记录的值为150.01如何强制我的值始终显示两位小数? 最佳答案 使用:console.lo

javascript - 为什么 JavaScript 使用以 10 为底的 float (根据 w3schools)?

我读了这个onW3Schools:AllnumbersinJavaScriptarestoredas64-bit(8-bytes)base10,floatingpointnumbers.这听起来很奇怪。现在,它要么是错误的,要么应该有充分的理由不像IEEE标准那样使用基数2。我试图找到一个真正的JavaScript定义,但找不到。在V8或WebKit文档中,我可以在维基百科上找到我最熟悉的两个JavaScript实现,我可以找到它们如何存储JavaScriptNumber类型。那么,JavaScript使用基数10吗?如果是这样,为什么?我能想到的唯一原因是,当您希望能够准确地存储整数