草庐IT

浮点数

全部标签

javascript - 浮点表示似乎可以正确地进行整数运算——为什么?

我一直在玩弄float,根据我过去对它们的了解,0.1+0.2最终变成了类似0.30000000000000004并不让我吃惊。然而,让我感到惊讶的是,整数运算总是似乎工作得很好并且没有任何这些工件。我首先在JavaScript(node.js中的ChromeV8)中注意到了这一点:0.1+0.2==0.3//false,NOTsurprising123456789012+18==123456789030//true22334455667788+998877665544==23333333333332//true1048576/1024==1024//trueC++(MacOSX上的g

c++ - 十六进制浮点字面量

是否可以在C++中用十六进制浮点值初始化浮点变量?像这样:doubled=0x011.1;//wrong! 最佳答案 技术规范P0245HexadecimalfloatingliteralsforC++已于2016年2月在佛罗里达州jackson维尔的ISOC++标准委员会投票加入C++17。C99语言也有这个特性,兼容C++特性。但是,正如LưuVĩnhPhúc所指出的那样的评论,语法0x011.1不是标准的一部分。二进制指数对于十六进制浮点文字是必需的。原因之一是为了避免0x011.1F中尾随F的歧义。是小数部分的十六进制数字F

c++ - 使用浮点文字调用重载函数会产生 'ambiguos' 错误

这个问题在这里已经有了答案:Referencetofunctionisambiguous[duplicate](2个答案)关闭6年前。编译以下代码时:#includeusingnamespacestd;voidprint(inti){cout我得到错误:callofoverloaded'print(double)'isambiguous.但是,如果我改变voidprint(floati){到voidprint(doublei){代码编译。这是为什么?

c++ - avx浮点按位逻辑运算的原因是什么?

AVX允许在float据类型__m256和__m256d上进行按位逻辑运算,例如和/或。但是,C++不允许对float和double进行按位运算,这是合理的。如果我是对的,则不能保证float的内部表示,编译器是否会使用IEEE754,因此程序员无法确定float的位会是什么样子。考虑这个例子:#include#include#include#includeintmain(){floatx[8]={1,2,3,4,5,6,7,8};floatmask[8]={-1,0,0,-1,0,-1,0,0};floatx_masked[8];assert(std::numeric_limits:

python - 平衡树中的节点数

所以我想出了一个有趣的问题,看看是否有一种有效的方法来解决。所以基本上有一个平衡的二叉树,其中保留了id号(它不是bst,所以没有正式的安排)。您只有有限数量的查询才能查明有多少个节点。保证对于每个节点E,左子树在该节点E处的节点数与右子树的节点数一样多或多一个。要求程序找出有多少个节点的最佳方法是什么?例如给定这样一棵树:1423程序将给出以下输出:Query:1Response:42Query:4Response3Query:3Response:00Query:2Response:00Answer:4 最佳答案 我终于弄明白了。

c++ - Eigen 浮点精度

我在使用Eigen时遇到浮点精度问题。我有两个Eigen::MatrixXd;第一个矩阵A(nx1)仅包含正整数,而第二个矩阵B(nx1)包含填充相同实数的单个列(例如:-0.714312).我需要计算以下Eigen::MatrixXd:constautoexponential=[](doublex){returnstd::exp(x);};MatrixXdW=B.unaryExpr(exponential);MatrixXdresiduals=A-W;问题是当我打印残差总和时:cout通过使用R和相同的输入矩阵执行相同的操作,我得到了不同的值。通过使用R矩阵,我得到-2.950208

c++ - 用于提高中间浮点计算精度的编译器标志

gcc/clang中是否有指定中间浮点计算精度的标志?假设我有一个C代码doublex=3.1415926;doubley=1.414;doublez=x*y;是否有一个编译器标志允许以用户机器的最高可能精度计算'x*y',比如说,long-double(64位尾数),然后截断回double(53位)尾数,声明变量类型的精度)?仅供引用,我在64位机器上使用Ubuntu14.04。 最佳答案 海湾合作委员会[编辑观察到的gcc4.8.4行为,其中默认行为与文档相反]您需要使用x87FPU中的80位寄存器。使用-mfpmath=387

c++ - NEON 浮点乘法比预期慢

我有两个float标签。我需要将第一个选项卡中的元素乘以第二个选项卡中的相应元素,并将结果存储在第三个选项卡中。我想使用NEON来并行化float乘法:同时进行四个float乘法而不是一个。我预计会有显着的加速,但我只实现了大约20%的执行时间减少。这是我的代码:#include#include#includeconstintn=100;//tablesize/*fillatabwithrandomfloats*/voidrand_tab(float*t){for(inti=0;i我运行以下命令进行编译:g++-mfpu=neon-ffast-mathneon_test.cpp我的CP

c++ - 从预乘浮点 RGBA 转换为 8 位 RGBA 的有效方法?

我正在寻找一种更有效的方法,将在预乘色彩空间中存储为double的RGBA转换为8位整数/channelRGBA非预乘色彩空间。这对我的图像处理来说是一项巨大的成本。对于一个channel,比如R,代码看起来像这样:doubletemp=alpha>0?src_r/alpha:0uint8_tout_r=(uint8_t)min(255,max(0,int(temp*255+0.5)))这涉及三个条件,我认为它们会阻止编译器/CPU尽可能地优化它。我认为某些芯片,特别是x86_64具有专门的双钳位操作,因此理论上上述可能无需条件就可以实现。是否有一些技术或特殊功能可以使这种转换更快?我

c++ - 为什么编译时浮点计算的结果可能与运行时计算的结果不同?

在constexpr:Introduction,演讲者提到“编译时浮点计算可能与运行时计算的结果不同”:而原因与“交叉编译”有关。老实说,我不太清楚这个想法。恕我直言,不同的平台也可能有不同的整数实现。为什么它只影响float?或者我错过了什么? 最佳答案 Whydoesitonlyaffectfloatingpoints?因为标准没有对浮点运算精度施加限制。根据expr.const,强调我的:[ Note:Sincethisdocumentimposesnorestrictionsontheaccuracyoffloating-p