草庐IT

float-rounding

全部标签

c++ - 在不更改代码的情况下生成 NaN float 时停止调试器

我读了this和this.精髓是,如果通过包含fenv.h并通过feenableexcept(FE_ALL_EXCEPT&~FE_INEXACT);启用所有浮点异常但FE_INEXACT生成nan,则可以抛出SIGFPE;因此,代码改变了形式intmain(){doubledirty=0.0;doublenanvalue=0.0/dirty;return0;}到#includeintmain(){feenableexcept(FE_ALL_EXCEPT&~FE_INEXACT);//EnableallfloatingpointexceptionsbutFE_INEXACTdoubled

c++ - 如何正确地将 float 与 int 相乘并获得仅受有效数字影响的结果?

我有代码在float(代表秒)和int64(代表纳秒)之间进行转换,从float中取6位小数int64_tnanos=f*1000000000LL;然而,存储在float中的许多十进制值无法在二进制float中准确表示,因此当我的float为14.2f时,我得到类似14199999488的结果。目前我通过计算小数点后的有效位数来解决这个问题constfloatlogOfSecs=std::log10(f);intprecommaPlaces=0;if(logOfSecs>0){precommaPlaces=std::ceil(logOfSecs);}intpostcommaPlaces

Educational Codeforces Round 161 (Rated for Div. 2) E题 动态规划逼近,二进制拆分补充,注意严格递增strictly increasing

Problem-E-Codeforces目录推荐视频:题意:细节(我踩得没什么价值的坑):思路:对样例3(X=13)做解释:——————总思路:——————动态规划逼近:——————二进制拆分补充剩余:核心代码: 推荐视频:E_哔哩哔哩_bilibili其实有一些细节说的不是特别清楚好理解,可以结合我的题解来看。但是对题目的解析说的还是特别好的 题意:你需要制作一个数组,使其严格递增子序列的数目为X细节(我踩得没什么价值的坑):1.严格递增strictlyincreasing,我直到看了别人的题解才发现,,才能看懂样例,,2.好好读题,我靠X是1e18了,得longlong3.快速逼近的时候w

java - 如何确认不同的结果是否是由于 float 处理的差异?

我已经将一个相对简单的算法从C++转换为Java,该算法对double类型的数字执行大量计算,但是在两个平台上运行该算法但同一台机器产生的结果略有不同结果。该算法对许多double和整数进行乘法和求和。我在Java算法中将int转换为double;C算法不强制转换。例如,在一次运行中我得到了结果:(Java)64684970(C++)65296408(打印忽略小数位)当然,我的算法可能存在错误,但是在我开始花时间调试之前,是否可以通过C++和Java中不同的浮点处理来解释这种差异?如果是这样,我可以证明这是问题所在吗?更新-类型不同的地方是两个整数之间的乘法,然后将其添加到运行总dou

c++ -++如何在大 float 上定义

这个问题在这里已经有了答案:maximumvalueinfloat(1个回答)关闭7年前。所以我一直在研究IEEE754浮点double。(我的C++编译器将该类型用于double)。考虑这个片段://9007199254740992isthe53rdpowerof2.//590295810358705700000isthe69thpowerof2.for(doublef=9007199254740992;f据推测,由于四舍五入,f以偶数步长递增到2的54次方?然后之后,由于向下舍入没有任何反应吗?这样对吗?它是否定义明确?

将gl_float和gl_unsigned_int传递到一个大步

我想知道,我有以下设置:glEnableVertexAttribArray(VERTEX_COORD_ATTRIB);glEnableVertexAttribArray(TEXTURE_COORD_ATTRIB);glEnableVertexAttribArray(COLOR_ATTRIB);glEnableVertexAttribArray(TEXNUM_ATTRIB);glVertexAttribPointer(VERTEX_COORD_ATTRIB,3,GL_FLOAT,GL_FALSE,StrideSize,(void*)0);glVertexAttribPointer(TEXTURE

c++ - Visual Studio 2012 中的 round()、rint()(等等)C++ 函数在哪里?

这些页面:http://www.cplusplus.com/reference/cmath/round/http://www.cplusplus.com/reference/cmath/rint/暗示这些函数是C++11的一部分,而VisualStudio2012似乎基本上支持C++11中的所有内容……所以四舍五入函数到底在哪里(更不用说其他附加数学函数了)?!我知道如何滚动我自己的舍入函数,但在这一点上它看起来很荒谬。我是否只是在这里遗漏了一些东西并且有一些特殊的std::和tr1::组合或另一个头文件来访问这些? 最佳答案 正如

c++ - 带 float 的 std::cout

我正在使用visualstudio2015打印两个float:doubled1=1.5;doubled2=123456.789;std::cout::max())-d1)::max())-d2)这将打印以下内容:value1:1.5value2:123457maximumnumberofsignificantdecimaldigits(value1):15.6536maximumnumberofsignificantdecimaldigits(value2):10.8371为什么123457打印出值123456.789?当在没有std::setprecision()的情况下使用std:

c++ - 如何编写 C++ float ?

result是float我可以用三种方式编写代码:if(resultif(resultif(result据我了解,0隐式为int,0.隐式为double和0.f是float.我更喜欢使用第一种方法,因为它清晰简单,但我是否通过使用它来强制进行类型转换? 最佳答案 概念上是的,进行了转换。但是你应该将这些微观考虑推迟到编译器,并写下最清楚的,对我来说是if(result如果您有任何疑问,请检查生成的程序集(使用https://gcc.godbolt.org/非常简单)。最后,在决定使用float而不是double时,请考虑double

c++ - 比较 float 0

如果foo是float类型,下面的表达式是否有效/推荐?(0.0f==foo*float(0))无论foo的值如何,它都会具有预期的(数学)值吗?C++标准是定义行为还是特定于实现? 最佳答案 好吧,首先这并不是真正的C++标准问题。相反,问题在于您的浮点模型标准(很可能是IEEE)。对于IEEEfloat,这可能是安全的,因为float(0)应该得到与0.0f相同的数字,并且乘以任何其他数字也应该是0.0f。真正不安全的是进行其他浮点运算(例如:用非整数进行加减)并根据0.0f检查它们。