草庐IT

C++浮点精度

全部标签

c++ - 十六进制浮点字面量

是否可以在C++中用十六进制浮点值初始化浮点变量?像这样:doubled=0x011.1;//wrong! 最佳答案 技术规范P0245HexadecimalfloatingliteralsforC++已于2016年2月在佛罗里达州jackson维尔的ISOC++标准委员会投票加入C++17。C99语言也有这个特性,兼容C++特性。但是,正如LưuVĩnhPhúc所指出的那样的评论,语法0x011.1不是标准的一部分。二进制指数对于十六进制浮点文字是必需的。原因之一是为了避免0x011.1F中尾随F的歧义。是小数部分的十六进制数字F

c++ - 使用浮点文字调用重载函数会产生 'ambiguos' 错误

这个问题在这里已经有了答案:Referencetofunctionisambiguous[duplicate](2个答案)关闭6年前。编译以下代码时:#includeusingnamespacestd;voidprint(inti){cout我得到错误:callofoverloaded'print(double)'isambiguous.但是,如果我改变voidprint(floati){到voidprint(doublei){代码编译。这是为什么?

C++ 精度 : String to Double

在对转换后的字符串执行一些操作后,我遇到了double的问题。#include#include#includeusingnamespacestd;//conversionfunctionvoidconvert(constchar*a,constinti,double&out){doubleval;istringstreamin(a);in>>val;cout并非所有以字符串形式输入的数字都是这种情况,因此错误不是恒定的。它只影响一些数字(34.38似乎是常数)。目前,当我传入a=34.38和i=100时,它会返回:chara--34.38Val-----34.38modifiedval

c++ - avx浮点按位逻辑运算的原因是什么?

AVX允许在float据类型__m256和__m256d上进行按位逻辑运算,例如和/或。但是,C++不允许对float和double进行按位运算,这是合理的。如果我是对的,则不能保证float的内部表示,编译器是否会使用IEEE754,因此程序员无法确定float的位会是什么样子。考虑这个例子:#include#include#include#includeintmain(){floatx[8]={1,2,3,4,5,6,7,8};floatmask[8]={-1,0,0,-1,0,-1,0,0};floatx_masked[8];assert(std::numeric_limits:

c# - 用 C++ 高精度测量时间

如何在C++中像在C#中一样准确地测量某些东西?这是我的C#代码varelapsedMilliseconds=(double)(sw.ElapsedTicks*1000L)/Stopwatch.Frequency;我正在使用visualstudio2010。 最佳答案 C#中的Stopwatch类基于这两个Win32API调用,您可以从C/C++调用它们:QueryPerformanceCounterQueryPerformanceFrequency调用第一个函数除以第二个函数得到一个值,以秒为单位。例子:LARGE_INTEGER

c++ - std::chrono::high_resolution_clock 和屏幕刷新率的准确度(不是精度)

我使用的是visualstudio2012,想知道high_resolution_clock的准确性。基本上我正在编写一些代码来显示声音和图像,但我需要它们非常同步,并且图像必须无撕裂。我正在使用directX提供无撕裂图像,并使用high_resolution_clock定时屏幕刷新。显示器声称为60fps,但是,使用high_resolution_clock的计时给出了60.035fps的刷新率,平均超过10000次屏幕刷新。根据哪个是正确的,我的音频将在一秒后结束0.5毫秒,即一小时后大约2秒。我希望任何时钟都比这更准确-更像是1秒在一年内漂移,而不是一个小时。有没有人以前看过这

c++ - Eigen 浮点精度

我在使用Eigen时遇到浮点精度问题。我有两个Eigen::MatrixXd;第一个矩阵A(nx1)仅包含正整数,而第二个矩阵B(nx1)包含填充相同实数的单个列(例如:-0.714312).我需要计算以下Eigen::MatrixXd:constautoexponential=[](doublex){returnstd::exp(x);};MatrixXdW=B.unaryExpr(exponential);MatrixXdresiduals=A-W;问题是当我打印残差总和时:cout通过使用R和相同的输入矩阵执行相同的操作,我得到了不同的值。通过使用R矩阵,我得到-2.950208

c++ - 机器 Epsilon 精度差异

作为学校作业的一部分,我正在尝试计算C++中double和float的机器epsilon值。我在Windows764位中使用Cygwin,这里是代码:#includeintmain(){doubleepsilon=1;while(1+epsilon>1)epsilon=epsilon/2;epsilon=2*epsilon;std::cout1)epsilon_f=epsilon_f/2;epsilon_f=2*epsilon_f;std::cout当我运行代码时,我收到两个值的1.0842e-019。我查了一下,double值应该是2.22e-16,浮点值应该是1.19e-07。当我

c++ - 用于提高中间浮点计算精度的编译器标志

gcc/clang中是否有指定中间浮点计算精度的标志?假设我有一个C代码doublex=3.1415926;doubley=1.414;doublez=x*y;是否有一个编译器标志允许以用户机器的最高可能精度计算'x*y',比如说,long-double(64位尾数),然后截断回double(53位)尾数,声明变量类型的精度)?仅供引用,我在64位机器上使用Ubuntu14.04。 最佳答案 海湾合作委员会[编辑观察到的gcc4.8.4行为,其中默认行为与文档相反]您需要使用x87FPU中的80位寄存器。使用-mfpmath=387

c++ - 在C++中将int转换为16位 float (半精度 float )

我如何将一个整数转换为一个半精度float(它被存储到一个数组unsignedchar[2]中).输入int的范围是1-65535。精度真的不是问题。我正在做类似的事情,将16bitint转换为unsignedchar[2],但我知道没有halfprecisionfloatC++数据类型。以下示例:int16_tposition16int=(int16_t)data;memcpy(&dataArray,&position16int,2); 最佳答案 这是一件非常简单的事情,您需要的所有信息都在Wikipedia中。.示例实现:#in