草庐IT

精度评定

全部标签

c++ - std::chrono::high_resolution_clock 和屏幕刷新率的准确度(不是精度)

我使用的是visualstudio2012,想知道high_resolution_clock的准确性。基本上我正在编写一些代码来显示声音和图像,但我需要它们非常同步,并且图像必须无撕裂。我正在使用directX提供无撕裂图像,并使用high_resolution_clock定时屏幕刷新。显示器声称为60fps,但是,使用high_resolution_clock的计时给出了60.035fps的刷新率,平均超过10000次屏幕刷新。根据哪个是正确的,我的音频将在一秒后结束0.5毫秒,即一小时后大约2秒。我希望任何时钟都比这更准确-更像是1秒在一年内漂移,而不是一个小时。有没有人以前看过这

c++ - Eigen 浮点精度

我在使用Eigen时遇到浮点精度问题。我有两个Eigen::MatrixXd;第一个矩阵A(nx1)仅包含正整数,而第二个矩阵B(nx1)包含填充相同实数的单个列(例如:-0.714312).我需要计算以下Eigen::MatrixXd:constautoexponential=[](doublex){returnstd::exp(x);};MatrixXdW=B.unaryExpr(exponential);MatrixXdresiduals=A-W;问题是当我打印残差总和时:cout通过使用R和相同的输入矩阵执行相同的操作,我得到了不同的值。通过使用R矩阵,我得到-2.950208

c++ - 机器 Epsilon 精度差异

作为学校作业的一部分,我正在尝试计算C++中double和float的机器epsilon值。我在Windows764位中使用Cygwin,这里是代码:#includeintmain(){doubleepsilon=1;while(1+epsilon>1)epsilon=epsilon/2;epsilon=2*epsilon;std::cout1)epsilon_f=epsilon_f/2;epsilon_f=2*epsilon_f;std::cout当我运行代码时,我收到两个值的1.0842e-019。我查了一下,double值应该是2.22e-16,浮点值应该是1.19e-07。当我

c++ - 用于提高中间浮点计算精度的编译器标志

gcc/clang中是否有指定中间浮点计算精度的标志?假设我有一个C代码doublex=3.1415926;doubley=1.414;doublez=x*y;是否有一个编译器标志允许以用户机器的最高可能精度计算'x*y',比如说,long-double(64位尾数),然后截断回double(53位)尾数,声明变量类型的精度)?仅供引用,我在64位机器上使用Ubuntu14.04。 最佳答案 海湾合作委员会[编辑观察到的gcc4.8.4行为,其中默认行为与文档相反]您需要使用x87FPU中的80位寄存器。使用-mfpmath=387

c++ - 在C++中将int转换为16位 float (半精度 float )

我如何将一个整数转换为一个半精度float(它被存储到一个数组unsignedchar[2]中).输入int的范围是1-65535。精度真的不是问题。我正在做类似的事情,将16bitint转换为unsignedchar[2],但我知道没有halfprecisionfloatC++数据类型。以下示例:int16_tposition16int=(int16_t)data;memcpy(&dataArray,&position16int,2); 最佳答案 这是一件非常简单的事情,您需要的所有信息都在Wikipedia中。.示例实现:#in

c++ - 为什么 BigInt、BigNum 或任意精度算术没有出现在 STL 或 C++ 的标准库中?

按照目前的情况,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visitthehelpcenter指导。关闭10年前。这有什么具体原因吗?这是设计决定吗?BignumberinC++与其他搜索结果一起显示为此编写的类。不知道以后的版本会不会包含这个功能。

c++ - SDL_GetTicks()精度在毫秒级以下

我目前使用SDL2编写程序。一切正常,但我对SDL_GetTicks()方法有疑问。通常它应该返回以毫秒为单位的总应用程序时间,但它总是在大多数情况下返回值0,有时返回值1。我用SDL_INIT_EVERYTHING标志初始化了SDL。以下代码的问题是循环太快,所以增量时间小于1毫秒。有没有办法达到更高的精度?#include"Application.hpp"voidApplication::Initialize(){intsdl_initialize_result=SDL_Init(SDL_INIT_EVERYTHING);if(sdl_initialize_result

c++ - 在 C++ 中使用 pow 时精度损失

10^1.64605=44.2639330165但是在C++中使用pow:doublep=pow(10,1.64605)returns44.2641.这里有办法提高精度吗?我尝试将两侧都转换为longdouble但这也没有帮助。比较有意思的是:cout输出是:-1.6460544.263944.2641为什么? 最佳答案 cout正在截断您的双倍显示,但由pow计算的值可能至少和你期望的一样精确。有关如何在控制台中显示更精确的信息,请参阅:HowdoIprintadoublevaluewithfullprecisionusingco

c++ - 散列任意精度值(boost::multiprecision::cpp_int)

我需要以任意精度获取一个值的散列值(来自Boost.Multiprecision);我用cpp_int后端。我想出了以下代码:boost::multiprecision::cpp_intx0=1;constautoseed=std::hash{}(x0.str());我不需要代码尽可能快,但我发现对字符串表示进行哈希处理非常笨拙。所以我的问题是双重的:保持任意精度,我可以更有效地散列值吗?也许我不应该坚持保持任意精度,我应该转换成一个我可以轻松散列的double(不过,我仍然会使用任意精度值进行哈希表所需的比较)? 最佳答案 您可以

20240203在WIN10下使用GTX1080配置stable-diffusion-webui.git不支持float16精度出错的处理

20240203在WIN10下使用GTX1080配置stable-diffusion-webui.git不支持float16精度出错的处理2024/2/321:23缘起:最近学习stable-diffusion-webui.git,在Ubuntu20.04.6下配置SD成功。不搞精简版本:Miniconda了。直接上Anacoda!打开stable-diffusion-webui.git的时候报错:webui.batwebui-user.bat双击打开升级软件/包之后都会报错!NansException:AtensorwithallNaNswasproducedinUnet.Thiscould