草庐IT

精度高

全部标签

c++ - 机器 Epsilon 精度差异

作为学校作业的一部分,我正在尝试计算C++中double和float的机器epsilon值。我在Windows764位中使用Cygwin,这里是代码:#includeintmain(){doubleepsilon=1;while(1+epsilon>1)epsilon=epsilon/2;epsilon=2*epsilon;std::cout1)epsilon_f=epsilon_f/2;epsilon_f=2*epsilon_f;std::cout当我运行代码时,我收到两个值的1.0842e-019。我查了一下,double值应该是2.22e-16,浮点值应该是1.19e-07。当我

c++ - 用于提高中间浮点计算精度的编译器标志

gcc/clang中是否有指定中间浮点计算精度的标志?假设我有一个C代码doublex=3.1415926;doubley=1.414;doublez=x*y;是否有一个编译器标志允许以用户机器的最高可能精度计算'x*y',比如说,long-double(64位尾数),然后截断回double(53位)尾数,声明变量类型的精度)?仅供引用,我在64位机器上使用Ubuntu14.04。 最佳答案 海湾合作委员会[编辑观察到的gcc4.8.4行为,其中默认行为与文档相反]您需要使用x87FPU中的80位寄存器。使用-mfpmath=387

c++ - 在C++中将int转换为16位 float (半精度 float )

我如何将一个整数转换为一个半精度float(它被存储到一个数组unsignedchar[2]中).输入int的范围是1-65535。精度真的不是问题。我正在做类似的事情,将16bitint转换为unsignedchar[2],但我知道没有halfprecisionfloatC++数据类型。以下示例:int16_tposition16int=(int16_t)data;memcpy(&dataArray,&position16int,2); 最佳答案 这是一件非常简单的事情,您需要的所有信息都在Wikipedia中。.示例实现:#in

c++ - 为什么 BigInt、BigNum 或任意精度算术没有出现在 STL 或 C++ 的标准库中?

按照目前的情况,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visitthehelpcenter指导。关闭10年前。这有什么具体原因吗?这是设计决定吗?BignumberinC++与其他搜索结果一起显示为此编写的类。不知道以后的版本会不会包含这个功能。

c++ - SDL_GetTicks()精度在毫秒级以下

我目前使用SDL2编写程序。一切正常,但我对SDL_GetTicks()方法有疑问。通常它应该返回以毫秒为单位的总应用程序时间,但它总是在大多数情况下返回值0,有时返回值1。我用SDL_INIT_EVERYTHING标志初始化了SDL。以下代码的问题是循环太快,所以增量时间小于1毫秒。有没有办法达到更高的精度?#include"Application.hpp"voidApplication::Initialize(){intsdl_initialize_result=SDL_Init(SDL_INIT_EVERYTHING);if(sdl_initialize_result

c++ - 在 C++ 中使用 pow 时精度损失

10^1.64605=44.2639330165但是在C++中使用pow:doublep=pow(10,1.64605)returns44.2641.这里有办法提高精度吗?我尝试将两侧都转换为longdouble但这也没有帮助。比较有意思的是:cout输出是:-1.6460544.263944.2641为什么? 最佳答案 cout正在截断您的双倍显示,但由pow计算的值可能至少和你期望的一样精确。有关如何在控制台中显示更精确的信息,请参阅:HowdoIprintadoublevaluewithfullprecisionusingco

c++ - 散列任意精度值(boost::multiprecision::cpp_int)

我需要以任意精度获取一个值的散列值(来自Boost.Multiprecision);我用cpp_int后端。我想出了以下代码:boost::multiprecision::cpp_intx0=1;constautoseed=std::hash{}(x0.str());我不需要代码尽可能快,但我发现对字符串表示进行哈希处理非常笨拙。所以我的问题是双重的:保持任意精度,我可以更有效地散列值吗?也许我不应该坚持保持任意精度,我应该转换成一个我可以轻松散列的double(不过,我仍然会使用任意精度值进行哈希表所需的比较)? 最佳答案 您可以

20240203在WIN10下使用GTX1080配置stable-diffusion-webui.git不支持float16精度出错的处理

20240203在WIN10下使用GTX1080配置stable-diffusion-webui.git不支持float16精度出错的处理2024/2/321:23缘起:最近学习stable-diffusion-webui.git,在Ubuntu20.04.6下配置SD成功。不搞精简版本:Miniconda了。直接上Anacoda!打开stable-diffusion-webui.git的时候报错:webui.batwebui-user.bat双击打开升级软件/包之后都会报错!NansException:AtensorwithallNaNswasproducedinUnet.Thiscould

当 SQL Server(mssql-jdbc) 遇上 BigDecimal → 精度丢失,真坑!

开心一刻  中午和哥们一起喝茶  哥们说道:晚上喝酒去啊  我:不去,我女朋友过生日  哥们瞪大眼睛看着我:你有病吧,充气的过什么生日  我生气到:有特么生产日期的好吧需求背景  系统对接了外部系统,调用外部系统的接口需要付费,一个接口一次调用付费0.03元  同一个月内,同一个接口最高付费25元  统计每个月的付费情况  需求清楚了不?不清楚?给大家举个案例  这下明白了吧  明白了需求,相信大家都会觉得很简单,不就是一个分组汇总吗?  客官说的对,但生活总会给我们一点 surprise   我们慢慢往下看环境准备   SQLServer 版本: SQLServer2017    MySQL

c++ - 文件设置精度C++代码

我在C++中编写了这段代码,它工作得很好,首先它要求用户提供一个文件名,然后在该文件中保存一些数字。但我想做的是保存两位小数的数字,例如用户输入2,我想保存数字2,但保留两位小数2.00。关于如何做到这一点有什么想法吗?#include#include#includeusingnamespacestd;intmain(){doublenum;doubledata;stringfileName="";cout>num;for(inti=1;i>data;myfile 最佳答案 好的,在写入数据之前需要使用setprecision。我还