草庐IT

C++浮点精度

全部标签

c++ - 什么是非时间流加载固有 (_mm256_stream_load_si256) 的浮点 (__m256d) 版本?

在AVX/AVX2中我只能找到_mm256_stream_load_si256(),用于__m256i。没有办法流式加载__m256d吗?为什么?(我想在不污染CPU缓存的情况下加载它)做下面的(aggressivecasting)有什么障碍吗?__m256d*pDest=/*...*/;__m256d*pSrc=/*...*/;/*...*/const__m256iiWeight=_mm256_stream_load_si256(reinterpret_cast(pSrc));const__m256dprior=_mm256_div_pd(*reinterpret_cast(&iWe

c++ - 浮点格式和 isinf()

我目前正在处理C++中的浮点值。考虑以下C++片段:#include#include#includeintmain(){longdoublenum;//Setnumtoalarge,valid,floatingpointvaluememset(&num,0xcc,sizeof(num));std::cout根据Wikipedia,这会创建一个80位extendedprecision浮点值,因为我在x86机器上使用GCC。因此,浮点值是0xcccccccccccccccccccc,应该是有效值。有趣的是,输出如下:num=-4.77987e+986isinf(num)=1std::isi

c++ - 最准确的线相交坐标计算与 float ?

我在给定横坐标x处计算直线上一点的纵坐标y。该线由其两个端点坐标(x0,y0)(x1,y1)定义。端点坐标是float,必须以浮点精度进行计算才能在GPU中使用。数学和天真的实现都是微不足道的。设t=(x-x0)/(x1-x0),则y=(1-t)*y0+t*y1=y0+t*(y1-y0)。问题出在x1-x0很小的时候。结果将引入取消错误。当与x-x0中的一个结合时,在除法中我预计t会出现重大错误。问题是是否存在另一种更准确地确定y的方法?即我应该先计算(x-x0)*(y1-y0),然后除以(x1-x0)吗?y1-y0的差异总是很大。 最佳答案

c++ - 颜色的浮点 RGB 值与 ubyte RGB 值

(ubyte是无符号字符)例如,在颜色类中使用浮点值作为RGB值有什么意义?它提供更高的准确性吗?空间呢?使用float与ubyte的性能优势/障碍是什么? 最佳答案 临:做数学时不需要与float相互转换在顺序应用多个处理步骤时更准确地保留中间值具有多更大的动态范围和分辨率float是GPU等的自然格式缺点:需要更多存储空间 关于c++-颜色的浮点RGB值与ubyteRGB值,我们在StackOverflow上找到一个类似的问题: https://stack

c++ - 以亚像素精度检测激光线的中心

我正在使用C++和OpenCV开发一个简单的“激光线”扫描仪。到目前为止我可以检测到激光线的中心,精度为1个像素,因此我有一个可能的“子像素”函数/算法的起点。(激光线大约15-20像素宽)现在我有兴趣将其改进为亚像素精度。我知道OpenCV有一些亚像素检测功能,但据我所知这些仅用于检测角落。如果有人有任何建议,我很想听听。一些信息;系统:QTFramework、C++、OpenCV库相机;单色(没有颜色),配备红色滤镜图像分辨率;2560x1920注意:激光线只会分析1张图像。 最佳答案 有两种基本方法我用过,效果不错:简单:在一

c++ - 从结构转换为浮点*

我有一个结构typedefstruct{floatm[4][4];}myMatrix;由于程序的某些需要,我需要将其转换为float*我是这样做的if(!g_Fvar16)g_Fvar16=(float*)malloc(sizeof(float)*16);memcpy(&g_Fvar16,&struct_var,sizeof(float)*16);returng_Fvar16;这是一个简单的函数。现在,从我调用这个函数的地方,程序在访问这些值时崩溃。g_Fvar16是float*sizeof(struct_var)是64,分配的内存量也是64。我不能简单地将复制的内存视为float*吗

c++ - 如何分别针对整型和浮点型专门化模板函数?

考虑函数templatevoidFun(Tt);.我怎样才能分别对整型和浮点型有不同的实现?我猜积木是std::enable_if,std::is_integral,std::is_floating_point.但我不能以一种优雅的方式将它们放在一起:-(.附言我有可用的C++11。 最佳答案 参见std::enable_if的示例代码在cppreference.com.编辑:将上面链接中的代码改编如下:#include#includetemplatetypenamestd::enable_if::value>::typefoo(T

c++ - 在 boost :multiprecision 中定义多精度 pi

我在boost::multiprecision中需要任意(但固定)精度的pi(3.1415...)。boost::math::constants中的常量最多只能定义固定位数,如thisanswer中指出的那样,所以我需要自己计算。因为我经常使用这个数字并且有很多数字,所以我想在运行时只计算一次。拥有它的简单而快速的方法是什么?我想用typedefnumber>mpfloat;//PRECISIONiscompiletime.constintPI=atan(mpfloat(1))*4;但我不确定这是不是它的常见习语。 最佳答案 在c+

c++ - 处理融合乘加浮点不准确的通用方法

昨天我在跟踪我的项目中的一个错误,几个小时后,我已经缩小到一段代码,它或多或少地在做这样的事情:#include#include#includevolatilefloatr=-0.979541123;volatilefloatalpha=0.375402451;intmain(){floatsx=r*cosf(alpha);//-0.911326floatsy=r*sinf(alpha);//-0.359146floatex=r*cosf(alpha);//-0.911326floatey=r*sinf(alpha);//-0.359146floatmx=ex-sx;//shouldb

c++ - 为什么我们不能从浮点最大值中减去?

几天前,我试图从std::numeric_limits::max()中减去10000而且我发现无论我减去什么值,该值都没有改变。事实上,似乎所有浮点类型都有这种行为。例如(在g++和msvc上),这个没有通过(好):inti=std::numeric_limits::max();assert(i==i-10000);//Doesn'tpass但是这个确实(?):floatf=std::numeric_limits::max();assert(f==f-10000.f);//Pass我什至尝试直接分配最大值(在本例中为3.40282e+38),但它似乎并没有改变任何东西。此外,它似乎对任