草庐IT

PRECISION

全部标签

c++ - Gotw 67 中的一个例子

http://www.gotw.ca/gotw/067.htm中有一个例子intmain(){doublex=1e8;//floatx=1e8;while(x>0){--x;}}当你把double改成float时,在VS2008中就是一个无限循环。根据Gotw的解释:Whatiffloatcan'texactlyrepresentallintegervaluesfrom0to1e8?Thenthemodifiedprogramwillstartcountingdown,butwilleventuallyreachavalueNwhichcan'tberepresentedandforw

c++ - 使用 boost lib 的更高精度 float (高于 16 位数字)

我正在运行物理实验模拟,因此我需要非常高的浮点精度(超过16位)。我使用Boost.Multiprecision,但是无论我尝试什么,我都无法获得高于16位的精度。我使用C++和eclipse编译器运行模拟,例如:#include#include#include#includeusingboost::multiprecision::cpp_dec_float_50;voidmain(){cpp_dec_float_50my_num=cpp_dec_float_50(0.123456789123456789123456789);std::cout.precision(std::numer

c++ - x86-64 长 double

longdouble在Intel64位平台上的实际精度是多少?是80位填充到128位还是实际的128位?如果是前者,除了gmp之外,还有其他选择可以实现真正的128精度吗? 最佳答案 x86-64精度与常规x86相同。扩展double为80位,使用x87ISA,添加了6个填充字节。没有128位FP硬件。不过,四精度或扩展四精度的软件实现可能会受益于x86-6464x64=>128整数乘法指​​令。 关于c++-x86-64长double,我们在StackOverflow上找到一个类似的问

c++ - 管理 C++ 单精度和 double 混合计算的规则是什么?

例如,这些变量:result(double)a(double)b(float)c(float)d(double)一个简单的计算:result=a*(b+c)*d如何以及何时转换类型以及如何确定每次计算执行的精度? 最佳答案 所有操作都是在相同类型的对象上完成的(假设是正常的算术运算)。如果您编写的程序使用不同的类型,那么编译器将自动升级ONE参数,使它们相同。在这种情况下,花车将升级为double:result=a*(b+c)*dfloattmp1=b+c;//Plusoperationdoneonfloats.//Sotheres

c++ - 除 double 时意外的精度损失

我有一个函数getSlope,它以4个double作为参数,并返回另一个使用给定参数按以下方式计算的double:doubleQSweep::getSlope(doublea,doubleb,doublec,doubled){doubleslope;slope=(d-b)/(c-a);returnslope;}问题是,当使用参数调用这个函数时,例如:getSlope(2.71156,-1.64161,2.70413,-1.72219);返回结果为:10.8557这对我的计算来说不是一个好的结果。我已经使用Mathematica计算了斜率,相同参数的斜率结果是:10.8452或为了精确而

c++ - C - 打印浮点值

我有一个C++程序,它接收值并像这样打印出值:getline(in,number);cout我有一个等效的C程序,它接收值并像这样打印出来:fscanf(rhs,"%e",&number);printf("%lf\n",number);但是当C++程序打印出0.30951时,C程序打印出0.309510。更多示例:C++:0.0956439C:0.095644。只要值是7位长,它似乎打印相同的结果,但如果它比7位短,它会在末尾添加一个额外的0。如果它的长度超过7位,则向下舍入为6位。我希望C结果与C++程序匹配。任何帮助将不胜感激。谢谢。注意:数字是一个float,数字是从文件中读取的

机器学习:性能度量——Precision,Recall,F1_score(Python)

importpandasaspdfromsklearnimportdatasetsfromsklearn.model_selectionimporttrain_test_splitfromsklearn.preprocessingimportStandardScalerfromsklearn.linear_modelimportLogisticRegressionfromsklearnimportmetricsimportmatplotlib.pyplotaspltfromsklearn.metricsimportclassification_report,ConfusionMatrixDis

iOS:限制数据类型 "double"的精度而不转换为 NSString

我想问一下double如何处理它们的精度。我创建了一个示例,其中输入了如下double值:doubled=2.0126161;doubled1=2.0126162;doubled2=2.0126163;doubled3=2.0126164;doubled4=2.0126165;当前输出:如果我设置断点并通过在lldb中运行“po”命令进行检查,则值显示如下:(lldb)pod2.0126160999999998(lldb)pod12.0126162000000001(lldb)pod22.0126162999999999(lldb)pod32.0126164000000002(lldb

【机器学习】分类算法评估指标全总结(2023最新整理)关键词:准确率Accuracy、精确率Precision、召回率Recall、Micro F1、P-R、ROC、MCC、Cohen‘s kappa

目录一、定义二、混淆矩阵三、分类算法的评估指标1、准确率(Accuracy)2、精确率(Precision)3、召回率(Recall)Precision与Recall的权衡4、F1分数(F1Score)F-BetaScore宏平均F1分数(MacroF1)微平均F1分数(MicroF1)Macro与Micro的区别加权F1分数(WeightedF1)5、马修斯相关系数(Matthewscorrelationcoefficient)-MCC6、Cohen'skappa统计系数7、ROC曲线AUC-ROC曲线下的面积(areaunderthecurve)8、P-R曲线9、对数损失LogLoss和A

ios - iOS 中 UITouch 时间戳的精度是多少?

iOS中UITouch类的时间戳属性有多精确?毫秒?几十毫秒?我正在将iPad的内部测量值与贴在屏幕上的自定义触摸检测电路进行比较,两者之间存在相当大的差异(标准偏差约为15毫秒)。我看到它表明时间戳根据帧刷新间隔离散化,但我得到的分布看起来是连续的。 最佳答案 在iPadAir2之前,iDevices的触摸检测轮询是60Hz。iPadAir2首次能够以120Hz的频率轮询触摸。因此,虽然时间戳的数字看起来非常精确(点后有很多数字),但事实并非如此。这是一个WWDC视频,这是我见过的最好的WWDC视频,它详细解释了一切:https: