草庐IT

Precision

全部标签

ios - 值转换问题 : Implicit conversion loses integer precision: 'NSInteger' (aka 'long' ) to 'int32_t' (aka 'int' )

这个问题在这里已经有了答案:Objective-Cimplicitconversionlosesintegerprecision'NSUInteger'(aka'unsignedlong')to'int'warning(4个答案)关闭8年前。我已将我的Xcode版本从5.0升级到5.1,并开始在GPUImage库中出现以下错误GPUImageVideoCamera.m:301:54:隐式转换会丢失整数精度:“NSInteger”(又名“long”)到“int32_t”(又名“int”)在下面这一行的函数中“connection.videoMaxFrameDuration=CMTimeM

hadoop - 配置单元数据类型 : Double Precision & Scale

我正在使用CDH5.3.0和Hive0.12。我有一个Hive表,其中的列定义为双列。我正在从HDFS序列文件中以小数点后2位精度将数据加载到这些双列中。例如,在我的HDFS序列文件中,我的数据类似于-100.23或345.00。我需要选择double,因为我的数据值可以是一个很大的值,例如“3457894545.00”我的要求是查询Hive表时,小数点后显示两位精度。因此,对于上面提到的示例数据,如果我查询此列,那么我需要将值视为“100.23”或“345.00”。但是对于Hive0.12,我只能得到小数点后的单精度,即值被截断为“100.2”或“345.0”。我尝试使用“十进制”数

分类问题的评价指标(Precision、Recall、Accuracy、F1-Score、Micro-F1、Macro-F1)以及混淆矩阵、ROC曲线

文章目录一、四个基本概念TP、FP、TN、FN二、精确率(precision)、召回率(recall)、准确率(accuracy)三、F1-Score(F1分数)四、宏平均Macro-F1、微平均Micro-F1、加权平均Weightedavg五、混淆矩阵(ConfusionMatrix)六、ROC曲线和AUC(AreaUndertheCurve,曲线下面积)一、四个基本概念TP、FP、TN、FN真阳性:预测为正,实际为正。把正样本成功预测为正。 TP——TruePositive假阳性:预测为正,实际为负。把负样本错误预测为正。 FP——FalsePositive ——>误报真阴性:预测为负、

java - 如何在 Kotlin 中使用 Double Epsilon/Precision 调用 assertEquals?

我想知道,在Kotlin中,是否有可能调用等效的java方法:assertEquals(doubleexpected,doubleactual,doubleprecision)因为每次我都使用这种方法assertEquals(expected:T,actual:T,message:String)而且我找不到具有精度参数的那个。我想调用Java也应该没问题。我对方法的调用:assertEquals(5000.00,calculateCouponAmount(basicFaceValue,basicInterestRate,amortizationBullet,couponNumber1)

java - 如何在 Kotlin 中使用 Double Epsilon/Precision 调用 assertEquals?

我想知道,在Kotlin中,是否有可能调用等效的java方法:assertEquals(doubleexpected,doubleactual,doubleprecision)因为每次我都使用这种方法assertEquals(expected:T,actual:T,message:String)而且我找不到具有精度参数的那个。我想调用Java也应该没问题。我对方法的调用:assertEquals(5000.00,calculateCouponAmount(basicFaceValue,basicInterestRate,amortizationBullet,couponNumber1)

C++ 演练 cout.setf(ios::fixed);和 cout.precision();

/*Problem38*/#includeusingnamespacestd;classabc{doublen;public:abc(){n=67.5;cout100)n=100;elsen=num;cout对于上面的代码,我只是想知道下面两行在上面的代码中到底做了什么cout.setf(ios::fixed);cout.precision(3);请不要只给我答案,我将不胜感激,因为我正在做一个演练,为明天的期末考试做准备。我搜索了一下,一些消息来源说这是设置标志,但实际上我不明白它的概念是什么以及它是如何工作的 最佳答案 cout

c# - 浮点加法 : loss-of-precision issues

简而言之:我如何执行a+b以便截断导致的任何精度损失远离零而不是接近零?长话短说我正在计算一长串浮点值的总和,目的是计算集合的样本均值和方差。由于Var(X)=E(X2)-E(X)2,足以维持所有数字的运行计数,即到目前为止所有数字的总和,以及到目前为止所有数字的平方和。到目前为止一切顺利。但是,绝对需要E(X2)>E(X)2,因为浮点精度不是情况总是如此。在伪代码中,问题是这样的:intcount;doublesum,sumOfSquares;...doublevalue=;doublesqrVal=value*value;count++;sum+=value;//slightlyr

redis zrank : Floating-Point Numbers May Lose Precision

当我推送score值长度超过16时。像10000000000000000..然后sortedset的排名出错。如何让它支持48?或者让它以某种方式支持字符串排名? 最佳答案 分数是浮点值。它们使用IEEE754标准并具有有限的精度。没有办法提高分数的精度。 关于rediszrank:Floating-PointNumbersMayLosePrecision,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co

分类问题的评价指标:多分类【Precision、 micro-P、macro-P】、【Recall、micro-R、macro-R】、【F1、 micro-F1、macro-F1】

一、混淆矩阵对于二分类的模型,预测结果与实际结果分别可以取0和1。我们用N和P代替0和1,T和F表示预测正确和错误。将他们两两组合,就形成了下图所示的混淆矩阵(注意:组合结果都是针对预测结果而言的)。由于1和0是数字,阅读性不好,所以我们分别用P和N表示1和0两种结果。变换之后为PP,PN,NP,NN,阅读性也很差,我并不能轻易地看出来预测的正确性与否。因此,为了能够更清楚地分辨各种预测情况是否正确,我们将其中一个符号修改为T和F,以便于分辨出结果。P(Positive):代表1N(Negative):代表0T(True):代表预测正确F(False):代表预测错误二、准确率、精确率、召回率、

python - Python "float"和 PostgreSQL "double precision"的 float

Python的“浮点”类型和PostgreSQL的“double”类型是否基于相同的C实现?这可能不是这里真正的潜在问题,但无论如何,这是我在两种环境中尝试操纵小数字时得到的结果:在Python上(2.7.2GCC4.2.1,如果相关的话):>>>float('1e-310')1e-310在PostgreSQL(9.1.1)上:postgres#select1e-310::doubleprecision;ERROR:"0.00000000000000000000000000000000000000000000000000000000000000000000000000000000000