草庐IT

decimals

全部标签

android - 为什么,android中的资源在R.java中被转换为HEXA-DECIMAL

很难说出这里要问什么。这个问题模棱两可、含糊不清、不完整、过于宽泛或夸夸其谈,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开,visitthehelpcenter.关闭9年前。为什么,资源被转换成HEXAdecimal,它是否为应用程序创建了对您的资源的一些快速访问。

c++ - std::decimal::decimal64 正确用法,g++ 4.6.3

我正在研究用g++的std::decimal::decimal32/64/128类型替换我们的代码中的double以用于货币数量和价格,但是我陷入了如何最好地输入的问题并输出数据。具体来说,似乎没有任何用于从字符串转换到/从字符串转换的例程,并且stringstream机制不会为这些类型编译。我看到这样做的唯一方法是使用double作为中间类型,但是如果我们总是通过double输入和输出,这肯定至少部分地违背了使用decimal类型的目的?我确定我不理解这里的某些内容,因此欢迎就如何最好地使用这些类型提供一些反馈。编辑:我已经破解了几个输入/输出例程,但我对其中任何一个都不满意。输入几

mysql - 是否可以在 MySQL 中将 DECIMAL 转换为 DOUBLE?

我知道所有数值含义,即浮点格式固有的可能舍入问题,但就我而言,我在MySQL中有我想要的DECIMAL列直接在MySQL查询中而不是下游转换为DOUBLE。有人能帮忙吗? 最佳答案 SELECTmy_decimal_field+0E0FROMmy_tableMySQL手册中的以下引述解释了它是如何工作的:9.1.2NumericLiteralsNumberliteralsincludeexact-value(integerandDECIMAL)literalsandapproximate-value(floating-point)l

php - PHP 中的 MySQL DECIMAL 处理

正如通常讨论的那样,(例如此处Storing0.00001inMySQL)DECIMAL数据类型应该用于需要精度/正确性的字段,例如帐户余额。但是我想知道,PHP如何处理这些值,如果它们在内部作为float处理,从数据库读取这些值、进行一些计算并再次将它们写回时是否仍然存在问题。如果是这样,我们如何才能强制PHP保持精确度? 最佳答案 该变量最初在PHP中可能是一个字符串(当从MySQL结果对象读取时)。通常,不能依赖PHP的float据类型来保持所需的精确十进制值。您应该使用任意精度的数学库,例如GMP.(当您获取结果对象的一行时

mysql - 艰难地决定使用 FLOAT、DOUBLE 或 DECIMAL

目前使用MySQL5.1.6版本这是我在现实世界中的第一个建筑,到目前为止我真的很享受它;然而,我现在坚持要决定一个字段数据类型,希望有人能帮我解决这个问题。我基本上有10个字段,它们都是不同的测试结果。数字范围从-100到100,可以有一个小数点,在实际小数点后留一位。例如-5.1、0、1、16.3、99.2、100都是可能的数据。从我读到的内容来看,应该对我们通常测量的那些东西使用DECIMAL并且是精确的(这些是),而FLOAT和DOUBLE是近似值,我真的不想要(尽管我确信在这个水平上,近似值如果存在的话也是非常小的)。如果我使用DECIMAL,是否必须在开头为“-”添加一个空

mysql - 可以在 MySQL 中将钱存储为 decimal(22,2) 吗?

在MySQL中可以将货币值存储为decimal(22,2)吗?我正在为虚拟世界编写基于网络的市场和广告网络。 最佳答案 如果有人拥有60亿美元怎么办?!?田野装不下这么大的一堆本杰明斯....不过,严肃地说,SQLServer和PostgreSQL有一个货币数据类型,而Access有一个货币数据类型。Oracle和MySQL都没有。此线程-BestdatatypeforstoringcurrencyvaluesinaMySQLdatabase但是出于某种原因建议使用4位有效数字,我想以防万一您需要小数美分(股票等)。如果没有用户拥有

mysql - DECIMAL(x,0)有什么用?

在DECIMAL(M,D)列中,MySQL提供了D范围为0到30的选项。是否有一个微妙的原因让我错过了0选项?小数点后没有任何东西的小数不是整数吗?我什么时候以及为什么要指定没有小数位的DECIMAL? 最佳答案 DECIMALtype的编号范围比INTEGER或BIGINT大得多。您能够在DECIMAL(65,0)中存储的最大数字是65个九。BIGINT中最大的数字是18446744073709551615。DECIMAL(x,0)对于小数来说通常要贵一些。考虑使用定义的INTEGERtype如果您的数字在其中一个范围内。根据以下

iphone - 我如何知道何时在核心数据中使用 Integer16/32/64 或 float/int/double/decimal?

使用NSInteger(或NSNumber)和float/int有什么好处/坏处?小数到底是什么??谢谢! 最佳答案 NSInteger在iPhone上使用时只是int的类型定义,但如果您为64位机器构建代码,在OSX上会将32位int形式更改为64位int。NSNumber是一个可以容纳任何类型数字的对象,包括float、整数、double、长整数等。NSDecimal是一个结构体,它将告诉您有关NSNumber的浮点值的一些细节。NSDecimalNumber是NSNumber的子类,可以保存更精确的浮点值:参见@dreanla

ios - 如何在不丢失精度的情况下从 String 解析 Decimal?

我在我的应用程序中处理金额,因此精度显然非常重要,Decimal/NSDecimal数字应该是快速处理金钱的方式。我想在保持精度的同时在Decimal和String之间进行转换。(解析API响应,存储到DB...)这是我目前的解决方案:privateletdotLocaleDictionary=[NSLocale.Key.decimalSeparator:"."]funcapiStringToDecimal(_string:String)->Decimal?{letnumber=NSDecimalNumber(string:string,locale:dotLocaleDictiona

swift - 计算 Swift 中 Float(或 Decimal)中的小数位数

例如,我想计算float(或NSDecimalNumber)中的小数位数(忽略尾随零):1.45000=>25.98=>21.00=>00.857=>35=>0我怎样才能做到这一点? 最佳答案 使用Decimal执行此操作非常简单,前提是您正确创建了Decimal。小数存储为significand*10^exponent。significand被规范化为可能的最小整数。所以对于1230,有效数是123,指数是1。对于1.23,有效数也是123,指数是-2。这导致我们:extensionDecimal{varsignificantFr