草庐IT

floating-point-conversion

全部标签

Android开发——SQLite存储 float

当我在SQLiteDatabase.insert中存储浮点值时,存储的值将与原始值不同,见下文:我有一个数据库宽度:db.execSQL("CREATETABLEIFNOTEXISTSinfo_values("+BaseColumns._ID+"INTEGERPRIMARYKEYAUTOINCREMENT,"+"dateDATEUNIQUENOTNULL,"+"valueREALNOTNULL)");当我插入例如33.3宽度时:privateclassinputdlg_okimplementsinput_dlg.ReadyListener{publicvoidready(floatne

ruby-on-rails - 在 Ruby on Rails 中使用无限 float

在使用SQLite3的Rails应用程序中,我想在具有浮点属性的模型中使用浮点值Float::INFINITY和-Float::INFINITY.使用Model.create!运行INSERT查询这似乎工作正常,因为activerecord在这种情况下使用准备好的语句。但是,当我尝试使用foo.save更新记录时,activerecord不使用准备好的stament,只是将字符串Infinity放在查询中,导致SQLite3::SQLException:nosuchcolumn:Infinity有没有办法解决这个问题,还是我需要求助于在模型/数据库中使用字符串?Rails版本3.2.2

entity-framework - 为什么 "real"和 "float"都映射到 "Single"而不是 "Double"?

我在模型优先模式(=EDMX)中使用System.Data.SQLite1.0.90与VS2013和EntityFramework5。我创建了一个包含表的新SQLite数据库:CREATETABLE[..][Test1integer]integer,[Test2int]int,[Test3smallint]smallint,[Test4tinyint]tinyint,[Test5bigint]bigint,[Test6money]money,[Test7float]float,[Test8real]real,[Test9decimal]decimal,[Test10numeric18_

python - Redis - 错误 : value is not a valid float

我在Redis中有一个排序集。我正在尝试通过在Python代码中使用zincrby来更新特定元素的计数器值,例如:conn.zincrby("usersSet",float(1),"user1")但它显示错误如下:'错误:值不是有效的float'我在cli上尝试了相同的命令:zincrbyusersSet1users1它工作正常。Python代码中是否有任何其他方法来增加排序集中特定键的计数器值。 最佳答案 redis-cli和python连接器的参数顺序不同。你必须写conn.zincrby("usersSet","user1",

lua - 如何将 Lua 字符串转换为 float

我正在编写一个简单的Lua脚本来计算Redis2.8中排序集(http://redis.io/commands/#sorted_set)的中位数。脚本如下localcnt=redis.call("ZCARD",KEYS[1])ifcnt>0thenifcnt%2>0thenlocalmid=math.floor(cnt/2)returnredis.call("ZRANGE",KEYS[1],mid,mid)elselocalmid=math.floor(cnt/2)localvals=redis.call("ZRANGE",KEYS[1],mid-1,mid)return(tonumb

swift - 在 swift4.1 中将 Any 转换为 Float 总是失败

在以前的版本中,要从[String:Any]字典中获取浮点值,我可以使用letfloat=dict["somekey"]as?float,但是在swift4.1中,是不行的。似乎dict["somekey"]的类型在我得到它之前被隐式推断为Double,所以从Double转换为Float总是失败。我想知道这是一个新特性还是一个错误。--这是更新。我重新下载了一个Xcode9.2并做了一些实验,现在我想我弄清楚了是怎么回事。这是测试代码:letdict:[String:Any]=["key":0.1]ifletfloat:Float=dict["key"]as?Float{print(f

swift - + 不可用 : Please use explicit type conversions or Strideable methods for mixed-type arithmetics

我正在尝试学习Swift并正在查看一个适用于Swift2的旧通用示例funcincrement(number:T)->T{returnnumber+1}现在在Swift4中它会提示'+'isunavailable:PleaseuseexplicittypeconversionsorStrideablemethodsformixed-typearithmetics为什么会出现此错误以及我做错了什么? 最佳答案 无需使用+运算符,您可以简单地使用Strideable.advanced(by:)。funcincrement(number:

swift - NSNumber vs Int,Swift 字典中的 Float

根据Swift3文档,NSNumber桥接到Swiftnative类型,例如Int、Float、Double...但是当我尝试在Dictionary中使用native类型时,我得到编译错误,这些错误在使用NSNumber时得到修复,为什么那?这是我的代码:vardictionary:[String:AnyObject]=[:]dictionary["key"]=Float(1000)并且编译器给出错误“无法将Float类型的值分配给AnyObject”。如果我编写如下代码,则没有问题,因为NSNumber实际上是一个对象类型。dictionary["key"]=NSNumber(val

swift - 距离(从 :to:)' is unavailable: Any String view index conversion can fail in Swift 4; please unwrap the optional indices

我试图将我的应用程序迁移到Swift4、Xcode9。我收到此错误。它来自第3方框架。distance(from:to:)'isunavailable:AnyStringviewindexconversioncanfailinSwift4;pleaseunwraptheoptionalindicesfuncnsRange(fromrange:Range)->NSRange{letutf16view=self.utf16letfrom=range.lowerBound.samePosition(in:utf16view)letto=range.upperBound.samePositio

floating-point - 找不到接受提供的参数的 '*' 的重载

我使用toInt()将String转换为Int。然后我尝试将它乘以0.01,但我收到一条错误消息,提示Couldnotfindanoverloadfor'*'thatacceptsthesuppliedargument.这是我的代码:varstr:Int=0varpennyCount=0.00str=pennyTextField.text.toInt()!pennyCount=str*0.01从阅读其他帖子来看,答案似乎与类型有关。例如,如果将类型设置为整数,则会出现类似的错误。我试过将类型更改为Int,但这似乎并没有解决问题。我还尝试将“str”和“pennyCount”的类型设置为