草庐IT

floating-point-conversion

全部标签

Java,不可能将对象转换为 float ......为什么?

为什么会这样:Objectprova=9.2;System.out.println(prova);Doubleprova2=(Double)prova;System.out.println(prova2);这不是吗?Objectprova=9.2;System.out.println(prova);Floatprova2=(Float)prova;System.out.println(prova2);由于这个原因,我在我的javaandroid应用程序中损失了1小时,所以我不得不将它转换为double而不是将double转换为float,否则我有一个异常 最

python - dtype ('float64' 的值太大)

关闭。这个问题不符合StackOverflowguidelines.它目前不接受答案。关闭7年前。编辑问题以包含desiredbehavior,aspecificproblemorerror,andtheshortestcodenecessarytoreproducetheproblem.这将有助于其他人回答问题。这个问题是由于打字错误或无法再重现的问题引起的。虽然类似的问题可能是on-topic在这里,这个问题的解决方式不太可能帮助future的读者。Improvethisquestion我正在使用numpy读取arff文件,但出现以下错误:ValueError:Inputconta

python - Python "float"和 PostgreSQL "double precision"的 float

Python的“浮点”类型和PostgreSQL的“double”类型是否基于相同的C实现?这可能不是这里真正的潜在问题,但无论如何,这是我在两种环境中尝试操纵小数字时得到的结果:在Python上(2.7.2GCC4.2.1,如果相关的话):>>>float('1e-310')1e-310在PostgreSQL(9.1.1)上:postgres#select1e-310::doubleprecision;ERROR:"0.00000000000000000000000000000000000000000000000000000000000000000000000000000000000

python - 将两列文本文件中的 float 读取到 Python 中的数组中时出错

我有一个文本文件,其中包含由制表符分隔的2列,其中包含一些我想读入数组并执行一些简单操作(例如绘制数据)的数据。第二列中的数据采用科学计数法,可以取极小的值,例如从10e-27到10e-50的数量级变化。例如这里是数据样本0.00521135-1.197189e-310.00529274-7.0272737e-320.00530917-6.0163467e-320.00532565-4.9990405e-320.00534218-3.9747722e-320.00535876-2.9457271e-320.0053754-1.9094542e-320.00539208-8.684751

python - 无法将数组数据从 dtype ('O' ) 转换为 dtype ('float64' )

我正在使用scipy的curve_fit来拟合一些数据的函数,并收到以下错误;Cannotcastarraydatafromdtype('O')todtype('float64')accordingtotherule'safe'它指向我代码中的这一行;popt_r,pcov=curve_fit(self.rightFunc,np.array(wavelength)[beg:end][edgeIndex+30:],np.dstack(transmitted[:,:,c][edgeIndex+30:])[0][0],p0=[self.m_right,self.a_right])rightF

python - 类型错误:+ 不支持的操作数类型: 'decimal' 和 'float'

我正在使用Python2.7和MySQLdb。我在这段代码上收到此错误:Value=5x.execute("SELECTnumberfromTestingwhereid='%s';"%Value)data=x.fetchall()print(data)data=data[0][0]data=data+0.5x.execute("""UPDATETestingSETnumber=%sWHEREid=%s""",(data,Value))conn.commit()错误发生在行:data=data+0.5。TypeError:+不支持的操作数类型:'decimal'和'float'。数字是D

Python格式化 float 时默认四舍五入

我正在尝试用Python2.7.10解决我的代码中的一些浮点问题。在测试时,我遇到了format方法的奇怪行为:print"{}".format(0.3000000000004)#13decimals打印:0.3但是:print"{}".format(0.300000000004)#12decimals打印:0.300000000004既然我没有指定格式,为什么要将第一个数字四舍五入?是否有默认的允许小数位数? 最佳答案 由于您没有指定格式,因此使用默认类型强制转换为字符串。所以这并不是format的真正问题。Python2为flo

python - 将 float 转换为字节数组

所以,我想做的是将float转换为字节数组,但我一直没有收到任何输入,而且我的计算机速度极慢/死机。我的代码是importstructdeffloat_to_hex(f):returnhex(struct.unpack('我在另一篇文章中找到了一个将float转换为十六进制的函数deffloat_to_hex(f):returnhex(struct.unpack('然后我将它从十六进制转换为整数。这有什么问题?我怎样才能更好地将它从float转换为bin或bytearray? 最佳答案 这取决于你想要什么,以及你打算用它做什么。如果

python - 检查字符串是整数还是 float

所以我正在创建一个程序来显示数字系统,但是我在第一个障碍上遇到了问题。该程序将从用户那里获取一个数字,然后在整个程序中使用该数字来解释几个计算机科学概念。在解释我的第一部分数字系统时,程序会说明它是什么类型的数字。我通过将字符串转换为float来做到这一点。如果float后面只有“.0”,那么它会将其转换为整数。目前我正在使用这段代码whileCorrectNumber==False:try:Number=float(NumberString)-0print(Number)except:print("Error!Notanumber!")这很有用,因为它显示用户是否输入了数字。但是我不

python - 如何从 Python 中的文件中获取下一个标记(int、float 或 string)?

有没有什么方法可以在Python中从文件中获取下一个标记,例如Java中的Scanner类?Filefile=newFile("something");Scannermyinput=newScanner(file);doublea=myinput.nextDouble();Strings=myinput.next();我想忽略空格、制表符、换行符,只从文件中获取下一个int/float/word。我知道我可以自己阅读这些行并构建类似Scanner的东西,但我想知道是否还没有我可以使用的东西。我四处搜索,但只能找到面向行的方法。谢谢! 最佳答案