草庐IT

Double-precision_floating-point_f

全部标签

python - 为什么 Windows 会报告将随机行数写入具有与 osx 不同的 float-rounding 的文件所花费的时间?

我有一个python脚本,它正在将dict的对象写入文件。在Windows10上使用2.7,写入持续时间被报告为毫秒数,后跟.0000nnn或.9999nnnn。我正在像这样使用python的时间库:importtimelogline=""defwriter(mydict):records=0globalloglinelstart_time=time.time()foriteminmydict:some_open_file.write(item)dur=time.time()-lstart_timelogline+=("\t{0:25}transformed{2}recordsin{1

python - 属性错误 : module 'tensorflow' has no attribute 'float32'

在为tensorflow模型设置环境时,当我在最后一步运行pythonmodel_builder_test.py时,导致AttributeError:module'tensorflow'hasnoattribute'float32',有人知道如何解决吗?谢谢。https://github.com/tensorflow/models/blob/master/research/object_detection/g3doc/installation.mdPSC:\Users\User\models\research\object_detection\builders>pythonmodel_

java - 将 Double 从 Delphi/Pascal 转换为 Java

我需要使用Delphi/Pascal语言读取在WindowsSO中创建的二进制文件。我知道这个文件是固定长度的,前8个字节是双字节。我将此文件从WindowsSO复制到UbuntuSO。当我尝试使用Java语言在UbuntoSO内部读取此文件时,我看到:双=84000[0,0,0,0,0,-126,-12,64]所以我在Java中创建相同的double(84000),运行UbuntuSO:DoubleyourDouble=(double)84000;byte[]bytes=newbyte[8];java.nio.ByteBuffer.wrap(bytes).putDouble(your

windows - dos 批处理 : convert time to frames (floating-point arithmetic)

在变量%waveDuration%中,我在这个符号中有持续时间0:00:35.368667(0小时、0分钟、35秒+各种毫秒)我想将它转换为帧数@25fpsPAL因此35.36X25=884,21-->四舍五入=884(结果放入新变量%framecount%)我已经尝试了2种类型的批处理计算器,但我在无法解决的问题上出错了。请问我该怎么办?谢谢for/f"tokens=1-4delims=:,"%%ain("%waveduration%")doset/a"framecount"=((%%a00)*3600+(%%b00)*60+(%%c00)+(%%d0)/10)*25/100并将值放

c++ - 将 int 类型转换为 double C++

我是编程新手,这可能是一个显而易见的问题,尽管我终生无法弄清楚为什么我的程序没有以double形式返回。我想编写一个股票程序,接收股票、价格的全部美元部分和小数部分。小数部分将作为两个int值输入,并包含一个具有3个int值的函数定义。该函数以double形式返回价格。#includeusingnamespacestd;intprice(int,int,int);intmain(){intdollars,numerator,denominator,price1,shares;charans;do{cout>dollars>>numerator>>denominator;cout>sha

c++ - double 商?

我在前几天的测验中遇到了以下问题。Considerthecodefragment(assumedtobeinaprograminwhichallvariablesarelegallydefined):intnum1,num2;doubleanswer;//programgetsnum1andnum2fromuser,andvaluesreceived//arealwaysnon-zerointsbetween-100and+100(codenotshown)...//computeprecisequotient:answer=(double)(num1/num2);Aftertheas

c++ - float 大小是否取决于操作系统?

很抱歉,我无法使用Google找到此问题的答案。我不会说英语,也许我没有使用正确的词进行搜索。我记得数据类型的大小取决于架构词的大小(或者我错了)。但是,我不确定大小是否也取决于操作系统。现在我正在使用Windows732位,我不确定当我使用Windows764位时float是否会改变其大小。我使用VisualStudio2012编译我的解决方案,使用Win32项目。如果我将Windows版本从32位更改为64位,大小会发生变化吗?我不是在问float和double之间的区别。我想问的是,如果我将操作系统从Windows732位更改为Windows764位(反之亦然),float在同一

c# - 故障排除 : does not contain a static 'main' method suitable for an entry point

我正在尝试创建一个创建学生对象的多类(class)程序,然后允许您更改其中一个学生对象的未声明专业的值。这是我的代码:StudentApp.cs:usingSystem;usingSystem.Collections.Generic;usingSystem.Linq;usingSystem.Text;usingSystem.Threading.Tasks;namespacePA04CoddR{classStudentApp{publicvoidMain(){DisplayTitle();StudentfirstStudent=newStudent("Robert","Codd");Di

c++ - WINAPI 枚举WindowsProc : Non-Standard Syntax; use & to create a point to a member

我在调用EnumWindows(EnumWindowsProc,0)时不断收到错误消息;它将我的BOOLCALLBACKselectionWindows::EnumWindowsProc(HWNDhWnd,longlParam)函数转换为参数。我知道它与类和selectionWindows::有关,但我终究无法弄明白。这是.h#ifndefSELECTIONWINDOWS_H#defineSELECTIONWINDOWS_H#include#include"mainwindow.h"#include#includeclassselectionWindows:publicQWidget{

windows - 用于查看组合字符串和 float 据的十六进制编辑器

我有一个未知格式的二进制文件,我需要能够读取它。我可以访问一个可以“解压”文件的程序,但用户界面对于导出数据来说很糟糕。我已经提取了几个点,试图在文件中搜索它们并发现一种模式,但这不是一种有效的方法。我想要做的是将十六进制模式与单个浮点值相匹配,但复制、粘贴、翻译和搜索文件并不是一个快速的过程。我环顾四周,似乎找不到任何允许用户突出显示4或8个字节并在TextView中显示单float或双float的十六进制编辑器,而不是Mojibake.也许我没有充分利用我尝试过的十六进制编辑器的全部潜力,但我被困住了。这是我尝试过的编辑器列表。有谁知Prop有我需要的功能的编辑器,或者如何正确使用