草庐IT

关于C#:单精度浮点数在零附近时的近似分辨率是多少

codeneng 2023-03-28 原文

What is the approximate resolution of a single precision floating point number when its around zero

我将许多经度和纬度存储为 doubles,我想知道是否可以将它们存储为 floats

要回答这个问题,我需要知道当存储的值为经度/纬度(-180到180)时单精度浮点数的近似分辨率。

  • 经度从 -180 到 180,纬度从 -90 到 90。


您的问题可能有多种解释。

如果它只是用于angular和存储在磁盘或设备上,我建议您使用完全不同的技术存储您的值:存储为 32 位整数。

1
int encodedAngle = (int)(value * (0x7FFFFFFF / 180.0));

要恢复它,请执行相反的操作。

1
double angle = (encodedAngle / (0x7FFFFFFF / 180.0));

通过这种方式,180 度的全 31 位分辨率和符号的 1 位分辨率。

您也可以使用这种方式将您的值保存在 ram 中,与直接使用双打相比,这种覆盖的成本更高,但如果您想保持低内存但高分辨率,这可以很好地工作。
成本并没有那么高,只是从整数到 double 的转换和乘法,现代处理器会在很短的时间内完成,而且由于访问的内存较少,如果列表包含很多值,您的代码将对处理器缓存更加友好。

你的分辨率将是 180 / ((2^31) - 1) = 8.38190318 ?— 10^-8 度,还不错:)

  • 他不能使用无符号整数,因为他必须表示从 -360 到 360 的值。很好的答案。
  • 对于纬度/经度,-360 肯定是一个虚假的要求......无论如何,这个答案是正确的,使用浮点绝对是错误的,除非你想要伦敦附近的高精度和太平洋地区的可怕量化......
  • @SalvatorePreviti 感谢您的回答,它有助于将我的二进制大小从 21mb 减少到 17mb。现在可以通过无线方式下载它!
  • 纬度实际上是从 -90 到 90。因此,对于纬度,您可以在上述编码/解码等式中将 90 替换为 180。


单精度浮点数的分辨率约为 360 / (2 ^ 23) 或 4 * 10 ^ -5。

更准确地说,严格低于360.(可以精确表示)的最大单精度浮点数大约是359.999969。对于整个范围 -360. .. 360,您将能够表示至少与这两个数字之间的差异一样小的差异。

  • 太棒了,根据我的计算,经度/纬度的最大距离约为 5 米,这对我来说是不可接受的。谢谢你的帮助!
  • @Robert 当您需要统一的分辨率时,浮点格式有点浪费(尽管我承认它们非常方便)。对于单精度浮点数,当您可以有 2 ^ 32 个均匀间隔的值时,分辨率会受到 23 位尾数的限制。对于双精度,分辨率受 52 位尾数限制,您可以使用所有 64 位来表示均匀间隔的值。


取决于,但不是。

32 位浮点数存储 7 个有效数字。这通常对于存储经度/纬度的正确分辨率来说太少了。例如,openstreetmap.org 使用小数点后六位,因此最少八位,最多十位。

简而言之,使用float64。


通常浮点数是 4 个字节(32 位),而双精度数是它的两倍。但是,如果您要进行计算,确切的精度是特定于实现(和硬件)的。在某些系统上,所有浮点数都将存储为双精度值,这只是为了增加混乱。

有关关于C#:单精度浮点数在零附近时的近似分辨率是多少的更多相关文章

  1. c# - 如何在 ruby​​ 中调用 C# dll? - 2

    如何在ruby​​中调用C#dll? 最佳答案 我能想到几种可能性:为您的DLL编写(或找人编写)一个COM包装器,如果它还没有,则使用Ruby的WIN32OLE库来调用它;看看RubyCLR,其中一位作者是JohnLam,他继续在Microsoft从事IronRuby方面的工作。(估计不会再维护了,可能不支持.Net2.0以上的版本);正如其他地方已经提到的,看看使用IronRuby,如果这是您的技术选择。有一个主题是here.请注意,最后一篇文章实际上来自JohnLam(看起来像是2009年3月),他似乎很自在地断言RubyCL

  2. C# 到 Ruby sha1 base64 编码 - 2

    我正在尝试在Ruby中复制Convert.ToBase64String()行为。这是我的C#代码:varsha1=newSHA1CryptoServiceProvider();varpasswordBytes=Encoding.UTF8.GetBytes("password");varpasswordHash=sha1.ComputeHash(passwordBytes);returnConvert.ToBase64String(passwordHash);//returns"W6ph5Mm5Pz8GgiULbPgzG37mj9g="当我在Ruby中尝试同样的事情时,我得到了相同sha

  3. 基于C#实现简易绘图工具【100010177】 - 2

    C#实现简易绘图工具一.引言实验目的:通过制作窗体应用程序(C#画图软件),熟悉基本的窗体设计过程以及控件设计,事件处理等,熟悉使用C#的winform窗体进行绘图的基本步骤,对于面向对象编程有更加深刻的体会.Tutorial任务设计一个具有基本功能的画图软件**·包括简单的新建文件,保存,重新绘图等功能**·实现一些基本图形的绘制,包括铅笔和基本形状等,学习橡皮工具的创建**·设计一个合理舒适的UI界面**注明:你可能需要先了解一些关于winform窗体应用程序绘图的基本知识,以及关于GDI+类和结构的知识二.实验环境Windows系统下的visualstudio2017C#窗体应用程序三.

  4. [工业相机] 分辨率、精度和公差之间的关系 - 2

    📢博客主页:https://blog.csdn.net/weixin_43197380📢欢迎点赞👍收藏⭐留言📝如有错误敬请指正!📢本文由Loewen丶原创,首发于CSDN,转载注明出处🙉📢现在的付出,都会是一种沉淀,只为让你成为更好的人✨文章预览:一.分辨率(Resolution)1、工业相机的分辨率是如何定义的?2、工业相机的分辨率是如何选择的?二.精度(Accuracy)1、像素精度(PixelAccuracy)2、定位精度和重复定位精度(RepeatPrecision)三.公差(Tolerance)四.课后作业(Post-ClassExercises)视觉行业的初学者,甚至是做了1~2年

  5. ruby-on-rails - 关于 Ruby 的一般问题 - 2

    我在我的rails应用程序中安装了来自github.com的acts_as_versioned插件,但有一段代码我不完全理解,我希望有人能帮我解决这个问题class_eval我知道block内的方法(或任何它是什么)被定义为类内的实例方法,但我在插件的任何地方都找不到定义为常量的CLASS_METHODS,而且我也不确定是什么here,并且有问题的代码从lib/acts_as_versioned.rb的第199行开始。如果有人愿意告诉我这里的内幕,我将不胜感激。谢谢-C 最佳答案 这是一个异端。http://en.wikipedia

  6. ruby - 我怎样才能更好地了解/了解更多关于 Ruby 的知识? - 2

    按照目前的情况,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visitthehelpcenter指导。关闭9年前。我最近开始学习Ruby,这是我的第一门编程语言。我对语法感到满意,并且我已经完成了许多只教授相同基础知识的教程。我已经写了一些小程序(包括我自己的数组排序方法,在有人告诉我谷歌“冒泡排序”之前我认为它非常聪明),但我觉得我需要尝试更大更难的东西来理解更多关于Ruby.关于如何执行此操作的任何想法?

  7. ruby - 关于 Ruby 中 Dir[] 和 File.join() 的混淆 - 2

    我在Ruby中遇到了一个关于Dir[]和File.join()的简单程序,blobs_dir='/path/to/dir'Dir[File.join(blobs_dir,"**","*")].eachdo|file|FileUtils.rm_rf(file)ifFile.symlink?(file)我有两个困惑:首先,File.join(@blobs_dir,"**","*")中的第二个和第三个参数是什么意思?其次,Dir[]在Ruby中有什么用?我只知道它等价于Dir.glob(),但是,我对Dir.glob()确实不是很清楚。 最佳答案

  8. c# - C# 中的 Flatten Ruby 方法 - 2

    我如何做Ruby方法"Flatten"RubyMethod在C#中。此方法将锯齿状数组展平为一维数组。例如:s=[1,2,3]#=>[1,2,3]t=[4,5,6,[7,8]]#=>[4,5,6,[7,8]]a=[s,t,9,10]#=>[[1,2,3],[4,5,6,[7,8]],9,10]a.flatten#=>[1,2,3,4,5,6,7,8,9,10 最佳答案 递归解决方案:IEnumerableFlatten(IEnumerablearray){foreach(variteminarray){if(itemisIEnume

  9. ruby - 可以像在 C# 中使用#region 一样在 Ruby 中使用 begin/end 吗? - 2

    我最近从C#转向了Ruby,我发现自己无法制作可折叠的标记代码区域。我只是想到做这种事情应该没问题:classExamplebegin#agroupofmethodsdefmethod1..enddefmethod2..endenddefmethod3..endend...但是这样做真的可以吗?method1和method2最终与method3是同一种东西吗?还是有一些我还没有见过的用于执行此操作的Ruby惯用语? 最佳答案 正如其他人所说,这不会改变方法定义。但是,如果要标记方法组,为什么不使用Ruby语义来标记它们呢?您可以使用

  10. c# - Ruby 等效于 C# Linq 聚合方法 - 2

    什么是Linq聚合方法的ruby​​等价物。它的工作原理是这样的varfactorial=new[]{1,2,3,4,5}.Aggregate((acc,i)=>acc*i);每次将数组序列中的值传递给lambda时,变量acc都会累积。 最佳答案 这在数学以及几乎所有编程语言中通常称为折叠。它是更普遍的变形概念的一个实例。Ruby从Smalltalk中继承了这个特性的名称,它被称为inject:into:(像aCollectioninject:aStartValueinto:aBlock一样使用。)所以,在Ruby中,它称为inj

随机推荐