由于头显设备无法捕捉到腿部的运动,所以目前元宇宙里的虚拟化身都只能有一半「身子」。最近Meta在Horizon Worlds里完成一个划时代的创举,不仅在元宇宙里给化身加上腿,甚至还能旋转跳跃。但也有批评者表示,这根本就不是用户真实的腿部运动,Meta只是利用技术模拟了运动轨迹,让行动看起来真实一些。不过相比其他元宇宙应用中的「意念飞行」或者「假腿滑行」来说,Meta确实实现了元宇宙中零条腿的突破。
而Oculus软件开发包(SDK)最近也发布了更新,开发者可以在新设备使用身体追踪、面部追踪、眼球追踪技术,可以将用户在现实中的一举一动都带入到映射到元宇宙中。
所以,Meta到底是怎么让虚拟化身长腿的?
比如在FPS游戏里,我们从来没有看到过使用角色的腿长什么样(除了死亡视角),所以如何让用户观察到「其他角色」的正常腿部运动才是解决问题的关键。Meta首席技术官Andrew Bosworth在一次Instagram会议上回答关于「腿部追踪」问题时,明确表示:我们目前的战略就是研究如何让旁观者看起来「你」的腿更自然,因为实际上上他们也不知道你的腿到底是如何摆放的。如果你低下头看自己的腿时,可能仍然什么也看不到,不过这也不重要。
而Meta让虚拟化身站起来的秘密就藏在9月20日上传到arXiv的一篇论文里。
论文链接:https://arxiv.org/pdf/2209.09391.pdf先看一下他们的解决方案演示视频,仅通过头显即可实现对人体运动的实时跟踪,可以极大提升AR/VR中的沉浸式互动体验。从独立的可穿戴设备如HMD(头戴式设备)或AR眼镜中获得的关于身体的传感器数据非常有限。这篇论文中,Meta提出了一个强化学习框架,接收来自HMD和两个控制器的稀疏信号,并模拟可信的、物理上有效的全身运动。
在训练中使用高质量的全身运动数据作为监督,然后用一个简单的策略网络可以学习输出适当的扭力,以使角色实现平衡、行走和跳跃,同时密切跟踪输入信号。
实验结果表明,在完全没有观察到下半身的情况下,即使输入的只是HMD的6D变换,模型预测的腿部运动与真实运动轨迹相似度非常高。
研究人员还证明,单一的策略网络可以对不同的运动方式、不同的身体尺寸和新环境也具有鲁棒性。
虽然官方宣传这项功能是「身体追踪」(body tracking),但实际上更准确的形容是「身体姿势估计」。发言人形容这项技术是逆运动学(inverse kinematics,IK)和机器学习(ML)的结合。IK指的是一类基于已知位置估计骨骼(或机器人)部件未知位置的方程,其中的方程式是为应用程序中的全身虚拟现实化身提供运动的基础。开发者不需要实现(甚至不需要理解) IK 背后的数学原理,像 Unity和Unreal这样的游戏引擎已经内置了IK其他的一些身体跟踪技术往往需要一些专用硬件,比如像HTC 的Vive Tracker等,而VR 的 IK 往往是不准确的,Meta的主要卖点在于它的机器学习模型可以免费生成更精确的身体姿势。在一次面向开发者的演讲中,身体追踪产品经理Vibhor Saxena表示,未来几年身体跟踪的新改进将通过相同的 API 提供,所以无需更换设备即可享受最新的身体跟踪技术。但这种方法仍然存在一些关键问题没有解决,比如如何流畅地处理坐姿和站姿之间的变换,以及如何使腿部在用拇指移动时看起来自然。通过这项技术安装的腿行动轨迹也并非完全准确,并且有160ms的延迟,在72Hz的设置下,大约是11帧。不过相比当下的元宇宙应用程序中,虚拟化身的移动看起来更像是在滑行或「意念飞行」来说,这项技术已经是重大进步了。
当然,其他公司实现全身追踪技术已经有很长一段时间了,但这需要在硬件和高速计算机上进行巨大投资。现有的软件IK已经存在很长一段时间了,但它经常会破坏沉浸感、生成一些物理上不可能的姿势,或者在移动时导致肘部受到影响。必须看看他们的方法效果如何,以及他们是否能够为腿部想出一个可用的解决方案,但考虑到他们只依靠手和头的位置,并在一个计算能力非常弱的设备上运行,同时还必须并行渲染世界,其结果看起来相当令人印象深刻。更重要的是,该研究方向极有可能是正确的。当下移动端硬件的发展过于缓慢,无法在不完全破坏电池寿命的情况下迅速提高分辨率、FoV和图形界面。为了实现优雅的无障碍VR,需要做得更聪明,而不仅仅是用更快的芯片,无论是通过ETFR减少负载、智能升频还是利用人类视觉的极限。机器学习将是其中的一个重要部分,因为它可以将大部分计算需求转移到最初的模型构建阶段,而这种方法可以在像Quest 2这样的低功率设备上正常工作。Meta也已经展示了对定制的低功耗神经引擎芯片的研究,以集成到未来的SoC中,这可能是他们与高通合作的一个重要部分,所以未来的Quest版本将更好地满足这一需求。即使是专业的FBT系统也经常产生一些古怪的错误,但经过训练的人工智能解决方案不仅有助于从很少的传感器输入中快速得出骨骼信息,而且训练本身排除了很多纯粹基于传感器的跟踪解决方案可能建议的物理上不可能的结果。Meta令人印象深刻的是,他们一直在推动消费类设备的可行解决方案,而这些设备在很长一段时间内将不得不利用非常有限的资源。因此,与其批评他们仍然没有工作的腿,或者批评他们在宣传片中的动作捕捉方案,我们应该偶尔承认他们提供了其他商业供应商没有展示过的解决方案,并继续向公众发布软件产品,否则这些方案只能在研究实验室中找到。我们仍然处于VR和追踪技术的初级阶段,要想让它对大量主流观众来说足够有用且无故障,还需要好几年的时间,但Meta公司实际上正在将它推向那里。 目录前言滤波电路科普主要分类实际情况单位的概念常用评价参数函数型滤波器简单分析滤波电路构成低通滤波器RC低通滤波器RL低通滤波器高通滤波器RC高通滤波器RL高通滤波器部分摘自《LC滤波器设计与制作》,侵权删。前言最近需要学习放大电路和滤波电路,但是由于只在之前做音乐频谱分析仪的时候简单了解过一点点运放,所以也是相当从零开始学习了。滤波电路科普主要分类滤波器:主要是从不同频率的成分中提取出特定频率的信号。有源滤波器:由RC元件与运算放大器组成的滤波器。可滤除某一次或多次谐波,最普通易于采用的无源滤波器结构是将电感与电容串联,可对主要次谐波(3、5、7)构成低阻抗旁路。无源滤波器:无源滤波器,又称
最近在学习CAN,记录一下,也供大家参考交流。推荐几个我觉得很好的CAN学习,本文也是在看了他们的好文之后做的笔记首先是瑞萨的CAN入门,真的通透;秀!靠这篇我竟然2天理解了CAN协议!实战STM32F4CAN!原文链接:https://blog.csdn.net/XiaoXiaoPengBo/article/details/116206252CAN详解(小白教程)原文链接:https://blog.csdn.net/xwwwj/article/details/105372234一篇易懂的CAN通讯协议指南1一篇易懂的CAN通讯协议指南1-知乎(zhihu.com)视频推荐CAN总线个人知识总
深度学习部署:Windows安装pycocotools报错解决方法1.pycocotools库的简介2.pycocotools安装的坑3.解决办法更多Ai资讯:公主号AiCharm本系列是作者在跑一些深度学习实例时,遇到的各种各样的问题及解决办法,希望能够帮助到大家。ERROR:Commanderroredoutwithexitstatus1:'D:\Anaconda3\python.exe'-u-c'importsys,setuptools,tokenize;sys.argv[0]='"'"'C:\\Users\\46653\\AppData\\Local\\Temp\\pip-instal
我完全不是程序员,正在学习使用Ruby和Rails框架进行编程。我目前正在使用Ruby1.8.7和Rails3.0.3,但我想知道我是否应该升级到Ruby1.9,因为我真的没有任何升级的“遗留”成本。缺点是什么?我是否会遇到与普通gem的兼容性问题,或者甚至其他我不太了解甚至无法预料的问题? 最佳答案 你应该升级。不要坚持从1.8.7开始。如果您发现不支持1.9.2的gem,请避免使用它们(因为它们很可能不被维护)。如果您对gem是否兼容1.9.2有任何疑问,您可以在以下位置查看:http://www.railsplugins.or
如何学习ruby的正则表达式?(对于假人) 最佳答案 http://www.rubular.com/在Ruby中使用正则表达式时是一个很棒的工具,因为它可以立即将结果可视化。 关于ruby-我如何学习ruby的正则表达式?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/1881231/
深度学习12.CNN经典网络VGG16一、简介1.VGG来源2.VGG分类3.不同模型的参数数量4.3x3卷积核的好处5.关于学习率调度6.批归一化二、VGG16层分析1.层划分2.参数展开过程图解3.参数传递示例4.VGG16各层参数数量三、代码分析1.VGG16模型定义2.训练3.测试一、简介1.VGG来源VGG(VisualGeometryGroup)是一个视觉几何组在2014年提出的深度卷积神经网络架构。VGG在2014年ImageNet图像分类竞赛亚军,定位竞赛冠军;VGG网络采用连续的小卷积核(3x3)和池化层构建深度神经网络,网络深度可以达到16层或19层,其中VGG16和VGG
3月26日,映宇宙(HK:03700,即“映客”)发布截至2022年12月31日的2022年度业绩财务报告。财报显示,映宇宙2022年的总营收为63.19亿元,较2021年同期的91.76亿元下降31.1%。2022年,映宇宙的经营亏损为4698.7万元,2021年同期则为净利润4.57亿元;期内亏损(净亏损)为1.68亿元,2021年同期的净利润为4.33亿元;非国际财务报告准则经调整净利润为3.88亿元,2021年同期为4.82亿元,同比下降19.6%。 映宇宙在财报中表示,收入减少主要是由于行业竞争加剧,该集团对旗下产品采取更为谨慎的运营策略以应对市场变化。不过,映宇宙的毛利率则有所提升
文章目录1、自相关函数ACF2、偏自相关函数PACF3、ARIMA(p,d,q)的阶数判断4、代码实现1、引入所需依赖2、数据读取与处理3、一阶差分与绘图4、ACF5、PACF1、自相关函数ACF自相关函数反映了同一序列在不同时序的取值之间的相关性。公式:ACF(k)=ρk=Cov(yt,yt−k)Var(yt)ACF(k)=\rho_{k}=\frac{Cov(y_{t},y_{t-k})}{Var(y_{t})}ACF(k)=ρk=Var(yt)Cov(yt,yt−k)其中分子用于求协方差矩阵,分母用于计算样本方差。求出的ACF值为[-1,1]。但对于一个平稳的AR模型,求出其滞
写在之前Shader变体、Shader属性定义技巧、自定义材质面板,这三个知识点任何一个单拿出来都是一套知识体系,不能一概而论,本文章目的在于将学习和实际工作中遇见的问题进行总结,类似于网络笔记之用,方便后续回顾查看,如有以偏概全、不祥不尽之处,还望海涵。1、Shader变体先看一段代码......Properties{ [KeywordEnum(on,off)]USL_USE_COL("IsUseColorMixTex?",int)=0 [Toggle(IS_RED_ON)]_IsRed("IsRed?",int)=0}......//中间省略,后续会有完整代码 #pragmamulti_c
按照目前的情况,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visitthehelpcenter指导。关闭9年前。我来自C、php和bash背景,很容易学习,因为它们都有相同的C结构,我可以将其与我已经知道的联系起来。然后2年前我学了Python并且学得很好,Python对我来说比Ruby更容易学。然后从去年开始,我一直在尝试学习Ruby,然后是Rails,我承认,直到现在我还是学不会,讽刺的是那些打着简单易学的烙印,但是对于我这样一个老练的程序员来说,我只是无法将它