手上戴个“圈”就能玩 VR,这是什么新玩意?

手上戴个“圈”就能玩 VR,这是什么新玩意?

一说到玩 VR 游戏,想必你脑袋里已经浮现出一个看起来有点奇怪的人──他戴着一个硕大的头戴装置、两手握着厚重的控制器,手臂在空气中张牙舞爪。虚拟游戏中,他的手紧握手把,变成了哆啦 A 梦一般的圆球,灵活的手指在磅礴奇幻的新世界却毫无用武之处。

不过很快,我们就不用握手把了。虚拟世界中的手,也将恢复自由。

来自康乃尔大学和威斯康辛大学麦迪逊分校的华人科学家,近日联合打造了一副“3D 手环”──FingerTrak。

戴上这个“圈”,你十指的动作就都能被精准捕捉,而且它在未来的玩法,可能比你想到的还要多。

研究成果已经发表在《ACM 互动,行动,可穿戴和普及技术期刊》上。

它的面世,意味着可穿戴感测器技术又迎来了新突破。

一个能读懂你手的“圈”

近年来,精准的手指运动关注,已经成了 VR 和 AR 领域研究的热门技术。

如果你是一个动画师,应该就知道捕捉人手有多复杂了,手部每个关节的每次弯曲、伸展,都有着无数种可能。

FingerTrak 的最大特色,就是用了一种新技术,来准确预测每根手指的位置——热感测器关注。

这个“圈”看起来就像一个双层的手环,不过重点是手环周围安装的 4 个热像仪。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图2张

(Source:影片截图,下同)

这些热像仪非常小,长 5.7mm、直径 9.3mm,就跟豌豆大小差不多。

它们的尖端都有一个低解析度的红外线镜头,指向手指的一面。虽然解析度较低,只有 3224 像素,但它们能够精准地关注佩戴者手的运动。

研究里呈现的红外热像仪图像中,可以看到手指橙色和黄X区域在随着指尖移动不断变化。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图3张

再透过系统中专门设计的深度神经网络(DNN),就能准确地根据手腕轮廓,预测 20 个手指关节的位置。最后,将各个轮廓的图像连结在一起,就能以 3D 方式重构整只手。

接着,重构的手势讯息就能在虚拟模型甚至是机器人的手上再现。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图4张

在研究人员的测试中,装置能够准确地仿生人类动作。

学会翻书:

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图5张

拿笔写字:

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图6张

拿杯子喝水:

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图7张

玩手机:

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图8张

热感测器关注的新方式,极大改善了手部动作的辨识能力。

因为装置不再是透过镜头直接捕捉手指位置,而是结合热成像和机器学习技术来“隐形”获取。镜头拍不到的地方、检测不到的细微运动,将都可以被“看到”。

这也是第一个基于手腕轮廓来重建全手姿势的系统。

在对 11 位受试者的测试中,研究结果表明辨识角度误差为 6.46 至 8.06,而且背景越均匀,错误率就越低。

不能说已经实现了高精度关注,但是至少实现了一种更好的手指关注解决方案。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图9张

玩 VR 不用手把了,但不止于此

研究中的 FingerTrak 原型,是连接 Raspberry Pi 进行的运作。但研究人员表示,未来升级的版本将可以与智慧手机连接,与 VR 眼镜连接,甚至可以无线连接。

连上之后,你戴着手环就可以玩 VR 游戏了,手指也能在游戏中进行更自然和多样化的操作。

在日常生活中,它的用处就更贴近每个人了。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图10张

FingerTrak 将能像智慧手表一般,监测我们的健康状况,但比智慧手表厉害的地方在于,只要你动动手,它就能传达你的身体状态好坏。

这对于老年人尤其受用,特别是透过老年人日常生活如何使用双手,进而监测帕金森氏症和阿兹海默症等疾病的早期征兆。

在人机互动方面,你还能透过 FingerTrak 介入,让家里的机器人模仿人类的动作,更好地为我们服务。

研究人员还指出了一个最有希望的潜在应用:翻译手语。

毕竟当前的手语翻译技术,不是需要用户戴手套,就是需要使用到相机,这两者体验都比较麻烦,而 FingerTrak 将能让手语翻译变得直接、快速、人性化。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图11张

但是,FingerTrak 现在仍处于早期的研究阶段,商业化可能还需要几年时间,毕竟上述所说的任一场景实际使用都不简单。

比如说,如果要和 VR / AR 应用匹配,替代装置中的手把控制器,首先就得考虑精准度问题,以及手指之间的配合问题。

毕竟在现实中,少了一根手指,偏移一点位置,我们手中的东西可能都会掉在地上,所以精准度和现实稍有偏失,虚拟世界中的真实体验就会错乱。

不过,研究人员表示该装置采用的组件价格都很实惠,而且数据已经能达到相当高的准确度,这是未来商业化前值得庆幸的一件事。

虚拟实境仍处于起步阶段,FingerTrak 的出现已经为我们带来了新的可能性,也让人看到了它在未来的巨大潜力。

据悉,FingerTrak 预计将在今年 9 月中旬的 ACM 普及计算国际会议上发布。

我们离理想的手部关注还有多远?

如果只是监测整只手,其实智慧手表就可以了。

我们生活中常见的可穿戴装置,使用陀螺仪和加速计等感测器就能监测手部运动,比如抬起手腕,萤幕就会自动点亮等。

但是,未来要在虚拟世界逼近真实体验,必须得检测到每根手指的运动,智慧手表的监测还做不到。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图12张

▲ Google Project Soli 计划,一种基于雷达的手势辨识技术。(Source:影片截图)

手指是表达人类感情的重要一环。手部关注技术的研发其实已经走很长一段路了,各种新兴技术每年都纷繁显现。

比如深度感应镜头或红外感测器──普渡大学的科学家就利用深度感应镜头来捕获手部动作,利用深度学习网络来了解数百万种手势,然后将它们在虚拟世界中准确显示。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图13张

(Source:影片截图)

有人还使用运动感应手套──加州大学洛杉矶分校(UCLA)的研究人员公布了一种手套式装置,透过机器学习辅助的可伸缩感测器阵列,能够将手语转换为语音对话,并在手机上播放。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图14张

(Source:影片截图)

甚至还有使用电磁感测器──Oculus 研究部门的成员在 2015 年开发过一种电磁感测器系统,透过安装在用户指尖的电磁体和 4 个磁力计来关注指尖运动,人们就可以在 VR 游戏途中停下来,用指尖选择弹钢琴或画画。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图15张

(Source:影片截图)

但它们都有相同的弊端:要不就是装置太大太笨重了,要不就是需要高性能 PC 支援、反应滞后,大部分都无法商用。

近年来,随着 AR / VR 等领域的发展,装置舒适度和视觉逼真度方面都在升级,研究人员一直在开发比手持控制器更自然的方案,因此手部关注技术也更新换代极快。

这种进步主要体现在两个方面:一是关注手指运动的准确性提升,二是装置尺寸减小及重量减轻。

前者譬如 Sony 在今年 5 月份发布了“可高精度关注手指运动的下一代 VR 游戏控制器”原型,这个握柄根据电极感应来确定手指运动,已经能关注到手指的细微动作了,可以做出握拳、弯曲手指,上能比“耶”,下能比“666”,11 种姿势任君挑选。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图16张

(Source:影片截图)

研究模拟中,玩家可以用手拿起虚拟空间的积木,并一个个搭建起来,只是手指姿势辨识依然有限。

后者譬如今年 2 月份,华盛顿大学的研究人员开发出一个名为 AuraRing 的戒指,它利用新型的电磁关注系统,能够进行高解析度的光学关注,人们只需要在食指套一个 3D 列印的电线线圈,加上遍布感测器的腕带,手指就能在虚拟世界书写、敲击、轻拂、挤压物体等。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图17张

(Source:影片截图)

轻是轻,小是小,但它的问题就在于,戒指是腕带感应能力的扩展,要在虚拟世界全盘操作,恐怕得戴满整只手才行。

而在 VR 市场,做为代表的 Sony、Oculus、HTC 三家厂商中,Oculus 在头戴式装置 Oculus Quest 上也使用到“手势关注”的新技术,它甩开别家厂商的优势就在于,可以完全不用任何实物就实现手部关注。

玩家戴上头盔,双手就会映射进虚拟空间,然后你就可以用双手在里面做你能做的任何事。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图18张

(Source:影片截图)

这都是基于 Oculus Quest 顶上那 4 颗外置镜头,它不仅能扫描周边空间,确认玩家所处的位置,还能在你望向手指操作时,细化分析每根手指的运动,并延伸到虚拟世界中。

Oculus Quest 已经做到了脱离手机和电脑的一体式设计,再加上手部关注技术,就能更让玩家沉浸感更强,它还可能做为 Facebook AR 头戴装置的开端,将真实世界的物体带入 VR 世界。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图19张

不过也因为电脑视觉和定位技术的局限,Oculus Quest 的手势应用在实际中还是会受到一些限制。

回过头看,FingerTrak 的设计虽然要带“手环”,但是最大的优势就在于“手环”轻便、小巧、可自由移动。

研究团队表示,透过进一步的工程设计,它的尺寸还能变得更小。

总而言之,手部关注要在虚拟世界变得自然无形,必然还有一定距离,但这个距离并不远。

祖克柏坚信,VR 和 AR 会在 10 年内成为继行动装置之后的下一代主要电脑平台,直接改变我们的工作与生活。

调研机构 Gartner 也指出,在 5G 和 AI 的驱动下,从现在到 2028 年,VR 和 AR 将让用户体验将在两个方面发生巨大变化──用户对于数位世界的感知,和用户与数位世界的互动方式。

这意味着我们与数位世界的互动不再只局限于二维萤幕,而是在 VR 和 AR 中充分发挥人类完整的能力,让数位和现实完全无缝融合。

Oculus 首席科学家 Michael Abrash 在 2020 年电脑视觉和模式辨识大会指出:

未来的 VR 头显能够实现 200 度视场,视网膜解析度,可变焦距,逼真音频,而 AR 眼镜则是“超级时尚”,完全可以取代智慧手机,并赋予佩戴者感知超能力。

这也需要同等水平的技术升级,包括光学系统、介面、触觉、虚拟化身、人体工学等,而手部关注,就是其中至关重要的一环。

手上戴个“圈”就能玩 VR,这是什么新玩意? AI与大数据 图20张

(Source:Project Soli)

当然,对我们来说,最理想的情况,是根本不需要特定方式来关注手部。

不过 VR 和 AR 就像一块崭新而巨大的​​拼图,所有可能性都摊落在这片未来的蓝图之中。人人都知道新面貌终将面世,但在这之前,我们还得继续寻找答案,我们也正努力填充答案。

(本文由 爱范儿 授权转载;首图来源:影片截图)

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。