普渡大学:AR头显不止能协助战斗,也能用在战场救助伤员

青亭网( ID:qingtinwang )--链接科技前沿,服务商业创新

在许多美剧里,我们常看到医生在医院外一些意想不到的地方进行紧急抢救,比如电梯、楼顶、地铁等等。由于情况紧迫,医生不得不在救护车到达之前先对病人进行抢救,在战场上也是一样,有些时候当士兵命悬一线的时候,可能已经来不及被送去手术室,当下就必须得到救治。

BringthePain-ElevatorSurgery

美剧《实习医生格蕾》中医生在电梯中抢救病人

那么如果战场上没有专业医护人员,新人军医或是救援人员缺乏独立手术的经验该怎么办?近期,美国普渡大学科研人员在一篇公开发表的论文中提出了一种远程指导在极端环境做手术的方案。

远程AR急救方案STAR

据悉,该方案名为STAR(AR远程指导系统),实际上是一个基于AR头显的远程通讯方案,现场救援人员可通过头显向远程专家传输现场实时画面,专家在另一头的屏幕上对视频图像直接进行标记和指导,救援人员则AR形式查看。

Projection-Table

与传统的视频、语音通话方法相比,用AR进行远程指导最大的好处就是足够直观、准确。专家即使本人不在现场,也能够通过AR标记的方式直接指导紧急救援人员进行手术。戴着AR头显的人,可直接在专家的标记所在位置进行操作,快速对病患做出响应,操作起来也更自信。

network

STAR系统分为AR端和远程触屏端,AR端向触屏端传送现场视频数据,并实时渲染专家在触屏上输入的标记

实际上,将AR用于远程手术指导已经不是新鲜事,比如西安市儿童医院通过HoloLens AR眼镜辅助,完成儿童颅内手术,或者南京市第一医院利用HoloLens完成一场髋关节置换手术等。

STAR系统的独特之处在于,它主要用于时间紧迫且环境艰苦的情况,比如战场、森林等远离医院的地方。此外,AR眼镜是一个一体成型的方案,无需搭配额外的摄像头等设备,使用方便快捷,且足够便携,随时随地可以使用。

普渡科研人员表示:在极端情景下,AR远程指导通常难以在合适的环境进行,视觉效果可能会受到烟雾等障碍影响。这时候对于视频传输、AR实时渲染等技术的准确性要求更高。

考虑到AR头显捕捉的摄像头影像会随着佩戴者移动而改变,为了避免画面不稳定或是突然抖动等问题,STAR采用了一种支持抖动补偿的图像稳定方案。如此一来,即使是在复杂、紧急情况中,救援人员也能更加稳定的操作。

因此,STAR系统的出现对战场等极端环境有重要意义,首先AR远程手术指导可让缺少手术经验的救援人员快速上手,从而弥补专业医护人力资源缺失的问题。其次,AR头显足够便携,一线医生可灵活移动的同时也能查看指导信息。另外,远程专家指导也可以为操作复杂手术的现场人员带来更多信心。

而AR眼镜的另一大好处是,现场救援人员无需抬头查看任何显示器,而是直接在眼前就能获取信息,减少分心的可能性,并且能将标记与实际场景更快速且准确的对齐。

关于STAR的验证实验

为了验证STAR的效果,科研人员将它在弗吉尼亚的朴茨茅斯海军医疗中心,对21名(实际只有19人分数纳入统计)救援人员和外科医生进行实验,他们的救援经验从6个月到15年不等。

ezgif-5-9e07414a980b

参与者需要在实验中利用远程指导完成模拟的环甲膜切开术,每个人需要在语音协助和STAR AR协助两种情况下进行手术,每种情况各重复20次(在多种不同场景)。(注:环甲膜切开术是战地医护人员需要接受的医学课程之一,时常会需要在病患发作现场进行治疗。)

模拟手术实验分为室内和户外两种场景,会结合烟雾、枪声、爆炸、直升机等效果。在STAR远程支持实验中,AR头显为远程专家提供现场第一人称视角影像,帮助专家用划线和标志等叠加在视频影像上的AR来指导现场救援人员,包括向他们展示需要使用的手术工具、定位需要切开的环甲膜、切割长度和位置。

Using-ipad-on-dummy

操作结束后,现场专业外科医生将根据标准评估工具对救援人员进行打分,包括完成时间、技能表现、非手术技能、临界判断力、整体表现等。

实验的二项逻辑回归分析结果显示,STAR系统可提升远程指导环甲膜切开手术的安全性和成功率。科研人员还发现,即使是几乎没有做环甲膜切开术经验的急救人员,也能在远程专家帮助下,成功完成手术。此外,利用STAR系统指导做手术的效果,要比仅依靠语音指导更好。当烟雾影响到AR视觉效果时,急救人员可切换至语音指导,继续手术。

普渡科研人员表示:远程指导可增强救援人员的治疗水平和知识,病人更容易得到专业治疗。比如,在模拟的损害控制性剖腹手术场景,远程指导提升了军医在不熟悉领域的表现以及自信心。再比如,此前加拿大武装部队和以色列国防军成员就曾在模拟的止血治疗中,通过移动设备来获取远程支持。

实验总结

目前,STAR系统的软件已经证实在极端环境中有效,不过硬件方面还需要采用更耐用的材料。

hand-gestures

而在烟雾情况下HoloLens会出现追踪丢失的情况,这也是目前AR头显的一个局限(因为使用红外和RGB摄像头定位)。在强光环境下,AR标记看起来较暗,而且头显的计算单元开始发热。AR头显的焦距长度也会影响虚拟标记在实际场景中能否准确对齐。

mentor-screen

未来,普渡科研人员继续从多方面拓展上述实验,比如:提升模拟手术场景的沉浸感和逼真感、优化AR的3D识别和渲染功能、加入生命体征数据识别(血压、血氧饱和度等),帮助救援人员进行诊断等。参考:Nature

附:AR/VR商用案例征集

网站案例征集-01

更多精彩内容,关注青亭网微信号(ID:qingtinwang),或者来微博@青亭网与我们互动!转载请注明版权和原文链接!
青亭网

微信扫码关注青亭网

青亭网

青亭 | 前沿科技交流群01

责任编辑:hi188
分享到QQ 分享到微信
切换注册

登录

忘记密码 ?

您也可以使用第三方帐号快捷登录

Q Q 登 录
微 博 登 录
切换登录

注册