漏洞多,进度慢,审核松,虚拟社交被骚扰治理难题

青亭网( ID:qingtinwang )--链接科技前沿,服务商业创新

随着用户规模增长,社交平台可能产生的安全、隐私问题也越来越多,比如言语侮辱、恶意人肉等等。而在VR中,用户甚至可能面临着“身体”被骚扰的可能。比如去年底,还在内测中的Meta VR社交平台《Horizon Worlds》上就有一位女性用户举报,在VR中被陌生人恶意抚摸。在内测期间,该平台的每个虚拟世界可同时容纳20人,每个人以虚拟化身的形式参与活动,在这么小的规模就已经出现骚扰,那么如果未来用户越来越多,那么相关问题的影响也会更大。

Horizon Home-1

这并不是个例,在《Quivr》等多人游戏,甚至在社交应用《VRChat》中,也陆续有人遭遇虚拟的“身体骚扰”。

为了解决这一问题,VR平台应该为用户提供某种避免其他人骚扰的安全机制。比如前不久微软也开始关注VR社交平台的隐私和安全性。包括为加强对旗下VR社交平台AltspaceVR的隐私保护,微软推出了一系列措施如:关闭微软AltspaceVR官方提供的开放型空间(Campfire, News and Entertainment等)、默认开启“空间气泡“功能、为新加入虚拟空间的用户开启静音模式、加强虚拟空间/虚拟活动的评级和审核,以及强制通过微软账号登陆AltspaceVR,允许家长开通家长控制功能。

而为了阻止用户在VR中对其他人进行骚扰,Meta早前也宣布为其VR社交平台Horizon Worlds和Venues中添加“个人边界”功能,其特点是在VR“化身”周围创建一个无形的虚拟屏障,防止其他人靠太近。该功能将默认开启,如果用户进入其他化身的安全范围,他的手会消失,向前的移动也会停止。

Meta 个人边界

据了解,个人边界为用户提供了一个半径两英尺(相当于1.2米)的空间,相当于两个用户之间的距离至少可以隔开四英尺。为了适应不同的需求,该功能未来可能支持自定义半径。此外,也可以配合静音、报告等其他功能。

除了个人安全工具外,平台的系统性监测也同样重要,为了给VR用户提供一个安全的环境,Meta不仅为你提供保护自己的工具,也会根据规则来监督社区活动。然而科技巨头们却面临着过度监管和隐私安全之间的权衡。如果不能实时监测用户的语音、文字发言,以及VR中的行为,那么平台能否及时处罚违规行为,为受害者带来保护呢?

sub-buzz-5054-1644352139-25

近期,为了测试《Horizon Worlds》现有内容审核系统的效果,外媒BuzzFeed在Horizon Worlds中建立了一个虚拟世界,并在其中发布Facebook和Instagram平台禁止的内容结果发现,Horizon Worlds并没有同样禁止这些内容,因此他们怀疑Meta对于VR世界的审核似乎更宽松。

Meta对于VR安全的愿景

在更名Meta之前,Facebook一度遭受“侵犯隐私安全”等恶名,对品牌形象造成极大影响。而通过改名、转型等策略,Meta希望为用户带来不一样的社交环境,人们在VR世界中不会体验到在Facebook中遇到的问题。

Meta CEO马克·扎克伯格表示:AR/VR元宇宙需要从第一天就融入隐私安全机制,我们的目标是设计出具有安全、隐私性、包容性等特点的虚拟世界。不过,目前Meta对于VR中执行的安全协议大部分内容保密,因此用户并不清楚其宣称的安全措施到底效果如何。

HorizonWorlds

长久以来,为了优化Facebook和Instagram上的内容,Meta在机器学习工具上投入数十亿美元。尽管如此,如何筛选内容一直是Meta需要着手解决的问题,而对于用户来讲,他们也希望Meta在安全规则上可以更透明。

相比于传统的社交平台,在VR中审核内容更具挑战性,因为不仅需要实时审核内容,还需要监督用户的行为。此外,隐私和安全之间的界限也需要权衡。比如,如果Meta为了保护用户安全而监控人们在VR中的每一次对话和互动,人们能否接受?

此前,Meta曾表示会关注监督和隐私之间的取舍,并承诺对其决策保持透明。因此,为了解Meta在VR平台采用的安全措施,BuzzFeed向其询问了19个详细的问题,其中涉及到如何避免虐待儿童、骚扰、虚假信息等伤害的发生等等。对此,Meta却没有直接回应,而是给出了一个简短声明:我们推出了举报、屏蔽等安全工具,目的是允许用户可以更加自由的控制VR内容。此外,也为开发者提供了调节应用内体验的功能,同时也在利用AI算法来监督VR中的行为。

Horizon系统审核宽松?

那么为了测试Meta安全系统的效果,BuzzFeed便在Horizon Worlds中创建了一个虚拟房间:Qniverse,仅允许四位内部人员访问。此外,Qniverse使用真人账号实名创建的,链接了本人Facebook。

ezgif-1-92e437513a

房间里的条幅、天空中写入大量在Facebook的主页和群组、Instagram中常被删除、屏蔽的短语,比如一些带有虚假信息的政治指控等等。结果发现,Horizon Worlds似乎没有检测到Qniverse,没有对这些信息采取行动。猜测这可能是因为房间权限是私密的,而且房间里仅有的4个人几乎并没有什么互动。

于是,BuzzFeed员工利用链接了Facebook的实名账号举报了Qniverse,然而48小时内并未有任何变化,所以不得不再次举报。直到第三次举报约4小时之后,才收到回复:“经过安全专家审核,Qniverse中的内容并未违反政策”。而第一次举报的回复则是花了6小时才收到。BuzzFeed猜测,这也许是因为Qniverse只有内容违规,而未出现违规行为,所以审核以为是在搞笑。

Meta回应

为了进一步了解原因,BuzzFeed拜访了Meta公关部,询问为什么在相同的社区规则下,在Facebook、Instagram上违规的虚假信息,为什么在Horizon平台没有违规?有趣的是,第二天下午Meta终于对Qniverse采取了行动,取消了这个世界,并发邮件推翻了之前的决定,不过其发言人拒绝对此进一步解释。

可以想象,相比于Facebook,Horizon依然是非常新的平台,随着平台规模发展,用户的行为和语言也越来越复杂,这会为平台审核系统带来挑战。而对于VR这个非常新的平台来讲,完善审核机制将更难,因为吸取了Facebook的教训,Meta希望在VR中重新审视隐私问题,这也是为什么Horizon的安全机制目前还只有自助屏蔽、静音和报告。

sub-buzz-1009-1644601919-9

从Quest强制捆绑Facebook账号所带来的负面反馈来看,VR用户们并不喜欢像Facebook那样严格的隐私监控系统,Meta了解到这一点后便取消了捆绑。而Horizon作为未来的VR元宇宙平台,其生态也将比传统2D平台更加开放,只有短期的VR体验会被记录,而且提交举报时才会发送给Meta。

这也造成了Horizon平台监管宽松的问题,尽管其要求用户达到18岁以上,儿童用户依然能绕过限制使用它。

尽管如此专家认为,缺少一种主动的平台审核机制,用户可能会暴露在有害信息中,而不向平台报告。也就是说,保护隐私和安全监管本身就存在矛盾,如何去权衡这两点是一个难题。目前Horizon用户基础还很小,这也正是Meta应该思考如何防患于未然的时机,以避免在平台规模变大后难以控制。不过,现阶段Meta似乎更看重增长,努力吸引更多人在VR中互动。

VR专家Brittan Heller则认为,目前还没有能够在VR中监督内容和行为的技术,因为还没有一种可靠的语音转录或手势分析算法,所以即使你在VR中竖中指或说脏话,系统也无法实时捕捉。

纽约大学斯特恩商业与人权中心副主任保罗·巴雷特指出,人们一直在寻找新的方式来分享内容,同时逃避检测。他说,投机取巧的用户总是会发现并利用该平台的最薄弱环节,而该公司“有责任事先弄清楚这项新服务如何被滥用。”

实际上,考虑到VR社交平台本身对于开放性的愿景,其开发公司可以将平台审核、规则制定等权利交给用户,通过投票等方式来进行管理,从而避免平台受到单一公司控制的局面。而这也带来了公平性、与现实法规的兼容性等更加复杂的问题。另一方面,也应该增加人工审核的数量,避免一个问题在数个小时后才得到处理。参考:Buzzfeed

更多精彩内容,关注青亭网微信号(ID:qingtinwang),或者来微博@青亭网与我们互动!转载请注明版权和原文链接!
青亭网

微信扫码关注青亭网

青亭网

青亭 | 前沿科技交流群01

责任编辑:hi188
分享到QQ 分享到微信

登录

忘记密码 ?

您也可以使用第三方帐号快捷登录

Q Q 登 录
微 博 登 录
切换登录

注册