索尼用AI假账号抓游戏里的坏蛋

8月16日, 外媒mp1st进行了报道, 索尼SIE提交了一项专利申请, 该专利申请编号为18/。这项专利的关键之处在于, 运用AI账号去模拟未成年人的聊天行为, 当有其他账号尝试与AI账号进行恶意互动时, 系统会自动打上隐形标记。这就如同是在PS平台上安插下来一批“卧底”账号。

该专利摘要清楚表明, 那些AI账号全然由大语言模型操控 , 其目的在于协助玩家避开诈骗者 , 躲开垃圾信息发送者 , 远离潜在的儿童侵害者 , 防止其他有恶意行为的用户 , 索尼特地把这些AI账号放在“潜在出现恶意行为的场所之中, 恶意用户有可能寻觅目标这样的场景里”。

AI账号专门钓可疑用户

这套系统的运作方式极为奥妙。在可疑用户同AI账号构建起联系之后, 系统会依据双方的互动信息去判定对方有无风险。倘若用户于对话里呈现出显著的可疑行径, 比如话语暧昧、提出怪异要求之类, 系统届时便会于后台悄然进行记录。

系统不会只因玩家与AI账号聊天就径直处罚, 相反, 它将此次互动视作判定账号有无风险的一个信号, 只有在用户于与AI交流进程中展现出明显可疑行为时, 系统才会对其作风险标记, 这意味着正常社交互动不会引发任何惩罚。

标记后继续观察再行动

被标记的那些可疑用户, 系统针对他们会采取一种称作“继续观察”的策略。索尼所拥有的技术方案是, 先给账号去打上潜在危险这样的标签, 之后要在后台持续不断地跟踪其行为。仅当那个用户多次做出可疑行为的时候, 才会面临被封禁的那种处理。这样一种逐步递进升级的方式, 给了用户能够改过自新的机会。

被标记的用户随后主动联系那真实玩家之际, 系统将会提前发出警告或者采取保护措施。此机制的设计相当周全, 保护了普通玩家, 还避免了误判给正常用户带来的伤害。索尼明显考虑到了系统公平性的重要意义。

这项技术还没确定用上

要留意的是, 跟所有专利相同, 这项技术最终能不能切实运用到PlayStation平台之上依旧不清楚。科技公司常常会去申请许多专利, 其中有不少最后都不会转变为实际的产品。专利仅仅是一种技术储备以及布局的方式。

就今时而言, 能显现地表明的是, 索尼正为利用人工智能去捍卫玩家、主动辨认恶意用户的可能性而开展一番探索, 是关于这项专利的内容。但这并非意味着, 相关的功能必定会现身于未来的PS服务里头。索尼极有可能需要进一步地去进行测试以及优化, 之后方能够判定是否要把它予以实际应用。

AI钓鱼对游戏社区的影响

假若此项技术切实得以落地, 极有可能会对游戏社区的生态造成深远的影响。其一, 它能够有效地震慑潜在的进行骚扰的人以及实施诈骗的分子, 从而为玩家特别是未成年人给予更好的保护。其二, 过度的监控也有可能诱发隐私方面的担忧, 致使玩家觉得自身时刻处于被监视的状况之中。

索尼必须于保护用户以及维护隐私二者之间寻觅到平衡点, 毕竟, 一个健全的游戏社区既要有安全的环境, 又要有玩家彼此间的信任还有自由交流的空间, 这项专利往后的发展情形, 值得业界持续予以关注。

你对这项技术怎么看

有着索尼的这项专利, 是借助AI去抓游戏坏人的假账号, 你觉得在未来它真的会被应用到PlayStation平台上面吗? 你是支持亦或是反对在游戏里去部署这样的监控系统? 在评论区欢迎留下你的看法, 要是认为这篇文章比较有用, 可别忘了去点赞分享！