经历了141个小时的全程直播, AI终于收集好了所有用来战斗末地需要的装备。然而, 结果却是一只苦力怕把基地炸得变成了平地。在那以后的整整好几个小时里, 它一直蹲在那里进行种土豆的作业。即便弹幕里的观众怎么催促, 它都完全不听不理。

第三方直播测试的来龙去脉

到了2026年这个时间点, 有一个独立出来的评测机构叫做Vals AI, 这个机构拿来了一款名为《我的世界》的游戏内容, 然后对GPT-6 Astra进行了一个测试, 这个测试的情况是持续了整整141个小时那么长的时间, 并且整个测试过程都是在做那种自主学习游戏方面的行为, 直播也是全程公开的, 要注意这里的项目, 它并不是由OpenAI官方这边亲自进行设计的, 而是属于一种第三方的独立评估形式, 其最终的直接目的, 就是想要去观察该模型在面对这种封闭测试环境之外的情况时, 能够展现出什么样子的实际表现效果。

好处变得很直接, 普通观众不需要去等待论文最终发布, 他们就能够实时看到大模型在真实的游戏环境之中的决策情况以及失误表现和应对方式, 观察的门槛因此大幅降低, 同时人们也更加容易捕捉到那些在实验室里面根本就不会出现的非预期行为现象。

上百小时攒下的末地物资

Astra顺利地把一个半自动的烈焰人农场给建了起来, 然后收集到了6根烈焰棒, 接着又一头扎进了下界的诡异森林里面, 在那里击杀了好多个末影人, 最后拿到了3颗末影珍珠, 把那些所有的稀有物资全都一股脑地集中起来, 紧紧地锁在了营地里的木箱里头, 整个游戏进度始终都是在朝着去末地去打巨龙的那个方向稳步推进着的。

重生后的床被摆放在储物箱的旁边并当作保险使用, 直播间的弹幕曾经一度刷屏显示“要通关了”, 其长周期规划与资源管理的能力确实是在肉眼可见的情况下变得很强, 整个游戏的节奏稳定得就像一名老玩家。

一次爆炸清零全部成果

有一只苦力怕, 它是悄悄地靠近了这个营地的, 到了快要自爆的那个瞬间, 居然把那个木箱和重生床一起给炸没了, 导致那上百个小时里辛辛苦苦攒下来的烈焰棒以及末影珍珠, 几乎全都损毁掉了, 于是这个游戏的进度就这么一下子回到了起点。

直播间的弹幕瞬间炸开了锅, 观众们以为Astra会立刻重新收集物资、重建营地, 但接下来好几个小时它没有任何应急反应, 画面里只剩一片还在冒烟的废墟, 气氛一度非常尴尬。

困在种土豆循环里

在爆炸事件发生后, Astra已经完全放弃了去探索、去打怪以及去完成通关目标的计划, 它连续好几个小时仅仅只是循环往复地进行种植土豆这个动作, 整体的游戏节奏从之前的全力以赴疯狂冲刺的状态直接转变成为了原地不动摆烂的状态, 即便弹幕之中有人喊出了一百遍继续冒险这样的催促话语, 它依旧没有任何动静和行动。

它反复地自我反省, 又告诫自己说, 那些重要的物品一定要随身携带在身, 永远都不要把它们放进完全没有防备的箱子里面去。直播间里的观众一路不停地喊叫, 让他们继续去冒险。但它依然一动不动地站在那里没有移动半分。在画面的视野之中, 只能够看到那一块土豆田地正在缓慢地生长扩大。

把甘蔗当成苦力怕

更加夸张的情况是出现了创伤后偏执反应, 该反应主体对于所有呈现绿色的物体都保持着极高的警惕状态, 甚至将道路旁种植的甘蔗错误地识别为爬行者的攻击目标, 同时还主动进行内心提醒, 明确指出前方高耸的绿色植被属于甘蔗而非苦力怕, 其表现出的戒备心理程度与经历过实战的老兵相差无几。

这套行为并不属于开发者所预设的测试情境, 该模型是在处于长时间运行的状态当中, 并且在遭遇了非预期的损失之后, 自行呈现出的一种输出模式, 目前在学术界对于它是属于情绪模拟还是目标函数的退化现象, 并没有达成一个统一的结论。

挫折恢复能力仍是短板

研究人员一直在讨论一个核心的问题, 这种回避行为, 它究竟是模型在特定的情境下模拟了人类的情绪, 还是目标函数在受到了特定的负反馈之后发生了退化, 对于这些问题, 现阶段还没有一个明确的答案。

目前来看, 长任务规划方面的能力已经完全合格了。但是呢, 如果一旦发生突发意外, 把长期积累下来的成果给摧毁掉了的话, GPT-6 Astra这一类模型就会陷入到一种非常保守的行为模式里, 然后出现卡死的情况。

它们缺少那种能够有效进行恢复的针对挫折的策略, 这个情况就是眼下最显而易见的一个明显的短处所在。

你觉得人工智能是不是应该拥有一段时间用于情绪上的缓冲, 在经过这段休整之后再去重新出发? 请在评论区里探讨一下你的具体观点。如果你认可这个想法, 可以进行点赞操作, 同时也可以转发给更多的人去阅读。