用户中毒事件始末

近期, 有一位用户, 在小区之内采摘了野生蘑菇, 之后使用火山引擎多模态大模型“豆包”来进行拍照识别。系统把它识别成了“鸡腿菇”, 然而却同时输出了好多条高风险预警, 表明该品相“极其容易和剧毒的大青褶伞相互混淆”, 并且还明确警示“强烈建议不要去食用”。即便有着这些提示, 该用户还是选择了食用, 最终致使中毒。

事情发生过后, 豆包团队很快就和当事用户构建起联系, 针对整个过程展开了核查以及技术方面的剖析。这桩事件迅速在网络上引发了热烈讨论, 使得公众再次对AI在食品安全领域的实际运用成效做出审视。

AI识别存在技术局限

从事植物学研究的专家以及相关行业里的专业人士明确表示, 多模态人工智能所具备的视觉识别功能, 当下依旧处在技术持续发展的进程之中, 其精准度并不是能够达到百分之百的。哪怕是身为专业的学者, 当面对那些并非自身所熟悉领域内的菌类之时, 同样是存在着辨别方面的差错的, 然而部分具有极其强烈毒性的毒蕈, 它们导致人死亡的概率是非常高的, 绝对不允许去尝试出现错误啊。

豆包团队针对此作出回应表明, 大模型现下正持续开展优化以及提升识别精确性的工作。然而专家着重指出, AI识别是基于训练数据的, 并且野生蘑菇种类繁杂、形状各不相同, 仅仅依靠一张图片是极难做出绝对正确的判定的。

系统预警并未被重视

依据豆包团队反馈得出的结果, 在该用户运用豆包拍照识别的时候, 系统把它识别成了“鸡腿菇”, 然而与此同时在对话框里清晰地输出了好多条高风险预警。预警内容确切表明“仅仅凭借图片没有办法100%排除有毒相似种的可能性”, 并且建议用户不要去食用。

然而, 用户好像忽视了这些关键提示, 把识别结果视作权威判断。这体现出公众对于AI输出的信任度, 需要进行合理调节, 不可以将其当成最终决策依据。

误判背后的安全隐患

城市社区诸如绿化带这般环境里的野生菌类, 或者是野生果实, 极其容易残留农药, 以及其他未知的污染物。哪怕该品种本身是无毒的, 可依旧存在着极高的食品安全方面的隐患, 公众应当坚决杜绝采食这种行为。

此次事件里头, 用户所采摘的蘑菇是生长于小区之内, 其有可能接触过诸如杀虫剂、除草剂这类化学物质。而这些污染物凭借肉眼是没办法识别的, 依靠AI同样无法借助图片去进行判断, 这进一步加大了食用时的风险。

大模型安全边界需思考

再度引发了, 行业领域之内, 针对大模型运用安全界限, 进行深度思索的, 正是此次事件。仅仅拥有参考意义的, 是涉及生命安危以及健康状况的, 人工智能输出内容, 使用者必须借助多个具有权威性的渠道, 开展询问证实。

建议指出, 当公众运用AI辨别植物、药物等关乎人身安全的内容之际, 应当把它当作辅助工具, 而非最终定论。碰到不确定情形时, 最优做法是向当地疾控中心、植物学专家或者相关机构进行咨询。

公众应提高警惕

豆包团队宣称, 会不断改进模型识别精确性, 然而用户自身同样得提升安全意识。于食品安全事宜上, 不存在便捷途径可行，无法全然依靠技术工具。

行业专家发出提醒, 野生蘑菇认出来是极为复杂的事, 每年都存在因误食毒蘑菇进而中毒乃至死亡的事例。最好的防范办法便是不准采食任何野生蘑菇, 不管AI识别得出的结果是怎样的。

你认为当运用AI去识别野生蘑菇之际, 是应当全然信任其得出来的结果, 亦或是仅将其当作一种参考, 欢迎于评论区去分享你的看法, 点赞以及转发以使更多的人能够看见这篇文章！