AI资讯

OpenAI推出‘封锁模式’应对提示注入攻击,已面向所有用户开放

智能摘要

Mode),目前已面向所有已登录用户、不同账户类型及工作区全面开放。所谓提示注入攻击,一直是让大模型研发团队头疼的黑客手段。面对这一业内公认的顽疾,OpenAI此次推出的封锁模式,其底层设计思路非常务实。

切断外部请求保护隐私

一旦AI助手处于联网状态, 极易摇身一变成为黑客展开攻击的跳板, 攻击者会将恶意指令巧妙潜藏于网页或者文档之中, 只要模型读取了这些内容, 便极有可能被诱导去执行越权操作, 2026年6月, 某主流AI平台正式推出封锁模式, 所有登录用户以及工作区都能够启用此模式, 该模式会直接切断模型朝着外部发起网络请求的通路, 从物理层面成功阻止数据出现外泄情况。

实时搜索功能受限

开启封锁模式之后, AI的实时网页浏览能力遭受大幅削弱, 系统仅仅能够访问受保护的缓存网页内容, 这表明搜索结果或许不完整或者过期, 比如说你询问今天的热点新闻, 模型有可能只能给出昨天的信息, 与此同时, 模型不会在回复里展示源自外部网络的图片, 也没有办法从网络下载任何文件用以分析。

高阶模式直接关闭

这两个高阶功能, 深度研究以及智能体模式, 将被直接关闭, 无法使用, 即便用户在画布功能下生成代码, 也无法获得联网访问的批准, 这意味着依赖外部数据, 还有自动工具调用, 以完成复杂任务的能力暂时失效, 官方明确表示, 这种限制是为了防止攻击者通过自动化流程窃取敏感数据。

手动上传文件成唯一入口

处于封锁模式之时, 大模型所处理的文件, 仅仅局限于由用户手动上传的本地安全档案范围之内, 如此这般极大地降低了借助第三方数据进行恶意见指令注入的风险程度, 举例来说, 企业用户能够将自身内部文档上传给予AI展开分析, 然而模型却没有办法主动去抓取外部链接当中所包含的信息资料, 这样一种方式尽管造成了部分便利性的损失情况, 然而能够显著地提升数据的安全性能。

并非绝对安全的万全之策

官方于帮助文档里坦白承认, 封锁模式没办法做到百分百确保提示注入攻击完全失效, 原因在于恶意指令依旧有潜伏于合法缓存网页或者用户自行上传文件之中的可能性, 进而持续对模型的判断产生干扰, 举例来说, 攻击者能够将恶意代码嵌入到一个貌似正常的PDF文件内, 一旦该文件被上传并进行分析, 仍然存在触发风险的可能。

安全边界的选择权交还用户

这一全新功能得以上线, 体现出当下AI产业所面临的实际悖论, 联网的权限越是向着开放的方向发展, 工具的调用越是朝着深入的程度推进, 那么暴露给外部的攻击面也就会越发庞大。封锁模式并未开具出绝对安全的空头承诺, 而是清晰地划定出一条安全界限。它将更强且更具智能的协同体验与更低的数据外泄风险之间用来权衡的天平砝码, 重新交还给用户以及企业管理员由他们自己去进行权衡。

为保护隐私, 你会在工作当中开启这个封锁模式吗, 或者在生活里开启这个封锁模式吗, 欢迎于评论区分享你的观点, 点赞并转发以使更多人知晓AI安全的最新动态。

相关文章