用户数据安全与AI功能之间的新平衡

稍近之时, 一项标注为“封锁模式”的全新安全设置已然正式面向所有已登录用户敞开。此一功能之核心目标相当明晰, 于AI能力渐趋强大之背景里, 为用户之数据添设一道锁, 过去的几个月之中, 不少企业用户缘于忧心敏感信息于AI联网之际惨遭意外泄露, 以至于犹疑是否要运用某些高级功能。当下, 借由主动施以限制实时联网、深度开展研究等核心能力, 此一模式尝试于体验与安全之间寻觅一个折中点。

联网功能被限制后会发生什么

在处于封锁模式之时, AI的实时网页浏览功能会遭受严格限制。系统仅仅能够访问缓存的网页内容, 这就表明要是你搜索最新新闻或者实时数据 , 结果有可能不完整或者过时。与此同时, AI没有办法从网络上下载文件用以分析 , 生成的代码也不可以自主发起联网访问。然而好消息是, 用户自身上传的图片、工具生成的图片以及对话记忆这些本地功能, 是全然不受影响的。对于日常办公而言, 若不依赖实时数据, 这种牺牲或许是值得的。

提示注入攻击是谁的麻烦

将恶意指令隐匿于网页或者文档之中以此诱导AI无视原有规则进而把敏感信息偷偷发送给外部服务器, 此即为提示注入攻击。类似的, 一份看似平常的PDF文件, 或许就暗藏着这般陷阱。诸如这份提示注入的攻击手段, 在过去半年的AI行业里频繁现身, 特别是那些允许AI联网搜索的产品, 已然属于重受灾的区域。而封锁模式恰恰是用于针对这个漏洞设计的。

封锁模式不是万能药

公司官方予以承认, 封锁模式没办法做到百分之百把提示注入攻击杜绝掉。这是由于恶意代码有可能依旧潜藏在缓存的网页之中, 或者是潜藏在你所上传的文件里面。比如说, 要是你上传一个带有病毒的Excel表格, 那么AI在进行分析的时候说不定依然会遭遇风险。这情形如同给大门增添了一把锁, 然而窗户却仍然是敞开着的。所以, 此项功能更像是一种风险控制方面的工具, 而非堪称完美的安全方案。

把选择权还给用户和企业

现实呈现为AI能力越强、攻击面越大的状况, 公司选用了一种务实办法: 让用户自行决定。管理员能够依据工作场景, 针对不同账户类型以及工作区开启或者关闭此模式。举例而言, 财务部门能够全程开启封锁模式, 而市场部门因需要实时数据, 能够暂时关闭。这种灵活开展权限管理, 使得企业能够于安全与效率之间自行进行权衡。

实际使用中你需要知道的三件事

开启封锁模式之后, 你的AI对话会变缓, 原因在于缓存数据或许没那么新, 第二, 此模式对个人用户以及企业用户均适用, 不过企业管理员拥有更细致的控制权限, 第三, 要是你平常仅用来撰写文档, 开展数据分析, 不依赖实时网页, 那么这个模式几乎不会影响你的体验, 从2025年第一季度起, 已有超过30家企业试点这个功能, 其中85%的用户表明数据泄露的担忧显著降低。

你认为, 于AI功能日益强大的当下, 是舍弃部分联网功能以换取数据安全更为划算, 还是应当持续追逐更强功能进而接受潜在风险? 欢迎在评论区分享你的观点, 也别忘记点赞以及转发, 使得更多人知晓这个新抉择。