Anthropic呼吁监管打击非法蒸馏 Y Combinator总裁反对?
发布了第二份威胁情报报告,指控中国实验室搞“非法蒸馏攻击”——隐藏身份、靠欺诈和盗取的凭证来套取前沿模型的能力。此前已公开呼吁美国监管层打击蒸馏。政府在这里有个角色——把‘在广泛公开数据上训练出的智能,本身就应该是一种公共品,而不是被锁在限制性服务条款后面的东西’这件事正常化。
Y Combinator总裁Garry Tan在CNBC一次针对性采访里直截了当地呛声了OpenAI说, 针对所谓的“非法蒸馏”那事, 监管层最恰当的回应只有“什么都别做”。OpenAI在九月份发布报告指责中国相关实验室靠盗窃用的来凭证开展恶意蒸馏活动, 其CEO Dario还在叫嚷着要打压要处理, Tan反而站在了完全相反的一面, 说该去构建美国国内的合法蒸馏运作体系。这般立场, 简直是把整个开源阵营要追求的核心诉求全部摆放在了台面上供众人看。
控API是越界,训练时也没问过作者
Tan的逻辑很直白: 你锁着API根本不让其进行输出、使用, 这超越了原本的界限。他称政府该把“在公开数据上训练出智能模型属于公共产品”这一观点正常固化, 绝不要将这一关键准则锁进服务条款的背后深藏。那些闭源模型厂商从根本上对API调用结果施加近乎严苛的各类管控, 这整个状况, 让他本人直接感觉被牢牢桎梏、近乎窒息到喘不上气来。
15亿版权和解案就是现成的例子
那场投入海量版权资料的专有实验室训练未经作者半分问询, 反倒转头责怪别人对材料做了所谓的提炼工序? OpenAI达至15亿美元的那笔版权和解案今年7月刚刚获批, 便是最优例证。你自个儿都没能在授权上落地, 凭什么要求别的主体遵循那条所谓的正规路径前进?
真正驱动他的是对垄断的恐惧
Tan说AI的末日场景就一家公司垄断: 算上最好的资本、还有最好的, 一骑绝尘的研究员。开源权重能当制衡的砝码, 这些开源能推前沿、还给用户自由。YC作为美国的开源创业最大的喂养者, 他站出来说“别禁”, 这动作等于替整个开源阵营表了态。
“正门”怎么开,他一个都没说
不过他没答复最尖锐的疑问: 若是美国实验實真掏开正门, 馏取而出的模型倘被转手掌出去又怎么办? 门敞到什么样的幅度? 门后会不会有墙? “什么都不必做”听起来洒脱疏朗, 但落到政策层面上却最是含糊笼统, 未给出任何能够履行执行的道路。
你站蒸馏还是封死?
监管到底该不该管蒸馏, 开源和闭源的边界在哪, 这事没个准话。Tan说“别做”, Dario说“要禁”, 你更倾向哪一边? 你觉得“正门”该开得有多大, 能挡住再次转手流出去吗? 评论区聊聊, 觉得有道理就点赞转发, 让更多人看到。