私营企业主导AI是历史偶然

达里奥·阿莫迪于采访当中直言, 几乎所有重大技术革命的背后都存在政府的参与情况, 然而人工智能却是首个主要由私营企业加以推动的具有革命性意义的技术。他表示倘若让自身进行选择, 不一定会采用这样一种模式。这种历史方面的偶然性表明AI的发展路径存有特殊的风险, 公司需要主动去填补因监管缺失而造成的治理方面的真空地带。

权力滥用风险来自多个方向

阿莫迪清晰地表明, 他并非仅仅担忧企业或者个人把控强大技术, 还担忧政府彻底掌控AI。他觉得权力集中于任何一方都会致使治理失衡。这种双向的担忧显示, AI的治理问题并非单纯的企业自律或者政府监管二者选其一, 而是需要构建多方参与的制衡机制。

长期利益信托是核心制衡工具

阿莫迪作出介绍, Anthropic构建了一种治理结构, 其被称作“长期利益信托”。该机构具备任命或者撤换董事会成员的权力, 拥有解除CEO职务的权力, 甚至于能够随时解除阿莫迪自身的职位。这样的设计意图在于预防少数高层管理者组建利益集团, 保证公司始终依照安全原则来推动AI发展。

公共监督比完全接管更合理

阿莫迪持有这样的看法, 当下最为合理的方案乃是对利弊加以权衡, 借此引入公共监督机制所采用的治理方式。他既不给予政府完全接管公司这种行为以支持, 也不认可企业完全自治这种情况。这种处于中间的路线表明, AI公司必须主动去设计透明度机制, 以使外部监督可以切实发挥其作用, 而并非仅仅停留在口号的层面上。

内部权力分散防止跑偏

长时期利益信托的设计逻辑在于将最终决策权分散至独立机构之手, 阿莫迪身为CEO同样要接受该机构的监督以及制约。这样一种内部权力分散机制能够防止公司被少数人的短期利益施行绑架, 令长期安全目标在始终高于商业利益。在2025年, 存在诸多多个AI公司因单一决策层致使安全违规的案例。

治理模式影响整个行业走向

6月18日发生了阿莫迪的采访, 这时世界各地关于AI监管立法处在关键阶段。倘若Anthropic这样的内部治理方式被证实有成效, 极有可能变成行业规范标准。要是私营企业自己作自我约束却是失败了, 那么政府进行强制监管的可能性便会大幅度升高。

倘若你认为关于AI治理究竟应由企业自行治理还是由政府实施监管来占据主导地位呢, 欢迎于评论区域分享出你的看法之见解, 并为其大力点赞转发从而促使更多的人能够加入到讨论之中。