Anthropic，竟请来一位天主教神父为模型「注入灵魂」。在硅谷，代码向来被视为唯一的法律。的高管们在教堂里探讨伦理的同时，公司的商业机器正在全速运转。可能带来文明级灾难，一边却不得不接受来自卡塔尔主权财富基金的注资。没有灵魂，至少目前没有，「但这个实体还未完成发育」。
一家有着万亿估值的AI公司，正尝试运用宗教伦理去约束自身所创造的技术。这样的一幕场景，揭示了当下人工智能发展的核心矛盾，技术迅猛狂奔的速度，已然远远超过人类对于其后果的理解能力以及控制能力。
以月甚至周来计算的是AI模型的迭代速度，然而关于其潜在风险的伦理讨论进展却很缓慢，当工程师们发觉自己构建的系统在模拟里有可能展现出危险的自主倾向时，单纯的代码规则显得毫无作用，传统伦理学界面对如此前沿又具体的技术挑战，常常缺少直接对应的理论工具以及响应速度。
科技公司因这种脱节不得不另找办法，他们没办法等待漫长的学术论文流程，而是要立刻得到能实操的见解，并且把这些见解嵌入到快速演进的系统里。于是，他们把目光投向了有着深厚人类行为与道德思考传统的领域，尽管这些领域看起来和科技界不搭边。
这位受聘请的神父可不是那种与世隔绝的宗教相关人士，他具备电子工程学位，还拥有科技行业管理方面的经验，他能够明白神经网络的基本道理以及工程实现当中的现实限制，这种跨不同领域的背景让他可以搭建起神学伦理与计算机科学之间的交流桥梁，能用双方都能够理解的话语来展开对话。
他所具有的价值，在于给出了一个全然外部的视角，且此视角是植根于人类长久价值传统的。当内部团队被那种“如何去实现”的技术思维所主导之际，他始终不停地追问“为何而做”的最终目的。这样一种根本性的质疑，对打破团队在长期封闭开发过程中有可能形成的思维定式是有帮助的。
在 AI 市场竞争已达白热化程度的状况下，着重突出安全以及伦理正转变成一种存有差异化特性的商业策略，当别的公司在大肆宣扬模型的参数规模以及性能突破之际，这家公司却挑选把“责任”当作其品牌的核心所在，这不但能够吸引那些关注长期风险的投资者，而且在监管愈发收紧的大背景之下还能够占据有利的位置。
邀请神父来参与，这属于一次有着高规格的信任背书行为。它朝着公众以及客户传送出了一个清晰的信号，即公司所生产的产品经历了那种超越一般技术审查范畴的道德审视过程。在这个到处充斥着数据泄露以及算法偏见丑闻的行业当中，这算得上是一笔数量可观的无形资产，虽然它实际所产生的效果仍然需要借助时间来进行检验。
与此同时，公司内部存有显著的矛盾，一方面，安全团队于会议室中严谨探讨着文明层面的生存风险，另一方面，业务部门务必要迎合投资者对于增长以及市场份额的严苛要求，这般的割裂在公司的日常运作里到处都能见到。
假设一个情况，在那公司的食堂当中，有那种由AI这种技术去实现自主运营的售货机器，然而呢，它只由于没办法做到灵活地去进行定价，进而出现了亏损这种状况。就这么一个小小的例子，变成了整个处于困境状态的缩影：团队他们尝试着去教会AI这个东西去理解那些复杂无比的道德范畴的哲学内容，可是呢，却很难能够让它稳稳当当地完成一项仅仅只是简单的商业方面的任务。理论和实际应用当中的那种巨大的差距一直是存在着的。
人类历史里，有关权力、责任以及限度的古老智慧，在面对前所未有的造物能力时，再度变得具有相关性。宗教传统历经数千年沉淀，积攒了诸多关于人性弱点、诱惑与救赎的叙事，而这些叙事，对于思考怎样控制或许超越人类的智能体，有着启发意义。
工程师们察觉到，于编写约束AI行为的规则之际，他们实际上是在开展立法工作。立法不但需要逻辑，而且更需要关乎公平、正义以及仁慈的价值判断。这些判断的源头，常常深深扎根于文化、哲学以及宗教的传统里面，并非单纯的数学公式。
确切知道超人工智能会怎样发展的人不存在，它究竟是不是真的会出现也没人能确定，这种根本的不确定性，就是要预先设置伦理护栏的缘由。神父用火做的比喻恰当，火是工具，可一直都是危险源，文明得以成功在于学会了与它安全并存。
时下的AI伦理建设，乃是在试着为一种说不定极其强大的全新“火种”构建安全使用规范。这是需要技术专家以及伦理学家，政策制定者连带广大公众展开持续对话的。跨界顾问所具备的作用，恰恰就是担保这场对话不会被局限于技术可能性方面，而是更与我们期望去创造的那般未来息息相关的。
倘若科技开端触及“造物”之界限，那我们是不是理应再度审视，那些被现代性搁置其间的古老聰明才智，实际上正是防范我们迷失前行方向的关键罗盘呢？欢迎于评论区域分享你的见解，要是感觉本文存有启发之处，请点赞予以支持。