
教皇利奥十四世在席卷华盛顿的人工智能之争中选择了自己的立场:他是人类学团队的一员。
不,利奥并没有就特朗普政府与这家前沿人工智能实验室的持续斗争发表意见,也没有向其选择的超级政治行动委员会捐款。但周一,当他发布首份通谕《伟大的人性》(Magnifica Humanitas )——题为“在人工智能时代保障人性”——时,人们很难忽略人智库联合创始人克里斯托弗·奥拉赫也在梵蒂冈出席,实际上是为这份通谕送上了祝福。
人智公司一直试图将其“人工智能安全”方案定位为介于那些主张完全不设限制的人工智能加速主义者和那些希望彻底阻止人工智能发展的悲观主义者之间的一种中间立场。Leo撰写的这份超过35000字的文件也表达了类似的观点。
“科技从来都不是中立的,因为它会带有设计者、资助者、监管者和使用者的特征,”利奥在开篇写道。“因此,首要的选择并非对科技的‘是’或‘否’,而是在建造巴别塔还是重建耶路撒冷之间做出抉择;是在声称主宰天庭的权力与在上帝面前携手重建兄弟般共存之墙的人民之间做出抉择。”
对于全球13亿天主教徒而言,他对不受约束的人工智能的警告具有重要的道德权威性。其中也包含一个很容易套用到美国政治中的真理:没有任何事物或任何人是中立的。
利奥一宣布人工智能这一热点问题将成为他教宗任期内首份重要通谕的核心,便立即投身于美国人工智能政治的漩涡之中。这份通谕堪称宗教领袖公开反对不受控制的人工智能发展这一日益增长的趋势中最具代表性的例证。对于那些将自身信仰作为论据核心的政治家、倡导者和技术专家而言,教宗的介入引发了激烈的争论——对一些人来说是机遇,对另一些人来说则是难题。
业内一些人士对这种对话表示欢迎,甚至认为这对于他们的产品和公司的持续繁荣至关重要。
微软副董事长兼总裁布拉德·史密斯表示:“所有宗教的共同之处在于,它们都以人性为出发点。而科技行业人士的出发点则恰恰相反。他们先关注自己创造的技术,然后再考虑这些技术对人类的影响。”
“我认为这是一份相当薄弱的文件,”美国创新基金会高级研究员、特朗普政府前人工智能政策顾问迪恩·鲍尔说。“它本质上是一篇极度反美的檄文,支持对人工智能进行技术官僚式的监管;这绝非我希望教会拿出的东西。”
大型科技公司的保守派人士经常抨击任何限制人工智能发展的尝试,有些人甚至认为,发展人工智能,而且是快速发展,才是侍奉上帝的最佳方式。今年早些时候,亿万富翁彼得·蒂尔在罗马发表了一系列引发争议的演讲,据报道,他在演讲中暗示,反基督者很可能是一个试图减缓或阻止进步的卢德分子。作为回应,梵蒂冈人工智能顾问保罗·贝南蒂修士在法国杂志《大大陆》(Le Grand Continent)上发表了一篇题为《美国的异端邪说:我们应该烧死彼得·蒂尔吗?》(The American Heresy: Should We Burn Peter Thiel?)的文章。
在与硅谷有着密切联系的虔诚信仰者中,面对利奥的通谕,或许没有人比副总统 JD Vance 面临更棘手的困境。
作为美国级别最高的天主教神职人员,万斯当然也意识到宗教右翼对人工智能日益增长的怀疑态度。与此同时,他一直支持特朗普总统对人工智能采取的不干预政策,并且是蒂尔的长期盟友。在通谕发布前的几天里,副总统在白宫新闻发布会上被记者追问此事,他预测自己会同意其中的一些观点,但不同意另一些。
“我认为JD Vance试图做的是不可能完成的任务——既要讨好把他拉进舞池的硅谷右翼,又要留住那些想让他当上总统的天主教右翼,”克里斯托弗·黑尔说道,他是左倾的Substack博客“Letters from Leo”的作者,该博客主要讨论教皇和美国政治。“他同时要兼顾的事情太多了。”
即便撇开万斯如何应对通谕不谈,利奥的指导意见势必会在美国各地的布道中引起共鸣,并持续提升人工智能作为政治议题的重要性。在一个天主教徒占总人口20%的国家,这种情况尤为突出,因为教会正与美国一些最知名的政治家、政策倡导者和企业发生冲突。
教宗良十四世刚刚提出了他眼中未来科技发展的道德框架。现在,关于这框架的真正含义以及教会在决定我们共同未来的走向方面应扮演何种角色的辩论即将展开。
周一早上通谕发布后,硅谷部分人士迅速提出了批评——各种攻击针对梵蒂冈、人本主义组织、两者之间的联盟以及模糊不清的政府权力过度扩张。
“Anthropic背后的湾区‘有效利他主义者’小圈子,比整个天主教会更有活力,更有道德和神学思想,”研究公司Bismarck Analysis的高级分析师Marko Jukic在X上写道。“教皇是在模仿他们的思想,而不是相反。”
前白宫人工智能沙皇大卫·萨克斯对政府的人工智能政策仍然拥有重大影响力,他的措辞比较客气,但也很快进行了反驳——他暗示教皇想“以安全的名义将人工智能发展的广泛权力交给各国政府”,这不可避免地会导致奥威尔式的监控国家。
当被问及 Olah 为何决定与梵蒂冈接触时,Anthropic 指出,该公司努力通过与来自许多信仰团体的神职人员、学者和伦理学家举行一系列会议来扩大关于人工智能的对话。
“我会记住那些现在拥护这份文件、拥护教会,但并非天主教徒的人,”鲍尔说道。他告诉《政治》杂志,自己是基督徒,相信上帝,但并不经常去教堂。“这其实并非一份宗教文件,而是一份极具政治色彩的文件。它本质上是一份关于欧洲技术官僚监管的文件,并阐述了这种监管的益处……这份文件会在24小时内被世人遗忘,至少在美国会如此。”
同样不屑一顾的还有米歇尔·斯蒂芬斯,她是ACTS 17 Collective的负责人,这是一个位于旧金山湾区的非营利组织,其名称意为“在科技与社会中承认基督”。斯蒂芬斯与蒂尔是朋友;2023年,蒂尔在她丈夫特雷的40岁生日派对上发表了一场带有基督教色彩的演讲,特雷是国防科技公司Anduril的联合创始人兼执行董事长。
斯蒂芬斯说,有人曾联系她和她的团队,希望他们参与撰写通谕,但他们对此不感兴趣。
“我觉得没人真正关注这件事,”她在文件发布前的几天说道。“如果非要说有什么动静的话,那就是梵蒂冈想在人工智能问题上表明立场。而硅谷的立场似乎是:‘你们怎么知道人工智能是什么,又怎么能对它发表意见呢?’”
“这简直太疯狂了,因为如果我们制造任何类型的机器,那就是在创造人类的产物,”斯蒂芬斯说。“我们信仰上帝,相信上帝能做到的一切,而这二者之间不可能存在矛盾。”
其他基督徒对此并不确定。梵蒂冈的自然回应是,即使我们这些没有实际参与技术研发的人,也与技术将如何改变全人类的未来息息相关——而且,存在一套适用于技术的道德准则。
越来越多的宗教右翼人士希望联邦政府在人工智能领域采取更多保障措施。他们坚称,教皇的通谕仅仅是一场辩论的开端,这场辩论可能会决定共和党和国家的未来。
“令人担忧的是,我认为,当你创造或设计出具有意识的事物时,它本质上就具有神性,”家庭研究所(一家社会保守主义非营利组织)的高级研究员迈克尔·托斯卡诺说道。“坦白说,一些科技右翼人士援引基督教教义的做法也引发了人们对反驳声音的关注。”
托斯卡诺本人是天主教徒,他表示,该通谕将成为华盛顿就人工智能问题继续进行对话和倡导的基础。
身为天主教徒、跨党派人工智能政策网络主席的马克·比尔指出,天主教会和美国政府在现代社会中扮演着截然不同的角色。但他补充说,这份通谕有助于建立一个讨论框架。
“我认为宗教右翼的声音尤其重要,在人工智能政策制定过程中必须被听到,”比尔说。“我认为,如果任由不受约束的加速主义右翼主导人工智能发展,而他们又缺乏西方道德传统中的那种哲学基础,那么宗教右翼的声音将有助于政府领导人抵消人工智能发展可能带来的一些最坏后果。”
比尔最近给国会写了一封信,信中有多位前军方官员和人工智能安全倡导者联名,敦促在战场上使用人工智能时要谨慎。比尔是华盛顿科技政策领域最有影响力的保守派人士之一。
围绕这篇通谕的激烈争论也反映在政策讨论中。上周,特朗普几乎就要签署一项行政命令,赋予政府更大的人工智能系统控制权,但在最后一刻听取了包括萨克斯在内的各方意见后,他改变了主意。这对加速主义者来说是一次胜利,而对那些希望加强保障措施的右翼人士来说是一次挫败。不过,种种迹象表明,并非政府内部所有人都希望继续将重大政策决策权交给萨克斯。
作为2028年共和党总统候选人提名的有力竞争者,万斯在人工智能问题上的立场注定会受到密切关注。但他与硅谷和天主教会的联系,更增加了他如何处理这一问题的重要性。
范斯的态度似乎也在转变。据报道,在看过因安全问题尚未发布的 Anthropic 模型 Mythos 后,范斯上个月在一次与人工智能公司首席执行官的电话会议上表示,该模型令他感到担忧,他们需要“共同努力”,找到行业发展的最佳方向。
这与他一年前在巴黎发表的具有里程碑意义的演讲中表达的观点截然不同。当时他说:“我们认为,对人工智能行业的过度监管可能会扼杀一个正在蓬勃发展的变革性行业。”
周二,范斯在接受 NBC 采访时也对教皇的信息表示了广泛的支持,称他很高兴利奥发布了通谕。
这些评论比他在通谕发布前对媒体发表的言论略显积极。当时他说:“我相信它会包含很多真知灼见,其中一些我可能会同意,一些我可能不会同意。但我认为这将是一份非常非常重要的文件。”
“我认为,(万斯的)回应是为了保护自己,免受这份文件中一些尖锐内容的冲击,”斯蒂芬·施内克说道。施内克是一位天主教活动家,曾任美国国际宗教自由委员会主席,也是前总统乔·拜登的政治盟友。“他采取措施试图让自己免受其害,而且他已经开始有选择地决定承认文件中的哪些部分,又将哪些部分排除在外。”
“这份通谕将为利奥十四世未来一年的言论提供更多素材,”黑尔说。“JD·万斯的梦想或许是利奥十四世撰写一份关于堕胎的通谕,但这根本不可能发生。这就是令人不安的现实:教皇正在强调一些他们反对他的议题。”
随着2028年总统初选临近,范斯如何维系他与更广泛的基督教右翼、科技右翼以及游走于这两个群体之间的人们的关系,将至关重要。教皇的信函和对拟议行政命令的担忧,都引发了范斯试图在这两个强大群体之间寻求平衡的又一轮内斗。
对万斯和其他人来说,部分复杂之处在于,通谕并不总是能清晰地对应到某个意识形态阵营。
“这份文件应该能够跨越宗教右翼和宗教左翼的界限,”应梵蒂冈邀请在通谕发布会上发言的英国神学家兼学者安娜·罗兰兹说道。“我认为,那些追求利润增长和无限制竞争的人会对此感到失望。同样,那些对当前科技前景极度悲观的人也会觉得这份文件对他们来说过于乐观。”
曾就读于哈佛神学院和芝加哥大学,研究早期基督教历史和末世文学的人工智能和媒体公司联合创始人乔恩·斯托克斯预测,万斯的问题更多地与总统有关,而不是与教皇有关。
“他或许更多地是受制于特朗普政府与人工智能之间错综复杂的关系,而不是教会本身,”他说。事实上,斯托克斯认为,教皇和蒂尔都担忧人工智能可能导致权力进一步集中——而万斯对权力集中问题的回应将至关重要。
“我认为,如果他把自己包裹在天主教会的外衣里太深,那么他就有可能疏远一部分选民,而这部分选民对于他实现自己的政治抱负至关重要,”施内克说。
与此同时,尽管硅谷的一些保守派人士对教皇避而远之,但越来越多的科技从业者自认为是宗教保守派,他们担心自己和同事正在开发的产品,并正在推动采取保障措施。
“我跟很多在硅谷工作的天主教徒聊过,他们都很担忧。我的意思是,他们对这项技术充满希望,但同时也担心它会被滥用,”圣母大学教授保罗·舍尔茨说道,他的研究方向是神学与科技之间的联系。“他们目睹了社交媒体的滥用,也看到了人工智能在战争和其他领域可能引发问题的用途。”
尽管各方立场泾渭分明,但围绕人工智能的政治格局远比表面看起来复杂得多,也瞬息万变。这一点在Anthropic公司在业界的地位上体现得尤为明显。
在硅谷,作为 Claude 和 Mythos 的开发者,它目前是业内最热门的人工智能实验室。
在梵蒂冈,奥拉呼吁由不受人工智能公司固有逐利动机影响的政治和宗教机构进行监督。他辩称:“如果我们希望这项技术顺利发展,至关重要的是要有不受这些利益驱动的人——那些关心事物发展顺利、坚持安全、密切关注、愿意直言不讳、愿意成为我们真诚而深思熟虑的批评者的人。”
在白宫内部,这家实验室几乎同时扮演着敌人和盟友的角色。一方面,五角大楼将该公司列为供应链风险;另一方面,特朗普几乎签署了一项行政命令,该命令实际上会支持安特罗皮克公司所希望的政策结果。
与此同时,该公司采取了多方面的攻势,一方面在法庭上与政府抗争,另一方面在华盛顿和旧金山举行听证会,讨论人工智能的未来和道德问题,试图赢得全国各地宗教和商业领袖的好感。
“我认为,Anthropic在IPO前夕利用天主教通谕进行宣传,这表明我们赖以支撑文明的机构正在走向衰亡。这简直就是一家人工智能公司利用教会的道德权威来博取好感,”音乐家兼教授大卫·洛厄里在X杂志上写道。“你可以对世通和安然公司评头论足,但它们所做的无非是腐蚀公开市场和窃取资金。”
“我与克里斯·奥拉的私人通信和讨论,以及我参加过的两次会议都表明,虽然他自称是无神论者,但他对这些观点极其认真,”美国天主教大学道德神学和生物伦理学教授、同时也是一位天主教宗教领袖的查尔斯·卡莫西说道。“他如此认真地对待这些观点,以至于我认为可以毫不夸张地说,他与我以往遇到的任何无神论者都截然不同。”
正如卡莫西所说,这使他与利奥自然而然地成为了思想伙伴。奥拉是一位对宗教有着深刻思考的技术专家,而利奥是一位对科技有着深刻思考的宗教领袖。
卡莫西指出,罗伯特·普雷沃斯特枢机主教之所以选择教宗利奥十四世的名字,是为了呼应利奥十三世。利奥十三世曾在工业革命时期撰写了一份影响深远的通谕,呼吁保障工人权益;而如今的利奥则关注人工智能革命。微软副董事长史密斯表示,他是利奥登基后会见的第一位商界领袖,并且与梵蒂冈保持着密切联系。
“我真的认为这为公开的宗教讨论提供了一个契机,一个全新的契机,”他说。“令人惊讶的是,利奥在这个问题上如此认真地对待他,即便他的观点如此具有神学深度。这并非是淡化处理、老调重弹的陈词滥调,而是深刻、非常具有神学内涵的论述。”
