人工智能伦理的四种类比：工具、动物、人类与神祇

2025 年 4 月 23 日，方塘研究院“问渠”系列举办首场讲座。剑桥大学弗赫尔姆智能未来中心 Stephen Cave 教授以“人工智能伦理的四种类比：工具、动物、人类与神祇”为题，从柏拉图《游叙弗伦》的伦理困境出发，将人类与 AI 的伦理对话置于文明演进的坐标中。

AI 对规则系统的持续突破

Cave 从科幻电影《禁忌星球》中机器人 Robbie 的首次登场讲起。人类起初将 AI 想象为“精密工具”，AI 伦理也与规则系统高度耦合。阿西莫夫“机器人三定律”看似建立了技术伦理的安全网，却将智能体视为可完全编程的机械装置，忽视其潜在自主性。

机器一旦获得自主性，这种义务论框架便显出局限。正如阿西莫夫小说中的机器人会因规则冲突陷入困境，现实中的 AI 进入复杂社会环境后，简单规则也难以应对道德模糊性。Cave 指出：“人工智能在某些方面不同于普通工具。最重要的是，我们希望构建能够自主决策的智能机器。”当 AI 需要为自身决策负责时，规则主义已不足以回应其带来的复杂伦理问题。

2012 年深度学习取得突破后，机器学习的兴起动摇了规则伦理的基础。“透明度”与“可解释性”成为焦点。Cave 将黑箱系统类比为家畜：正如我们无法理解狗的思维过程，神经网络的大量参数使决策过程难以解释。这一阶段的挑战具有双重性：AI 虽不具备道德判断能力，其行为后果仍须纳入伦理考量；训练取代编程，机器学习依赖数据反馈而非预设规则，使传统的“设计者—使用者”责任链变得模糊。

Cave 特别提到 2016 年 AlphaGo 战胜李世石：当 AI 在围棋中展现出超越人类的“直觉”，人类或许正从工具使用者变为弱势一方。大型语言模型又进一步改变了伦理关系。人们不再只期待 AI 遵守规则，也期待它具有诚实、公正、同情等美德。Cave 援引亚里士多德与儒家伦理，认为“培养 AI 的德性”可能成为未来的核心议题；但他同时提醒，若 AI 的伦理回应过于迎合用户偏好，真正的道德反思可能被对话的便利消解。

超级智能的双重困境

技术仍在发展，AI 甚至可能超越人类，不再像人，而更接近人类长期想象的“神”。Cave 借《游叙弗伦》难题追问：若 AI 的能力远超人类理解，我们应服从其不可解释的决定，还是坚持人类的理解权？若坚持人类可解释性，AI 的能力上限或被锁定在人类认知范围内；若盲目服从 AI，人类可能成为“道德婴儿”，失去自主判断，落入莱布尼茨所警示的专制主义陷阱。

Cave 以 AlphaGo 的“神之一手”为例：当 AI 走出超越围棋千年经验的妙手，人类专家从评判者转变为阐释者。这种权力让渡一旦延伸至医疗、司法等领域，可能引发文明层面的主体性危机。

“我们将因 AI 获得巨大力量，但也可能因放弃理解和批判而失去控制权。这是一个艰难的选择：要么限制 AI 于人类理解范围内，要么冒着失去道德自主性的风险拥抱其力量。”

人类是否仍有选择

现场提问：即使 AI 是更优的决策方案，人类是否必须在任何情况下放弃自身立场与思考，服从 AI 的决定？Cave 将其归为技术决定论与人类选择的问题。许多人将 AI 的发展视为必然；加速主义者则主张全速推进，认为它能够终结战争与贫困，因而反对伦理约束与监管。

他认为，相信人类拥有选择权至关重要。尤其在竞争态势下，“只求胜利、无视规则”的思维十分危险：这场竞赛没有终点或赢家。AI 应当造福全人类，但风险需要共同治理；核能与核武器的监管虽不完美，仍远胜于放任自流。人们必须相信并以政策捍卫真正的选择权与能动性。

当超级智能到来

另一位听众问：若把 AI 类比为神，AI 无处不在的未来中，不相信 AI 的人将如何自处？Cave 起初按宗教意义理解了“无神论者”，并谈到将技术投射为宗教归宿的历史：欧洲殖民北美时曾相信自己在创造新的伊甸园，技术被赋予重建天堂的意义；今天，一些无神论者也转向技术寻求救赎，例如相信机器可以让意识上传网络、让人获得数字永生。

他提醒，尽管这种立场仍属少数，却可能有人开始崇拜 AI，像历史上有人放弃批判性思考、将责任交给神明一样，把决定交给 AI。提问者澄清自己所说的是“不相信 AI 的人”后，Cave 回应：AI 最终会为自己发声；在 AlphaGo 出现以前，没有人崇拜围棋 AI，但 AlphaGo 获胜之后，这种苗头或许很快便会出现。

AI 背后隐形的复杂生态

有听众指出，人与 AI 的关系并非私密的二元关系，AI 背后还有工程师、企业等第三方。Cave 认同这个问题的重要性：类比能够提供启发，也有局限；强调个人与 AI 的关系，会遮蔽背后的复杂生态。

他举出两种补充类比。一位剑桥大学政治学教授将 AI 比作公司：公司是法律实体，有自身的决策过程和价值取向，即使首席执行官也难以完全控制；围绕公司形成的法律与伦理结构或许能提供借鉴。另一位技术史学家将 AI 比作官僚机构：它们不透明，可能更高效，却也可能将微小偏见放大。官僚制把权力从个人手中转化为决策机器，一点错误就可能被复制上百万次；数百万人同时使用大语言模型时，偏见也会以相似的方式被放大。

需要更多元的全球叙事

最后，现场提问为何只选择工具、动物、人、神四种比喻，以及植物、外星生命、佛陀等其他存在是否也可以成为理解 AI 的类比。Cave 回应，前三种类比反映的是西方 AI 伦理的发展历史，且只是英语世界中粗略的缩影；“AI 作为神”则借用了以柏拉图为代表的西方哲学传统。若从中国哲学等其他传统出发，视角会截然不同。

他提到“全球 AI 叙事”项目。自 2019 年起，项目走访埃及、俄罗斯，并在疫情期间与包括中国在内的全球学者在线合作，试图理解不同文化中关于智能机器的隐喻与类比。中国和日本的人与自然关系观不同于西方；“神—人—动物—植物”等级源自西方亚里士多德传统中的“存在之链”，而儒家、道家、佛教更重视关联而非等级。澳大利亚和美洲的原住民社群也曾提出“章鱼”“编织机”等截然不同的隐喻。

Cave 欢迎更多新想法，也期待方塘研究院从儒家“仁”或道家“自然”等中国传统中，重新理解 AI 与人的关系。这既能丰富全球 AI 伦理的对话，也有助于超越西方中心主义，寻找更具包容性的伦理路径。