人工智能的美德

在2026年方塘论坛上，加州大学圣塔芭芭拉分校杰出荣休教授刘艾伦（Alan Liu）发表了主题演讲《人工智能的美德》。

作为美国数字人文领域的奠基人，刘艾伦在上世纪90年代初就创办了最早的数字人文项目“Voice of the Shuttle”。当所有人都热衷于讨论AI能做什么时，刘艾伦抛出了一个更古老的问题：在生成式AI时代，什么才是好的知识？

他的演讲是长文《AI美德：人工智能时代何为“好”的知识？》的浓缩版，该文章已被接受并将发表于《MFS现代小说研究》2027年春季刊（MFS Modern Fiction Studies, spring 2027）。

如需引用，请以正式出版版本为准。

大家好，我是Alan Liu。今天我演讲的题目是《人工智能的美德》（AI Virtue）。

我从这个问题开始：在生成式AI时代，什么才是好的知识？

这个认识论问题衍生出无数关于AI增强或阻碍的特定知识价值（如真相、准确性、透明度）的探讨，还有与知识问题相关但不等同的伦理和创造力问题。

关于AI和好知识的问题最终会延伸到社会及其他层面。AI是我们当代知识工作时代的晚期篇章，这也是我的一本书《酷的法则：知识工作与信息文化》的主题。

在此背景下浮现的问题包括：谁将因使用AI从事知识工作而获得奖赏？他们如何为这种使用负责？（who will be rewarded and how they’re accountable for using AI to work with knowledge）

这类问题的答案需要时间才能浮现，更重要的是需要时间才能形成社会规范。

毕竟，每一种新知识技术——归根结底与媒体、信息和通信技术密不可分，你可以想想文字、印刷、电视、互联网等——都以同样缺乏规范的炒作与怀疑混合体登场，就像ChatGPT最初面对的那样。

苏格拉底在认识论层面上否定了文字。在《斐德罗篇》中，苏格拉底讲述了神祇图特（Thoth）向埃及国王演示他的新发明——文字的故事。图特说：“这项发明将使埃及人更智慧，给他们更好的记忆力。”

它是pharmakon，希腊语意为“药物”——既是解药也是毒药，既服务于记忆也服务于智慧。

国王回答说：“天才的图特，一门技艺的创造者或发明者，并不总是最能判断自己发明的效用或无用的。因为你的这项发现，会在学习者的灵魂中制造遗忘，因为他们将不再使用自己的记忆力。”

“他们会信赖外在写下的文字，而不再依靠自己记忆。你所发明的技术不是帮助记忆的，而是帮助回忆的。你给你的弟子们不是真理本身，而只是真理的表象。他们会听闻许多东西，却什么也学不到。他们会显得无所不知，实际上却一无所知。他们将成为不知疲倦的同伴，徒有智慧的虚表而无其实。”

我想你们大概明白我的用意了——今天要照搬这些话来评论ChatGPT是多么容易：“你给学习者不是真理，而只是真理的表象。他们会听闻许多东西，却什么也没学到。他们会显得博学，实际上却一无所知。他们徒有智慧的虚表而无其实。”

Michael Clanchy在《从记忆到书面记录：英格兰1066-1307》一书中展示了早期识字社会之前几百年的状况。那是人们通过建立制度和法律，信任文字之前的事情。只有经过这样的规范化，文字才可以被评判——不再仅仅作为或好或坏的记忆替代品（在口头文化中，人们必须像苏格拉底所说的那样“依靠自己记忆”），而是基于改变记忆本身的知识价值，比如使记忆变得可复制和更精确。

当然，AI的规范化不需要数百年。但这一过程也不会是瞬间的。AI的完全有效操作化很可能滞后其创新十年或更久，就像过去的电力或计算机等技术推广一样。

但时间并非唯一因素。同样关键的是，能否发展出一个足够广泛、涵盖整个社会的评估框架来形成规范。也就是说，需要一个共同的智识、文化和公民框架来跨领域、跨尺度地评估AI。

用我今天的术语来说，规范就是各机构目前忙于在AI合理使用政策中临时拼凑的东西。“领域”指的是不同的社会部门、机构和领域；“尺度”指的是从个体用户和技术到更大生产和社会单元（如组织、行业、社会群体和国家）的层级水平。

目前，我们往往只是在预设的领域和尺度之间跳来跳去地评估AI——比如讨论AI对个体用户、组织、行业和社会群体有多好。

这些领域和尺度之所以是“预设”的，是因为它们与AI之前的社会技术生产和市场单元保持一致。

因此，讨论AI时，我们在预设之间突然跳跃——有点像打乱播放列表。我们假设这些单元及其关系符合现有的生产和消费结构，而没有想象新型的人与技术组合——这些组合正改变它们在一个围绕AI“黑洞”弯曲的总体知识空间中的行为和合奏。

随着AI扭曲知识工作的时空，社会技术行动者和过程将不可避免地杂交、融合或突变。

举个例子，现在看似直观的组合——用户+AI+训练数据集——就像更早工业时代的‘车夫+马+马车’一样过时了。

因此，思考一下不断演进的团队概念：从马队到后工业职场团队，再到今天的AI团队。显然，团队+AI的问题空间正是新人机协作组合正在形成的地方。

当AI成为团队一员时，团队将如何突变？不仅仅是人们在团队中与AI协作，他们自身也在与AI“组队”。目前的最新趋势是多个AI、AI智能体以及并行或串行的子智能体在编排封装平台（如AutoGPT或LangChain）或框架（如BabyAGI）内组队，这些平台允许一两个人类和多个AI组成，模拟整个组织。

随着多智能体AI的扩散，其技术方法和协议将日益重塑使用它们的人类团队的行为乃至心理，并规定人类作为社会存在者的行为方式。

这可能导致Vladimir Menshikov及其合著者运用Niklas Luhmann的社会学理论分析人工智能时所称的“人工社会性”——AI智能体之间在自组织网络中自主运行的通信（autopoietic）。

20世纪80、90年代，我最初研究《酷的法则》一书时，后工业组织的流行词是扁平化、精益化、去中介化、虚拟化和网络化。

如今媒体话语中的流行词全在谈论AI如何将公司改造为具有矩阵、网格、分形和全息结构的“智能体组织”。这些组织由智能体主导的团队、代理工厂以及以AI为先的跨职能小组驱动，并通过大语言模型编织在一起。

因此，炒作也转向AI如何改变组织的基本权威结构。正如麦肯锡所推测的，改变未来组织的核心业务、运营、治理、劳动力、文化、技术和数据模型。

当然，这种商业炒作语言还不是规范。因此，回到我主要的论点：目前关于AI的讨论通常仍集中在由旧领域和旧尺度所定义的社会技术形态和关系上。

试想一下，一些最优秀的大众写作是如何以公共知识分子、回忆录作者或类似的口吻讨论AI的。报纸或杂志中关于AI的文章，是以个体用户对聊天机器人等特定工具的体验为中心——这意味着要概括更广泛的社会整体和技术方法确实困难。

一个我很喜欢的例子是Megan O’Rourke 2025年在《纽约时报》上的评论文章《我教创意写作，这是AI对学生造成的影响》。

在结论部分，O’Rourke反思道：“作为一名诗人，我毕生信奉语言是人类最宝贵的遗产，是没有中介的丰富表达感知的空间……写作对我来说始终既是表达性的也是塑造性的，而且以某种奇怪的方式是愉悦的。我花了数十年写作和编辑。我了解写作给予我的那种艰难取得的清晰感的奖励。但如果你从未锻炼过那些肌肉，当LLM给出一个轻快的老套回复时，你能意识到缺失了什么吗？那些从未体验过向难以捕捉的思想迫近、最终在清晰句法中显露自己的那种回报感的学生，会发生什么？”

她认为这就是紧迫的问题。“对于今天伴随AI成长的一代来说，聊天机器人将不是要去发现的工具，而是操作系统本身的一部分。这种从新奇到规范的转变，正是我们刚刚开始应对的深刻变革。”

O’Rourke珍视个人向难以捉摸的思想挣扎的体验，因此低估了当AI成为每个人一切活动的操作系统时将会到来的规范化，即标准化操作。但这是我对这篇优秀文章的一般性批评。

这样的评价或许可以直接做出，而无需整合跨尺度的视角——这会将“个体化与标准化”的问题从一个非此即彼的难题，转变为一种“自我与规范之间的平衡”，而这一平衡构成了任何社会的基础；同时，这种平衡所依赖的中介与调控过程，则构成了现代社会。当然，关于人工智能的学术研究在语气上不如公共知识分子写作那样个人化，但学术界也同样被领域与尺度之间的僵局所困扰。

我的学术样本包括553篇2024年发表、标题中含有AI的英文期刊文章，我下载并分析了这些文章。样本包括当年Web of Science核心引文索引中227篇高被引文章（我称之为core），以及Web of Science艺术与人文引文索引中326篇标题含有AI的文章（我称之为AHCI）。

我如何利用这些材料来理解AI学术研究如何处理领域和尺度问题？首先，我研究了核心主题的代表性文章。

我对语料库进行了主题建模——例如，对高被引AI文章集进行了优化至22个主题的模型。这个模型以医疗健康、商业、教育、监管、公共政策等主题为主导。然后我阅读了许多与这些主题高度关联的文章。

研究者们关注的是处于组织角色中的个体AI用户——无论是作为员工、消费者、医生、患者、学生等等——他们也将焦点放在AI工具上。其所在组织、机构或学科领域的未来也是一个框架性的关切。

结果是一种在预设领域和尺度之间跳跃的话语，几乎没有概念或修辞手段来协调它们——因为人们简单地假设上下文语境是清晰的，并且不断连接着一切。

我开头的问题“什么才是好知识？”最终揭示了我更一般性的问题：什么是足够广阔、整合的框架，来评估AI及其知识中的好与坏？我不假装对整个社会层面的答案有发言权，但我对这个框架的智识部分有建议——同时承认技术基准、股市表现、媒体氛围等众多其他视角也必须参与进来。一个可能的智识框架是本体论的。

后结构主义哲学、科学技术研究、媒体考古学以及当代人文科学其他领域的方法，都瓦解了人的中心地位。

据我所知，将这种后结构主义本体论最精确地应用于AI的是Mark W. Shealy的“纠缠行动者框架”（2.5版），该框架提出了一个公式来描述“人类注意力、机器输出、治理结构和物质条件的异质性集合”中行动者的分布。

然而，我想提出一个不那么为人熟知、但更适合评估AI这一任务的认识论框架。

我建议使用哲学家所说的“德性认识论”（virtue epistemology），来探索围绕AI的话语中的认知德性与认知价值。“认知德性”指的是当我们称某人为好的认知者时所认可的价值——我们说他们思想开放、公正、勇敢等。

相反，“认知价值”指的是知识本身的思想、理论、形式和实践的价值，如真理、准确性或透明度。

但在现实中，这两者之间的界限很难维持。比如连贯的、严谨的或创造性的这样的术语既描述认知者也描述被认知对象。因此我简化为用“认识论价值”统指两者，只在必要时区分。关于认识论价值，有几项预备性观察会有帮助。

第一，据我所知，不存在完整的认知价值既定清单。相反，哲学文献通常依赖简短、部分的示范性列表。

第二，认知价值在其词形变化上分类混乱。一个词族中的哪个成员蕴含认知价值，是不可预测的。例如形容词“系统性的”（systematic）比“系统”（system）更具认知价值。

最后，尽管不存在完整的认知价值列表，但即便是部分列表也能迅速揭示出价值的结构。

这些价值的表面对立——准确与不准确、严谨与不受控等——邀请我们去寻找中间的“捣蛋鬼”：北美原住民神话中的郊狼和乌鸦，或者在AI的语境中，幻觉——代表着不可判定的价值难题，推动着对智识结构最终意义的分析。

例如，“预测性的”（predictive）这个词就是AI的“捣蛋鬼”。它暧昧地介于“生成性的”（generative，能暗示创造性或丰富性）和它的对立面“可预测的”（predictable）之间。实际上，每当你看到“预测性的”这个词——尤其是接近“随机的”（stochastic）这个词时——你应该听到郊狼在山丘上嚎叫。

进行人类学比较的部分意义在于强调：认识论价值的结构影响着社会、政治和经济结构。

认识论价值是清晰表达的——例如，它们定义了今天知识工作的要求。准确、客观和彻底这些价值，可能就是一个好编辑的职位描述；而创造性、想象力、原创性、雄辩力等价值则适合编剧、艺术家、设计师和其他所谓的创意人员。认识论德性与职业的匹配在持续演变。

社会很快需要决定哪些与好知识工作相关的价值可以从人类转嫁给AI。但实际上，人类与AI的零和游戏可能并不正确。关键的想法是：也许AI正在增加新的价值，混合了人类和机器的特点。因此，考虑一下‘创造力’——这是我的案例研究。

AI已经以某种方式影响着创造性工作——这些方式也许从Margaret Boden的《创造性思维：神话与机制》（Myths and Mechanisms，2004年修订版）中就可以预见。

Boden的著作已成为思考AI与创造力的试金石。她对早期自主机器生成性实例（如Harold Cohen的算法艺术家Aaron）的深入反思，比以往任何时候都更加切题。

Boden识别出三种主要的创造力：

第一种是组合型的——将熟悉的思想进行不熟悉的组合。第二种是探索型的——我们可以将其比作开车去乡下，“假设你开进一条更小的路”。第三种是变革型的——就像“修建一条新路，一种新技术引领新的可能性”。

Boden认为最后一种最有价值。最深刻的创造力案例，她说，“涉及某人思考出某种——相对于他们头脑中的概念空间而言——他们之前无法思考的东西”。

将这个框架推演到当前的AI，可以得出以下结论：生成式AI将吞噬从事组合型创造力的工作。ChatGPT就是顶尖的“将熟悉思想进行不熟悉组合”的制造者。

探索型创造力很可能将是人类与生成式AI的伙伴关系。

最高奖赏可能将归于那些能够以AI尚未触及的方式进行变革型创造的人类——至少在AGI到来之前是这样。如果它真的会来的话。

继续深究我对新的人机混合认识论价值的推测性思考：Boden的三种创造力究竟有多固定？AI是否可能将创造力的光谱延伸到新的变革类型，届时创造力这个词本身都不再适用？

除了将现有认识论价值应用于AI之外，我认为未来一个重要项目将是观察AI与人类协作的新价值术语。目标既包括新鲜的正面评价（少些硅谷和华尔街的炒作），同样重要的是新鲜的负面批判（少些可预测的反乌托邦主义）。在价值账本的积极方面，看看我在语料库中发现的一些创新的认识论新术语。例如，有一篇文章为AI创造了论证式创造力的概念。另一篇文章用精湛技艺（virtuosity）代替“幻觉”。

这些作者说，我们不想要无聊、老套、可预测的AI，我们希望AI偶尔产生幻觉，从而像艺术大师一样成为知识上的艺术家。

这引出了当前AI理论中的一个强烈趋势：重新构想“幻觉”的思想学派，称之为“虚构（confabulation）”或“批判性虚构”。

另一种理论简要引用如下：“与幻觉不同，虚构（confabulation）在人类努力填补知识空白时提供了沟通和认知上的好处。虚构是一种叙事冲动，将手头的信息图式化，形成自洽的故事——即使没有足够的细节也能如此。”

换句话说，当我们对背景和信息不够了解时，最好进行图式化和轻微的虚构。他们的理论灵感来自于非裔美国研究领域——特别是Sadiya Hartman引入的“批判性虚构（critical fabulation）”一词，指的是一种使用推测性叙事来纠正因社会政治不平等造成的历史档案遗漏（omissions）的做法。

这些是人类+AI工作的正面价值新术语的例子。但价值账簿的负方同样有趣，甚至更有趣。AI乌托邦的反面当然是反乌托邦。

反乌托邦也可以超越陈规，在小说或批评中释放出无法抑制的哥特式、讽刺式或悲喜剧式的想象暗面。例如，左边是AI伦理学家书架上关于AI偏见及其他相关罪恶的大量批评文献；右边则是以同质化、单一文化、slop（垃圾内容）等新术语抨击AI的文章。以及——我要为接下来的粗鲁道歉——enshittification（粪坑化）这个词。

后者是Cory Doctorow创造的术语，描述在线平台如何用低质量内容自我降级：先为终端用户提供价值，然后为广告商优先考虑价值，最后尽可能多地倾泻slop或垃圾以提高利润回报股东。Enshittification现在越来越多地被应用于AI，以更新过去“垃圾进垃圾出”的计算隐喻——AI现在被认为是slop和enshittification的巅峰范例和推动者。

我想将AI的同质化、单一文化、slop以及所有这类机器学习“垃圾”视为拉伯雷式的词语呕吐和言语泛滥（Rabelaisian word vomit and logorrhea）的现代版本。

如果你熟悉拉伯雷（Rabelais）的作品，那就是语言在无尽循环中被反刍和重塑，产生出我们今天委婉地称为“词语沙拉”的东西。

来认识一下Gargantua和Pantagruel——16世纪寓言中的巨人们，最初也是真正的大语言模型。当然，这也是我暗喻（allusion）的要点所在：拉伯雷的散文怪物将语言和其内脏（相当于今天的神经网络）处理的一切转化为丰饶、多产和新生命的涌现。

拉伯雷的暗喻暗示了这样一种捣蛋鬼现象：AI的同质化、单一文化、slop和类似垃圾可以从负面认识论价值不可预测地转变为正面价值。

2025年关于‘为什么slop很重要’的论文试图建立一个研究框架来识别这种正面价值——称为slop的“社会功能和审美价值”——作者将其与20世纪文化中涌现的kitsch（媚俗）、camp（夸张滑稽）和pastiche（拼贴）等价值进行比较。

我刚才使用的“涌现”（emergent）一词很可能就是关键。不再需要拉伯雷暗喻，我们应该认识到，slop背后真正丰饶多产的是现代物理学和信息论的终极捣蛋鬼——熵（entropy）。

毕竟，我们目前最有能力的LLM之一——Anthropic的Claude——其名字本身就是对Claude Shannon关于信息即熵的致敬。一方面，AI slop是语言的熵，一种不一定有意义的同质化浆液；但另一方面，熵是以涌现带来惊喜的丰饶性。

可以类比细胞自动机、基于智能体的模型或boids（群体/蜂群算法）。像Conway’s Game of Life这样系统中所有细胞都是同质的、遵循狭窄的规则集，并不排除在更高层次上涌现出丰富、复杂的结构。

总之，我的论点是：我们需要保持敏锐，洞察赋予AI的认识论价值——无论好坏。我们需要接受新价值以及重塑它们的社会技术结构——同时保持谨慎。为了更多人参与探索围绕AI的价值语言演变，我提供我的在线工具包用于探索2024年发表的AI文章，网址是：bit.ly/liu-kit-2025。

该工具包包括我的AI文章语料库的数据——以主题模型、词嵌入模型的形式呈现，以及我正在收集的认识论价值词汇表和该词汇表的词网可视化。

我没时间在这里详细演示如何收集术语、得出结论和解读，只是把这个工具包提供给大家，让你们亲自去探索围绕AI的价值语言是如何快速演变的。

“方塘”二字取自朱熹《观书有感》“半亩方塘一鉴开，天光云影共徘徊。问渠那得清如许？为有源头活水来。”方塘研究院以“坚持探索和传播培育世界一流创新人才，诞生重大原始创新成果的思想前提、文化机理和教育规律”为使命和前进方向，希望通过持续的努力，为学术研究引入更多“源头活水”。

暂无评论