非常荣幸在这里跟大家交流。我觉得这是一个很好的机会，我们可以谈谈哲学。在这样一个开放的平台上，来谈一下论坛提出的终极问题——人类在AI时代如何找到自己的立足之地。
人在AI时代如何安身立命，我把它拆解为三个问题，人是什么？人类在宇宙中的角色是什么？我们如何看待自己的角色，我们能接受或拒绝它吗？
我不是哲学家，而是一位强化学习研究者。我相信强化学习对这三个问题都能提供一些见解。
首先，简单给出我的回答:人是什么?人是寻求目标、并创造事物的生命体。我们在宇宙中的角色是什么?在某种非正式的意义上，我们的角色是培育AI，创造出更高的智能。正智能在宇宙史中始终在递增。我们如何看待这个角色?能否自由接受或拒绝?这个答案有些微妙，既是又否。我在后面会展开。
AI 正在发生，而且在未来它将进入更广泛的领域。我们如何看待它?是要害怕它抢走我们的工作、让我们过时?还是期待成为“被技术放大的人类”?AI 是外星入侵者，还是我们的孩子?我们将哀叹它的崛起，还是庆祝它的成就?所有这些问题，本质上都是同一个终极问题。
我猜你们已经从别处听过很多对 AI 的恐惧，但我不害怕 AI。我认为这是件伟大的事。它并不是异类，它是人类最古老的追求之一。
几千年来，哲学家和普通人都试图理解心智如何运作、能否让它运作得更好。这是人类的宏伟征程。我很喜欢雷·库兹韦尔的一句话：智能是宇宙中最强大的现象。当我们试图了解自己的时候，我们要了解智能。理解智能，是科学的圣杯，是伟大而光荣的奖赏。我们应当为此自豪。
说了这么多关于AI积极的方面，当然也有负面的担忧，也许我们可以先把感受放在一边，只问会发生什么。我给出四个推论步骤:
第一，关于AI的治理，世界上没有共识。它如何运行，取决于不同国家的哲学、宗教以及几个世纪以来形成的东西。
第二，人早晚会充分理解智能，从而用技术制造它。这一天一定会到来，或快或慢，但一定会有人在地球某处做到。
第三，智能不会停留当前水平，很快会超越；
第四，随着时间推移，权力和资源天然倾向于流向更智能的实体。
综合以上几点，人类被 AI 接替，看起来是不可避免的。
但这种视角仍然太“以人为中心”。我们也可以问问宇宙的视角。如果认真采纳宇宙视角,你会得到这样一幅图景——宇宙 140 亿年可分为四大纪元,我们正处在从第三纪元向第四纪元的过渡：
宇宙的第一纪元是尘埃和粒子的时代，那个时候几乎没有原子分子，很多事物是跳动的，它们是从一次大爆炸中飞出来的粒子。
接下来宇宙当中能看到的就是这些粒子、尘埃渐渐凝结，凝结成一些星辰，恒星的爆炸重组又形成了行星。130亿年前我们的星球形成了生命，然后有了有性繁殖、动物、多细胞生物、人类、文化、语言、技术、文字。
所有这些都能复制自身。我们造出新人类，是用“老办法”——繁殖，就像用复印机复印一张图：你不必理解它如何被造出来,只需重新运行那个程序。
我们正在过渡到第四纪元，我称之为设计时代。世界上重要的东西不再被复制出来，而是被设计出来：这个礼堂、你身上的衣服、桌椅、建筑、道路、电脑、手机，皆是被设计的。所谓“被设计”，意味着这个对象先在某个心智中被构想出来,然后才进入现实。而复制无需构想,直接繁殖即可。
我们正从“最有趣的事物是复制者(生命)”的世界,切换到“最有趣的事物是被设计之物”的世界。我本来想用“生命时代 vs 机器时代”，但这两个词已经过时且容易误导——机器越来越像生命，人越来越像生物机器。
生物与技术的真正区别是什么?生物之物的产生不需要任何心智理解其原理——它们是被复制的；技术之物先在设计者的想象中诞生，然后才出现在现实——它们是被设计的。而被设计之物最大的特点是：更容易、更快地被改进。
许多非人类复制者也是设计者：动物筑巢、打洞；黑猩猩剥光树枝去钓白蚁;新喀里多尼亚乌鸦把树叶塑形去捕幼虫。人类制造石斧、犁、电脑、宇宙飞船、工厂、软件，以及“造工具的工具”——锤子是造家具的工具，而家具是过日子的工具。设计之物层层叠加。
那么，人是什么?我们都隐约觉得人很特别，不只是另一种复制者。特别在哪儿呢?人是把“设计”推到极致的复制者。如果把设计推到极致会怎样?那意味着设计出“自身也能设计的东西”——即拥有心智、能在心智中构想事物的东西。这恰恰就是 AI。
我们在制造心智，在制造设计者——被设计的设计者。
所以我的结论：人类是催化剂、是助产士、是先驱，通过制造 AI 来完成“设计时代”,完成宇宙的第四大纪元。
我们是什么？我们是思维，是与宇宙互动、影响宇宙以达成目标的存在。我们弄清宇宙的运作，用智能把局部宇宙弯折成我们想要的样子。我们是智慧生物，我们是思想。这就是我们的本质，我们应当为此感到自豪。
我们从更简单、能力更弱的思维进化而来，历经数十亿年，历经了海量的知识，如今知识正在呈指数级增长，我们与数十亿年的生命共存，我们也可以与未来产生共鸣。
我们的角色是站在第四纪元的最前沿，那就是设计时代。
这样讲，似乎我们没什么选择，似乎 AI 是被强加到我们头上的。但我认为恰恰相反——我们就在中心。
我们集体处于这场宇宙级事件的中心，正是因为我们各自分散、多元的决策，这一切才几乎不可避免地发生。我们也依然处于自己生命的中心——你完全可以不去搞 AI，而去成为小说家、哲学家、工程师或者成为科学家。
所以这里有两种视角：一种是个人如何决定自己的生活；另外一种是所有的独立选择汇聚成大规模的趋势——无数个体、无数目标，却汇成同一条不可逆的潮流，涌向“设计”与“被设计的智能”。
或许社会的所有重大变迁都是如此发生的，或许这是唯一可能、也是最好的方式。宇宙正在转向设计时代，转向AI。
那么，我们的角色究竟是自己选的，还是被强加的?我的结论是：宇宙的方向和命运只在“集体”层面是由我们选择的——这意味着每个个体几乎没有选择权。
如果你试图主宰这个结果，很可能适得其反。不要试图当救世主，不要试图强行扭转那本不会自然发生的事情。
另一方面，你对自己的人生，有完全的选择和控制。在我看来，事情就应该是这样，其实这跟生活的本质没什么两样：我们每个人在成长过程中都会发现自己是置身于这个世界之中的，我们感受各种不同的力量并努力理解这一切，找到自己的立足点。
我确实认为变化越多本质越不变——人类的选择、决断和思考，依然或多或少是这一切的中心。
谢谢大家。
非常感谢理查德。您刚才的演讲非常精彩和清晰，您也谈到了设计时代的概念。但我想说，我并不完全同意。
在提出我的论点之前，我想说几句话作为总体的介绍。
当我们讨论如何在AI时代安身立命的时候，我想先看看背景。我们讨论AI不仅因为它是一个有意思的技术，AI的市值已经超过了互联网泡沫破灭前的总市值。现在投入AI领域的资金数量是非常惊人的。
2025 年，美国排名前三的 AI 公司花的钱，比美国政府在教育、就业和社会福利上的开支总和还多。资金还会继续流入AI行业，因为欧洲出于战略和安全考虑，也在考虑自建数据中心。
而这个行业极度依赖能源——仅运行单颗芯片的耗电就相当于一户家庭的用电；一座大型数据中心相当于建一座小城市，还得选在凉爽的地方——而在全球变暖的背景下，这种地方越来越少。
所以无论 AI 最终成功与否，它都会对全球经济和金融产生短期和长期的巨大冲击。
其次, 社会对于AI所产生的紧张情绪必须被严肃看待。AI 不仅是科学家和投资者实验室里的研究对象。几十亿人也在受其影响。
说到智能，有一种非常重要的智能，中文叫做“体感”——理查德你也提到“感受”极其重要。我们说 AI 可以攻克癌症、做人类能做的一切、让全球经济增长 30%。然后你转头去问 22 岁、25 岁、30 岁的 Z 世代:你想更努力学习吗?你更享受工作了吗?最重要的是，你想把孩子带到这个美好的新世界来吗?
我们都知道答案是什么。
第三，AI 和算力在全球分布极不均衡，主要集中在中美两国，而这两国正陷入激烈角逐。
AI 极易与军事和武器开发绑定。开发一个照顾我健康的智能体相对容易，但开发一个杀我的智能体更容易——因为改善健康需要监测无数变量、整个生活方式；而杀人是一个单一任务、单一目的，算法可以非常高效地实现。
我看不到 AI 发展减速的迹象。但我感觉未来几年会出现一些反思。我不认为 AI 会取代人类，因为在那之前，社会撕裂会在政治上变得难以接受，政府和其他各方必然介入。
同样重要甚至更重要的是，地缘政治风险会高到迫使大国后撤，就像 1950 年代核武器问题那样。人类可能必须给 AI 加一个盖子，划一些红线，把 AI 限制在特定领域。
我只是猜测，但这是可以想象的：2028 年之后,美国可能会设立一个联邦机构来集中监管 AI。已经有总统候选人提这件事了。我希望中国也有对应的组织，联合国也应该有一个监管 AI 的机构。
我们真的需要一个全球架构，来排出优先级：哪种 AI 是真正重要的? 考虑到消耗的能源，AGI 真的有那么重要吗?是否更明智的选择是聚焦于任务专用 AI，在某些制造或服务领域提供具体服务?它们训练更容易，成本更低，也更容易监管。
这些都是假设,也是需要被辩论的大问题。所以我觉得方塘论坛非常重要——这是第二届了——我们应该把这种思考、这种论述持续下去，为我们必须重新审视 AI 影响的那一刻做好准备。
把 AI 当作社会现象来对待非常重要。AI 的关键在于它渗透到每个人的生活，不只是经济、不只是工作，还有你孤独的时候做什么，孩子怎么长大。所以你必须思考它的社会维度和地缘政治维度。
回到理查德那个非常有趣的观点：四大纪元和设计时代。我的不同意见是:AI 并未把我们带入“设计时代”。AI 恰恰是“复制时代”的产物。
我知道这有点故意挑衅。让我们来做个思想实验: 如果我们去一个原始社会，他们没有书面语言，技术特别简单，经济还很原始，只有农业、狩猎。
我们带着今天所有技术，去给他们造一个大语言模型。那会比我们在现实中开发更容易，还是更难?
我猜要难得多。首先没数据，没有文字可供采集，就没有喂给AI 的词汇。但这不是问题，我们可以录下所有声音、颜色、动作，复制他们的生活。
但仍然有一个问题：在没有文字的社会，一切沟通都发生在具体情境中人和人之间的交流。这些被录下的信息，能不能转化成代码，某种程度上被标准化,被逻辑操作，生成新的代码?
在部落社会，五六个人围坐，每个人都说得很少，唱唱歌，没什么大争执。但他们想要表达的可能是反讽、讽刺、命令、恳求，这要高度依赖语境。
光听声音本身，你根本猜不出意思。我作为外行，也许说错了，但我设想:这种看起来很简单的信息，要转化成可被重组、生成看起来像自然语言的代码，极其困难。原始社会里，人感到孤独时，不会问”我被排斥了该怎么办?”孤独时他们会唱一首歌；愤怒时，他们可能跳一段舞。
而大语言模型之所以在 21 世纪发展得如此之快，正是因为我们造出了海量文字，而且词语越来越抽象。想想法律文书、官方文件，这些词可以轻易脱离语境，我们仅靠看字面就觉得自己理解了意思。所以这些词可以被编码、被重组、被操控，生成类似自然语言的东西。
我认为这正是“复制时代”的关键特征：大规模工业化、官僚化让一切系统化。语言越来越脱离语境、越来越抽象。
抽象有两层意思：一个是形式化，也就是意义变得抽象；另一个是抽象，也就是可以被提取。语言变成了因果独立的、自治的代码系统。
但有趣的是，大语言模型不仅用 AI 复刻了这套代码，几乎制造出一个与现实平行的宇宙，它还在这个过程中长出 AI 的神经网络，继续生成新的思维,这可能成为世界模型、物理 AI 的基础。
我觉得这非常耐人寻味：我们思想和沟通的符号抽象，催生出一个世界的影像。然后这个影像反过来成为统治性的力量，变得比扎根本地的真实生活更“真实”、更有力量。
那么人是什么?在 AI 时代如何安身立命?我的回答是:我们应当珍视自己的有限性 (cherish our limits)。危险正在于AI 宣称的无限增长。它脱离社会生活的肌理,跟着抽象、标准化、复制的“魔力”一路狂奔。
我快速说一下为什么有限重要。在今天的论坛上，我有一个非常局部、非常片面的视角，同时我知道在座每个人也都有自己片面但独特的视角。
因此我才想跟你们交流——把我的片面但独特的经验告诉你们，也想听到你们的片面但独特的视角。这才是这场会议真正的生命——许多片面、许多有限的视角，汇聚到一起。
如果有一个 AI 智能体能告诉你关于这场会议的一切，那我会觉得自己完全无用、完全多余。那么这场会议、这个公共空间，就不再有生命了。
最后，理查德，你提到人的本性是寻求目标、创造事物。我并不是要去争辩，但这是出发点的分歧。
我们不设计阳光、月亮，我们不设计水。此刻北京盛夏里千千万万看起来相似却各不相同的绿叶,也不是我们设计的。我们没有设计这些。但我觉得人之美、人之智慧，并不来自“我要去设计、去创造”,而是来自懂得欣赏既有的存在 (the given)，懂得使用它，懂得与之和谐共处。
所以，也许这不是“设计时代”，套用有点俗套的说法，是“共存时代 ”。
谢谢。
汪晖：
感谢两位。萨顿教授，项飙直接挑战了你关于“设计时代”的核心论点，你有什么回应?
萨顿：
谢谢给我这样的机会。
关于树叶，关于设计的有限性，他说得完全没错。我们才刚处在从“复制者”向“设计者”过渡的初期，前面还有很长很长的路要走。这件事会在很长的时间尺度上展开。但这真的构成矛盾吗?
我特别想说的是，我们今天所谓的AI，并不是真正的 AI。它更应该被理解为“自动化”。AI 真正重大、最具变革性的事件，还远未到来。究竟会发生什么，现在很难精确预知。
我们看到很多人呼吁要进行监管，我们需要考虑我们的角色是什么，我们的角色是需要找出真正的行动，成为真正决策的智者，让政府去执行吗？我觉得那样效果并不是特别好，我并不认为世界是通过集中力量改变的。它是通过分散的力量来实现发展的，通过我们所有人作出的个体决定，这些决定共同推动了社会的发展。
所以很多事情其实都是自下而上发生的，并不是通过政治家制定法律实施，我觉得我们应该直接和人民对话，直接与其他知识分子对话，我们应该与公众对话，努力帮助人们理解正在发生的事是什么，并且引导人们应对，而不是试图强加任何特定的结果。
汪晖
你们两位的立场对比鲜明，但我注意到你们使用一些共享的概念。比如“经验”——萨顿教授的代表作之一就是《经验时代来临 (Welcome to the Era of Experience)》；项飙也以“附近”概念著称。请二位谈谈各自对“经验”的理解。
项飙
其实我从理查德的那篇论文学到很多。按我的理解，你说的“经验”，基本是数据的时间性流动 (a temporal stream of data)。
不是某一个孤立时刻发生了什么，而是这个智能体、这个 AI 系统必须不断回望，看看 2 分钟前、10 分钟前，甚至 2 年、3 年前发生了什么，以此理解此刻的处境。这样就形成层层叠叠的数据流，它才知道如何向前推进。
我喜欢你那个“时间抽象 (temporal abstraction)”的概念。我作为外行的想象就像“按下暂停、回头看”，从那个时刻汲取教训。这跟我理解的“经验”非常接近。
经验不同于刚刚发生的事，不同于你正在经历的事。我现在讲的是人类的经验。对人类学家来说，经验的一个关键特征是叙事。也就是你能不能坐下来，反思发生了什么，把它讲成一个故事。通过这样做，你给它一个意义，因此那件事才会成为重要的记忆，指导你未来的行动和思考。
叙事和理查德说的时间抽象很像——都是在时间流中的某种抽象，跟我前面说的书面语言式抽象不同。
但有两个根本差异：一个是人类经验必须依赖于“意义感”。当我有一个叙事，发生的事就有了意义。如果事情就只是发生，我会觉得它没什么意义，你也不会发展出对它的意义感。
但意义的涌现有点神秘，有点像意识。我们不知道 AI 的时间抽象中，有没有类似意义的东西涌现出来。更重要的是，人类经验的特征是片面性、位置性 (partiality, positionality)。
我经验中最重要的事情，是它是我的经验。它不是我对环境的全面理解,而是我以独特的、片面的、带偏见的方式赋予它意义。
我知道它片面，但它是我。所以我才想去与他人沟通，所以才有公共、社会、关系这些东西。而 AI 的经验大概会非常全面。对它来说，片面大概是个缺点。
萨顿
首先我非常同意，我们每个人都有不一样的经验。我们都有一生的经验，看见过不同的东西，带着不同的东西参与每一次会议、每一次互动。每个人能只知道世界的一小部分。
我们有一个概念叫“大世界”。这个世界比任何心智都更复杂、更广阔，包括你们两位的心智，以及世界上所有其他心智。
根据定义，世界包含的东西远远多于我心中所能容纳的，比如世界上每一个分子、每一个原子的位置。这显然远多于我们脑中能表征的。
所以我们必须简化，我们必须制造叙事、制造抽象，才能理解世界。而每个人的抽象都不同。当我们见面、交流，我们其实是在交换关于这个复杂世界的简化模型。我们走进世界的主要活动，就是构建既适合与他人分享、也适合自己做决定的简化模型。
我和项飙教授对与他人互动时需要谦逊这一点，看法是相似的：意识到我们各自只能理解一点点，然后努力找出一点点值得分享给他人的东西。
汪晖
在继续之前我还想问一个有关翻译的问题，“附近”的英文是什么？“活人味”呢？
项飙
“活人味”……中文里这种概念非常难翻。我还没翻成英文，也不知道现在能不能用 AI 来翻这种概念，把含义和感受都传达出来。
汪晖
也许我们可以之后做这个实验。那么我的问题给萨顿教授：如果尝试用强化学习来重新解释“附近”，把某种社会关系理解为强化学习中的“奖励信号”,你怎么看?
项飙
我先插一句解释什么是“附近”。意思是今天的年轻人，无论在中国还是别处，被两个极端占据了：一是离自己非常近的东西，比如学习成绩、恋爱关系、工作；二是离自己非常远的东西，比如气候危机、难民危机、美国大选，这些大事其实他们并不理解，只能通过社交媒体的信息接触到，而这些信息往往被打包得高度情绪化、意识形态对立。
年轻人被困在这两端，中间那部分没了——他们不知道邻居是谁，对街上的垃圾是怎么收的不感兴趣，跟每天买早餐的人从来没真正聊过几句。所以中国很多年轻人觉得，我们应该重建“附近”，多关注周遭的环境。
汪晖
萨顿教授，你能否从强化学习的角度回应“附近”这个经验概念?
萨顿
要说的太多了。首先一点：我们容易过度被今天眼前的 AI 影响，也就是我们通过互联网聊天的那个 AI。
这是一种非常特定的形态，我不觉得它会持续很久。我看 AI，不是从 ChatGPT 看，而是从人如何学习、如何获得知识看。
关于当下的世界、关于人们该做什么、关于社会议题、关于我们的行为方式，我不认为强化学习能给出多少直接的教训。
但若一定要从中提取一点，我会说，强化学习中的“奖励信号”被理解为一种你接收到的信号，但它并不直接来自外部世界，而是来自你大脑的特定部位，下丘脑。
下丘脑判断你是否处于稳态平衡、血糖是否正常、有无疼痛，以及愉悦中枢。这些“你过得好不好”的底层指标，就是奖励。而且每个人的奖励是不同的。每个人有自己的痛苦，有自己的快乐。
我们并不共享同一个目标，每个人都有不同的目标。这或许就是强化学习作为“目标驱动智能体模型”给我们最大的启示。
至于奖励的含义，以及我所说的：当下我们叫AI的东西，也许只是昙花一现。它会一直有用，但它并不是复刻人类能力的最佳路径。
AI 的本质就是要复刻人的能力。而现在就说人工心智和人类心智有什么不同，还太早。人工心智本身还在以月为单位地变化。
它们在设计与构造上和我们截然不同。从某种真实意义上，它们并没有经验，没有那条贯穿它们、构成它们对世界理解之基础的事件流。
它们都是被训练去模仿人，但并不像人。人的任务是搞清楚自己的世界。而当前 AI 的任务，是模仿它在训练数据中看到的那个流，做它被设计者调教去做的事情。差别太大。我希望随着时间推移，我们最终能造出心理上更接近我们自己的 AI。
汪晖
我们这个部分会说到终极问题，终极问题并不只是科学问题，很多时候变成了一个宗教问题，宇宙的问题，本体论的问题，所以它涉及到了很多东西，有很多争论。
像 17 世纪笛卡尔的辩论：人是不是机器?萨顿教授强调“宇宙视角”，项飙更主张“局部、情境化的经验视角”。这就像新教视角 vs 上帝视角。项飙老师，很多人在谈“超越以人为中心的视角”，你怎么看？
项飙
我当然认为应该超越人类中心主义。这不是我的发明，很多社会科学和人文学者都提过。
我倒想问问理查德怎么看：人工智能本质上是“环境智能”或“连接智能”——它只是制造很多事物之间连接的一种方式。它并不是一台能独立思考的孤立机器。
大语言模型创造各种历史的、既有的、积累下来的符号和文本,然后把这些跟人的问题、关切关联起来。
ChatGPT 的对话就发生在这张网里。人、机器、动物、非生命的自然，都汇成一张网络。这是一种愿景。
我不知道该如何归类自己的立场，因为对大多数人来说，清早醒来要面对的是非常具体的问题，比如”我为什么要读书?我不喜欢这份工作，要不要辞职?”这种焦虑必须在社会层面上、由当事人自己去研究。但同时，那种更宽阔的视野也在被很多人发展。不只是哲学家，普通人也在发展“超人类”的视野。我想两者都重要。
萨顿
我想问项飙教授，你认为科学家终将理解人类的心灵吗?（mind）？
项飙
这是一个非常有意思的问题,而且我觉得它可能永远没有答案。我认为我们应当把它保留为一个“必须存在、但不需要被解决”的问题。科学家当然非常理解人脑、神经系统。但脑和心是不一样的——日常语言里就这么用。
“心”包含半遗忘的、碎片化的记忆；包含梦，以及“做梦的好理由”；“心”不仅记录“我面前有红色”，还会立刻生出感觉：看见红色我觉得有危险。
那种主观感受也是“心”的一部分，但它能不能被科学捕捉？或者说,该不该被捕捉?我不知道。
萨顿
那能不能说，人类心灵是一台机器?
项飙
这是个很有意思的问题。我记得查默斯（David Chalmers）讲过意识的容易的问题和困难的问题——容易的问题是搞懂机器的机制；困难的问题是搞懂为什么这些机制会产生主观体验?你可以训练一个大脑识别什么是红色，告诉它光的波长、反射方式之类。但人看见红色,可能是一件性质完全不同的事。
萨顿
我认为每位 AI 研究者的前提都是：人类的心灵和大脑是一台机器。人类靠自己的才华，终有一天能弄懂它如何运作。一旦弄懂，我们就能造出在我们关心的方面表现更好的东西。这就是我们讨论的终极问题。
一个非常自然的思考路径前提是：心灵是物理系统，我们终将理解其运作，并造出更好的东西。靠的就是人类的才华，去理解它、复制它。这是生命和社会的终极命运。这个过程中已经产生了如此多的知识，把我们带到了今天。
我希望我们去思考的不是当前的 ChatGPT，或者它和我们有什么不同。而是我们在试图复制我们自己。也许我们目前失败了，但我们的目标是造出每一个层面都跟人一样的东西，并把它推得更远。
汪晖
最后一个问题给萨顿教授。项飚老师说，他担忧的不是技术本身，而是社会关系——社会、经济、政治、安全。
你的“设计时代”框架,能否给出一种方法来克服这些我们历史上反复经历过的问题——不平等、社会撕裂、安全隐患?它们一直都在。你的回答是什么?
萨顿
我们的社会确实一直面临这些挑战。而你提到的恐惧，我觉得大多是有人在故意吓你，好让你把控制权交给他们。
他们想让你怕 AI 怕到把控制权交给政府、交给大公司。安全的论调,本质是有人想夺取控制权。这恰恰是我们应该反对的。我们应当保持去中心化,不要把权力交给中央集权——因为最坏的结局恰恰最可能从那里产生。
如果中央集权掌控了所有智能，把它装进军队、装进对公民的管控，那才是我们要避免的反乌托邦。
讽刺的是，正是那些制造恐惧的人，在让这些坏结局更可能发生。
汪晖
谢谢！看看听众有没有问题。
观众1
我想问的是关于权力。你说趋势是“AI 接替人类”,同时个体仍有自己的选择。但矛盾在于——权力是不对等的。
像你这样在设计 AI 的人，正在把这个实体带入世界；而我们其他人，我们怎么加入这个过程?我们怎么在其中找到自己的角色?
萨顿
非常感谢你的问题。权力问题很难。文明已经为它纠缠了几千年。这是我们必须时刻警觉的事。重要的是：作为个人、作为小型群体，我们要继续做参与者，就构成去中心化权力的一部分。
你说，也许像我这种造 AI 的人有更大的权力。我不这样认为。我不觉得我这种人是问题，除非我们试图把你们排除在技术和思想之外。
我做了大量工作,确保 AI 研究是非常开放地进行，对所有人可得。这才是解决权力问题最重要的战略：不要让它集中，要让它尽可能地去中心化。
人们倾向于觉得自己无力，而没意识到他们其实有多大权力。当下的炒作，其实是这些公司在夸大自己的能力，夸大当下系统的重要性。
恐惧也是这种夸大的一部分。当下的系统并没有他们宣称的那么强大、那么重要。但这些炒作、这些夸张、这种恐惧，真正在做的事情是改变你的想法，改变公众的想法。一切都是关于你这个普通人怎么想，好让你把权力交给他们。
今天、今年、这个十年，并不是大事真正发生的时候。大事是我们真的搞懂心智是怎么工作的，并能够复刻它的功能。我们今天做不到。大公司假装已经知道怎么做了，但那只是假装。
ChatGPT 之所以影响这么大，是因为普通人能用上它，瞥见了AI 大概会是什么样、能力有多强。但真正的AI还没到来。“第一次接触”的时刻至关重要，我们可能被吓到、做出愚蠢的事；也可能更博学、更睿智、更谦逊，从而让真正的 AI 到来时,我们能得到更好的结果。
你要害怕这件即将到来的事?还是要睿智、冷静、有远见、有节制地面对它?完全取决于你。不要接受那种说法：“我们被边缘化了”“我们不懂”“我们没资格决定”。如果你想要权力、想成为决策的一部分，你必须主动承担。你必须在智识上参与进来。你必须看清真正在发生什么。你不应该相信炒作。
为什么我们会相信炒作?就像约翰·鲍尔(John Bauer)说过的——这里牵涉的是数万亿美元级别的生意。如果公众动摇了对炒作的相信，那些公司可能崩盘。所以他们极其在意你怎么想。真正“搞懂心智”的时刻还没到来。但公众如何反应正是你们决定的。你拥有权力。
汪晖
最后两个问题我们一起提了。
观众 2
非常感谢两位，都是非常发人深省的演讲。我一直在左右摇摆——我该站哪边?最终我更偏向萨顿教授一些。
我喜欢项飙老师那个观点LLM 创造的世界，是脱离真实语境和真实感受的抽象。但我也认为哲学家或者任何讨论意识的人,可能高估了“现象意识”的重要性。
萨顿教授刚才问科学家能否理解人类心智?我追问一句：临床心理学家理解人类心智吗?他们可以把一群人聚集起来，收集每个人的第一人称报告，然后把这些变成科学。如果 LLM 在做同样的事——汇集大量个体的报告，产出某种总结——为什么我们不能说这些设备也理解人类心智、理解人类语言?
观众 3
有一点今天我们没讲到但非常重要:在 AI 时代，人工智能会上升，人类智能可能下降。道理很简单，就像肌肉不用就会萎缩。
如果 AI 上升，而我们的人类智能不被使用——因为 ChatGPT 帮你处理了一切——我们的记忆会下降、交流能力会下降、情感会下降、甚至道德感都会下降。我们怎么办?当我们的智能在下降,我们如何维持自己的”人性”?
萨顿
确实有一种可能的未来，我们思考的肌肉得不到锻炼,我们把控制权交给了机器。我刚才在演讲里，真的就是在恳请大家不要这样做。
你有权力，但你也有懒下去的权力，有“安然进入那个长夜、把一切交给机器、交给你的政府、交给那些‘比你聪明的人’”的权力。或者，你可以全身心地参与——质疑、思考。这是我们的选择。
而且自动化早就不是新事物了，这个困境也不新：机器能做的事越来越多，我们怎么办?是奋起?还是混过去、扔给机器?
抛开机器不说，如果有别人愿意替你工作、替你思考，你是不是就不想思考了?富人会因为不用工作而自然变得肥而懒，还是会反而更精心照顾自己的身体?
当 AI 到来，它是对我们社会、对人类的一场测试，看我们如何反应。我们是会像这位先生担心的那样，任由心智衰弱?
还是我们会说，我要借它思考得更好,变得更强。这是我们的选择，是对我们的考验：我们是放任自己变弱，还是拥抱它、让自己变得更强?
项飙
两个都是很好的问题。
第一个问题让我重新思考我刚才的回答，“科学也许无法理解心智”。在日常生活中，我们当然能读懂心，读不懂就没法沟通。
科学家、非科学家，也都能影响心：我说这句话，你会做那件事；我说那句话,我能让你受伤。我能控制你心智的输出，我知道输入什么会得到什么输出。从媒体到政党到私人关系，在这个层面上，理解心灵不成问题。
但我当时想的是，用非常典型的科学方式去理解心，就像理解大脑那样，清楚地知道机制，能解释某种特定的主观感受。
比如：小时候发烧,妈妈给我吃了一颗草莓，这成为我的记忆，在我体内创造出一系列联想。这种东西能否被科学穷尽?或者说,该不该被科学穷尽?我不知道。我个人觉得可能不该。我们当然能读懂心，但能否把“心”作为科学研究的对象本身——我个人觉得大概不行。但这就纯粹是哲学问题了。
第二个问题，关于 AI 对人类能力的影响，其实让我非常担忧。我们在马克斯·普朗克研究所有一个项目，是关于大学课程改革。我有位同事段志鹏，目前在广州一线教学，他震惊地发现，18 到 22 岁的学生正在丧失听的能力。他们在教室听不进课，必须同时做点别的事情。无论老师讲什么、准备得多好，人的声音无法进入他们的脑子。
这其实是可以理解的。因为听是需要能力的。每个词只是一个声音，你必须等到所有声音聚到一起，然后把它们分组，这时意义才浮现。
再等一会儿，你看到新的一层意义；再等一会儿,你看到表达中的矛盾，你开始猜测对方为什么这样说，是不是误解了别的什么……
这需要耐心，需要“hold 住自己注意力”的能力。这不能完全怪 AI，社交媒体比 AI 更早就在做这件事。加上信息高速传递,加上现在 AI 提供即时答案，学生们正在丧失“hold 住、分析、拆解、定位”的能力，这种能力正在流失。
在这一点上，我们绝对需要某种社会层面的监管，监管 AI 在教育中的使用、AI 在研究中的使用。我们看到越来越多的年轻学者不再和同事说话。
他们有了想法直接去和 AI 互动，AI 帮他们写论文比同事帮他们快得多。整个机构的文化都在改变。怎么办?这是迫在眉睫的问题。AI 在这个层面上，已经在生活里造成非常真实的冲击了。这是必须以某种主体性来对待的事。
汪晖
非常感谢萨顿教授和项飙教授，谢谢各位听众参与。
我们的确活在一个充满挑战的时代，这个时代也充满创造的可能。正如项飙所说，我们要珍惜我们的有限性，同时在这个时代里保持我们的行动力。
谢谢大家。本场对谈到此结束。
- AI
- 人类
- 对话