这是赵鼎新在方塘论坛的专题讨论“奇点前夜：人类如何安身立命”上的发言，他在发言中首先详述了“结构机制模型”和人类独有的“智人性”特征——串联性、特殊性、末端重、正反馈性和社会权力的高度不均匀分布。在此基础上，赵鼎新老师试图找到AI时代的人类“自救”之路，也就是他命名为“可实现的乌托邦”的中小规模社区设定。虽然他也承认这个构想很难完全实现的，但是将其作为目标去靠近，仍然不失为在不压制人性条件下，人类自救的可能途径。
以下是他发言的内容：
AI伦理与人类社会伦理的整体性改造
在当前讨论AI伦理有必要，也非常重要。但是如果我们能站在将来往回看，我敢保证各路专家在目前提出的想法肯定都是非常不成熟的。我讲这话的背后有三个方面的考虑。
首先是AI技术的发展目前仍然处在非常初级的阶段。AI可能永远不会像人一样的进行思考。这是因为人类（智人，Homo sapiens）在了解自己思考方式的认知科学领域近50年来并没有产生任何根本性的突破，所以无法进行此类设计。但是AI到底能给人类生存方式带来多大的机会和冲击对于处在当下的我们来说最多也只能做些外推性的猜想而已。
第二，与以往人类发明的其它技术有所不同，AI技术给人类社会带来的机会和冲击都是全方位的——从个人心理和情感、生活方式、家庭和人际关系、信息和传播、艺术和审美、宗教、劳动就业和生产关系、社会福利、科学和医学、战争、社会组织形态、与AI相关的关键行动者的资源和权力的提升、国家的形态、管理方式乃至国家社会关系等方面，可以说是无所不包。而这个冲击也会因为不同国家和地区各方面情况的不同而有巨大的差别。这就是说，AI技术在不同领域和不同社会下的发展会造成性质高度不同、问题不断变化、并且是全方位的社会伦理问题。在这种情况下，泛泛的在传统哲学层面的伦理讨论只会把一个极其复杂的问题给简单化了。可以这么说，AI技术给我们带来的难题绝对不是传统意义上的哲学思考所能应对的。
第三，如果说传统哲学层面的伦理讨论提供不了出路，技术层面的解决方案则只会停留在浅层。虽然给AI技术加上伦理（让它不做坏事）非常有必要，但它解决不了根本性的问题。这是因为具体的个人仍然可以用AI平台来做各种“坏事”；AI技术在做各种“好事”的同时会产生大量的社会层面的非企及后果；过度重视AI技术社会伦理的国家在AI时代的国际竞争中就会败给那些更愿意给AI技术发展让路的国家；而一旦AI技术大规模用于战争，更有效的打败“敌人”就会成为最大伦理，此时AI伦理势必就会让位于战争效率伦理（原子弹就是这么发展起来的）。所有这些都不是技术层面的AI伦理所能解决的问题。
可以这么说，自从获得了理性思考能力后，人类在获得越来越大的征服自然和主宰他者的能力的同时也不断在为自己挖越来越多和越来越大的坑，而AI技术的飞速发展则是人类把自己逼推到了一个满地都是机会，前后左右上下都是深渊的关键时刻。这就逼迫我们跳出纯粹的AI伦理思考，而是把AI伦理与人类社会伦理的整体性改造联系在一起。
我自幼就喜欢思考人类所面临各种问题的乌托邦解决方案。转行社会学后这习惯有了进一步的发展。但是直到近年才对智人的特性和生存条件有了一个较为系统的理解。我个人认为，AI技术给人类社会带来的在伦理和其它方面的问题其实只是工业资本主义社会下技术飞速发展所产生的各种问题的一环。不同的是，以往的技术所带来的往往都是区域性的伦理问题。比如，某类化工原料带来的是某类环境问题，大规模杀伤武器带来的是战争伦理问题。这就给了人类一个寻求区域性解决方案的信心。但是AI技术所带来的诱惑和问题都具有全面性。它会像决堤的洪水一样蔓延开来，渗透到社会的各个角落，将会全方位的给人类提供机会，全方位的重组世界，从而也全方位的给我们带来问题。
可以说，AI技术的产生和飞速发展其实已经把人类逼到了一个“机会之地”性质的“绝境”。如果我们想在获得AI技术带来的好处的同时也能缓解它所带来的各种问题，同时也想缓解环境危机和大规模杀伤武器等等方面的问题，我们必须跳出传统哲学层面的伦理思考，而从更具体、同时也更具根本性的视角来考察智人的性质，智人与自然的关系，以及智人作为一个生物物种在地球上长期延续下去的可能性。我把这一视角称之为“智人性”本体论视角，简称之为“智人性”视角。以下我简要阐述这个视角的由来，要义和启迪。
结构机制模型
我在写《什么是社会学》这本小册子的时候提出了社会学的核心在于结构机制解释。但是结构和机制之间是什么关系？比如，到底是结构决定机制还是机制决定结构？对于这个问题我在那本小册子中并没有给出明确回答。此后我进行了进一步思考，得出了以下的结构机制关系模型：
… … —> 结构衍生机制 —> 机制衍生结构 —>
结构衍生机制 —> 机制衍生结构 —> … …
在这模型中，结构提供了某种机制性动力学产生的原因，而机制所产生的动力则造就了新的结构，两者构成一个相互生成链。但是我对这互生链的起始和结束点在什么地方尚不清楚，暂且只能用省略号表示。而我对两头的省略号代表的是什么逐渐有了清晰想法则是源于以下的紧张。
我的紧张来自我全职回国后的各种切肤之感，并且由此产生的对中国发展的担心。简单讲就是，各种一看就不现实的规章制度、激励机制、口号目标、以及相应的指标和考核方法近年来在国内越来越多。面对这些管理方法，被管理方创造出无穷无尽的应对之法，管理方反过来搞出越来越繁琐的规章制度、激励机制和考核方法加强对被管理方的控制，而被管理方则创造出更多的应对之道。于是就形成了制度越多，漏洞越大；制度越多，大家对制度就越没有尊重的困局。
从因果逻辑角度来说，管理方的这种做法和管理对象的各种应对造成了各种专门性因果机制（ad-hoc mechanisms) 在社会生活中的重要性大大增强，以至于处于管理方和被管理方的人都活得很累，但管理效果却很差。但是，我回国后所观察到的多得难以计数的专门性因果关系既不存在于无机的物理世界，也不存在于有机的生物世界，而仅仅存在于当下的社会活动中。换句话说，这些过重存在的高度专门性的因果关系都处于我的结构机制互生关系模型中的最末梢，即最右边省略号之处。我因此把回国后发现的这一现象称之为“末梢重”（tail heavy）。
由于以上所说的末梢性的专门因果关系都形成于人类产生之后，即地球发展历程中的最后一瞬间，我由此就想到了我所提出的理论模型可能还揭示了地球上结构机制互生关系的一种带有“历史”性的发展进程。这就促使我开始考虑如下问题：如果结构机制关系的发展终结在各种末梢性专门机制的大量出现，那么这个模型的起始点又在什么地方。就这样在一路追问下，我走到了地球形成之初的一刻，于是就提出了以下的地球形成后结构机制关系发展模型：
从AI伦理和人类命运的角度来看，该模型有三个要点：
第一，地球自形成后经历了大约有5亿年左右的“无机物结构时期”。在这个时期，各种物理学和无机化学机制提供了地球上结构机制关系发展的动力学。
第二，从最早的原始生物的产生到智人的产生，地球上经历了长达大约40亿年的生物演化历程。在这漫长历程中，自带智力的负反馈机制（negative feedback mechanisms）不断涌现。之所以称之为是负反馈是因为此类机制能根据环境的信息反馈进行带有自稳定性的调节（比如跑步出汗降温，寒冷发抖升温）。在这个漫长的时期，虽然各种物理学和无机化学机制仍然起着基础性的关键作用，但是带有“智力”的负反馈机制不但以指数级的增长方式在地球上大量涌现，并且在地球上的结构机制互生关系的发展进程中起到越来越关键的作用。
第三，智人作为一个新物种（或者说自然界中的一个新的“结构”）的出现至今为止不过二十多万年。智人仍然受到物理和化学机制的制约，仍然受到任何生物学层面的机制的制约（比如人类和其它动物一样都会老化，都会受到各种疾病和传染病的侵害），也仍然会像其它动物一样针对有限资源展开残酷竞争。但是在这异常短暂的地质时刻，地球上的结构机制关系却涌现出5类崭新的、对地球乃至人类自己的命运影响越来越大的发展：串联性、特殊性、末端重、正反馈性和社会权力的高度不均匀分布。如果说串联性、特殊性、末端重和正反馈性都属于人的本性的范畴，那么社会权力的高度不均匀分布则属于在人的本性基础之上产生出的现实后果。
人类独有的“智人性”特征
我把以上5个只有人类才有的特征统称为“智人性”，强调当前人类面临的所有难题其实都与智人性有着密切的关系，或者说任何关于社会伦理的总体性思考都必须从智人性出发。以下是我对智人性概念内涵的简要总结：
（1）串联性（looping）：自从有了语言和思考能力后，人类论证自我存在和行动意义的能力不断膨胀。这一不断膨胀的能力导致了地球上的结构和机制关系出现了串联：无论人类的某种想象是否靠谱，只要有人相信了这种想象，其所产生的机制性力量就会导致极其真实的结构性后果。需要强调，对于今天所讨论的议题来说，人类所生产出来的各种想象是否靠谱并不重要。其实，自世界宗教和哲学产生后，人类所创造出来的任何想象都难以逃脱自大（hubris），特别是男性的狂妄和自大。对于今天讨论的议题十分重要的是，人类的串联性具有两面都有放大作用的正反馈效应：它既给了人类越来越强大的征服和改造自然的能力和信心，也加剧了诸如自大、狂妄、歧视、迷信、盲从、误导、欺骗、自我预期实现、聪明反被聪明误等串联现象所伴随的负面后果。
（2）特殊性（ad-hocness）：智人区别于其它生物的另一个特性就是个体化的特殊机制（ad-hoc mechanisms）的大量涌现，并且在个人和社会生活中起到越来越重要的作用。特殊机制在智人出现之前就不断涌现。比如，昆虫至少有一百多万个物种，但有些昆虫物种之间的差异非常细微。比如，两个蝴蝶物种A与B之间的唯一重要的表形差异可能就在于物种A的口器比物种B的要长一点（结构的不同）。这就使得物种A能采到物种B采不到的花蜜（机制的不同）。但是，即使是如此高度特殊的机制，它在物种A的内部却有非常大的普遍性，或者说该物种的每一个正常个体都会有差不多长度的口器，都能采到物种B所采不到的花蜜。昆虫绝对不会干以下这类人类极其善长的事情：趁你的口器正插在花中采蜜难以拔出之时，拿出剪子把你的口器剪断！
通过以上例子我想强调：特殊机制在生物世界中是某个物种对于环境的集体性适应，而在人类社会中则越来越表现为某个个体或者组织在特殊环境下所采取的特殊性应对策略。正因为人类的每个个体和组织都能每时每地大量生产各种特殊性机制，这就给了人类社会另外一个涌现性结构机制关系：末端重。
（3）末端重末端重在这儿有两层含义。它首先指的是人类社会中的每个体和组织每时每刻都在生产着难以计数的特殊性的结构和机制，并且这些特殊的结构和机制以及所产生的后果都主要集中在地球上结构机制互生关系发展的最后一刻（末梢）。但是它还有更深一层的含义，这就是我们在今天中国经常能看到的一类现象：末梢性机制主宰了社会中个体和组织的行为方式、由此促发了各式各样的形式替代实质、结构失去功能、个人目标替代组织目标现象的频频发生。比如，就在我们今天讨论AI伦理的同时，大量的AI公司正在为AI技术的进一步突破做出各种努力，有公司可能就在今天在某个技术上取得了重大突破，正有军队在AI武器发展方面取得重大进展，正有国家出台了一个促进AI技术发展的政策，正有大量的人在利用AI进行着各种写作、设计、创作和活动……他们的行动会创造出大量的、影响要比今天的会议大得多的末端性的结构和机制。更有之，也会是在今天，大量的人正在用AI技术进行着各种形式的欺诈活动、正有人在游说某个国家的有关部门出台对他或者他的公司有利的AI政策、正有人在提出能加强本部门利益的AI发展方向和AI伦理……可以想象，随着AI技术的发展，各种相关的末端活动只会增多，末梢也只会越来越重、而末端活动所能产生的后果也往往会加大。
（4）正反馈性：在长达40亿年的生物发展阶段，主宰着生物行为的是“物竞天择，适者生存”这一达尔文负反馈机制。但自智人出现后，各种目标导向，旨在获得更大的权力、更高的生产效率、更大的利润、更有效的武器等等不带自稳定性（拉马克式）的正反馈机制不但越来越占据主导，并且以不断加速的方式对人类社会方方面面的“结构”施加着越来越大的影响。特别需要提醒的是，在智人的正反馈特性的主导下，人类所生产的大量串联机制和特殊性末端机制也经常会具有正反馈性质。
（5）高度不均衡分布的社会权力。人类的第5个与其它物种的根本性区别是社会权力和资源极其高度的不均匀分布。这儿我并不需要解释这一现象的来由，但需要指出以下两个事实：第一，人类社会任何形式的权力和资源的高度不均匀分布都不见得具有功能性和必然性；第二，决定不均匀分布形态的不是基因，而是文化。这两点性质与社会昆虫内部的权力和资源的不均匀分布原因构成了根本性区别，也说明了社会权力的高度不均匀分布是人类社会的现实，但并不是人类的本性。我们是群居动物，不是社会动物（We are social, not societal）。一般来说，推动某项行动的社会行动者手中掌握的权力越大，其行动所能产生的后果也就越大。从这个意义上来说，权力和资源在一个社会中的分布越不均匀，人类的其它四个特征（即串联性、特殊性、末端重和正反馈性）所能产生的负面后果也就会越大。
从哲学高度来看，人类社会的任何其它重要现象——比如宗教和哲学、国家和军队、商人和工业资本主义、文学和艺术、科学和技术、生活方式——的形成和发展都是因为有以上这些智人性的存在；AI技术的发展作为人类活动的一部分，其危害的深层来源也是出自于智人性。因此，当我们思考AI伦理（乃至包括环境伦理在内的任何社会伦理）时，我们必须从如何约束这5个具体的智人性在AI技术条件下所能造成的危害出发，而不是仅仅从技术、教育、管理、传统哲学和宗教层面出发来思考问题。以下我简略探讨面对智人性以及它可能造成的危害，人类已经采取过的一些重要缓解方案，这些缓解方案有什么弱点，以及什么才是（至少是在逻辑上）更为有效的缓解方案。
从本报告的角度出发，以往任何针对智人性的缓解方案可以归结为一句话，那就是给处于高度正反馈状态的人类社会加上自带稳定的负反馈。我以为，面对强大的智人性，人类试图引进各种负反馈的努力不仅有乏力之嫌，反而还会在社会权力和资源高度不均匀分布的情况下导致各种负面的非企及后果。因此，一个至少是在理论上更为合理的方法，或许也是挽救人类的唯一方法，是不追求改变智人的串联性、特殊性、末端重和正反馈性这四个本性，而是通过利用这四个本性带来的技术成果，在降低人类社会在权力和资源方面的高度不均匀分布（并不是人类本性）方面做出努力，以减轻人的本性所带来的危害。套用宋儒的话来说，我的这个策略可称之为“存天理，去权欲”。 在提出以上构想的要义前，我先对传统的旨在为社会引进负反馈的缓解方案的弱点做出简要分析。
价格规律有效配置了资源，平衡了供需，构成了一个重要的负反馈机制。价格规律对于人类社会具有特别的重要性，因为它的运作规律与人的趋利避害本性完全相符，在不抑制人性情况下就能自发运行，因此有巨大的生命力。这也是为什么新自由主义经济学家会把价格规律看成是一个高度正面的社会机制。问题是，如果一个社会的经济完全按照价格规律来运行，那就很容易会造成产能过剩、经济危机、贫富差距拉大、环境灾难，甚至社会动荡。
法律是人类创造出的一类重要的负反馈机制，但是法律也可能产生各种正反馈效应。这是因为任何法律都会有倾向性和漏洞，法律很容易被权力不受制约的人用来为自己谋利。在社会权力高度不平等的情况下，各种在法律罩护下以权谋私的行为的负面后果可能被无限放大。
多党民主制度让野心制衡野心，也是人类创造出的一套负反馈机制。但是它的有效运行需要三个前提条件：（1）执政党和反对党之间要有基本的价值共识（也就是说社会不能太撕裂）；（2）选举失败方愿意和平交权；（3）胜选一方不会在胜利后改写政治游戏规则。问题是这些前提在现实世界中很难长期维持。当年希特勒就是让民主选票给送上台的，但是他上台后马上中断了魏玛时代的多党民主游戏规则。即使是在美国这样一个老牌多党民主国家，特朗普一个人就能在2020年败选后几乎同时破坏了这三项保证民主正常运行的前提条件。
宗教是人类创造的另一类负反馈，至少可以压抑人的无限膨胀的欲望。但是宗教领袖手中掌握着的强大的说服力、宗教组织制度带有的强制力、宗教借用国家力量的能力，以及不同宗教组织出于各种原因产生的竞争和冲突，在过去、现在和将来都会是压制、冲突、控制和主宰的一个重要来源。
集体记忆也是人类创造出来的一类重要的负反馈机制，因为它可以使我们避免重蹈覆辙。但是不同的人在个性、处境和价值观等方面的差异会导致他们对“过去”形成不同的理解和记忆。如果我们在这时候想让大家都记住同一个“正确”版本，强制就必不可少，但是一旦动用了强制，具有重大偏差的集体记忆的出现在所难免。此外，记住和亲身经历是完全两回事。我们可以让下一代记住过去，但没法控制他们如何理解自己的记忆。我们是不是能够通过各种集体记忆在思想舞台上的自由竞争，让更好的集体记忆得以胜出？这个想法很好，但却有些天真，因为我们完全无法避免劣币驱逐良币现象在思想舞台上占据主宰。在历史记忆方面，人类其实只是一条喜欢追逐自己尾巴，不断按照以下方式打转，但却永远追不上自己尾巴的短尾巴狗：忘记意味着背叛、记住意味着记错、多元意味着忘记。
各种负反馈缓解方案都有明显弱点，但人的本性又不可能改变。那问题就来了：在这么糟糕的状况下，我们还有没有可能在AI技术、互联网技术、生物技术、核武器技术，以及其它各种尖端科技的冲击下建构一个可持续的社会？我的回答是：可能不大，但不是没有。而这个可能就来自以下的关键点：虽然人类绝对改变不了自己的带有“自然法”意义的本性，但是这些本性给人类社会带来危害的大小却受到以下结构机制性原理的制约：社会权力的分布越不均匀，人类的四个本性给人类社会带来的负面后果就会越大。这就给了我们以启示：如其把主要注意力放在各种负反馈机制的设计上，不如把重点放在减低社会权力的不均匀分布这一层面。
因为时间关系，我只能提供我的想法背后的一些原则性的纲领。容易看出，这些纲概指向的都是促进社会权力的均匀分布：（1）弥散性的社会力量必须能有效制衡集中性的国家力量；（2）区域性的国家的力量要大规模缩减，全球治理能力则要增强，但这增强的治理能力只能限于少数几个关键性的全球公共产品的提供；（3）军队应转向警察职能，只维持最基本的公共安全；（4）市场机制必须置于环境可持续性和社会公平为优先的制度框架下运行；（5）随着人工智能取代越来越多的劳动力，人的竞争性本性应更多的发泄在一些对社会伤害较小的领域，比如体育、文学、艺术、哲学、社会科学、人文学科、健身、社交媒体、游戏、旅行等方面；（6）即使在这些看上去“无害”的领域，也应该刻意营造一个更鼓励社区级的小范围“红人”出现的环境，而不是培养跨社区的大名人。在这个理想社会中，任何能让大政治家、大企业家、大宗教领袖、大知识分子、大明星、大网红、大体育明星涌现的环境都必须受到抑制。用一句话总结：反对任何形式的权力过度集中。
大家可以看出，我其实是在想象一个乌托邦。这个乌托邦中每个社区最多也就几十万到几百万人（社区太小多样性会不够，有人就会觉得无聊）。社区中的大部分工作由AI进行，因此自我实现成了社区成员的重要人生目标。但是这些社区虽然内部联系紧密，之间的联系却很松散，以至于我们最多也只能成为社区名人，而很难成为跨社区明星。这个乌托邦既需要社区政府，也需要世界政府，但是这些政府都只提供几个最关键的公共品，其余都用AI搞定。可行吗？几乎完全不可能！但是我们把这一乌托邦作为目标去努力靠近还是有可能的。因为这一乌托邦不需要压制人性，因此有较大的可操作性，我称其为可实现的乌托邦（feasible utopian）。这也许是在不压制人性条件下拯救人类的唯一可能途径。
最后我想强调，虽然人类历史本身并没有什么“目标”或者“前定的阶段”，从地球形成后结构机制关系发展规律来看，宇宙中物质的发展却似乎有某种前定的“目标”或“阶段”（teleological），并且“智人性”出现也有某种内在的必然性。面对如此强大的、发自于宇宙物质发展和人性的自然规律，任何解决途径，包括我所提出的解决途径都有可能会是无济于事。这就是说我们所面临的挑战很可能远比我们所能想象的要大得多。但是这关乎人类的命运，因此必须不可想象而想之，不可为之而为之。
赵鼎新
浙江大学人文高等研究院院长、芝加哥大学Max Palevsky 荣休讲席教授。研究领域包括历史社会学、政治社会学和社会科学方法论。
- AI
- 伦理
- 劳动