AI实践应用正在随时间呈指数式增长，与此同时，需要AI增进福祉的人类共同体却陷入全球文化价值危机。AI伦理治理需要面对怎样的难题？ “社会性机器人”包括机器人护理、机器人同伴、机器人警察、机器人同僚等，它们具有实际的行动能力与自主性，它们对人类社会的冲击会远胜于目前大语言模型或是AI影像生成的影响。社会性机器人应该具有哪些品德与情感程序，从而促使它们做出符合人类普遍价值与道德体系的抉择？ 为了探讨这些前沿问题，华东师范大学于2024年6月5日举办了一场“AI聚力”学术沙龙（暨思与文讲座第134-135讲），探讨AI伦理治理与社会性机器人问题。本次沙龙由华东师范大学中国现代思想文化研究所、华东师范大学人文与社会科学研究院联合主办，华东师范大学哲学系应用伦理中心、上海中西哲学与文化比较研究会承办。 本次论坛分为主题研讨和圆桌讨论两个环节。主题研讨环节由美国加州州立大学富乐敦分校刘纪璐教授、西安交通大学王小红教授主讲，华东师范大学中国现代思想文化研究所暨哲学系陈赟教授、华东师范大学哲学系潘斌教授主持。圆桌讨论环节由华东师范大学哲学系应用伦理中心张容南教授主持。 一、社会性机器人 刘纪璐教授做了题为“如何设计社会性机器人的道德基本素养：儒家美德及其影响”的主旨发言。刘教授首先厘清了AI伦理与机器人伦理的概念范畴，表明自己主要研究的是机器人伦理学暨如何设计、应用、对待机器人，以及机器人的道德性这两个问题。刘教授特别提到自己的研究聚焦于社会性机器人，这类机器人需要与人类进行高度互动，未来甚至可能具备独立的思考和行动能力。因此，面对现有机器人的高速发展以及未来可能会出现的困境，如何设计机器人的道德素养成为了一个重要议题。对此问题，刘教授一方面反思了过去对人工道德主体所要遵循的伦理理论的选择，另一方面提出自己的构想，暨参考儒家的品德伦理学与道德情感论，不依赖于行动本身而从行动者出发，建构出具有持续性的道德“人格”的机器人。 进一步地，刘教授结合学者Bertram F. Malle的主张为自己的构想做出具体阐释，支持目前先以机器人的“道德胜任性”为目标，日后再考虑如何建设机器人的道德主体性。她转述一位哥伦比亚大学教授的主张：我们对AI以及机器人的发展，应该采取导引（steer）而非畏惧（fear）的态度。根据Malle的阐述，“道德胜任性”包含六个关键要素，分别是道德语汇能力、道德规范性、道德认知能力、道德情感、道德决策性与行动性，以及道德沟通能力。刘教授特别指出，道德规范性不宜局限于地区性和单一性，而应当构建一个普遍多元的价值规范。在此基础上，刘教授详细解释了选择儒家伦理来建立机器人美德的五个原因：（1）儒家伦理强调亲疏有别，更适合于机器人与人类建立亲密关系；（2）儒家伦理强调终身学习，可以用来加强机器学习的永无终止；（3）儒家品德伦理所列举的美德意涵复杂深刻，不是仅仅针对人类的缺点，而同时可以适用于机器人的品德构造；（4）儒家对处理人与人之间关系的重视有助于建立一个有德合群的群体；以及（5）儒家品德伦理学是一种道德精英伦理，目标不是仅仅建造拟人的机器人，而更是要制造机器人中间的君子圣贤。 对于儒家繁多美德的选择，刘教授主张选择“仁义礼智、忠信诚敬”八个美德加入机器人伦理设计，以作为机器人伦理建设从上而下的基本结构。她也强调机器人必须从下而上，从有德之人的案例中学习道德认知，在与人互动中学习人类的价值取舍。她认为机器人的价值建构一定需要“人在环路”，用问卷方式考察人对有德机器人的期望。她认为她在2022年所做的问卷调查与结果数据，可以印证儒家美德的有用性。 最后，刘纪璐教授再次强调，道德情感对于机器人而言并非可有可无, 而是具有其必要性。机器人必须拥有一些道德情感，才能作出正确的道德抉择。她认为不是所有人的正面负面情感都需要设计给机器人。她所选择的是孟子所说的“四端”——四种使道德可能的道德情感。她认为这些道德情感不是基于身体生物性的反应，而是建立在道德判断，是种认知性的情感，与之配合的也可以选择爱、同情、遗憾等自然情感。当然，在目前阶段只能期待机器人具有“道德胜任性”，可以正确做出“合乎道德性的”道德判断，道德沟通，道德抉择，与道德行为。至于未来如何从表象深入到实质层面，构建机器人“出乎道德”的道德主体性，仍然是个值得商榷且具有挑战性的任务，刘教授期待有更多的儒家学者加入研究。 美国加州州立大学富乐敦分校刘纪璐教授 美国肯庸学院教授、华东师范大学哲学系客座教授萧阳就美德的情感与智慧这两个向度，以及关于在问卷调查的方法中如何描述案例的问题展开评述。萧教授高度赞同刘纪璐教授关于伦理学研究不应只关注行动和行动规则，而应关心美德的观点。但是，这样做的一个后果就是，这就给设计社会机器人提出了许多严重的挑战，而它们是那些只关注行动与原则的伦理学不会提出来的挑战。 萧阳教授强调，美德至少有两个向度会对如何设计美德机器人提出挑战。首先，美德涉及情感，仅仅做出正确的行动是不够的，还要有正确的态度和情感。美德机器人首先要成为情感机器人，有“情商”的机器人。关于如何赋予机器人情感所面临的问题，萧教授做出了更具体的展开，指出大部分哲学家认为情感涉及命题内容，很少有人像斯多亚学派那样认为情感能完全还原成并且等同于命题内容。后来的心理学家的经验研究表明，仅仅有极少数情感可以完全还原为命题内容。也就是说，情感中通常总会有某些东西是与肉身紧密相关的，不可能用命题来表达的东西，因此不可能程序化。这是对设计情感机器人最大的挑战。 除情感之外，美德还涉及实践智慧的向度。萧教授首先援引冯契先生的名言“化理论为德性”，然后说到，冯先生大概也会同意它的一个推论，那就是，“不应当化美德为理论”。这是因为实践智慧无法被还原为理论或原则。威廉姆斯（B. Williams）曾经被问到，“一个完全遵循原则的人到底有什么不对？”他的回答是，因为他像一个机器一样行动 （he acts like a machine）。麦克道尔（John McDowell）也曾证明美德不能被编码。 针对刘纪璐教授研究的问卷调查中的案例，萧教授提到，戴蒙德（Cora Diamond）写了一篇讨论实验哲学的文章，“What if x isnt the number of sheep? Wittgenstein and Thought-Experiments in Ethics”。她论证道，当下的研究者对于他们的问卷中的那些案例是如何加以描述的完全没有自我意识或批判的反思，他们尤其没有注意到他们对一个案例的描述已经被各种价值和预设所渗透。以他自己的授课经验为例，萧教授提到，在讨论“安乐死”问题时，同一个具体案例，从被描述为“帮助一个人摆脱痛苦”，到被描述为“谋杀”，有些学生的立场就改变了。萧教授建议，在以后的问卷中或许也可以尝试改变对一个案例的描述，或者最好是对同一个具体案例给出不同的描述。这些不同的描述之间的差异通常非常微妙，如何教会机器人识别，并且理解这些微妙的差别，这是对设计美德机器人的另外一个巨大的挑战。 美国肯庸学院教授、华东师范大学哲学系客座教授萧阳 华东师范大学哲学系苟东锋教授围绕方法论、儒学的普适性以及“像人”的问题展开评述。苟教授首先从方法论出发，肯定了探讨道德胜任的重要性。他指出，厘清研究对象是一项很重要的工作，刘教授的研究明确聚焦社交机器人，有其重要意义。苟教授认为，探讨人类与机器人如何和谐相处的问题，涉及对人类的理解，而儒家思想中对于人的定义非常丰富。他援引孟子：“尧舜，性之也；汤武，反之也；五霸，假之也。久假而不归，恶知其非有也。”他以此阐述儒家对人的理解以及我们该如何与机器人打交道。 接着，苟教授探讨了儒学的普适性。他引用梁漱溟的三问题指出，儒家更关注人与人之间的关系，并主张以道德的方式即忠恕来解决这一问题，在此基础上可以扩充至其他所有问题的解决。苟教授强调，儒家的“以人治人，改而止”的治理理念和忠恕的根本精神对于人与机器人的相处具有重要启示。 最后，苟教授讨论了“像人”的问题。他提到了森昌弘的“恐怖谷效应”，引出中西哲学对待与人高度相似的机器人在感受上有所差异。儒家从类的角度看待天地、鬼神和人类，没有强烈的人与非人的二分性。在此基础上，苟教授进一步提出了三个机器人道德相关的问题。第一，当前已有的机器人在完成特定任务时可能与人类没有区分，但它们还只停留在扮演具体的角色，未必能拥有机器人的“仁”；第二，强人工智能还未出现时，如何处理假装像人但并非人的对象？这涉及机器人的设计，自上而下的设计可能会产生非道德的机器人，而这无法预测；第三，当强人工智能出现后，我们无法对其进行设计，届时应当如何处理这些智能的道德问题？ 华东师范大学哲学系教授苟东锋 华东师范大学哲学系陈赟教授表示，随着人工智能技术的迅猛发展，机器人是否能具备法权意识、道德意识、历史感、同理心等人类特质的问题需要受到高度重视，人机问题实际上是围绕“我们希望将机器人打造成怎样的存在”以及“我们现实中能制造出怎样的机器人”展开的讨论。在现实中，能否建立一种管理体系，将机器人容纳为人类社会的一员；未来的机器人是否能拥有智慧、情感、意识，甚至发明新的语言符号体系，都仍处于未知状态。陈教授认为，尽管我们在人工智能研究已经取得了显著进展，但距离我们理想中的目标仍然有一定差距，要让它们达到与人类同等的复杂水平，依然是一个巨大的挑战。尽管如此，人类可以继续深入思考和探索这个领域。 华东师范大学哲学系陈赟教授 二、AI伦理治理 王小红教授做主旨发言“AI伦理治理三大难题与哲学的诠释”。王教授的报告主要涵盖三个部分的内容：文化共识难题；AI复合系统的道德责任；多重AI伦理问题的概念分析和厘清。王教授提到，自己对于文化共识问题的认知视角是基于网络平台“链接人工智能原则平台（LAIP）”，该平台旨在整合、综合、分析和促进全球人工智能原则及其社会和技术实践。平台词云图显示“以人为本”相关理念受到大多数国家重视，呈现出AI治理文化共识趋向。然而，在不同文化背景下，“以人为本”的抽象准则还需落实到具体的伦理原则。...