通讯员、摄影：王童  责任编辑：舒年春叶金州

2024年3月25日晚七点，西安交通大学哲学系教授王珏应邀做客慧源哲学茶座第368期，以“算法伦理与自动驾驶汽车的道德决策”为题进行专题讲座，叶金州副教授主持，程新宇教授与谈，来自哲学学院和其他学院的20余位师生参与。

图1叶金州老师介绍主讲人

在讲座开始，王珏教授介绍了问题的缘起：当前自动驾驶汽车会越来越智能、越来越来自主；同时，自动驾驶汽车有望比我们当前的手动驾驶（manually driven）汽车更加安全；但是，它不可能百分百安全，无法完全避免事故。因此，需要设计一套“事故算法”（accident-algorithms），使得自动驾驶在不同情境下自主对可能的危险做出有效的反应，而这本质上是一个伦理问题，不是技术问题，因为问题核心是如何分配风险。就此而言，“事故算法”也是“算法伦理”（algorithmic morality）或者“伦理算法”（moral algorithm），算法伦理成为了技术发展的前提条件，直接关系到公众对自动驾驶技术的接受度。

由此，在技术与伦理交融处打开了一个全新的伦理空间，留下一系列有待解决的伦理问题：一是在什么意义上自动驾驶系统可以成为一个道德主体（moral agent），代替人类作生死攸关的道德决策；二是事故算法的编程应当基于何种道德原则；三是如何将复杂的人类道德有效地编码到软件中。在本场讲座中，王珏教授重点探讨了前两个问题的解决思路。

图2王珏老师介绍选题

鉴于自动驾驶汽车碰撞中不可避免的伤害情境与实验伦理学的主要困境，即著名的“电车难题”有着惊人的相似之处，王珏教授首先简要解释了“电车难题”这一思想实验，其旨在研究的规范性问题（normative issues）包括：（1）积极与消极义务（positive and negative duties）（Foot 1967）；（2）是否可以合理主张规避风险（Thomson 1985）；（3）结果论和非结果论（consequentialism and non-consequentialism）。然后，将自动驾驶汽车代入到“电车难题”困境中，分析既有的伦理算法设计策略及其不足，发现功利主义策略、义务论策略、深度学习策略、伦理旋钮策略均存在无法避免的问题。随后，王珏教授对既有道德设计策略失败的原因进行反思：其一，机器决策与人类决策存在根本差异；其二，传统“电车难题”不足以处理自动驾驶语境下的伦理决策问题。最后，相较于“电车难题”，王珏教授认为，在对自动驾驶汽车进行事故算法编程时，还需要将以下问题考虑在内：（1）涉及群体和/或多方利益相关者面临的决策；（2）具有道德敏感性的前瞻性决策；（3）考虑到具有广泛因素的开放式结果（open-ended）道德推理；（4）涉及向后和向前式道德和法律责任的道德推理；（5）涉及不确定性下的风险和/或决策的道德推理。王珏教授总结道，我们需要发展一种既可以容纳不同参与者的可能分歧的立场、变动中的决策情景，同时又更加完整、更富有弹性的道德进路，以把握自动驾驶事故语境下复杂而微妙的伦理处境。

因此，为达到这一目的，王珏教授尝试借助儒家伦理资源，提出一种关系性的儒家技术伦理框架。首先，儒家伦理学的出发点是“角色”，即社会、文化、生活关系的网络、背景和形式，使得一个角色同时成为名分，拥有道德义务的诉求力量，而技术也可以和应当被被纳入角色伦理学的视野，在内在主义与功能主义之间走出第三条道路。其次，一种儒家繁荣之道的核心是和谐，对机器伦理而言，一方面，可以以和谐来管理预期；另一方面，和谐秩序必须有法律和政策上的层层支撑。最后，对和谐的追求最终总是落足到对美德的关注上，对机器伦理而言，一方面，机器的首要德性是“忠”；另一方面，自动驾驶技术重构了其中的角色关系，侵蚀了相关道德行动者的德性，所以在科技伦理探讨中诉诸一种儒家视角是亟有必要的。

在讲座最后，王珏教授总结道，儒家视角给予自动驾驶伦理决策提供了三点思路：其一，从角色视角看，我们需要严格区分机器的角色和人类的角色；其二，从和谐视角看，我们应当将机器决策置于有效的人类控制之下（meaningful human control）；其三，从德性视角看，我们应当警惕伦理算法化对人类道德主体性的侵蚀。基于以上的思考，王珏教授建议将算法伦理纳入和谐的共同行动者网络中。

程新宇教授对本次讲座做了总结与点评，关注到自动驾驶汽车的驾驶人这一被忽略的变量，将人类驾驶者与机器驾驶者进行比较，认为我们对于机器驾驶者寄予了过高期望，对解决自动驾驶伦理决策问题的意义提出质疑。王珏教授就其问题予以回应，两位老师展开积极讨论。

图3 程新宇老师点评

图4 王珏老师回应

图5 舒年春老师提问

图6 王珏老师与同学讨论

图7 同学提问

图8 同学提问

叶金州老师对本次讲座做了总结，指出主讲人丰富了我们对算法伦理的理解和认识，引发了点评人和与会者的开放性讨论，对此他代表哲学学院深表感谢。