人工智能道德增强的限度

人工智能道德增强是从属于"人类道德增强"思潮的一个子话题——希望通过"人工道德建议者(AMA)""客观"的道德表征能力与强大的信息获取能力协助人类提高道德认知水平。但由于AMA毕竟无法达到"理想观察者(IO)"的标准,其必然会陷入专家主义的窠臼。此外,诉诸构建"道德机器"的研究者们在通过学习算法构架自动道德分类与决策机器的时候也预设了某种IO视角。通过瓜里尼的道德案例分类器(MCC)的实验研究,我们发现无预分类的假设函数无法拟合,这意味着与IO契合的普遍主义AMA无法建成。鉴于此,我们建议另外一个不同的"道德增强"方案——一种"作为他者的AMA",并寄希望于通用人工智能成为其实现基础。