人工智能机器具有道德主体地位吗?

人工智能机器是否具有道德以及是否构成道德主体引发学者思考,这涉及到对于道德主体的界定、对道德主体标准的思考,更涉及到对于智能机器与人类的区别的反思,我们在对道德主体标准分析的基础上,对道德嵌入的人工道德主体进行伦理建构,在智能机器设计之初把“善”的理念嵌入到人工智能机器中,促进与引导人工智能的发展。     

人工智能与政治伦理

人类与人工智能的政治伦理具有三种选择:乐观的单向度政治伦理、悲观的单向度政治伦理、平等双向度的政治伦理。前二者都没有把人工智能当成人而是当成工具来看待,缺少战略视野。平等双向度的政治伦理把人工智能当成平等的"人"来看待。人工智能具有初步的人类情感、认知、思维、性格和理性,具有成为政治人的可能性与现实性。人类应主动应对人工智能的政治挑战,与人工智能共同参与政治,共建新型政治关系和政治伦理。     

人工道德智能体何以可行——基于对价值敏感性设计的审视

人工道德智能体自主程度越来越高,其引发伦理困境的实质是自主机器系统的“技术偏见”与人类伦理价值的冲突.当前人工道德智能体的建构依赖的特定技术模型或伦理理论并不完善.价值敏感性设计为人工道德智能体的实现提供多维视角,是一种整体性、动态性的实践方法论.在该框架下,人类价值被系统性分析并被嵌入到人工道德智能体之中,但该方法仍...     

论人工智能道德地位的三种研究进路

目前关于人工智能的道德地位研究,主要分为现象学进路和心灵哲学进路.前者以"意向性"为核心,具体在人工智能道德地位领域主要研究其与人类之间的同构关系,并不认可人工智能的独立道德地位;后者以"心智"概念为核心,研究人工智能能否具备与人类相当的心智水平,认为人工智能的道德地位取决于其是否具备心智.然而,人工智能的道德地位研究...     

论智能化时代的伦理重塑

以人工智能为主要代表的新一轮科技革命正在深刻影响着人们的生产方式、生活方式和思维方式,也引发了诸多道德判断困境及其伦理思考。智能化时代的人类社会将走向何方?应坚持以马克思主义科技观为指导,重视科学技术是第一生产力的革命性力量,警惕科学技术异化力量的负向作用,反对目的论和义务论的伦理错误倾向,在主体设计、制度管理、公众环境三个层面探讨伦理重塑策略,以期人类社会与人工智能和谐共处、"向善"发展。     

论人类和人工智能信任关系的三种研究路径

人工智能在人类社会发挥着愈加重要的作用,人工智能的专业能力使人类对其展现出信任态度。虽然人智之间不能按照人际的方式建立信任关系,但人工智能具有的自主能力表明它有可能回应人类的信任态度,因此基于人类中心主义视角将人工智能拒斥在信任关系之外的思路并不可取。“简化路径”虽然强调人智可以建立信任关系,但它涉及对信任构成要素的简化,因而会掩盖信任的本质特征。若将人智活动置于更广泛的交互背景中考察,人智之间可能建立间接信任关系并表现出对直接信任的“从属特征”,这为人智信任分析提供了可行路径。     

“有意义的人类控制”:智能时代人机系统“共享控制”的伦理原则解析

智能时代的决策机制显现出人机系统“共享控制”的协作关系,但要谨防智能机器被赋予自主权的同时可能引发的责任扩散效应,这就要求人类对自主系统的控制与道德责任之间有新的伦理规约机制。由此,人工智能全球治理领域新近提出了“有意义的人类控制”(MHC)这一人机交互伦理原则。当前,MHC在具体应用中存在系统设计的哲学基础与工程实践之间的显著鸿沟,除了对MHC做出概念界定,还要揭示其理论局限并做出拓展,进而提出一种“全方位人类监督框架”来规范应用MHC。     

人工智能权利话语批判

人工智能被想象成为"像人一样的主体"。在此基础上,人们借助主体范式和关系范式开始建构人工智能的权利话语体系。但是,无论哪一种视角,其根源都是人类中心主义的。这就导致人工智能和人类的交往行为,不足以像正常的成年人一样,具有道德权利的双向社会性意义,因此,人工智能必然缺乏道德主体资格。与此同时,尽管法律规范可以设定人工智能的相关法律权利,但这一权利设置更多体现为无权利的义务,并且是为了保护人类的利益,因此,人工智能的法律权利就是修辞性的,而非真正的法律主体权利。     

后人类主义技术观及其形而上学基础——一种马克思主义的批判视角

后人类主义思潮本质上作为当代高技术资本在人类生命相关领域扩张的思想开路先锋,对前沿科技将开创的人类未来可能性给出了极具洞察力的把握和预见,但同时也由于其缺乏对现代技术-资本框架的本质和人的历史性本质更为深刻的追问以及由此形成的自觉的政治意识和政治素养而暴露其形而上学基础的薄弱。他们一般都持有技术自主论思想,同时又信奉技术工具论而无视其间的矛盾,并且无反思地立足于现代主体论形而上学的抽象理性与道德,对通向后人类的复杂社会博弈进程给出过于天真的理解,对需要紧迫予以揭示和澄清的一些重大哲学问题构成遮蔽与耽搁。     

人工智能道德增强的限度

人工智能道德增强是从属于"人类道德增强"思潮的一个子话题——希望通过"人工道德建议者(AMA)""客观"的道德表征能力与强大的信息获取能力协助人类提高道德认知水平。但由于AMA毕竟无法达到"理想观察者(IO)"的标准,其必然会陷入专家主义的窠臼。此外,诉诸构建"道德机器"的研究者们在通过学习算法构架自动道德分类与决策机器的时候也预设了某种IO视角。通过瓜里尼的道德案例分类器(MCC)的实验研究,我们发现无预分类的假设函数无法拟合,这意味着与IO契合的普遍主义AMA无法建成。鉴于此,我们建议另外一个不同的"道德增强"方案——一种"作为他者的AMA",并寄希望于通用人工智能成为其实现基础。     

关于人工智能的政治哲学批判

政治哲学以人类的纪律秩序和分配秩序为考察内容,人工智能的崛起将为政治哲学批判开拓更大的理论视域,我们可以设想"人-人工智能"的政治哲学批判、"人工智能-人工智能"的政治哲学批判和后人类的政治哲学批判等崭新理论问题。     

人工智能的“负责任创新”

目前,人工智能快速发展,在众多领域发挥了重要作用,对人类社会产生了深刻的影响。人工智能虽然为人类带来巨大利益,但也带来不确定的风险。近年来,在欧美国家兴起的"负责任创新"旨在解决科技发展中的责任伦理问题而提出的理念,这为人工智能的创新与发展提供理论思考与现实应对的路径。运用负责任创新的理念和方法进行人工智能伦理责任的规制或者嵌入,使其形成具有道德的决策和行动,从而促进人工智能良性、开放、健康和包容的发展,推进人工智能与人类的和谐共存。     

编者按

<正>随着大数据技术的迅猛发展、深度学习研究的不断深入,人工智能渗透到人类生活的各个领域,而且大有赶超人类的趋势,阿尔法狗(AlphaGo)在国际棋坛上的胜绩便是明证。虽然目前的技术离完全自主的人工智能还相当遥远,但正如瓦拉赫(Wendell Wallach)和艾伦(Colin Allen)所言,"人类已经处在工程系统的决策能够影响人们生活的转折点上",我们对待人工智能的态度将决定着人类的未来。随着人工智能越来越自主,人类的干预和监控将变得越来越困难、甚至不可能,那么,智能系统自身的伦理子系统就变得尤为重要。MIT的情感计算研究组主任皮     

康德式人工道德行动者的伦理地位研究

伴随机器人和人工智能越来越融入当前的社会环境,它们似乎不可避免地会成为具备道德行为能力的人工道德行动者。一些学者认为康德哲学为建构人工道德行动者提供了最好的机会。相较于易受感性经验影响的人类行动者,以康德哲学为伦理框架设计的道德机器人在某种意义上更有资格作为康德哲学语境中的道德行动者。不可否认,康德伦理学对建构道德机器人具有重要的意义,建构康德式人工道德行动者也应该是机器人伦理学研究中的必要目标。但是,按康德伦理框架创造的人工道德行动者是纯粹理性的道德机器,缺失了真正道德行动者应该具有的实践性情感能力,因此康德式人工道德行动者不能获得真正道德行动者的伦理地位。     

类人型和机器型人工智能的科幻叙事（英文）

关于人工智能，可以讲述许多不同的故事。事实上，在过去的几十年中，好莱坞科幻电影发生了转变。许多早期的故事展示了对人与机器的身份认知困惑，原因是它们似乎变得出奇地难以分辨。而近来的那些故事更多围绕着失望与冲击展开，因为我们发现那些模仿以及胜过人类逻辑能力的机器所拥有的智能与人类的思考与感受大相径庭。本文接下来的观察旨在反思这一转变的重要性。一方面，人工智能研究方向的转变，即从人型到机械型人工智能，本身具有指示性。另一方面，这些电影与其说在探索两种人工智能的影响和可能的未来，不如说它们在反思文化环境，反思那些激发或限制人工智能研究的希望与恐惧。在科幻这样一个由符号与象征、事物与作品组成的世界中，人们有各种方式来理解及定位自身。就这点而言，科幻也因此可以为技术诠释学研究，即为尝试理解人工智能及其意义与重要性，提供一个舞台或表征框架。     

人工智能消费场景中的女性性别歧视

人类社会正快速步入人工智能时代,人们无时无刻不处于人工智能消费场景中。人工智能不仅是一个技术问题,更是一个道德问题。然而,貌似客观中立的人工智能技术并未带来预想的性别平等,反而造成女性性别歧视现象丛生,招致越来越多的批评与抗议。人工智能与大数据是人类社会的镜像,虚拟世界出现问题,病根在人类世界。因此,构建机器伦理,加强行业自律,推进人工智能立法,增强女性在人工智能行业中的话语权,让男女平等观念深入到虚拟世界与机器世界,方是根治人工智能消费场景中女性性别歧视的善治之道。     

技术调解下道德主体的重构探究

技术调解理论对人与技术互动机制的探讨不仅揭示出了技术之于人的境遇性存在,也对传统技术伦理的二元框架及人的绝对主体性产生了冲击。对此,沿着关系论进路,道德主体的界定标准可概括为自主程度及伦理意向性,人与技术物的道德角色也可据此分为三类:面向平凡技术物的操作型道德能动体、面向人工智能体的功能型道德能动体、面向人类行动者的伦理型道德能动体。对中国伦理语境而言,道德主体界定的关系论进路与天人合一观具有内在一致性,而对道德主体的重构也构成了我国传统技术伦理思想的现代语境。     

论人工智能与人类智能的双向互动

以GPT为标志的新一代人工智能技术日益逼近人类智能，使得人类不得不重新思考这两者之间的关系。当代人工智能的进步不仅体现为算法上的革命性突破，而且带动了智能技术产品的革命。人工智能已经成为技术驱动的现实产品，GPT-5引发了人们对AGI的最大关注，强人工智能似乎正在走向科技发展的前沿。这一革命性变化让人类智能的性质和特征变成了引人瞩目的话题。当今人类对智能和意识的探究，体现为人类智能与人工智能的双向互动：以模拟的数字化过程再现人类智能，这是人工智能技术出现的动因；而人工智能技术的每一进步，都是对重新认识人类智能的一次挑战。从对人类智能的模拟到对人类意识的重建，这是人工智能技术需要走过的历程。     

人工智能体的自主性与责任承担

认知是人类对信息加工的过程。延展认知理论认为,认知不一定局限于大脑和身体之内,可以延展到身体之外。当前,借助互联网和大数据技术,人工智能体对人类感觉、知觉、思维、语言等多种认知能力模拟水平飞速提高,智能化程度也大大提升。在智能体与人、环境等要素共同构成的人机系统中,人机交互呈现出新的特点,智能体表现出越来越强的"自主性",而人却主动地放弃选择的自由,这引发学界关于人机系统中智能体能否承担事故责任以及怎样承担等问题的新讨论。本文认为,人类的认知可以被人工智能体延展,但责任却不能延展,由此设计出人机系统的责任分配原则;最后分别从人工智能体的"输入-输出"能否控制,尝试在四种语境下给出了人机系统的责任承担方案。     

增强与治疗之间——人类增强技术的应用困境

毋庸置疑,有两项技术将会主导21世纪的发展,决定人类未来的走向。一项是人工智能,另一项当属新兴的NBIC增强技术。如基因编辑技术和神经增强技术越来越多地应用到实践之中,很多学者已经注意到了这个趋势,他们深入探讨了各类增强技术及其伦理风险。但他们忽略了一个基础性议题,即如何区分增强和治疗的界限。目前各种划界尝试均有缺陷,主要源于"正常"标准的流变性和文化相对性的影响。人类增强技术可能会引发不可控的风险,破坏个人同一性,甚至会成为通向超人类主义和后人类主义的门户,消解生而为人之意义。