自动驾驶电车难题的伦理算法研究

"电车难题"是自动驾驶需要面对的现实问题,目前主流方案为通过算法解决。统一的强制伦理算法中,当公众作为利益无关的"安全旁观者"时,"后果主义"战胜了"道义论",然而这对"利益相关者"无法成立。个人化伦理算法将普遍的道德设置转化为个体的伦理选择,以"预设选择"取代"预设答案":"道德旋钮"架构会导致实际驾驶场景的博弈中所有人都走向"完全利己"的悖论;罗尔斯"最大化最小"的算法则将导致"越遵守安全准则的个体越不安全"的后果。超越"强制"与"个人"二分的制动力学算法,通过技术化的框架规避了伦理性选择,是目前较为有前景的自动驾驶电车难题的伦理算法。     

数据偏见是否可以消除?

数据偏见已经成为在大数据和人工智能领域伦理反思的重要难题和关键问题。日常对数据偏见形成一种比较明确的观念:需要控制并消除偏见。这一观念也影响到了数据偏见问题的哲学思考中。从认识论的"偏见—认识"框架看,作为错误的歧视行为,数据偏见是可以消除的;从解释学的"偏见—理解"框架看,作为在先的行动或者理解的前提,数据偏见是无法消除的,甚至是会成为智能体行动和决策的先决条件。嵌入智能系统中的道德观念是一种独特的偏见,无法消除,而且它们构成了智能体伦理行动的前提。     

人工智能技术伦理治理内在路径解析

人工智能的不确定性为人类对其进行治理提供了可能。伦理对人工智能的嵌入体现为作为伦理型道德能动体的人类对其发展的管理与责任承担。根据具体技术的发展过程,伦理对人工智能的嵌入先后按照四个阶段进行:在设计阶段进行伦理嵌入,以人工智能专家为主导,通过"预测-评估-设计"模型实现人工智能的道德化设计;在试验阶段进行伦理评估,以评估委员会为主导,通过伦理效应的预测与识别、伦理问题的分析与澄清、以及解决方案的开发与确定来修正和完善人工智能开发方案;在推广阶段进行伦理调适,以政府部门为主导,通过制度调适、舆论调适和教育调适三种路径,实现人工智能与社会价值系统的顺利融合;在使用阶段,以使用者为主导,通过对他者、对世界、对技术以及对自身的责任的主动承担,来确认自身作为伦理型道德能动体的地位,并为人工智能伦理潜能的实现提供支撑。     

机器伦理何以可能:现有方案及其改良

人工智能要成为真正意义上的智能,一个不可回避的问题就是如何使智能机器的行为更符合人类意义上的伦理道德,这也是作为人工智能新兴研究领域——机器伦理的核心内容。功利主义和义务论都将道德推理统一于一个总原则之中,对机器伦理研究有着重要的启发意义。功利主义预设了一种拉普拉斯式的万能神灵理性观,在应用于机器伦理时,需要通过"有限理性"与"捷思法"对之进行改良。义务论对伦理中"应然"维度和规范性的强调,使机器难以有效解决道德规则冲突,因此,义务论进路在整体上并不适用于当前以计算和遵守规则为核心的智能机器。     

人工智能框架问题的情境表征

经典人工智能中的一个主要难题是"框架问题",即智能体如何在行动中有效和恰当地表征一个变化的、复杂的世界.本研究以科学实践哲学的理论与框架为视角,认为智能体与环境之间的互动表征生成于情境化的实践过程,人工智能应对复杂情境的举一反三、随机应变是情境化选择的结果,是一种动态维度的地方性产物,人工智能框架问题表征的规范性,正是...     

“技术中介”视阈下的角色与责任变化——以自动驾驶为例

责任分配是自动驾驶应用中亟待解决的问题。技术中介论提供解决责任分配问题的新视角,一方面肯定技术在调节人的认知和行为发挥的积极作用,另一方面强调技术与人的角色关系是动态变化的。通过自动化层级、角色和责任等因素建立情景分析模型,从而理清自动驾驶中的责任分配问题。在人技交互越来越密切的时代背景下,需要在技术标准和法律的基础上制定新的责任框架以应对更为复杂的责任分配问题。     

人工智能

<正>人工智能(artificial intelligence,AI)是解释和模拟人类智能、智能行为及其规律的学科,主要任务是建立智能信息处理理论,进而设计可展现近似于人类智能行为的计算机系统。人工智能被认为是21世纪三大尖端技术(基因工程、纳米科技、人工智能)之一。人工智能一词最初是在1956年达特茅斯会议上,由约翰·麦卡锡提出的。在之后的60多年里,人工智能取得了一连串里程碑式的突破:1997年"深蓝计算机"(Deep Blue)击败了当时的世界象棋冠军卡斯帕罗夫(Garry Kasparov); 2011年超级电脑"沃森"(Watson)     

无人驾驶汽车的伦理困境、成因及对策分析

无人驾驶汽车从概念提出到技术实现仅用了几十年的时间,随着商业化进程的提速,未来将可能颠覆现有的交通模式,给人类出行带来极大方便。但当无人驾驶汽车面临不可避免的碰撞时,可能出现伦理困境,如电车难题与隧道难题。而这一问题的根源在于无人驾驶汽车必须自主做出伦理选择且其决策远离真实情景。当前解决这一伦理困境的对策主要聚焦于义务论、后果论和智能论三个方面。但是这些讨论未能解决无人驾驶汽车的真实困境。因此,本文进一步提出了解决无人驾驶伦理困境的对策与思路。     

人工智能的框架问题及其解决策略

框架问题是经典人工智能的主要难题。它旨在寻找出一种表征形式,让行动中的能动者可以有效和恰当地表征一个变化的、复杂的世界。经典人工智能直接可用的显性符号表征由于难以实时、自动地更新,也无法捕捉大量的隐性知识,从而无力表征现实世界,面临框架问题的困扰。寻找一种打破显性/隐性区分的表征形式是解决框架问题的关键。联结主义采取了内在性策略,用内在表征取代外在表征,从而可以对表征自动更新;情境进路采取了交互性策略,让表征与对象之间保持高度的交互,从而可以让表征对语境充分敏感。但两种方案仍然没有完全解决框架问题。强化学习同时满足了内在性和交互性标准,或许将是解决框架问题的最佳路径。     

人工智能“伦理迷途”的回归与进路——基于荷兰学派“功能偶发性失常”分析的回答

随着人工智能的迅速发展,由于人类社会认知的不匹配,在伦理方面,就可能形成对人工智能的一种"伦理迷途",即在一定程度上引发了人们对人工智能的恐慌或者盲目崇拜。荷兰学派的威伯·霍克斯和彼得·弗玛斯通过对于"功能偶发性失常"的分析,提出技术人工物的功能失常是其功能和结构之间关系的一个普遍现象,反对人们对人工智能的恐惧或者盲目崇拜,进而对人工智能的功能认知提出了理论进路。即解决方案既要从技术人工物自身方面解决,也要从技术使用的不确定性等技术人工物的社会性方面去解决。     

基于文献计量的自动驾驶名词体系构建方法

作为新兴前沿交叉学科,自动驾驶领域名词亟须进行规范。文章使用VOSviewer软件作为工具,对Web of Science核心合集中1991—2021年自动驾驶领域的5087篇文献进行关键词计量与可视化呈现,并对自动驾驶领域的名词与科技前沿进行了分析。文章根据科技名词规范化工作原则,以关键词聚类图谱为基础,尝试构建自动驾驶名词框架,包括智能网联系统、智能驾驶信息和人机协同驾驶三个分支,并对名词框架体系进行了分析。文章的研究是名词审定工作流程中阶段性工作的一种创新尝试,以文献计量学方法为工具开展前沿交叉领域名词的规范化工作。     

生物识别技术助生活简化

很多人在开车时,都为腾不出手来控制收音机、空调等车载设备而烦恼。而今能够识别表情的"智能"汽车很好地解决了这个难题。美国的汽车技术供应商哈曼公司推出了一种全新的车载体感识别系统,驾驶员只需眨眨眼、点点头、挥挥手,就可以在驾驶的同时自如地使用汽车的内置功能。这种神奇的智能汽车效果,可以使驾驶员通过眨眼开关收音机,用简单的左右点头调解     

费希尔道德责任理论视角下自动驾驶汽车使用者道德责任研究

自动驾驶汽车正在被大力发展,在不久的将来,它们将大量地行驶在路上.自动驾驶汽车不同于传统汽车,它对道德责任伦理提出了挑战:自动驾驶汽车一旦引发事故,使用者应为自动驾驶汽车引发的事故承担道德责任吗?费希尔道德责任理论为回答这一难题提供了理论视角.从费希尔道德责任理论看,自动驾驶汽车解除了使用者对汽车的引导性控制,但并没卸...     

论布鲁克斯的无表征智能理论

无表征智能是美国著名机器人制造专家罗德尼.布鲁克斯(Rodney Brooks)提出的一种智能理论。布鲁克斯认为,传统人工智能在建造机器人时,采取的是"感觉-建模-计划-行动"框架,这种框架在表征问题上遇到了巨大的困难。实际上,机器人的行动方式完全不必如此复杂,只需要两个步骤就可以:即感觉,然后行动。我们在建造机器人时,完全可以放弃表征范式所要求的那些复杂的计划、映射和认知等表征内容,而采取基于行为的包容结构。在包容理论指导下,布鲁克斯制造了"艾伦"、"赫伯特"、"成吉斯"、"考格"等机器人。布鲁克斯的理论取得了一定的成功,但也遇到一些新的困难。     

人工道德智能体何以可行——基于对价值敏感性设计的审视

人工道德智能体自主程度越来越高,其引发伦理困境的实质是自主机器系统的“技术偏见”与人类伦理价值的冲突.当前人工道德智能体的建构依赖的特定技术模型或伦理理论并不完善.价值敏感性设计为人工道德智能体的实现提供多维视角,是一种整体性、动态性的实践方法论.在该框架下,人类价值被系统性分析并被嵌入到人工道德智能体之中,但该方法仍...     

人工智能能否超越人类智能

半个多世纪以来,人工智能研究似乎取得了迅猛发展,但批评之声也一直不绝于耳。本文亦是一项关于人工智能的批判性分析,针对的是一个关系到人工智能研究基础的问题,即"人工智能能否超越人类智能"。我将尝试构造一个基于集体人格同一性(collective personal identity)的新论证,从而表明:首先,该问题原则上无法仅在经验科学的框架中获得有效解决;其次,该问题其实是一个没有认知意义的问题;最后,如果该问题没有认知意义,那么人工智能研究的一个重要目标,即"生产出一种新的能以人类智能相似的方式做出反应的智能机器",恐怕也无法实现。     

人类增强技术的伦理范式转换:超人类主义的伦理视角

人类增强技术的发展引发了"增强时代"的超人类革命,同时也激起了生物保守主义与生物进步主义的伦理论争。面临着新技术展现形式带来的伦理质疑与挑战,超人类主义试图寻求伦理范式和伦理视角的转换以对后人类伦理进行合理辩护,即关乎医学功能转移、技术逾越性和人性改良伦理范式转换的后人文主义转向和复合性技术转向。因此,面对人类增强技术研发与应用在全球范围内的兴起,需要在允许的限度内进行负责任创新、完善监管机制以化解伦理困境、解决伦理难题,使人类增强技术能在人类普遍认同的伦理框架内有序发展。     

人工智能“合乎伦理设计”的理论探源

人工智能设计是为了满足设计主体的目的而制造人工物的过程,设计是合目的性与合价值性的统一,设计体现设计者的意愿,设计关注设计的目的、行为以及人工物的功能。与其他技术人工物不同,智能机器具有自身推理能力与自动决策功能,为了更好地设计人工智能客体,为了充分发挥人工智能的功能,必须对其理论基础追踪溯源,对其理论来源与理论前提进行充分挖掘,才能保证人工智能设计在设计之初把人类规范与道德嵌入到智能机器中,才能规范智能机器的发展。     

价值与责任:智能人工物设计中技术治理问题探析

如何将道德价值和伦理责任设计到智能人工物中,成为技术治理不可忽视的难题。本文运用技术现象学还原法,通过对智能人工物的价值与责任问题源起与范围、责任分配的追溯。梳理出技术内在关系进路、混合式系统进路和价值敏感设计进路三种技术治理路径。以期为智能人工物的技术治理提供一些参考。     

“刷脸”会不会刷走安全

正随着数据的积累、计算机算力的跃升和算法的优化,人工智能正在让生活变得高效。语音识别、图像识别使身份认证更可信赖,短短几秒就能证明"你就是你";智能诊疗和自动驾驶,更让人们看到了战胜疾病、减少事故的新机会;人工智能还可以轻松战胜围棋高手,写出优美的诗句……其自主性和创造性正在模糊