第47卷第5期
2
020年9月
四川师范大学学报(社会科学版)
JournalofSichuanNormalUniversityꢁSocialSciencesEditionꢂ
Vol47ꢀNo5
Septemberꢀ2020
“智能苦力”:抗疫机器人伦理思考
a,b
程ꢃ林
广东外语外贸大学a.阐释学研究院,b.西方语言文化学院,广州510420)
(
ꢃꢃ摘要:在抗击新冠病毒的战役中,各类抗疫机器人扮演着“智能苦力”等角色。机器人医用意味着对传统医患
关系的解构,即将其解构为以机器人为中介的医患关系;加之疫情特殊性,抗疫机器人自然为医用机器人伦理带来
了新话题。在此次疫情中,机器人主体性和机器人权利等问题或被悬置,而医-机-患的三方关系,尤其是人机交
互中病患的心理和尊严,以及与医-机的分工协作和机器人代人的未来趋势等问题,更值得深入探索。在后疫情
时代,相关伦理考量应追赶技术创新的脚步;抗疫等医用机器人应采用价值敏感性和人类友好型设计,以更好地保
护病患的情感与尊严;抗疫机器人伦理应以同时保护好医患双方身心为目标,并把握好机器人与医护人员分工与
协作的尺度以及机器人代人的直接作用和潜在威胁的二元关系。
关键词:新冠病毒;人机关系;医用机器人伦理;抗疫机器人伦理;机器代人
中图分类号:B82ꢃ文献标识码:Aꢃ文章编号:1000ꢄ5315(2020)05ꢄ0020ꢄ07
收稿日期:2020ꢄ07ꢄ06
基金项目:本文系广东外语外贸大学外国文学文化研究中心青年创新人才培植课题“近期科幻中的机器人养老伦
理困境”(18QNCX11)、吉林省教育厅“十三五”社会科学项目“话语分析视角下的德国治理模式研究及启
示”(JJKH20190401SK)的阶段性研究成果。
作者简介:程林(1986—),男,山东青州人,柏林自由大学哲学与人文学院博士,广东外语外贸大学阐释学研究院兼
职研究员、西方语言文化学院副教授,研究方向为德语文学文化、机器人人文。
在抗击新冠病毒的战役中,临危受命的医用机器人完成了国内抗疫史上的规模性首秀。将智能机器人
应用于抗击疫情,犹如提前被搬上现实舞台的科幻故事。但在当今“科技世代”,机器人出现在抗疫前线并不
意外。相比应用于大数据分析等方面的技术,抗疫机器人虽也有智能,但主要完成“累活脏活”,扮演着“智能
苦力”等角色。本文主要从医用机器人伦理的角度,初探抗疫机器人伦理的特点,并针对问题提出建议。作
为新分支领域,抗疫机器人伦理探讨为医用机器人伦理研究走向具体化和细化提供了契机。
一ꢃ抗疫机器人:“智能苦力”和“投影器官”
在此次抗击新冠病毒的战役中,不同层次的智能技术特点各异、各司其职、互补抗疫。冈村等学者将医
用机器人应用动机分为六类:“基于机器人技术的手术与介入、弱化与丧失功能的机器人替代、机器人辅助的
康复和恢复、行为疗法、对特殊需求人群的拟人化照料以及健康水平提升”①。这些都对应传统或曰狭义的
医用机器人应用。此次疫情中的机器人独具特色,它们多属于辅助与服务型机器人,但扩充了医用机器人的
功能,例如消毒、检测、导诊、宣传、巡控、采样、远程辅诊、传输或物流甚至烹饪等。其中,杀毒、传输、远程辅
诊及咽拭子采样等功能实用性尤为明显。机器人应用显著改变了医护人员应对传染性疾病的方式,成为技
①
AllisonM OkamuraꢀMajaJ Matari'candHenrikI ChristensenꢀꢅMedicalandHealthꢄCareRoboticsꢀꢆIEEERoboticsAutomation
Magazine17ꢀno3ꢁSeptember2010ꢂꢇ28-31
20
程ꢃ林ꢃ“智能苦力”:抗疫机器人伦理思考
术为善和技术赋能医疗的重要显现。
在新冠病毒阻击战中,辅助和服务机器人成为“抗疫尖兵”,其实践优势有四。一是节省人力。作为“智
能苦力”(“苦力”在此并不含贬义,而是因为机器人有耐劳属性和完成以下3D任务),机器人承担3D(Dirty
-Dangerous-Dull)任务,例如在楼道消毒、安防测温等方面全天候执勤,可节省医护人员时间精力,以便后
者投入到更需要专业技能的领域。二是保护医护。作为医护人员的“延伸手臂(眼睛)”或“投影器官”甚至
“
投影自体”①,机器人推动无人化和无接触的配送和诊治,避免交叉感染。它不仅可实现消毒杀毒与医废转
运的无人化作业,还可协助医护人员进行体征测试、咽拭子采样和非接触视频问诊。三是节省资源。口罩、
护镜和防护服等战略物资短缺是此次疫情面临的重要挑战之一,而机器人无需使用这些物资。四是在技术
成熟的情况下,减少失误。钟南山认为,采样机器人可“提升生物样本采集的规范性、保证样本质量。排除采
集咽拭子过程中,因医务人员水平差异导致咽拭子采集操作的不规范”②。
医用机器人技术发展迅速,但机器人抗疫是复杂的系统工程,需要全方位磨合和适配周期,安全性要求、
技术门槛和研发成本都较高,在机器人应急使用中问题在所难免。部分仓促上阵的机器人与实际应用场景
尚不契合,无法有效服务医患。鉴于此,在统筹管理方面,相关部门未来应对技术抗疫做周密统筹,促进医疗
自动化和智能化;在技术研发方面,应寻求突破技术鲁棒性瓶颈,确保机器人在抗疫现场能应对复杂辅医任
务。而在伦理方面,与其功能与特点相应,抗疫机器人伦理事项具有自身特色,同样需要得到应有重视。
二ꢃ从医患伦理、医用机器人伦理到抗疫机器人伦理
医患关系与社会实践息息相关,长期以来都是富有争议和值得深思的话题。作为医学伦理(Medical
)
的一部分,医患伦理旨在合乎伦理地看待与处理医患关系,对提高医疗质量有重要意义。当机器人出
ethics
现在医患之间时,就解构了传统的医患二元交往模式,并构建起医护-机器人-病患三方关系。
21世纪初,“机器人伦理学”(Roboethics)正式成为应用伦理学分支,意大利工程师G.维汝吉奥起到了
关键作用。在他和同行F.奥佩托看来,“机器人伦理学”旨在“促进和鼓励机器人学的发展,使机器人有利于
人类社会和个人,并且防止机器人的误用对人类造成危害”,它字面上看似探讨机器人的行为与伦理选择,但
③
实际上是“针对机器人设计师、制造商和用户的伦理学” ,或曰“关于人类如何设计、处置、对待机器人的伦
理学……以人为责任主体的伦理学”④。只要机器人不具备自主意识,其伦理问题的背后都是人的意志和责
⑤
任,这也符合当下的技术条件。作为“医学伦理与机器人伦理的结合” ,医用机器人伦理(medicalroboethꢄ
)
在国内外学界均起步不久,但显然非常重要,正如维汝吉奥等人所言,“从社会和伦理角度讲,应用于健
ics
康护理和提高生命质量的机器人是机器人学中遭遇技术难度和伦理问题最大的领域之一”⑥。鉴于现有机
器人的辅助医疗性质,本文建议厘清汉语表达中的“医用”与“医疗”。本文暂用“医用”机器人和“医用”机器
人伦理,因为“医疗”可暗示机器人具有短期内实际上无法具备的行为和责任能动性(相应地,本文虽据主流
表达使用了“抗疫机器人”,但目前仍是“疫用机器人”)。国际学界研究的重要案例是手术机器人的伦理问
题⑦,而机器人应用中人的主体性、患者的隐私和医护人员被替代等问题则是国内讨论的热点。
由于新冠疫情突发,“抗疫机器人伦理”在国内外学界还是崭新概念,本文将其作如下定义:作为医用机
①
德国技术哲学家E·卡普在其代表作《技术哲学纲要(1877)》中提出了“器官投影说”(Organprojektion),将工具与人类器官作了类比。参
见:ErnstkappꢀꢅGrundlinieneinerphilosophiederFechnikꢁ1877ꢂꢀꢆGrundlagentextederMedienkulturꢀedAndreasZiemannꢁWiesbadenꢇ
SpringerVSꢀ2019ꢂꢇ45-53。
②
徐梅《AI赶考———疫情赋予使命,但先要活下去》,《南方人物周刊》2020年第12期,第31页。
③
GianmarcoVeruggioandFiorellaOpertoꢀꢅRoboethicsꢇSocialandEthicalImplicationsofRoboticsꢀꢆinSpringerHandbookofRobotics
edsBrunoSicilianoꢀOussamaKhatibꢁHeidelbergꢇSpringerꢀ2008ꢂꢀ1504
闫坤如《机器人伦理学:机器的伦理学还是人的伦理学?》,《东北大学学报(社会科学版)》2019年第4期,第331页。
SpyrosG TzafestasꢀꢅMedicalRoboethicsꢀꢆRoboethics-ANavigatingOverviewꢁHeidelbergꢇSpringerꢀ2016ꢂꢀ81
④
⑤
⑥
GianmarcoVeruggioandFiorellaOpertoꢀꢅRoboethicsꢇSocialandEthicalImplicationsofRoboticsꢀꢆinSpringerHandbookofRobotics
edsBrunoSicilianoꢀOussamaKhatibꢀ1516
⑦
参见:SpyrosG TzafestasꢀꢅMedicalRoboethicsꢀꢆRoboethics-ANavigatingOverviewꢁHeidelbergꢇSpringerꢀ2016ꢂ,乌戈·帕加罗《谁为机
器人的行为负责?》,张卉林等译,上海人民出版社2018年版,第92-100页。
21
四川师范大学学报(社会科学版)
器人伦理的分支,“抗疫机器人伦理”是机器人伦理与疫期医患伦理的结合,以人特别是医护人员为行为和责
任主体,考察和解决疫情期间医护、机器人和患者三者关系的应用伦理,目标是确保抗疫机器人能以合乎伦
理的方式协助和服务医患。其间,机器人应成为医护与病患之间的安全中介和关联枢纽。与之相应,抗疫乃
至医用机器人伦理实际上是探讨以机器人为中介的医患关系的伦理。在医用机器人伦理范畴下,抗疫机器
人伦理与养老机器人伦理有相通之处,但也有显著差异。鉴于养老机器人伦理在国内外的探讨相对成熟,本
文将养老机器人伦理领域的已有研究作为抗疫机器人伦理这个新话题讨论的重要参考。
以上提到的人的主体性、病患隐私和医护被替代等医用机器人忧虑理论上都值得关注,但在机器人抗疫
中均非迫在眉睫的核心问题,或者其本身亟待细化分析。例如,医用机器人隐私问题虽重要,但无论是用于
杀毒、采样、宣传还是远程问诊的抗疫机器人与病患隐私都关联较少,与需要数据“供养”的部分养老机器人
以及在德国被热议的接触追踪程序(CoronaꢄWarnꢄApp)存在差异。
因此,与现有研究关注要点和视角略有不同,本文认为抗疫机器人伦理中有三个问题值得重视,而它大
致可按机器人用前(及用中)、用中和用后的顺序划分如下。
第一,人对机器人的态度和取向,例如关于机器人“权利”和“主体性”的讨论。在此,“机器人权利”并非
是有独立意识的机器人为自己伸张权利(如互动电影游戏《底特律:成为人类》中马库斯的“机器人权利宣
言”),而是人们设想出的机器人权利问题。
第二,人机交互过程中产生的伦理问题,例如在人机交互过程中出现的人的心理、情感、意愿和尊严以及
隐私问题,这些问题主要在于人应如何设计和使用机器人以避免人机交互产生的问题。
第三,机器人应用后的社会后果,例如机器人应用可在资源配置和工作分配等方面造成一系列值得讨论
的问题,在大众媒体上最常见的是“机器代人”,但它至少包括“机器人代人要位”和“机器人代人劳作”两类,
这一问题在于人应如何设计和使用机器人以避免产生不良的社会后果。
作为新议题,抗疫机器人要求医用机器人伦理讨论走向细化和现实化,有助于重新思考医用机器人伦理
中的若干问题。接下来,本文以这三个层次为依据,结合其它医用机器人伦理讨论,初探机器人抗疫的伦理
可行性及其带来的特有挑战。
三ꢃ机器人抗疫的伦理挑战
(一)机器人权利:非人类中心主义与工程师文化
机器人抗疫符合其原始定义和传统定位。机器人英文表达“robot”和德语中的“Roboter”来源自捷克语
“
robota”(出自恰佩克的舞台剧《罗素姆的万能机器人》),原意为“劳役”和“苦力”。在当今的技术愿景话语
中,机器人越来越多地被定义为人们的“助手”甚至“伙伴”。但自当代机器人在现实中出现以来,传统机器人
事实上经常承担了3D任务。在由J.伦克执导的电视剧《切尔诺贝利》(Chernobyl,2019)第四集中,人们起初
寄望于机器人清除核泄漏所产生的废料。但当时的机器人技术还无法胜任这项艰难的任务。在以机车为基
础的德国机器手臂无法承受辐射的情况下,当时苏联前线指挥部门最终不得不使用“生物机器人”(“bioroꢄ
”
)也就是人来清理核废料。在对机器人极重视和友好的“机器人王国”日本,机器人也承担着福岛核泄
bots
漏清理任务。“救援机器人已从一个有趣想法转变为紧急反应中必不可少的部分。”①抗击未知而又凶险的
新冠病毒同样属于“紧急反应”(emergencyresponse),抗疫机器人不仅是医用机器人、护理机器人,也是广
义上的救援机器人或“灾用机器人”。在极端的灾情下,如果机器人可堪调遣却用人来承担高危任务,会引发
严重的伦理责难;而机器人解决3D问题、保护和解放医护人员,符合在人类中心主义传统下的原始定位。
从上世纪下半叶开始,国际学界就已出现了未来机器人是否应有权利的讨论,近年来国内也出现了机器
人权利的争论。讨论机器人权利,意味着超越人类中心主义成为可能。但在严峻的新冠疫情中,这种理论设
想与实践需求并不对等,无法得到所有群体认同。医学界是抗击疫情的中坚力量,而工程师们的贡献也不可
忽视。有参与抗疫机器人研发中的工程师直指“robot”的汉译问题,并呼吁机器人回归工具本质:“不要被
①
RobinR MurphyetalꢀꢅSearchandRescueRoboticsꢀꢆinSpringerHandbookofRoboticsedsBrunoSicilianoꢀOussamaKhatibꢁHeiꢄ
delbergꢇSpringerꢀ2008ꢂꢀ1171
22
程ꢃ林ꢃ“智能苦力”:抗疫机器人伦理思考
‘
人’字误导,Robot这个词的英文释义并没有人的属性……也影响到了其后很多机器人产品的研制……机
器人的本质其实就是智能设备,它的价值也应该回归本质……能够在这三种环境(即3D)或者承担这三种类
型工作的机器人,是最具价值的。”①这与维汝吉奥等人总结的四种机器人定位之一“机器人只是机器、其它
什么都不是”不谋而合,即便它们“非常复杂和有用,但总归是机器”②。这种观念或会造成以下倾向:这类机
器人虽有“智能”,但除了将其视为辅医工具,其它问题(如“机器人权利”等伦理问题)不值得讨论。这种机器
人“工具论”姿态符合人类中心主义基调或“工程师文化”。“工程师文化”最重视实践需求的最优解,并通过
技术改变世界,方方面面的价值取向和是是非非一般不属于工程师最关心的事情。
在此次疫情中,谈论机器人可能拥有权利还是如何让机器人发挥最大应用价值,是非人类中心主义的伦
理文化与讲究实效的工程师文化的典型对抗。实际上,后者在疫情中占据了上风:将医用机器人应用于公共
卫生紧急事件,难以引发人们呼吁重视机器人权利,机器人救急有可能在未来也成为常态。严峻的新冠疫情
再次放大了人的价值,一方面现有机器人不会取代医护人员成为行动主体和责任主体,另一方面人们在危急
时刻也不会去讨论“工具”的权利。但新冠疫情是机器人权利讨论的特殊外在条件,作为机器人是否应该具
有权利的探讨仍需解决人类中心与否等核心问题。因此,机器人权利问题在抗疫的背景下无法得到解决或
被暂时悬置。关于机器人是否会代替人主体性的问题同样非燃眉之急,即便这并不意味着它没有讨论价值。
(二)人机交互:人的尊严与情感反应
但讲究实效的工程师文化并非完美无缺,如果伦理价值不被全面重视,人机交互就存在伦理风险,毕竟
人的情感与“工程师式理性”时有矛盾。英国伦理学家Aꢈ夏基与Nꢈ夏基认为,机器人可能给老人带来人际
接触总量的潜在减少、被客体化感觉和失去控制感觉的增加、失去隐私、失去个体自由和被欺骗等伦理风
险。 这些潜在风险理论上在所有医用机器人应用中都应被考虑,但又应具体分析,例如关于抗疫机器人是
否涉及“欺骗”的问题。同时鉴于针对隐私等问题的讨论比较常见,而其与抗疫机器人的联系同样不紧密,本
文在此主要结合机器人抗疫实践来讨论人机交互中人的情感和尊严。在电影《机器人与弗兰克》(Robotand
Frank,2012)中,当儿子希望机器人照料记忆力衰退严重的父亲弗兰克起居时,后者激动地说:“我没有那么
可怜! 我不需要该死的机器人喂我吃饭!”在后续情节中,随着与机器人交往的增多,弗兰克最终将其当作好
友,对其形成了情感依赖。科幻情节固然在不少方面比现实夸张,但这两个场景仍凸显了人机交互中人的心
理、情感、尊严与感知等问题的重要性。从效果来看,这些因素对机器人抗疫是否成功至关重要,也是抗疫机
器人伦理在人机交互层面要着重考虑的问题。
③
如果技术不成熟或不具备价值敏感性,人机交互有时也有单向性和不确定性。本文认为,患者对机器人
“医护”的反应约有两类六种可能。一类是不会引发伦理困境的反应,表现有二:有的病患能客观理性地看
待,无特殊感受;或有病患认为这是技术为善,喜闻乐见。另一类则会引发伦理责难,表现有四:如以上电影
片段所示,有的病患在理论上可能会对机器人产生情感依赖;与之迥异,有的病患是在急需人际温暖和慰藉
时或许会意识到自己面对的是冰冷的机器,被动地进入技术系统,因而产生情感抵触或异化心理;有的病患
可能会感到自己因为传染病而被医护人员或外界嫌弃,导致心理上的负面情绪增加;当技术不成熟时,病患
与本就缺乏通用应变能力的抗疫机器人无法真正形成交互,遭遇“技术拒绝” 认为技术过量或者感觉被智
能技术社会所遗弃。至于哪种问题更值得重视,则需要社会学调查来证实。但只要出现后四种情况中的任
何一种,都意味着机器人抗疫效果欠佳、人机交互失败,从而引发伦理问题。
④
,
人机交互是机器人跨学科研究的核心领域,在国外学界不断涌现出新的跨学科研究,例如近年来出现的
①
②
徐梅《AI赶考———疫情赋予使命,但先要活下去》,《南方人物周刊》2020年第12期,第29页。
GianmarcoVeruggioandFiorellaOpertoꢀꢅRoboethicsꢇSocialandEthicalImplicationsofRoboticsꢀꢆinSpringerHandbookofRobotics
edsBrunoSicilianoꢀOussamaKhatibꢀ1502
③
AmandaSharkeyandNoelSharkeyꢀꢅGrannyandtherobotsꢇethicalissuesinrobotcarefortheelderlyꢀꢆEthicsandInformationTechnolo-
gy14ꢀno1ꢁ2012ꢂꢇ27
④
参见:段伟文等《科技世代与人类未来:面对技术拒绝,一笑而过?》,澎湃新闻,2020年6月15日发布,2020年6月15日访问,httpsꢇꢉꢉwww
thepapercnꢉnewsDetail_forward_7848124。
23
四川师范大学学报(社会科学版)
“
机器人哲学”(Robophilosophy)①与“机器人心理学”(〔德〕Roboterpsychologie),后者更聚焦人机交互问
题。不同于阿西莫夫在作品中虚构的关于智能机器人个性与行为的“机器人的心理学”(Robopsychology),
对于“机器人心理学”,德国学者M.马拉认为应回答以下问题:“人们如何感知不同类型的机器人,人们和机
器人在面对彼此时(应)如何举止或行为……人应该如何构造人工智能(产品)以让它对不同的目标人群来说
都是令人惬意的互动伙伴,我们如何通过智能技术来避免被支配或因其而害怕的感觉。”②可见,“机器人心
理学”从非技术的层面来研究人机交互问题,旨在让机器人等智能技术更好地为人服务,并减少人机交互中
人类的不适感,这种紧迫性的问题也更为学界所关注,能够为相关的伦理探讨提供依据。与之形成对比的
是,大众媒体讨论最多的伦理话题是“机器代人”。
(三)机器代人:“机器人代人要位”与“机器人代人劳作”
在医用机器人领域,昂贵的机器人设备所引发的资源分配问题备受关注。德国学者M.德克尔曾指出,
“
如若只有少数有钱人才能用得起这种机器人系统,社会将会有不公平之虞”③。具体到机器人抗疫领域,它
不再涉及有钱人或穷人,因为机器人在特定医院中得到统一配置和使用;但问题演变为并非所有医院都能在
第一时间获得使用机器人的机会。在此,本文主要简论更需细化分析的热题:“机器代人”。
早在古希腊神话传说和史诗中,就有名为塔罗斯的青铜巨人,负责巡视和保卫克里特岛。到了近当代,
关于机器人代人的想象更加丰富,例如阿西莫夫的科幻短篇小说。可见,让机器人帮助自己完成重复性或艰
难任务是人的千年夙愿。但人类对代人机器的憎恨也不少见,并在卢德运动时达到一次高峰。而当代大众
媒体上更是活跃着一种“机器人威胁论”,这与人在新技术面前的忧虑倾向、不同人群的知识不对等、大众文
化中科幻“恶托邦”图景等因素息息相关。在医用机器人讨论中,也有关于医护人员被替代的顾虑。但“机器
代人”不应一概而论,不断演进的实践应用要求用发展的眼光具体分析问题。面对智能技术的发展,人们需
要将“近忧”和“远虑”、对未来星空的“仰望”与脚踏当下“实地”合理结合起来。本文认为,“机器代人”应有
“机器人代人要位”和“机器人代人劳作”两层内涵,而这两者又都有正反两面。
“机器人代人要位”即人们担忧机器或机器人取代人在意的重要岗位,导致人失去劳动机会或让人的技
能无用化。审视“机器人代人要位”时应考虑特定岗位或技能是否值得人珍视的创造性工作。在近忧层面,
同养老机器人一样,抗疫机器人能减轻医护人员的负担、解决相关领域的燃眉之急,而非单纯地取代人,因为
无论是养老护工还是疫情初期的医护人员都常有短缺之虞,乃至成燃眉之急。在养老和抗疫领域,单一地认
为机器人会让医护人员失业的“近忧”脱离了现实土壤。在远虑层面,机器人在抗疫中的实用性是否会加速
机器人在其它领域的代人趋势也值得注意。在本次疫情中,国外媒体谈论了“新冠是否会加速机器人替代人
类”的问题④。人们无需过度担忧疫情中本就棘手的任务被机器人接过,但当机器人在特定场景中的实用性
凸显出来时,的确会成为机器人应用的名片,存在加速机器人替代人类其它领域工作的潜在倾向。但需要注
意的是,这在不同经济社会体和不同的发展阶段中又有不同呈现和影响。例如,欧美社会对机器人代人的顾
虑很大,而在中国和日本社会,机器人则被赋予厚望。
“机器人代人劳作”指机器人代替人从事繁重、危险或者少有人愿从事的工作,实为“机器助人”。一方
面,应用机器人抗疫的理由充分,在这种情况下使用机器人,而不是医护人员亲身上阵完成高危任务,甚至事
关抗疫成败。但另一方面,“机器人过度助人”也会引发伦理顾虑。关于机器人养老涉及的人机分工问题,
A.夏基和N.夏基提出,要“确保机器人应用到养老领域是有利于老人本身,而不仅是用来减少社会其他人员
①
作为比维汝吉奥的“机器人伦理学”涵盖范围更广的研究领域,“机器人哲学”在2014年的社交机器人会议上被提出,意指“关于社交机器人
的、为了社交机器人的和由之引发的哲学”。参见:JohannaSeibtꢀꢅRobophilosophyꢀꢆPosthumanGlossary edsRosiBraidottiꢀMariaHlaꢄ
vajovaꢁLondonꢇBloomsburyꢀ2017ꢂꢀ390。
②
JulianeGringerꢀꢅWarumdieAngstvorRoboternꢊꢁInterviewmitMartinaMaraꢂꢀꢆJanuaryꢀ2020ꢀaccessedApril4ꢀ2020ꢀhttpsꢇꢉꢉmoꢄ
tionistcomꢉwarumꢄdieꢄangstꢄvorꢄroboternꢉ
③
米夏埃尔·德克尔《机器人技术》,阿明·格伦瓦尔德主编《技术伦理学手册》,吴宁译,社会科学文献出版社2017年版,第620页。
④
ErikaHayasakiꢀꢅCovidꢄ19couldacceleratetherobottakeoverofhumanjobsꢀꢆMITTechnologyReview June17ꢀ2020ꢀaccessedJune20ꢀ
2020ꢀhttpsꢇꢉꢉwwwtechnologyreviewcomꢉ2020ꢉ06ꢉ17ꢉ1003328ꢉcovidꢄ19ꢄcouldꢄaccelerateꢄtheꢄrobotꢄtakeoverꢄofꢄhumanꢄjobsꢉ
24
程ꢃ林ꢃ“智能苦力”:抗疫机器人伦理思考
的看护负担”①。这应是在医用机器人应用领域被普遍关注的伦理原则。与机器人养老相比,机器人抗疫的
独特之处在于,在疫情危机时刻,新冠病毒是医护与病患的共同敌人,两者安危都至关重要,合理地使用机器
人并不直接意味着医护人员逃避应尽责任。
相比机器人直接取代人,乃至危及人类生存,人机共存与协作更像是未来的发展趋势。根据以上分析,
有两点对处理好在“机器代人”层面的机器人抗疫伦理问题最关键:一是机器人代人的直接作用和潜在威胁
的二元共生关系,二是机器人与医护人员分工与协作的原则与尺度。而第一个问题又需要考虑具体的社会
经济形势和阶段。探讨以上两点,也有助于细化分析医用机器人对医护人员主体的替代问题。
根据对“机器人权利”、“人机交互”和“机器代人”的分析,可见机器人抗疫所涉伦理问题的如下特点:在
疫情中,暂时难有理想主义姿态的空间,例如在机器人权利或机器人主体方面;机器人抗疫的显著作用不会
终结这些讨论,但有可能使其悬置。从人机交互的角度讲,并非所有的机器人在使用过程中都会引发隐私问
题,但病患的心理、情感反应和尊严等尤其值得重视。从社会后果的角度讲,“机器代人”讨论应注意医护与
机器人协作与分工的尺度以及机器人代人的直接作用和潜在威胁的二元共生关系。随着机器人应用日广,
医用机器人伦理问题虽需要总体把握,但其探讨也须细化和具体分析。
四ꢃ后疫情时代的抗疫机器人伦理
在新冠疫情突如其来的情况下,机器人紧急参与抗疫,机器人应用无法辅以统筹完备的伦理考量。鉴于
以上陈述,除了看似难以有统一结论的“机器人权利”问题,机器人抗疫伦理讨论尚有以下三个提升空间:第
一,尚缺席的机器人抗疫伦理的深入分析和统筹考量;第二,人机交互中病患的情感和尊严等问题;第三,医
护与机器人的协作与分工问题以及机器人代人的直接作用与潜在威胁问题。与之相应,在后疫情时代,人们
应在伦理宏观规划、伦理敏感设计和医-机-患伦理关系三个层面做好考量。
(一)伦理宏观规划:协调技术创新与伦理规划关系,避免技术创新独行和先行,促使两者协同进化,并使
伦理预案和动态审核甚至紧急撤回机制相结合。
在此次严峻的新冠疫情中,机器人迅速投入抗疫符合抗击疫情的紧迫需要,有助于保护医患人员的生命
②
安危。但“无人技术”与“情绪化的人”结合可能导致“无人困境” ,合理治理与规划至关重要。在后疫情时
代,我们有时间和责任去争取技术创新和伦理考量在未来协同进化。为避免制造出陷入“科林格里奇困境”
(CollingridgeDilemma)的技术产品,人们“对人工智能伦理的考量应贯穿于人工智能产品与服务的整个生
命周期”③。在抗疫机器人应用中,这意味着:第一,为未来可能发生的紧急公共卫生事件做好预案,制定相
关伦理准则;第二,建立中立的技术后果评估机制,实施动态治理,客观评估机器人应用的效果,规避机器人
应用的不确定性后果和无序局面;第三,在机器人技术的不良后果集中显现时,要能在不影响大局的情况下
对技术应用进行修复甚至“撤回”。技术创新与应用理想状态应是,“不仅在科技创新之初就要对其价值伦理
问题有所考量,而且要使科技伦理成为贯穿于科技创新全生命周期的反馈与调节机制,通过两者的共同进
化,让科技在造福社会的同时尽可能减少负面后果与伦理风险”④。
(二)价值敏感设计:利用价值敏感性和人类友好型技术设计提高人机交互质量,规避人机交互中病患情
感与尊严等引发的伦理问题。
技术并非完全从无到有,而是必然附带着人的欲望、情感与愿景。如果不能全面重视价值与是非,“工程
师文化”及其所持的机器人“工具论”亦有显著局限,即可能对人的心理、情感与尊严重视不足。因此,抗疫机
器人应当嵌入人类道德伦理,保护人的价值:第一,依据美国学者B.弗里德曼提出的价值敏感性设计(value
senstivedesign)理念或荷兰学派的道德物化观,通过技术设计贯彻与保护人的价值与尊严,并避免让人感觉
受到歧视或客体化,因而产生排斥心理或挫败感;第二,机器人设计应以人类用户友好(humanꢄfriendly)为
①
AmandaSharkeyandNoelSharkeyꢀꢅGrannyandtherobotsꢇethicalissuesinrobotcarefortheelderlyꢀꢆEthicsandInformationTechnolo-
gy14ꢀno1ꢁ2012ꢂꢇ28
②
刘永谋《危机处理“无人困境”破解法》,《环球》杂志2020年第6期,第18-21页。
③
④
曾毅《对新一代AI伦理的考量需贯穿整个产品生命周期》,《科技日报》2020年6月5日,第5版。
段伟文《变“串行”为“并行”科技创新应与科技伦理同进化》,《科技日报》2020年6月5日,第5版。
25
四川师范大学学报(社会科学版)
宗旨,以医-机-病三者和谐交互为目标,将医患交流习惯、患者情绪与反应等纳入设计考量,提高人性化程
度,并避免将部分病患群体拒之于技术福利门外。技术人员应与医护人员合作推进伦理敏感和用户友好设
计,在机器人功能中融入人文关怀,例如可将娱乐互动和情感交互等模块植入机器人,缓解医护人员的工作
压力与病患的紧张情绪,确保在必须使用机器人时,让它成为喜闻乐见的技术物。同时,要向病患合理解释
机器人的功能和人机协作的性质,并尊重病患的知情权与自主意愿。
(三)医-机-患伦理关系:以保护医患生命安全和身心健康为最终目标,把握好医护人员与机器人分工
协作的尺度,用辩证地眼光看待机器代人的影响。
相比科幻中的人机主仆论与现实中缺乏价值敏感性的机器人工具论,以人为本的人机协作更理性。在
新的医患或护患关系中,第一,要同时保障医护与病患的生命安全和身心健康,处理好机器人应用的时机和
人机协作的方式和尺度,这是所有医用机器人应用都须考虑的问题。例如,国内虽有咽拭子采样机器人,但
在疫情稳定后和医护充足时,机器人应用价值骤降;德国虽有研发抗疫机器人的实力,但在医疗体系稳固和
医护身心得以保障的情况下,在德国并未出现值得一提的机器人应用案例。第二,用发展的眼光具体分析
“机器代人”话题,区分工作的类型和性质,并预估到它可能带来的社会影响,避免其带来过大过快冲击。此
外,要妥善解决机器人应用中的其它重要伦理问题,如人机交互的安全和责任归属。
在未来人类文明中,存在着未知危险病毒如影随形的可能性,机器人仍会用于解决高传染风险、繁重和
重复性的工作。未来,医疗领域的人机协作或会不断升级,而相关伦理讨论更是未完待续,这要求我们不仅
要有宏观的伦理原则和规划,也应根据具体情况作细化分析,以期为以后的医用机器人应用做好伦理准备。
ꢀ
IntelligentLaborsꢁEthicalConsiderationsofCoronavirus-fightingRobots
aꢀb
CHENGLin
aInstituteofHermeneuticsꢀbFacultyofEuropeanLanguage&Cultureꢀ
ꢁ
GuangdongUniversityofForeignStudiesꢀGuangzhouꢀGuangdong51040ꢀChinaꢂ
AbstractꢁInthebattleagainstCOVIDꢄ19ꢀvariousantiꢄpandemicrobotsplayrolessuchas
ꢅintelligentlaborsꢆUsingrobotsinthemedicaltreatmentmeansthedeconstructionofthetradiꢄ
tionalrelationshipbetweenmedicalstaffsandpatientsꢀthatisꢀitisdeconstructedintoarelationꢄ
shipwithrobotsasanintermediaryCoupledwiththeparticularityofthepandemicꢀcoronavirusꢄ
fightingrobotsnaturallybringnewtopicstothemedicalroboethicsInthispandemicꢀissues
suchasthesubjectivityandtherightsofrobotsmaybesuspendedꢀandthetripartiterelationship
amongdoctorsꢀrobotsandpatientsꢀespeciallypatientsꢋemotionalstandsanddignityinHumanꢄ
robotinteractionꢀthedivisionoftasksandthecooperationbetweenmedicalstaffsandrobotsꢀ
andthereplacementofhumanbeingbyrobotsismoreworthyofinꢄdepthexplorationInthe
postꢄCOVIDꢄ19eraꢀrelevantethicalconsiderationsshouldcatchupwithtechnologicalinnovaꢄ
tionꢌcoronavirusꢄfightingrobotsandothermedicalrobotsshouldadoptvalueꢄsensitiveandhuꢄ
manꢄfriendlydesignstobetterprotectpatientsꢋemotionalstandsanddignityꢌtheethicalconsidꢄ
erationsofCoronavirusꢄfightingrobotsshouldtakeprotectingthephysicalandmentalhealthof
bothdoctorsandpatientsasitsgoalꢀandmeasurethescaleofthedivisionoftasksandthecollabꢄ
orationbetweenmedicalstaffsandrobotsꢀaswellaspotentialthreatsinthereplacementofhuꢄ
manworkersbyrobots
KeywordsꢁCOVIDꢄ19ꢌhumanꢄrobotrelationshipꢌmedicalroboethicsꢌethicalissuesof
coronavirusꢄfightingrobotsꢌreplacementofhumanworkersbyrobots
[责任编辑:帅ꢃ巍]
26
（已满）