图片偷偷撸改偷偷撸改

算法厌恶？公众对致命性自主火器系统的格调分析

图片

作家：Ondřej Rosendorf，查尔斯大学社会科学学院博士生，汉堡大学和平与安全计谋研究所研究员；Michal Smetana，查尔斯大学社会科学学院副讲授，布拉格和平研究中心主任；Marek Vranka，查尔斯大学社会科学学院助理讲授，布拉格和平研究中心研究员。

来源：Ondřej Rosendorf， Michal Smetana and Marek Vranka， “Algorithmic Aversion? Experimental Evidence on the Elasticity of Public Attitudes to 'Killer Robots’，” Security Studies， Vol. 33， No. 1， 2024， pp. 115-145.

导读

致命性自主火器系统（Lethal autonomous weapon system）是一项艰苦但存在争议的军事创新。尽管先前的研究标明，部署此类“杀手机器东说念主”将靠近大都公众反对，但对公众格调在不同身分影响下的弹性变化仍然领路有限。基于此，本文旨在探讨公众格调对以下三个特定身分的明锐性：对技能本人事故频发性的温顺、对不良恶果株连包摄的温顺，以及对自动化夷戮试验上有失东说念主类庄严的温顺。通过对大都好意思国样本进行访问实验，研究者发现，公众对部署自主火器的格调与他们对自主火器相对于东说念主工操作火器系统的挫折极端率领路权贵连络。但是，关心东说念主类庄严被侵略并不一定平直导向反对“杀手机器东说念主”。上述发现对于现时对于自主火器国外监管的计谋狡辩具有艰苦道理道理。

小色哥奇米网站

国度将技能朝上欺诈于军事宗旨才调是国外关系中组成国度权力的关键要素之一。现时，东说念主工智能、机器学习与自动化在全球军事创新中均处于起原地位。这些技能在军事界限中最凸起且最具争议的应用之一是“致命性自主火器系统”，浅近也被称为“杀手机器东说念主”。这些火器系统若是被部署在战场后，不错在莫得平直东说念主工监督的情况下快速准确地定位并挫折方针。但是，致命性自主火器系统的出现伴跟着严重的法律与伦理问题，国外社会也曾就对致命性自主火器系统进行可能敛迹或者将其全面阻止张开了狡辩。

与早期的东说念主说念主义裁军倡议肖似，阻止致命性自主火器系统的倡导者觉得将公众对此类火器系统的反对格调看成应当将其阻止的论据之一。但也有研究表露，当得知“杀手机器东说念主”比其他火器类型具有更强的军事才调时，公众对致命性自主火器系统的反对格调会有所收缩。举座来看，现时计谋制定者与连络研究者仍不明晰何种身分会影响全球对该系统的格调。

自主火器的出现

新兴技能如东说念主工智能和自主机器对军事火器和现代干戈的性质具有紧要影响。天然对于这些技能“鼎新性”影响的争论仍在继续，但对自主军事技能的日益增长的投资也曾成为现实。

致命性自主火器系统的发展是现时军事创新界限中一个引东说念主庄重且豪阔争议的场地。苟简来说，它不错界说为一朝开动后无需进一步东说念主类纷扰即可选拔并挫折方针的火器系统。也恰是其在方针选拔与挫折上的自主性，使其区别于东说念主类保留对方针选拔与挫折决策权的火器系统。

致命性自主火器系统的发展兼备收益与风险。一方面，东说念主们觉得自主火器粗略有助于在干戈中取得速率上风，减少东说念主员需求，何况裁汰对通讯链路的依赖。同期，如良友适度无东说念主机一样，自主火器还粗略裁汰东说念主类士兵靠近的风险。另一方面，机器的决策速率与自主挫折建树，意味着军事东说念主员会较少介入期运作历程，这可能导致事故或冲破升级。同期，自主决策系统的不能预测性与非东说念主性将组成对国外东说念主说念法挑战，因为致命性自主火器系统无法领路东说念主类生命的价值与褫夺一个东说念主生命的着实道理道理。

自2013年以来，对于自主火器以过火他军事挑战的国外推敲就一直在辘集国《对于某些旧例火器的条约》（CCW）上进行。2016年，CCW缔约国缔造了政府内行组（GGE）以制定对于怎样措置致命性自主火器系统问题的提议。但由于国度对此问题的关注点不同（一些国度关注利好，一些国度关注东说念主说念主义影响），GGE并未在此问题上取得实质性发扬，但国外社会永恒莫得住手对自主火器的关注，许多非政府组织也正围绕这一问题张开职责。

致命性自主火器系统在政事和军事宗旨上的效用，在某种进程上将取决于它们的公众给与度。主张阻止致命性自主火器系统的东说念主征引1977年《〈日内瓦条约〉附加议定书》马顿斯条件，觉得其属于违背“公众良心”的干戈技巧和花式。尽管咫尺国外社会对该条件的解释存在互异，但回溯过往国外谈判案例，如实有过将公众良心这孤独分纳入考量以阻止火器系统进入使用的前例。

算法厌恶

从会诊复杂疾病到法律接洽，算法在好多界限中试验上也曾优于东说念主类决策者。但是，即使后者的决策在客不雅上是较差的，公众仍往往拒却算法决策而偏疼东说念主类内行。举例，在医疗会诊界限，患者更倾向于尊从东说念主类医师的提议，因为他们觉得算法无法斟酌到他们的“独到情况”。现存研究也果然标明，东说念主类倾向于贬抑致命性自主火器系统。据统计，梗概55%的好意思国成年东说念主反对使用致命性自主火器系统。民调公司Ipsos代表东说念主权不雅察组织进行了几次跨国访问，末端表露全球约61%的参与者对“杀手机器东说念主”执反对格调。近期对好意思国的东说念主工智能和机器学习研究东说念主员及父母官员的访问末端也体现出了对致命性自主火器系统的潜在厌恶。

尽管统共这些发现都标明公众对致命性自主火器系统有浓烈的反感，但这一论断仍不解确。参与者可能反馈仅仅和平主义格调，而非对自主火器本人的着实厌恶。咫尺已有研究讲明，当公众了解到“杀手机器东说念主”在军事效用上明显优于其他选项时，其反对意见会权贵减弱。

基于此，本研究将推敲国外上对于标准致命性自主火器系统狡辩中的三个潜在中枢身分：末端主义——对自主技能发滋事故的担忧；法律空缺——机器无法为误伤承担株连；伦理风险——让机器决定东说念主类存一火有违东说念主类庄严。同期，本文也对“偶然性担忧”与“固有性担忧”作念出了划分，前者主要基于现时自主火器技能的局限性（如该系统无法正确划分正当方针与积恶方针）。后者则是基于某些孤苦于技能朝上的原因，如自动化夷戮的固有不说念德性。株连包摄类担忧则处于两者之间。

若是公众格调主要受“偶然性担忧”驱动，那么跟着技能发展，公众对致命性自主火器系统的格调可能变化。若是受“固有性担忧”驱动，不管技能怎样朝上，公众对该系统的格调都不太可能变化。

（一）易出事故

根据保罗·沙尔（Paul Scharre）的不雅点偷偷撸改，东说念主类对自主机器有两种基本直观。一种是乌托邦式的直观，觉得自主系统是一种可靠、安全且精确的东说念主类操作系统的替代有计算。另一种是末日式的直观，觉得自主系统容易失控并犯下苦楚性的极端。事实上，后一种信念的广泛存在。基于对自主系统可预测性和可靠性的怀疑，以及在流行文化中斗争到“机器东说念主末日”念念象，公众会因此形成对使用致命性自主火器系统的厌恶。

这部摊派忧并非毫无根据。全国列国的部队也曾在应酬高度自动化系统方面靠近诸多挑战，如几起爱国者导弹认真系统的盟军误伤事件。在这些事件中，系统极端地将盟军飞机识别为敌方导弹。

这些技能赶走对于在战场上爱戴基本的伦理要领可能具有长远影响。从国外东说念主说念法的角度来看，能否确保盲从划分原则可能是致命性自主火器系统靠近的最具挑战性的问题。但到咫尺为止，科学家尚未斥地出粗略像东说念主类判断那样划分正当与积恶方针的技能。在现代战场环境中，这种技能局限尤其令东说念主担忧，因为环境中浅近同期存在着战斗东说念主员和子民，且存在交战方策画沾污其法律身份的可能。

但是，此类挑战在技能上具有偶然性。原则上，技能朝上最终可能使致命性自主火器系统粗略像东说念主类操作系调处样划分正当和积恶方针。异日，自主火器致使可能比东说念主类更具有划分才调，因为它们不错配备泛泛的传感器进行战场不雅察，何况以远超东说念主类的速率进行数据处理，在战场高压情况下也不会东说念主为身分（如心扉）的影响。

不管致命性自主火器系统最终是否粗略讲明其在方针划分方面更可靠，公众对其剖析仍可能相对于事实发展存在“滞后性”，即受到之前该系统相对于东说念主类易出错的信念的影响。同期，实验心理学界限的凭证进一步标明，东说念主们对机器所犯极端的容忍度要远远低于对东说念主类所犯极端的容忍度。因此，假定公众对“杀手机器东说念主”的格调受到对技能易出错性的现存信念的影响，本研究预测，向公众呈现自主系统使用比东说念主类操作系统具有较低的方针误识别风险景象，将加多对致命性自主火器系统的解救：

假定1: 相对于东说念主类操作系统，若是致命性自主火器系统的方针误识别风险较低，公众对该系统的解救将加多。

（二）株连过错

对致命性自主火器系统的另一个反对意见是将导致明显的“株连过错”。此不雅点觉得，将该系统应用于战场可能会使对不良末端（如致命事故或明显的干戈罪孽）追责变得极其困难。让处于决策链中的东说念主对他们无法适度或预想的末端负责是不公说念的，影音先锋性爱欧美但同期咱们也无法要求机器本人负责，因为它空泛这种株连的说念德代理才调。因此，株连过错的出现试验上对国外东说念主说念法组成了潜在挑战。一些学者致使觉得，若是致命性自主火器系统的性质形成对其不良恶果的追责困难，那么在干戈中使用该系统就无法得到说念德上的允许。

现存的访问标明，株连可能是纷乱公众关注的问题。2020年Ipsos访问末端表露，梗概有53%反对斥地和使用致命性自主火器系统的东说念主觉得这些系统将导致株连过错。基于此，本研究但愿通过向参与者提供一个明确由军方带领层承担这种株连的景象，探究在明确将潜在株连归于军方带领层时，公众格调会怎样变化。基于现存访问数据，本研究假定，当公众了解到军方带领层将为致命性自主火器系统导致的不良恶果承担株连后，对部署致命性自主火器系统的解救会加多：

假定 2：若是公众知说念军事决策链中存在对致命性自主火器系统不良恶果负责的军官，他们对该系统的解救将加多。

（三）东说念主类庄严

一个无法通过技能朝上措置的固有性问题是，使用自主机器杀死东说念主类将对东说念主类庄严组成侮辱。致命性自主火器系统将东说念主类视为苟简的方针或数据点并对其推论打击，违背了基本的东说念主类庄严职权，即阻止将东说念主类视为苟简物体。

但将“东说念主类庄严”论点引入对是否得意许部署该系统的推敲仍存在争议，许多内行觉得“东说念主类庄严”是一个具有争议且弄脏的成见。品评者浅近用末端主义论据来反驳，即对庄严的担忧最终将被晋升军事效用和裁汰方针误识别风险的利好所对消。

尽管东说念主类庄严论的逻辑连贯性存在争议，但它仍强调说念德本能亦然驱动公众厌恶“杀手机器东说念主”的潜在身分之一。2020年Ipsos访问表露，在反对致命性自主火器系统的参与者中，约有66%的东说念主觉得将致命决策奉求给机器会“越过说念德红线”。基于此，本研究觉得，若是说念德本能在塑造公众对“杀手机器东说念主”的格调中有所作用，那么个东说念主对侵略东说念主类庄严的明锐进程与他们对致命性自主火器系统的解救进程之间就将存在负连络性：

假定 3：更关注侵略东说念主类庄严问题的个东说念主更不能能解救致命性自主火器系统。

实验想象与发现

为了测试这些身分是否以及怎样影响公众对致命性自主火器系统的解救度，本研究进行了一项针对999名好意思国公民的访问实验。研究者将参与者立时代派到五个存在互异的假定景象中。该假定景象描摹一个辘集国授权的反叛乱行为，在这个景象中，劝诱官决定是否部署东说念主工遥控或自主无东说念主机来遗弃叛乱胁迫。在实验想象中，在每种无东说念主机选项的方针误识别风险和对潜在子民逝世的株连归因方面有所不同。为了斟酌对参与者对该系统的解救进程，研究者要求参与者标明他们更偏好东说念主工遥控如故自主无东说念主机。此外，研究还包括了一个通达式问题，以访问参与者选拔偏好背后的原因。在对团结批参与者进行的后续访问中，研究者还西宾了他们对侵略东说念主类庄严的明锐度。

通过在线访问平台Prolific，研究员对999名好意思国成年公民进行了访问，访问时代为2022年6月7日至6月9日。访问好意思国公众具有明显的计谋连络性，因为好意思国咫尺在斥地此类技能方面的处于带领低位。为了加多样本的代表性，本研究对性别和党派认可（共和党、民主党和孤苦派）进行了配额处理，因为Prolific平台倾向于诱导男性、年青的、态度更倾向于解放派的且受培植进程较高的参与者。

（一）易出事故

数据处理末端表露，向公众呈现自主无东说念主机相对于东说念主工操作系统更防碍易极端地将子民误觉得方针的景象，权贵加多了他们对致命性自主火器系统使用的解救。因此，公众对该系统的格调似乎取决于相对方针误识别风险的剖析。此外，根据参与者在通达式问题修起中对对于技能和算法在划分子民与方针方面才调不及的担忧标明，对技能的怀疑可能是导致公众对“杀东说念主机器东说念主”厌恶的主要驱上路分之一。访问末端进一步说明了这少量，即公众广泛觉得自主无东说念主机的风险更高，而这些信念影响了他们的偏好。

（二）株连过错

总体来看，研究者莫得发现解救假定2的实考据据，报告参与者劝诱链中有负责的军官并莫得加多参与者对致命性自主火器系统的解救。此外，在对通达式问题的回答中，很少有参与者提到株连方面的担忧，这标明对由自主无东说念主机形成子民逝世的株连问题并不会自动出咫尺普通公民的脑海中。零末端不应被解释为公众对株连问题皆备不关注。当被问及对遥控或自主无东说念主机形成的子民逝世是否更难以对某东说念主进行法律与说念德上的追责时，大多数东说念主都领路到“杀东说念主机器东说念主”可能给此问题带来更大的挑战。但是，即使个东说念主执有“致命性自主火器系统将导致对不良恶果追责困难”的信念，仍然不会使其更可能或更不能能解救对该系统的假定使用。

（三）东说念主类庄严

访问表露，尽管一些参与者惦记将杀东说念主决定交给算法是不说念德的，但他们并不一定觉得此类担忧与侵略东说念主类庄严连络。天然有尽头数目的受访者（41%）示意，被自主无东说念主机的计较机重要杀死比被主宰遥控无东说念主机的东说念主杀死更不对伦理，但绝大多数受访者（71%）在触及东说念主类庄严时，觉得这两种无东说念主机莫得区别。这标明参与者觉得致命性自主火器系统的使用与东说念主类庄严问题无关或仅有相配小的关联。天然研究发现，对东说念主类庄严侵略更明锐的个体平均来看更反对使用该系统，但这些格调仍然在很猛进程上取决于其他身分，非常是方针误识别的风险。当受访者领路到自主无东说念主机比使用遥控无东说念主机有更低的击中极端方针的风险时，他们对该系统的厌恶进程较低。此外，对照组中的通达式回答标明，天然对“杀东说念主机器东说念主”的广泛厌恶可能部分受到对自动化夷戮不说念德性的领路的影响，但参与者并莫得将此类担忧领路为对东说念主类庄严的侵略，且绝大多数东说念主觉得被东说念主工遥控或自主无东说念主机杀死是一样不体面的。

结语

本文渴望通过覆按公众对“末端主义——自主火器的易错性”、“法律温顺——误伤追责”与“伦理温顺——机器杀东说念主”这三种咫尺国外上针对此问题张开狡辩时明确的中枢思切的明锐性，对现时国外上对于致命性自主火器系统的计谋狡辩具有艰苦道理道理。

起原，本研究发现，尽管公众对致命性自主火器系统的基准厌恶进程相配高，但公众格调也具有尽头的弹性。公众对这些火器系统的反对格调在很猛进程上取决于它们相对于东说念主操作系统的出错概率。在通达性问答中参与者经常提到的对技能水平不及的担忧，以及对风险计算的补充访问末端，都标明觉得技能易错的信念可能是导致公众对该系统基准厌恶的主要驱上路分之一。此外，本研究莫得发现解救明确说起劝诱株连不错减轻对致命性自主火器系统反对的凭证。临了，对于自动化夷戮不体面性的固有性担忧会加多公众对这些系统的反对这一假定，本研究只发现了十分有限的凭证。平均而言，对东说念主类庄严更关注的参与者更不偏好使用该系统。但是，额外分析表露，当遥控无东说念主机相对于自主无东说念主机的误判风险较高（即使是略高）时，对东说念主类庄严明锐的参与者也倾向于选拔后者。

综上，本研究对现时国外社会在赶走或阻止致命性自主火器系统的问题上具有明显道理道理。研究表露自致命性自主火器系统若是粗略通过技能矫正晋升该系统识别方针的精确度，致使最终杰出东说念主工操作火器系统，那么对于该系统的赶走与禁令可能就无法持久执续。因为若是最终讲明致命性自主火器系统在方针识别方面比东说念主工系统更可靠，公众对该系统的格调会出现较大弯曲。

但这一发现并不料味着现时国外监管莫得价值。起原，咫尺莫得任何东说念主能保证技能将发展到足以胜过东说念主类决策者的进程。其次，本研究在公众对侵略东说念主类庄严明锐性问题上的发现标明，至少仍有部分对致命性自主火器系统的厌恶受到固有性担忧的影响。因此，基于该系统易错性以论证国外社会应酬其加以敛迹与赶走在短期内是有用的，不错动员公众解救连络监管措施落实，但这么的框架策略仍然容易受到技能变革引起的公众公论变化影响。将该系统固有不说念德性与易出错性相衔尾以动员公众解救的监管措施最成心。

词汇积蓄

Lethal Autonomous Weapon Systems

致命性自主火器系统

International humanitarian law（IHL）

国外东说念主说念主义法

The Convention on Certain Conventional Weapons （CCW）

《特定旧例火器条约》

译者：张学玉，国政学东说念主编舌人，南开大学番邦语学院。

校对 | 王京 张倍祯

审核 | 李源

排版 | 张嘉益

本文为公益共享，管事于科研造就，不代表本平台不雅点。如有恣意，接待指正。

图片

本站仅提供存储管事，统共内容均由用户发布，如发现存害或侵权内容，请点击举报。