该不该赋予机器人杀ISIS的权力？

掐死你的温柔

该不该赋予机器人杀ISIS的权力？

机器人
该不该赋予机器人杀ISIS的权力？
本周，约翰桑希尔（John Thornhill）在《金融时报》撰文，探讨机器人杀人的权力。
想象一下这样的未来场景：以美国为首的联军正在逼近叙利亚的拉卡(Raqqa)，决心消灭ISIS。多国部队出动一批致命的自主机器人，围着城市四处飞行，追踪敌人。利用面部识别技术，这些机器人识别和杀死ISIS的指挥官，斩落了这个组织的头目。在联军和平民伤亡最少的情况下，瓦解了不知所措、士气低落的ISIS部队。
这听起来是很好地运用了技术。事实上，有很多人不这么认为，包括人工智能领域的很多专家。
去年7月，众多人工智能研究人员发表了一封公开信，警告称这种技术已经发展到一定程度，几年以后——而无需几十年——就有可能部署“致命自主武器系统”（Lethal Autonomous Weapons Systems，它还有一个不相称的简称，Laws，意为“法律”）。不像核武器，这类系统可以以低廉成本大规模生产，成为“明天的卡拉什尼科夫步枪(Kalashnikov，即AK-47)”。
“它们早晚会出现在黑市上，落入恐怖分子、希望更好地控制民众的独裁者和想要进行种族清洗的军阀的手中，”他们表示，“在军用人工智能领域开启一场军备竞赛是一个坏主意，应该对超出人类有效控制的攻击性自主武器施加禁令，以防止这样的军备竞赛。”
美国大体上已承诺放弃使用攻击性自主武器。本月早些时候，联合国(UN)在日内瓦举行了有94个军事强国参加的新一轮谈判，旨在拟定一项限制此类武器使用的国际协定。
主要论据是道德层面上的：赋予机器人杀人的代理权，将越过一条永远不应被越过的红线。
因为开展反对地雷的运动而获得诺贝尔和平奖的乔迪威廉斯(Jody Williams)是“阻止杀手机器人运动”(Campaign To Stop Killer Robots)的发言人，他表示自主武器比核武器更可怕。“如果一些人认为把人类的生杀大权交给一台机器是可以的，人性又何以处之？”
除了纯粹的道德问题以外，还有其他令人担忧的问题。杀手机器人会降低战争中的人员成本，爆发冲突的可能性是否会因此提高？如何阻止这类系统的扩散？当它们出问题的时候谁来负责？
在一个哲学研讨会上，反对杀手机器人的道德理由已是足够明显。问题在于，你越是近距离地观察它们在战争硝烟中可能的用处，就越难分辨出道德的界限。（有限自主的）机器人已经被用于战场上，应用在拆弹、排雷和反导系统等。它们的应用范围还将大为扩大。
军工界用其最爱使用的置身事外的论调，对机器人不同的自主等级进行了区分。第一类被称为“人在环中”(humans-in-the-loop)，包括被美军和其他军队广泛使用的“捕食者”无人机。第二级的自主是“人在环中系统”(humans-in-the-loop system)，人对机器人武器系统进行监督，包括防空炮。但现代战争的速度和强度让人怀疑这种人类的监督能否形成有效控制。第三类是“人在环外系统”(humans-out-of-the-loop system)，比如完全自主的无人机，这种可能是最致命的，但也很可能是最容易禁止的。
人工智能研究人员通过发表公开信，引起人们对这场辩论的关注。

该不该赋予机器人杀ISIS的权力？

资料图
欧洲圣战主义的形成
本周，以色列前外长施罗默本阿米（Shlomo Ben-Ami）在Project Syndicate发表了题为《欧洲圣战主义的形成》的文章，他曾写过《战争伤疤，和平创口：以色列-阿拉伯悲剧》（Scars of War, Wounds of Peace: The Israeli-Arab Tragedy）一书。
文章提到，比利时历史学家亨利·皮雷纳曾将欧洲这块基督教大陆的诞生与公元八世纪与伊斯兰教的决裂联系在一起。皮雷纳或许永远也不会想到布鲁塞尔有朝一日会出现穆斯林贫民窟，更不会想到这里会成为圣战主义的中心，眼睁睁看着被边缘化和愤怒的穆斯林青年从欧洲的境内反抗欧洲。
美国发动了伊拉克和阿富汗战争、为以色列提供无条件支持并一再支持阿拉伯独裁者。为什么美国并没有遭受到境内圣战情绪高涨的打击？近年来，欧洲甚至为阿拉伯国家提供了更多的直接帮助。
本阿米看来，虽然西方——尤其是美国——过去50年来在阿拉伯世界的确犯下了严重的政策错误，但外部势力却不能完全对地区的危机负责。目前的局势是一场深刻的文明危机的结果——只有阿拉伯世界的民众才能解决它。
如果欧洲的外交政策并不承担阿拉伯世界当前局势混乱的责任，那么它无疑也不应是欧洲境内圣战主义崛起的理由。真正的问题其实在于国内：在于严重缺乏与欧洲穆斯林青年社会正义、教育、住房和就业相关的有效政策。边缘化带来挫败感，日益严重的伊斯兰恐惧症和整个欧洲大陆吵吵嚷嚷的右翼运动崛起又为这种挫败感火上浇油。
欧洲圣战者绝大多数来自底层证明了这种联系确实存在。他们既缺乏对伊斯兰教教义的真正理解，也缺乏改善生活的实际机会，因此非常容易成为极端分子的猎物。圣战主义以其绝对的确定性和庄严的使命感为这些迷茫青年提供了目的感、自豪感和自我认同——更不用说还有冒险的机会——此外还为他们提供了对剥夺其上述权利的“家园”发泄愤怒情绪的出口。
美国的穆斯林现状凸显了欧洲的失败政策。像绝大多数美国人一样，美国穆斯林仍然在一定程度上相信美国梦。他们大多是中产阶级，而且尽管所有人都在谈论经济不平等日益严重，但他们并没有放弃在美国辛勤工作和积极主动就能得到回报的信仰。
美国是一个移民之国，其充满活力的经济一次次的让新移民取得了巨大的成功。而欧洲的情况则恰恰相反，提升一个人的社会地位一向是相当困难的；而且在经济停滞和失业率惊人高企的情况下，提升社会地位的难度更是可想而知。
在社会领域，美国也能赋予穆斯林某些欧洲无法赋予的宽容。美国本质上的宗教文化使得穆斯林能比在世俗的欧洲在更大程度上保留对自身身份的认同。事实上，美国个人责任和宪法爱国主义的核心价值观相比欧洲更激进的世俗自由主义对穆斯林而言更容易接受。因此，穆斯林移民在美国的融合和同化更容易取得成功，作者看来，这也是欧洲需要反思的地方。

该不该赋予机器人杀ISIS的权力？

资料图
欧盟第一个提出“非自由国家”的领导人
近日，法国《世界报》刊发题为《欧尔班·维克托，欧洲非自由民主国家的设计师》的文章。2014年，这位匈牙利总理详述了他的民主概念，或者说他在其国内实行民主的方法。他当时表示，“迄今为止，我们经历了三种形式的国家结构：民族国家、自由国家和福利国家。现在的问题是，接下来将会出现什么形式呢？匈牙利的回答是，建立在劳动价值基础上的国家将接替它们……我们在匈牙利建设的新国家不是一个自由国家，它是个非自由国家”。
文章称，到目前为止，欧盟国家还从未有一位领导人提出这样一种概念。然而，按照布达佩斯的说法，这种可选择的民主制度或许会催生与欧盟创始人的价值观截然不同的价值观。它可能取决于秩序、对媒体的控制、家庭、宗教、将受清洗的往事神话化、实行社会福利补贴、甚至想要将死刑重新纳入“议事日程”。
他将自己的模式与西方第二次世界大战获胜者所继承的生活方式对立起来，并且想要使作为欧盟外围国的匈牙利成为一个有预见的世界和一种有预见的想法的新中心。
文章称，非自由民主的概念是美国记者法里德·扎卡里亚1997年起在《外交》双月刊上作为理论来探讨的。保加利亚政治学家伊万·克勒斯特夫是为数不多认真关注了这一“非自由民主”潮流的人士之一，他解释说：“这是一个曾经的自由主义者。他的力量来自他能够说出的事实：我从那里来，而且这是行不通的。”
欧洲成了欧尔班肩负使命的新地方，尤其是在移民危机导致脆弱的政权变得不稳定之后，如奥地利。
欧尔班的影响力日渐增大。尽管有着魔鬼的名声，但他从来都不是极右派要排挤的人。青年民主主义者联盟和法国的共和党人士以及德国的基督教民主联盟一样，是欧洲最重要的政治家族欧洲人民党的成员。欧尔班在布鲁塞尔得到了诸如欧洲议会人民党党团主席曼弗雷德·韦伯和前任党团主席约瑟夫·多尔等的大力支持，后者曾在2014年支持他再次当选。这是欧尔班遭受了欧洲部分政界人士非难而毫发无损的原因。
联合国2月训斥欧尔班，因为他在6年的时间里让人们投票通过了诸多法律，摧毁了大部分抗衡势力，进而“削弱”了民主政体。非政府组织“自由之家”最近在其年度报告中指出，匈牙利与中欧国家相比等级下降，而中欧国家非常落后的民主结构可能与巴尔干半岛国家如阿尔巴尼亚或马其顿的结构相当。然而，欧洲面对使其动摇的“多种危机”，从“希腊退欧”到“英国脱欧”，再加上移民危机和俄罗斯的咄咄逼人，似乎陷入了瘫痪状态。它确实感觉受到了分裂的威胁。

该不该赋予机器人杀ISIS的权力？