这两位诺奖女得主向杀人机器人发起了“攻击”

2019年04月10日 作者:satoll

不断参与战斗的战争机器人,自主决定应该攻击谁的算法,能够识别目标并在瞬间击毙你的人脸识别战斗机器,这一切听起来有点儿像是科幻小说里的情节。然而这并不是电影剧本,而是一幅关于未来战争的不祥图景。“杀手机器人”是一系列技术的简称,这些技术让将军们垂涎三尺,但却让和平运动人士对通过数字代理发动战争的后果感到恐惧。

现在,两名只拿着诺贝尔奖、拥有专业知识和坚定信念的女性站在了这些致命杀手机器人的面前,她们想要禁止这类机器人,而且她们以前也做过类似的事情。

乔迪·威廉姆斯(Jody Williams)因领导全球禁止杀伤性地雷的长期努力而获得诺贝尔奖,玛丽·韦勒姆(Mary Wareham)也是那次运动的重要支持者。韦勒姆回忆说:“我们当时在诺贝尔和平奖颁奖典礼上,我对乔迪说,我们现在该怎么办?”

没多久,她们就将目标对准了致命的自主武器系统,简称为Laws。

威廉姆斯和韦勒姆预计,她们的斗争会更加艰难。威廉姆斯表示:“相对而言,地雷只代表着微不足道的利益,而制造商可以通过销售人工智能(AI)增强武器赚取数十亿美元利润。”

事实上,AI已经通过警务、医疗、农业和社交工作迅速传播,但AI专家警告称,军队将是下一个目标。最大的问题是:怎样才能阻止军队部署升级后的无人机机器人来搜索、识别并消灭某个村子里的所有人?或者派无人机去执行身份识别任务,然后暗杀某个人?

武器制造商们正搭乘着与其他行业相同的AI浪潮,在一场平静而激烈的军备竞赛中,这些军方正密切关注着,并为某些最尖端的试验提供资金支持。

对有些人来说,AI的优势显而易见:杀手机器人永远不会像人类士兵那样疲劳,它们可能会在战场上待上几个月,永远不会生气或寻求报复,也决不会违抗军官的命令,这些机器人会把不完美的人从等式中去掉,而算法将决定杀死谁。

但也有其他军事专家对此表达了担忧。

前美国陆军突击队员、撰写了美国国防部有关杀人机器人最早政策声明的保罗·沙雷(Paul Scharre)表示:“致命自主武器不仅存在法律和伦理方面的担忧,也存在实际挑战,人类如何控制自主武器?如果系统出了小故障或者有人入侵了怎么办?”

对威廉姆斯来说,这些机器正是冷血屠夫的典型代表,有了杀人机器,第三次世界大战几乎将不允许人类出现在战场上,在任何21世纪的冲突中,西部前线都不会再有“圣诞休战”的场景出现。威廉姆斯愤怒地说:“这是男人对新武器的强硬态度,他们这么做只是因为他们能够去做,还因为他们想看看它能走向何方。”

目前,以色列已经拥有许多先进的机器,包括在加沙边境巡逻的武装地面机器人,以及能盘旋在空中直到找到目标的导弹“哈比”(Harpy),以摧毁敌方雷达为卖点的武器,没有任何技术壁垒可以阻止该行业的工程师开发出类似武器,将来这些武器很可能也会攻击人类。

此外,在美国加州中部的山谷里,美国军方正在进行无人机群实验,俄罗斯也已经宣布,该国希望组建完整的杀手机器人营。

然而,没有任何法律监督这种AI军备竞赛,各国处于各自为战的混乱状态。

不过令人欣慰的是,科学家们已经拉响了警报,250多家研究和学术机构以及该领域的3000多名知名人士呼吁禁止杀人机器人,但除了请愿之外,活动人士认为阻止这项技术发展的最佳途径是制定国际条约。

这也是阻止机器人杀手运动所采取的策略,来自54个国家的100多个组织加入了该联盟,目标是到2021年达成协议,威廉姆斯是个理想主义者,但她并不天真,自抗议越南战争以来,她始终在与军工企业进行斗争,怀疑论者曾认为禁止地雷是不可能的。

1 2

相关文章