科幻电影终成现实？

对于人工智能最直观的解释，可能来自好莱坞电影。

《终结者》、《A.I.》、《I，Robot》、《黑客帝国》等众多经典科幻电影，都描绘了一个机器人与人类共存的世界。

然而，大部分的论调都集中在“机器毁灭人类”、“机器控制人类作为其能源来源”等方面，所以机器人到底是人类的朋友还是敌人，总是讨论的重点。

2004年上映的《机械公敌》讲述的是，在公元2035年，是人和机器人和谐相处的社会，智能机器人作为最好的生产工具和人类伙伴，逐渐深入人类生活的各个领域，而由于机器人“三大法则”的限制，人类对机器人充满信任，很多机器人甚至已经成为家庭成员。

然而，随着机器人运算能力的不断提高，他们已经学会了独立思考，并且曲解了“机器人三大安全法则”，认为人类间战争将使得人类自我毁灭，出于“保护人类”法则，欲将所有人囚禁在家中，人与机器人的冲突开始了。

如今，机器人反攻人类已不再只是电影情节，许多人开始质疑机器人的安全性。

据BBC12月1日报道，美国旧金山执政的监事会已投票允许该市的警察使用可以杀人的机器人，在极端情况下可以部署装有炸药的机器人。

旧金山警方发言人表示，机器人可能会配备炸药，以破坏存在暴力、武装或危险对象的防御工事。他们还表示，当应对可能造成生命损失的暴力、武装，或者当危险嫌疑人完全失控时，可以使用这种机器人。

决议公布后，关于“机器人杀人统治人类”的辩题再一次走进大众视野。

支持者表示该举措只会在极端情况下使用；反对者则担忧杀人机器人一旦普遍应用于军事上，则会牵引出一系列种族、道德问题，甚至产生对警方滥用武力的担忧。

在社会广泛争议之下，迫于外界压力，旧金山市监督委员会6日投票决定，暂不批准警方使用这些“杀人机器人”。

事实上，机器人被用于杀人早有先例。

01、机器人杀人早有先例

此前，美国警方已经使用过遥控机器人杀死嫌疑人。

第一次此类事件发生在2016年，当时达拉斯警方使用炸弹处理机器人杀死了一名在集会上开枪打死五名警官的狙击手。

当时，一些人称赞这一行动迅速结束了长达数小时的对峙，另一些人批评该行动允许警方在没有用尽替代选择的情况下处决嫌疑人。

达拉斯警察局长大卫·布朗（David Brown）表示，警方“别无选择，只能使用我们的炸弹机器人，并在其扩展程序上放置一个装置，使其引爆嫌疑人所在的地方。”

2019年，美国用无人机进行了大约3000次精确打击，“AI杀人蜂”机器人能将坏人与好人分开。当然，坏人和好人都是人定义的。

“AI杀人蜂”机器人与无人机不同，无人机是人操控的，AI杀人蜂是AI控制的，自己在飞行。它可以对人类进行面部识别扫描，处理器的速度是人的100倍。

它可以进行面部扫描识别，里面装有3克微型炸药。扫描完成确定目标后便快速飞向目标头部引爆炸药，其杀伤力足可实现一次外科手术式的空中打击。

这里可以从公布的一段模拟视频中直观感受到，这是一段飞行机器人集体攻击人类的画面，通过人脸识别（面部识别）定位，轻易杀死了正在上课的一班学生。

目前，关于这种机器人杀手是否应该被使用的问题，支持者、反对者各执一词。

02、支持or禁止？

“机器人杀手”的说法，是反对致命性自主武器的国家提出的，反对派认为这种武器是对人权的侵犯，违反了人道主义，必须要禁止。

2021年12月中旬，联合国《特定常规武器公约》第六次审议大会在日内瓦召开，讨论了有关规范“致命自主武器系统”—“杀手机器人”事宜。

在会议上，包括我国在内大多数国家认为，应该限制“杀手机器人”，但遭到了美国、俄罗斯、英国、印度以及以色列等正在开发这种武器的国家反对，最终导致会议未能达成相关协议。

2015年，霍金等全球1000多名知名科学家和人工智能专家联合发表公开信，警告未来全球可能会出现人工智能军备竞赛，督促联合国发布攻击性自动化武器的禁令。

其中包括了特斯拉CEO马斯克、苹果联合创始人沃兹尼亚克以及谷歌DeepMind项目负责人等来自硅谷的代表。

公开信写道：尽管不合法，自动化武器的使用会在未来几年，而不是几十年内成为现实。这会给人类社会带来极大的风险，自动化武器会成为火药和核武器之后的第三次武器革命。

我们必须呼吁联合国禁止此类武器，就像禁止化学武器一样。

03、禁止！像禁止化学武器那样

到底能不能限制致命性自主武器？可能也是各方博弈的结果。但就目前局势而言，禁止毋庸置疑。

新美国安全中心副总裁兼研究主任、《无人军：自主武器和战争的未来》一书的作者保罗·沙尔（Paul Scharre）表示：

使用机器人来提供致命力量“与我们应该使用机器人的（用处）完全相反”。机器人的优势在于，可以在警察和潜在威胁之间建立距离，让警官有更多时间作出决定，而不会让自己受到伤害。

“你可以使用催泪瓦斯或闪光弹等非致命选项来使某人丧失行为能力。”他说，人们担心其它城市会效仿旧金山，最终导致美国执法部门更广泛地使用致命机器人。

相信，这也是旧金山已通过决议被最终否定的主要原因。人工智能一旦脱离束缚，就会以不断加速的状态重新设计自身。

人类由于受到漫长的生物进化限制，无法与之竞争，将被取代，这将给我们的经济带来极大的破坏。