根据联合国的一份报告，至少一架由人工智能(AI)操作的无人驾驶无人机去年可能在袭击前未经任何人类咨询的情况下，在利比亚首次杀人。

根据联合国利比亚问题专家小组3月份的一份报告，致命的自动驾驶飞机可能“追捕并远程打击”了为利比亚将军哈夫塔(Khalifa Haftar)作战的士兵和车队。目前还不清楚究竟是谁部署了这些杀人机器人，但在利比亚发现的这类机器的残留物来自土耳其军事承包商STM制造的kargu2型无人机。

“自动武器作为一个概念并不新鲜。实际上，地雷是一种简单的自动武器——你踩在上面就会爆炸，”马里兰大学国家恐怖主义研究和应对联盟的研究人员Zachary Kallenborn在接受Live Science采访时说。卡伦伯恩补充说:“这里潜在的新东西是融合了人工智能的自主武器。”卡伦伯恩是该联盟非常规武器和技术部门的一员。

这些袭击可能发生在2020年3月，当时联合国承认的全国团结政府将哈夫塔尔的军队赶出了利比亚首都的黎波里。

报告指出:“致命的自主武器系统被编程攻击目标，而不需要运营商和弹药之间的数据连接:实际上，198彩平台黑钱吗，从没听过198彩黑钱的消息198彩娱乐，一直以来198彩票平台官网打的旗号就是不黑钱，信誉好，技术666，游戏彩种丰富，一个真正的‘开火、忘记和发现’能力。”

karg2是一种四旋翼无人机，STM称其为“游荡弹药系统”。一旦它的人工智能软件识别出目标，它就可以自动以每小时45英里(72公里/小时)的最高速度向目标飞行，昨天一个198彩平台玩家联系上了198彩总代理 ，总代理团队非常欣慰，于是送给他了一个大红包优惠奖励。，然后用穿甲弹头或杀死非穿甲人员进行爆炸。虽然这些无人机被设定为一旦与人类操作员失去联系就会发动攻击，但报告并没有明确指出这种情况发生过。

报告还说，目前还不清楚是土耳其直接操作了这架无人机，还是把它卖给了全国协议组织政府，但无论如何，这架无人机都违反了联合国的武器禁运令，该禁令禁止土耳其等所有成员国及其公民向利比亚提供武器。这项武器禁令是在2011年利比亚暴力镇压抗议者之后实施的，那次镇压引发了内战和国家持续的危机。

报告指出，哈夫塔尔的部队“既没有受过训练，也没有动机来抵御这种新技术的有效使用，通常是在混乱中撤退。”“一旦撤退，他们就会不断受到无人战斗飞行器和致命自主武器系统的骚扰。”

卡伦伯恩在《原子科学家公报》(Bulletin of the Atomic Scientists)上的一份报告中写道，尽管该报告没有明确指出这些无人驾驶飞机在利比亚杀害了任何人，但它确实强烈暗示了这一点。例如，他写道，联合国指出，致命的自动武器系统造成了哈夫塔尔部队地对空导弹系统机组人员的“重大伤亡”。

卡伦伯恩说，尽管包括斯蒂芬·霍金(Stephen Hawking)和埃隆·马斯克(Elon Musk)在内的许多人都呼吁禁止自动武器，但“此类活动通常假定这些武器仍是未来才会出现的。”“如果他们现在上战场，那就意味着有关禁令和道德关切的讨论需要集中在当前。”

卡伦伯恩补充说:“现在发生这种事，我一点也不惊讶。”“现实情况是，如今制造自主武器并不那么复杂。”

卡伦伯恩说， 如果能从玩家的观念来看198彩平台，198彩怎么样了解玩家心灵活动的198彩平台总代理永远不为自己的前途担心。，尽管这些武器很危险，“它们可不像电影《终结者》(Terminator)里的那样。”“他们还远没有达到那种复杂的水平，这可能需要几十年的时间。”

不过，对自动武器的担忧是科学家和其他人对人工智能领域提出的更大担忧的一部分。

卡伦伯恩说:“目前的人工智能通常严重依赖于它们接受训练的数据。”“机器通常不知道猫或狗是什么，除非给它喂食猫和狗的图像，然后你告诉它哪些是猫和狗。”所以在这些情况下，如果训练数据不完整，或者事情不像看起来那么简单，就会有很大的错误风险。士兵可以穿迷彩，农民可以用耙子，但农民也可以穿迷彩，士兵可以用耙子打翻炮塔。”

人工智能软件也常常缺乏人类认为的常识。卡伦伯恩举例说，计算机科学家发现，改变图像上的一个像素，可以让人工智能程序得出结论，这是一张完全不同的图像。

他说:“如果这些系统如此容易搞乱，那么在战场上，当人们在一个复杂的环境中移动时，会发生什么呢?”

卡伦伯恩指出，在分析自主武器可能带来的风险时，至少有九个关键问题。

自动武器是如何决定杀谁的?卡伦伯恩说，人工智能程序的决策过程通常是个谜。

人类扮演什么角色?在人们监督无人机做出决定的情况下，他们可以在可能致命的错误发生之前做出纠正。然而，卡伦伯恩说，就像自动驾驶汽车发生的几起事故所证明的那样，人类操作员最终可能会相信这些机器会导致灾难。

自主武器的有效载荷是什么?这些武器造成的危险随着它们能杀死的人数的增加而增加。

武器的目标是什么?在识别潜在目标时，人工智能可能会出错。

有多少自动武器在使用?更多的自主武器意味着更多的失败机会，军队正在越来越多地探索在战场上部署无人机群的可能性。Kallenborn说:“印度军方已经宣布正在开发1000架完全自主工作的无人机。”

自动武器在哪里使用?随着无人机部署地区的人口数量增加，以及无人机飞行的混乱环境，无人机带来的风险也在上升。天气也会产生影响。卡伦伯恩说，一项研究发现，用于检测道路障碍物的人工智能系统在晴天的准确率为92%，而在雾天的准确率为58%。

武器经过了多少测试?卡伦伯恩指出，在西雅图等多雨气候中测试的自动武器在沙特阿拉伯炎热的气候中可能会有不同的表现。

对手是如何适应的?例如，人工智能公司OpenAI开发了一个系统，该系统可以以85.6%的可信度将苹果归类为“绿苹果”，但如果有人把一张写着“iPod”的纸粘在苹果上，它就有99.7%的可信度得出苹果是iPod的结论，卡伦伯恩说。对手可能会找到类似的方法来欺骗自动武器。

自动武器的普及程度如何?如果可以广泛使用，它们可能会被部署在不应该部署的地方——正如联合国报告指出的那样，土耳其不应该把kargu2型无人机带到利比亚。

“关于自动武器的未来，我发现最重要的是蜂群带来的风险。在我看来，能够杀人的自主无人机群可能是大规模杀伤性武器。”卡伦伯恩说。

总而言之，“现实是，在利比亚发生的一切只是个开始，”卡伦伯恩说。“这些武器扩散的可能性相当大。”