美国一位顶级计算机科学专家警告说，当面对能够独立思考并被制造出来杀人的机器人的威胁时，人类可能会毫无防备。

加州大学伯克利分校的斯图尔特·拉塞尔说，这些致命的无人机可能是致命自主武器系统(LAWS)技术发展的最后阶段，LAWS被描述为继火药和核武器之后的第三次战争革命。万博体育登录首页

在一篇发表于自然5月27日，拉塞尔说，不再由人类控制，而是由人工智能控制的武器的可行性在遥远的未来不再受到限制——它们在实际中是可行的，不是几十年，而是短短几年内。

他认为，限制这些机器的可能不是它们的智能，而是它们的物理限制，比如它们的火力、机动性和速度。

自主武器系统能够在不需要人为干预的情况下选择和攻击目标，当目标包括人类时，这些武器可能是致命的。这些先进而致命的机器可能包括，例如，可以追捕和消灭敌方战斗人员的武装四轴飞行器。

LAWS不包括遥控无人机和巡航导弹，因为它们仍然需要人类来决定瞄准目标。

目前存在的人工智能(A.I.)和机器人组件具有感知、绘图、运动控制、导航和长期规划等功能，这些功能只需要结合起来。

例如，在万博体育登录首页自动驾驶汽车中可以看到的技术可以与DeepMind的DQN系统的战术控制能力相结合，这些技术可以支持搜索和摧毁任务。

人道主义法目前没有关于这类技术的规定，国际社会是否会支持一项限制或禁止LAWS的条约还有待观察。万博体育登录首页

罗素已经要求他的同行、专门研究人工智能和机器人技术的科学家以及专业科学组织在法律问题上表明立场，就像生物学家在战争中使用疾病制剂和物理学家在使用核武器上表明立场一样。

罗素说，法律可能会违反人类尊严的基本原则，因为它让机器有机会选择杀死谁，比如当它们的任务是消灭表现出威胁行为的人时。

“对于人权组织和无人机制造商来说，LAWS技术渗万博体育登录首页透到和平时期警务职能的潜力是显而易见的，”拉塞尔说说．

照片:Gage Skidmore |Flickr