除了担心AI抢饭碗，我们还得关心杀手机器人
公开信指出，致命性自主武器系统足以构成第三次武器革命的威胁——前两次革命分别是火药和核武器。这种技术一旦开发成功，将有可能把战争冲突升级至从未有过的规模，而且会达到人类难以控制的速度。公开信的签署者们认为，致命性自主武器可能成为独裁者和恐怖分子残害无辜的手段，或者被黑客挟持。
致命性自主武器系统实际上是一种军用机器人，它可以不经过人类干预，自主选择和攻击包括人员和装备在内的军事目标，所以也被叫做“杀手机器人”。目前，拥有“人格”的智能技术尚未被从科幻电影搬到现实中，但是与此有关的技术的确正在朝着这个方向发展。
当然，无人武器系统并不等同于致命性自主武器，它还包括自动化武器和遥控武器。军事科学院系统工程研究院曹华阳博士及其团队较早就开始关注这个领域的相关问题，他们在最近发表的论文《致命性自主武器系统的定义方法》中区分了“自动化”和“自主性”的概念。
自动化武器，以自足完备和独立的方式运行，在设定好的可控环境中严格执行预编程行动或序列。它们的攻击目标、攻击决策以及攻击方式都是由人类预先设定的。遥控武器，一般由战区之外的操作员控制着进行战斗，可以被固定在一处，也可以自行移动。而自主性武器的特殊之处是，在某些关键性的能力（如决定人类的生命）方面，机器可能给出并执行自己的决策，而不是按照人类预先设定好的程序或者人类远程的遥控来执行。
