美国感叹:人工智能技术存多种问题!

(1/2)

美国感叹:人工智能技术存多种问题!

近日,根据美国的一家权威安全机构发表的文章称,被普遍视作人类下一个时代的主力科技,也就是人工智能,目前还有非常大的问题需要解决,甚至可以说以目前的完成度,这项技术还远远达不到成熟的标准。甚至如果现阶段就要将这项技术运用到军事领域当中的话,所需要承担的风险远远大于它所带来的收益。

首当其冲的弊病就是错误的机器学习,这是人工智能的鲜明特征,但假设机器在执行的过程中偏离了人类最初交付的任务,那么就有可能导致意想不到的结果,比如一个可以自主学习的军用防御网络,最后却变成了将执行者认定是恶意侵犯的非法用户,这就是非常典型的完成了目的却违背了初衷的案例。

另外就是糟糕的人机交互,如果将这项技术运用到军事领域,会导致最基本的使用上的冲突,因为设计师所思考的东西和使用者的所思所想并不相同,因此当机器给出的答复和信号并没有达到用户的预期值时,带来的风险将会是无法估量的。一旦将场景放在瞬息万变的战场之上,很有可能会因此导致作战计划的崩溃。

举报