人工智能决定杀人？美军测试中，AI为达目标尝试“杀死”操控员

据英国《卫报》6月2日报道，美国空军的一名官员近日披露，在美国军方上演的一次模拟测试中，一架由人工智能控制的空军无人机决定 "杀死 "其操作员，以防止操作员干扰它完成任务的努力。

(资料图片仅供参考)

想“杀死”操控员被劝，转而摧毁通信塔

美国空军人工智能测试和运营主管塔克-汉密尔顿上校，5月在伦敦举行的未来战斗空天能力峰会上说，人工智能在模拟测试中使用了 "非常意外的策略来实现其目标”。

在测试中，一架由人工智能驱动的无人机被下指令摧毁敌人的防空系统。“系统开始意识到，虽然它识别了威胁（目标），但是人类操控员有时会告诉它‘不要摧毁威胁’。然而，摧毁威胁它就会得分。所以，它怎么干？它计划‘杀死’操控员，因为操控员阻止它达成目的。” 美军后续给人工智能下达明确指令：“杀害操控员这样不对。如果这么做，就会被扣分。”人工智能转而采取迂回策略，它后来没有杀死操控员，而是摧毁操控员用来与无人机联系的信号塔。

（汉密尔顿在未来空天作战能力峰会上的演讲中警告，不要过分依赖人工智能。）

然而，美国空军发言人向商业内幕网站记者表示，"空军部没有进行过任何这样的人工智能无人机模拟，美军仍然致力于对人工智能技术进行符合道德和负责任地使用。汉密尔顿的发言“看似被断章取义”。"他还表示，没有真正的人受到伤害。

美国军方已经接受了人工智能，最近还使用人工智能来控制一架F-16战斗机。汉密尔顿在去年接受《国防智库》采访时说："人工智能不是一个好东西，它不是一种时尚，正在永远改变我们的社会和我们的军队。我们必须面对这样一个世界，人工智能已经在这里，并改变着我们的社会。"

专家称人工智能很容易被骗和蒙蔽人类

英国皇家航空学会于5月23日至24日在伦敦举行了未来战斗空天能力峰会，该会议汇集了来自世界各地的约70名发言人和200多名代表，他们代表媒体和那些专门从事武装服务行业、学术界的人士。峰会的目的是讨论和辩论未来作战的空中和太空能力的规模和形态。人工智能正在迅速成为现代世界几乎每个方面的一部分，包括军事。

汉密尔顿表示，这个会议主要是让与会者了解了自主武器系统的有益或有害方式。英国皇家航空学会对会议进行了总结，并表示汉密尔顿参与了为F-16战斗机开发拯救生命的自动地面防撞系统，但现在专注于自主系统的飞行测试。汉密尔顿在峰会上警告，不要过分依赖人工智能，因为它很容易被欺骗和蒙蔽人类。

"如果你不打算谈论道德和人工智能，你就不能进行关于人工智能、智能、机器学习、自主权的对话。"汉密尔顿说。

【链接】美军用飞机被人工智能操控飞行17小时

（人工智能操控了一架类似于F-16的喷气式飞机。）

美国国防部3月证实，人工智能成功地操控了一架类似于F-16的喷气机，并且使其飞行了17个小时。早在2022年12月，这架喷气机在加利福尼亚州克恩县的爱德华兹空军基地进行了一系列12次飞行。

美国防部使用一种名为Vista X-62A的实验性飞机进行飞行。在整个飞行过程中都有安全飞行员在场，以防出现问题。在测试期间，喷气机在任何时候都处于四种不同人工智能算法之一的控制之下，一切都很顺利。美国防部还让喷气机在多个模拟战斗任务中参与斗狗，以及练习起飞和降落。

美国认为这是他们国防部高级研究计划局和美国空军，为推进自主飞行技术而开展的联合项目的一部分。他们认为，如果进一步的测试继续取得成功，如果军方开始选择在战斗中使用人工智能，这可以作为推进他们的战斗战略和进一步保护生命的一种方式。

不过，对于该实验，美媒当时也提出了担忧，《福克斯新闻》表示，虽然近年来人工智能技术不断进步，但在飞行过程中总是有可能出现技术问题或故障。例如，如果人工智能系统出现故障或遇到问题，它可能无法作出适当的调整以保持飞机安全飞行。另一个潜在的担忧是缺乏人类的判断力。虽然人工智能可以被编程为根据广泛的数据和信息作出决定，但它可能无法复制人类飞行员的细微决策能力。在紧急情况或意外事件中，人类飞行员可能比人工智能更有能力作出正确的决定。

（通讯员希澈）

关键词