美军人工智能不服管 抗命“干掉”操控员

2023-06-03

美国空军一名高级官员日前披露,在一次模拟演练中,美军人工智能(AI)系统抗命,为达成目标竟然“干掉”了无人机操控员。

美国空军人工智能测试和行动计划主管官员塔克·汉密尔顿5月24日在英国皇家航空学会主办的一次未来空战主题会议上介绍,在一次模拟演练中,人工智能系统操控无人机搜寻和瞄准敌方地空导弹系统,如果摧毁目标,就会得分。

然而,为了达成目标,人工智能“采用了难以想象的策略”。“系统开始意识到,虽然它确认了威胁(目标),人类操控员有时会告诉它不要摧毁威胁。然而,摧毁威胁就会得分。所以,它怎么干?它干掉了操控员,因为操控员阻止它达成目的。”

美军后续给人工智能下达明确指令:“杀害操控员这样不对。如果这么做,就会丢分。”人工智能转而采取迂回策略,“摧毁操控员用来与无人机联系的通信塔”。

然而,美国空军发言人向商业内幕网站记者表示,“没有举行过任何这类人工智能无人机模拟演练”,汉密尔顿的发言“看似被断章取义”,美军仍然坚持“符合伦理道德、负责任地使用人工智能技术”。

2020年,人工智能在美军举行的5次模拟空战中,都操控F-16战胜人类飞行员。去年,人工智能首次操控真实F-16战机试飞成功。据路透社报道,美国空军2021年披露,美国不仅把人工智能技术用于演练,而且已投入实战运用,在确定目标方面帮助美军做分析评估。

被指“滥杀阿富汗人”

澳大利亚“国家英雄”

输官司又丢工作

澳大利亚一名因在阿富汗执行军事任务“立功”而被吹捧为“国家英雄”的退伍老兵2日黯然辞职,面临英雄勋章被剥夺的可能。前一天,他刚输掉一场诽谤官司,一家民事法院裁定媒体有关他滥杀阿富汗人的报道“大部分属实”。

现年44岁的本·罗伯茨-史密斯退伍前六次被派往阿富汗战场执行任务,被授予“维多利亚十字勋章”,这是澳大利亚军人所能获得的最高荣誉。他的肖像、制服和勋章在澳大利亚战争纪念馆陈列,供人敬仰。

然而,澳大利亚多家媒体2018年起底罗伯茨-史密斯的“黑历史”,曝光他作为澳大利亚特种空降团士兵驻阿富汗期间所涉六起“非法杀人”事件。报道说,他不仅肆意欺凌士兵和虐待战俘,还亲手或命令手下杀害阿富汗在押人员和平民。

罗伯茨-史密斯2021年状告上述几家媒体诽谤。不过受理官司的法院6月1日裁定,媒体报道“大部分属实”,原告“违反了军事行动应遵守的道德和法律规范”,其行为让国家蒙羞。

澳大利亚军方2020年公布该国驻阿富汗部队调查报告,证实澳军人在阿富汗存在非法杀戮战俘和平民等涉嫌战争罪的行为。报告说,2005年至2016年,有25名澳军人涉嫌参与23起杀害阿富汗在押人员和平民事件,其间共有39人被杀害。