CNN近日报道，美国军方今年春季与伊朗交战期间，曾因一份由人工智能（AI）协助分析的错误情报，误认一艘途经中东的中国船只载有核武器计划相关零部件，并一度准备拦截登船检查，最终在行动前发现情报有误。
据4名知情人士透露，这份情报在军方内部流传后迅速引发警戒，美军一度准备派武装人员登船，并安排军机待命。直到行动即将展开前，官员进一步核查才发现，相关报告由一名特种作战司令部分析员利用AI工具协助制作，聊天机器人错误识别了船上货物。
CNN称，分析员将船舶货单等情报输入聊天机器人，系统结合公开信息与政府掌握的机密信号情报后，错误判断船上货物与核武计划有关。分析员随后利用AI整理分析结果并形成正式情报报告，使错误内容在军方内部传播。目前尚不清楚涉事AI是商业产品还是政府内部工具。
报道指出，这起事件凸显AI用于军事情报分析的潜在风险。美国军方近年来积极推动AI应用，以加快情报分析和战场决策，但不同政府部门使用的AI系统、操作规范及安全标准并不统一，缺乏一致的信息验证机制。
知情人士表示，AI“幻觉”现象在情报领域并非个案，部分年轻分析人员可能过度依赖系统输出，从而增加误判风险。CNN称，若美军当时对中国船只采取军事行动，可能导致局势升级为中美武装冲突。