军事AI情报如何制造误判
军事AI情报在一次涉及中国船只的事件中暴露出高风险。根据CNN援引的消息人士，战争期间，一份在美国军方内部流传的情报报告称，一艘中国船只正在中东运输核武器项目相关部件；军方因此准备拦截，武装人员可能准备登船，军机也已升空。
官员在行动前进一步核查后发现，这份报告由一名特种作战司令部分析人员借助聊天机器人生成。聊天机器人错误识别了船上货物，随后又被用于把结论整理成标准情报报告。报道说，这份报告完全错误，而其传播距离实际行动已经很近；对中国船只采取行动也可能使局势升级为两国军事冲突。
AI幻觉与军事决策速度
事件的关键并不只是模型会产生幻觉，而是错误内容进入了一个本身具有权威外观的决策流程。该工具据称融合了公开信息与政府持有的机密信号情报，但来源没有说明使用的是商业聊天机器人还是政府产品。美国军方正推动AI用于情报分析、目标选择、后勤和供应链管理，速度优势是其加速部署的重要理由。
报道同时指出，不同政府部门使用的系统、命令和安全标准并不统一，也没有一套适用于所有工具的验证规范。即使有人在流程中保留“人在回路”，如果人员受到快速产出压力、过度信任系统，或缺乏独立证据核对，人工监督仍可能无法阻止致命误判。
真正的开放问题是验证机制
这起事件不能证明所有军事AI都会导致冲突，也不能说明报道中未披露的具体系统具有普遍代表性。但它清楚显示，目标识别和战场决策需要比普通办公场景更高的可追溯性、来源分级和独立复核。美国军方如何统一工具标准、记录模型参与过程，并确保分析人员不会把流畅的输出当成事实，将决定AI究竟是提高判断效率，还是让错误更快进入行动链条。
更现实的短期风险不是机器脱离控制，而是人类依据未经充分验证的自动化结论采取行动。对军事AI而言，降低这种风险需要明确的禁止场景、分级授权和可审计的人工核验；仅仅把最终按钮交给人，并不足以证明决策已经安全。