最近美国CNN爆出一个让人后怕的消息。

今年春天美国跟伊朗打仗期间，美军收到一份军情报告，说有一艘中国船正在往伊朗运核武器相关的零部件。这一下美军坐不住了，武装士兵准备好登船，战机也升空了，行动马上就要执行。

结果就在动手之前，有官员把这份报告的来龙去脉翻出来一查，发现整份情报居然是一个聊天机器人编出来的。

事情是这样的。美军特种作战司令部太平洋分部的一名分析师，拿到了一份中国船只的货运清单情报。他自己拿不准船上到底装了什么，就把资料丢给一个AI聊天工具去分析。

这个工具把网上能搜到的公开信息和美国通过电子侦察拿到的内部信号搅到一起处理，最后吐出来一个结论——船上装的是跟核武器有关的零部件。

关键是，这个分析师没有做任何独立核实，转头又用AI把结论整理成了一份标准格式的军情报告，发到了美军内部系统里。

CNN特别提到，这种报告在美军体系内是受信任的，所以传开之后从上到下没人怀疑。一名知情人士的原话是，这份报告“完全错误”，但“差点引发了一场战争”。

说实话，看完整件事，问题不在于AI会不会犯错。AI犯错太正常了，它会把不同来源的东西胡乱拼在一起，然后给你一个看着像那么回事的答案，业内管这叫“幻觉”。

真正吓人的是，一个AI随手编的东西，被人包装成正式报告之后，整条指挥链都把它当成真的了，中间没有第二个人去独立验证一下。

CNN还挖出了更深的背景。有熟悉美军AI系统的前高级官员说，他们内部用的那些工具“大多只是商用产品换了个包装”。而且美军各部门用的系统不一样，安全标准不一样，目前根本没有统一的规定来验证AI生成的信息。

这里得提一个背景。美国防长赫格塞思今年1月推出了“人工智能加速战略”，核心就是减少审批环节、加快AI在军队里的应用，理由是担心“在未来军事竞争中落后”。

想法可以理解，但这次的事件说明了一个问题——AI确实在加速决策，但它加快的不光是正确的判断，错误的判断也在加速，留给人工核查的空间反而更小了。

还有个细节值得注意。美军一直说用军事AI的时候有“人在回路”，就是最终决策由人来把关。可你回头看这次，分析员在、复核的人在、制定计划的人也在，每一步都有人参与，错误就是没被拦住。

CNN采访的人还提到，年轻分析师对这类工具特别熟悉，反而更容易不加鉴别地相信AI给的结果。这种情况下，“人在回路”很容易变成走个过场。

目前美国军方和五角大楼都没有回应CNN的置评请求，被卷入事件的中国船只身份也没有公开。
这件事说到底，不是AI靠不靠得住的问题，而是在技术还不成熟的时候把它塞进决策链条里，又没有统一的验证机制，出了问题谁来兜底的问题。

CNN报道里引述了一名消息人士的话，我觉得比什么分析都到位——“AI会让你更快得出一个糟糕的想法”。

最后说几句实在的。现在各行各业都在往AI上靠，写材料的、做分析的、审报告的，很多人都觉得AI出的东西省事，拿来就用。

但这次美军的事就是一个活生生的提醒——AI给的东西，你该查还得查。用工具没问题，把工具当权威，迟早出事。