一个由 AI 生成的假情报，差点在现实世界里引发一场军事拦截行动。据 CNN 报道，今年春天，美国军方曾因为一份”完全虚假”的情报报告，在中东地区派出飞机、并让武装人员做好登船准备，目标是一艘被指控”运载核武器计划部件”的中国货船。这场险些成真的行动，暴露了 AI 幻觉进入军事决策链后最危险的后果。
假情报如何一路传到指挥层
根据 CNN 的披露，这份情报由美国特种作战司令部的一名分析师编写，而其核心判断——”这艘船载有核武相关材料”——其实来自一个 AI 聊天机器人的错误识别。分析师在分析过程中借助了 AI 工具，而聊天机器人把船上的货物认错了，这个错误结论被原封不动写进情报报告，一路向上传递，直到几乎触发一场真实的登船拦截行动。
直到行动前夕，官员们才深入核查这份报告，发现它是由 AI 协助生成的，且聊天机器人对货物的识别存在错误。这场可能引发严重外交与军事后果的行动，最终在最后一刻被叫停。试想，如果没有人再回头核查一遍，后果不堪设想。
这不是孤立事件
- 五角大楼的另一份调查：据彭博社报道，五角大楼对今年 2 月 28 日伊朗学校导弹袭击（造成致命伤亡）的调查发现，失败原因中明确包括”过度依赖人工智能技术”。
- AI 幻觉走向高风险场景：从聊天里的错误回答，到如今可能触发真实军事行动，AI 幻觉的危害正在从虚拟世界延伸到现实世界。
对普通用户意味着什么
AI 的输出看似权威、专业，但底层本质仍是概率性的猜测——它并不真正”理解”自己说出的内容。当 AI 被用于军事、医疗、法律、金融这类高风险领域时，它的错误就不再是”答错一道题”那么简单，而是可能造成不可逆的现实后果。这次事件给所有人一个沉重的提醒：AI 只能作为辅助工具，人类必须保留最终的核查与决策权。永远不要无脑信任 AI 给出的结论，尤其是当这个结论会带来真实世界的后果时。
这次事件也可能加速各国对 AI 在敏感领域使用的监管——当”AI 幻觉”足以触发军事行动时，如何为 AI 的使用划出边界，已经是一个无法回避的问题。更多 AI 行业动态与工具评测，欢迎访问 AI Dash —— 发现最好用的 AI 工具。