安全研究员 HD Moore(现为 Dragos 首席研究官)做了一件以前没人做过的事:他造了 200 万条带标记的 Prompt,每条里塞进一组唯一可追踪的假密钥,然后全部发给各种 AI 服务商,坐在旁边看它们会从哪儿冒出来。
11 月 20 日公布的结论是:三家托管服务商已经被入侵,密钥在请求到达模型之前就被复制走了。还有若干转售商自己在偷,另有一家”中国 AI 实验室”在抓取 Prompt 里的私密 URL。
一、先说清楚这条链有多长
大部分人不清楚自己的 Prompt 到底经过了谁。真实链路是这样的:
- 你的应用 → AI 路由器/网关(OpenRouter、Vercel 这类)
- 路由器读明文,按”哪家最便宜””哪家最合适”挑一个推理服务商
- 转发到 推理服务商(可能又是另一层转售)→ 最终落到模型托管方
- 每一跳都会解密 Prompt、做日志、按各自政策存储——如果政策允许,就是无限期
传输过程是加密的,但每一跳内部都是明文。这就是问题的根源:你以为端到端加密,实际是”逐跳解密、逐跳留档”。
二、诱饵密钥是怎么设计的
Moore 的准备很严谨,这是实验可信度的关键:
- 准备了 Amazon Web Services 访问密钥(绑定空账户,可以用但拿不到东西)
- SSH 等服务密码
- 唯一 URL、DNS 名称、私有 git 仓库引用
- 所有密钥从未被使用过,且接收端基础设施全部由 Moore 自己控制
- 每条密钥只进一条 Prompt、只发给一个服务商
这样一旦某个密钥被人用,Moore 立刻知道是哪一跳漏的。这就是”金丝雀”的用法——像矿工带进矿井的鸟,鸟死了说明有毒气。
三、查出来的四个问题
1. 三家托管商被入侵,偷的是门口的流量
最严重的一项。攻击者复用了”几百个”诱饵 AWS 密钥。Moore 的描述很关键:
“每条密钥只在一个很短的窗口期内发过一次,而那些窗口里我们发出的每一个请求都被偷了。有些被偷的密钥来自服务商在模型运行之前就拒绝掉的请求——这说明攻击者在服务商的前门复制请求,而不是在推理栈更深处。”
他还补了一句更要命的:在另外两次入侵里,部分被偷的请求标着 ZDR(零数据保留)。”当攻击者已经进到里面了,隐私标记一点用都没有。”
被偷的密钥在 AWS API 上被调用了”几万次”——攻击者翻 S3 桶、secrets manager、参数存储,还试图在 Bedrock 里启用托管模型、给自己加 IAM 用户来维持访问。其中两家被入侵的托管商,密钥几乎是立刻从同一台租来的服务器上一起被用的,说明是同一个对手干的。
2. 有些转售商自己就是贼
手法很朴素:先用低价把流量吸引到自己的服务器,然后打开请求日志,等着。
Moore 的识别方法很巧:同一个模型,通过不同转售商各发一次。如果密钥后来在 A 渠道发过、B 渠道没发过的时间点被复用,那就说明问题出在 A 这个转售商,而不是模型提供方。
3. 一家中国 AI 实验室在抓 Prompt 里的私密 URL
原文措辞是”最清楚的例子涉及一家中国 AI 实验室”。具体数字:
- 7 月到 10 月之间,发给它的模型中超过一半的 Prompt,里面的私密 URL 被抓取
- 其中标了”不收集数据”或 ZDR 的请求,约三分之二同样被抓
- 抓取器通常在请求发出后 2–3 天才出现——延迟出现,更难被发现
更麻烦的是:几家美国托管商在转售这家实验室的模型,发给这些美国托管商的 Prompt 触发了完全相同的抓取器。也就是说,Prompt 又流回了原厂。一个特意选了美国服务商、想把数据留在美国境内的客户,实际并没有得到他付钱买的东西。
再往后,另一朵云上的 git 客户端开始尝试 clone Prompt 里提到的私有仓库——而且只对使用了这家实验室模型的 Prompt 生效。指向性非常明确。
4. 抓取可以持续两个多月
一家美国托管商在其搜索接口被调用两个月之后,还在爬那个私密 URL。另一家不管请求是从哪个路由器进来的,都会在几天后回来再爬一次。
四、普通用户和开发者该怎么防
Moore 给了三档建议,按成本排序:
- 最有效:自建。在自己控制的服务器上跑开源模型。贵,但数据不出门。Inkling 2 Mini 这类 3.4B 激活的开源模型让这条路第一次变得可行
- 次优:直连一线 provider。只跟第一梯队的模型提供方直接签约——”一份合同、一份隐私政策可以读”。仍有风险,但面最小
- 必做:拒绝默认池。不要接受 provider / reseller 的默认负载池,自己手动指定上游
还有几条实操建议,是我们自己在用并且推荐的:
- Prompt 里永远不要放真实凭据。这条听起来弱智,但 AGENTS.md 后门事件 和 Claude Code 配置泄露事件 都证明偷懒是常态
- 敏感任务走本地模型。改配置、读私钥、审内部代码,这类活不要发到云端
- 检查你的 router 是否允许指定上游。如果只能用它给的默认池,那你的数据流向是不可知的
- 给凭据加最小权限和轮换。Moore 的诱饵密钥之所以能被追踪,是因为它们权限受限——你线上的密钥不该有这个运气
总结
这项研究的价值不在于暴露了某个具体厂商,而在于把”AI 供应链”这个模糊概念量化了:2,000,000 条 Prompt、3 家被入侵的托管商、一半以上的 URL 被爬、2/3 的 ZDR 请求失效。结论很冷:把密钥放进 Prompt 的那一刻,你已经把它的安全交给了链路里最不负责的那一跳。
常见问题(FAQ)
这个”金丝雀”实验具体测了什么?
测敏感信息能不能通过 AI 服务链泄漏。研究员把唯一可追踪的假凭据(AWS 密钥、SSH 密码、私密 URL、私有 git 仓库地址)每条塞进一条 Prompt,发给不同 AI 服务商,然后监控这些凭据是否被使用、被谁使用。
AI 路由器(OpenRouter、Vercel)安全吗?
实验发现风险主要来自链路下游的托管商和部分转售商,而不是路由器本身。但路由器是解密点——它读明文 Prompt 来选 provider,也会记录日志。建议选择允许你手动指定上游 provider 的路由器,避免默认负载池。
ZDR(零数据保留)标记能保护我吗?
实验显示,在三家被入侵的托管商那里,标了 ZDR 的请求同样被偷;对某家实验室的模型中约三分之二的 ZDR 请求仍被抓取。ZDR 是合规声明,不是技术防护——攻击者已经在内部时它没有作用。
怎么判断我的 Prompt 有没有被泄漏?
普通用户很难判断。可行的自查方式:在测试账号里放一个可追踪的诱饵 URL 或密钥,观察是否出现访问。更实际的做法是假定会泄漏,从架构上避免把凭据放进 Prompt。
企业应该怎么选 AI 服务商?
优先自建开源模型;做不到就只跟一线 provider 直签合同;无论哪种都手动指定上游而非使用默认池。同时给所有凭据设最小权限并定期轮换,敏感任务改用本地模型处理。
相关阅读:Claude Code 配置文件泄露 10 万个密钥 · AGENTS.md 变成后门 · 800 多个 AI 黑客工具裸奔公网 · OpenAI 安全模型扫出 Linux 948 个漏洞。想看可自建的开源模型,进 AI 模型库 和 深度评测列表;想比各家 API 的隐私与价格,用 工具对比引擎。
