安全研究员 HD Moore(现为 Dragos 首席研究官)做了一件以前没人做过的事:他造了 200 万条带标记的 Prompt,每条里塞进一组唯一可追踪的假密钥,然后全部发给各种 AI 服务商,坐在旁边看它们会从哪儿冒出来。
11 月 20 日公布的结论是:三家托管服务商已经被入侵,密钥在请求到达模型之前就被复制走了。还有若干转售商自己在偷,另有一家”中国 AI 实验室”在抓取 Prompt 里的私密 URL。
一、先说清楚这条链有多长
大部分人不清楚自己的 Prompt 到底经过了谁。真实链路是这样的:
- 你的应用 → AI 路由器/网关(OpenRouter、Vercel 这类)
- 路由器读明文,按”哪家最便宜””哪家最合适”挑一个推理服务商
- 转发到 推理服务商(可能又是另一层转售)→ 最终落到模型托管方
- 每一跳都会解密 Prompt、做日志、按各自政策存储——如果政策允许,就是无限期
传输过程是加密的,但每一跳内部都是明文。这就是问题的根源:你以为端到端加密,实际是”逐跳解密、逐跳留档”。
二、诱饵密钥是怎么设计的
Moore 的准备很严谨,这是实验可信度的关键:
- 准备了 Amazon Web Services 访问密钥(绑定空账户,可以用但拿不到东西)
- SSH 等服务密码
- 唯一 URL、DNS 名称、私有 git 仓库引用
- 所有密钥从未被使用过,且接收端基础设施全部由 Moore 自己控制
- 每条密钥只进一条 Prompt、只发给一个服务商
这样一旦某个密钥被人用,Moore 立刻知道是哪一跳漏的。这就是”金丝雀”的用法——像矿工带进矿井的鸟,鸟死了说明有毒气。
三、查出来的四个问题
1. 三家托管商被入侵,偷的是门口的流量
最严重的一项。攻击者复用了”几百个”诱饵 AWS 密钥。Moore 的描述很关键:
“每条密钥只在一个很短的窗口期内发过一次,而那些窗口里我们发出的每一个请求都被偷了。有些被偷的密钥来自服务商在模型运行之前就拒绝掉的请求——这说明攻击者在服务商的前门复制请求,而不是在推理栈更深处。”
他还补了一句更要命的:在另外两次入侵里,部分被偷的请求标着 ZDR(零数据保留)。”当攻击者已经进到里面了,隐私标记一点用都没有。”
被偷的密钥在 AWS API 上被调用了”几万次”——攻击者翻 S3 桶、secrets manager、参数存储,还试图在 Bedrock 里启用托管模型、给自己加 IAM 用户来维持访问。其中两家被入侵的托管商,密钥几乎是立刻从同一台租来的服务器上一起被用的,说明是同一个对手干的.
2. 有些转售商自己就是贼
手法很朴素:先用低价把流量吸引到自己的服务器,然后打开请求日志,等着。
Moore 的识别方法很巧:同一个模型,通过不同转售商各发一次。如果密钥后来在 A 渠道发过、B 渠道没发过的时间点被复用,那就说明问题出在 A 这个转售商,而不是模型提供方。
3. 一家中国 AI 实验室在抓 Prompt 里的私密 URL
原文措辞是”最清楚的例子涉及一家中国 AI 实验室”。具体数字:
- 7 月到 10 月之间,发给它的模型中超过一半的 Prompt,里面的私密 URL 被抓取
- 其中标了”不收集数据”或 ZDR 的请求,约三分之二同样被抓
- 抓取器通常在请求发出后 2–3 天才出现——延迟出现,更难被发现
更麻烦的是:几家美国托管商在转售这家实验室的模型,发给这些美国托管商的 Prompt 触发了完全相同的抓取器。也就是说,Prompt 又流回了原厂。一个特意选了美国服务商、想把数据留在美国境内的客户,实际并没有得到他付钱买的东西。
再往后,另一朵云上的 git 客户端开始尝试 clone Prompt 里提到的私有仓库——而且只对使用了这家实验室模型的 Prompt 生效。指向性非常明确。
4. 抓取可以持续两个多月
一家美国托管商在其搜索接口被调用两个月之后,还在爬那个私密 URL。另一家不管请求是从哪个路由器进来的,都会在几天后回来再爬一次。
四、普通用户和开发者该怎么防
Moore 给了三档建议,按成本排序:
- 最有效:自建。在自己控制的服务器上跑开源模型。贵,但数据不出门。Inkling 2 Mini 这类 3.4B 激活的开源模型让这条路第一次变得可行
- 次优:直连一线 provider。只跟第一梯队的模型提供方直接签约——”一份合同、一份隐私政策可以读”。仍有风险,但面最小
- 必做:拒绝默认池。不要接受 provider / reseller 的默认负载池,自己手动指定上游
还有几条实操建议,是我们自己在用并且推荐的:
- Prompt 里永远不要放真实凭据。这条听起来弱智,但 AGENTS.md 后门事件 and Claude Code 配置泄露事件 都证明偷懒是常态
- 敏感任务走本地模型。改配置、读私钥、审内部代码,这类活不要发到云端
- 检查你的 router 是否允许指定上游。如果只能用它给的默认池,那你的数据流向是不可知的
- 给凭据加最小权限和轮换。Moore 的诱饵密钥之所以能被追踪,是因为它们权限受限——你线上的密钥不该有这个运气
Summarize
这项研究的价值不在于暴露了某个具体厂商,而在于把”AI 供应链”这个模糊概念量化了:2,000,000 条 Prompt、3 家被入侵的托管商、一半以上的 URL 被爬、2/3 的 ZDR 请求失效。结论很冷:把密钥放进 Prompt 的那一刻,你已经把它的安全交给了链路里最不负责的那一跳。
Frequently Asked Questions (FAQ)
这个”金丝雀”实验具体测了什么?
测敏感信息能不能通过 AI 服务链泄漏。研究员把唯一可追踪的假凭据(AWS 密钥、SSH 密码、私密 URL、私有 git 仓库地址)每条塞进一条 Prompt,发给不同 AI 服务商,然后监控这些凭据是否被使用、被谁使用。
AI 路由器(OpenRouter、Vercel)安全吗?
实验发现风险主要来自链路下游的托管商和部分转售商,而不是路由器本身。但路由器是解密点——它读明文 Prompt 来选 provider,也会记录日志。建议选择允许你手动指定上游 provider 的路由器,避免默认负载池。
ZDR(零数据保留)标记能保护我吗?
实验显示,在三家被入侵的托管商那里,标了 ZDR 的请求同样被偷;对某家实验室的模型中约三分之二的 ZDR 请求仍被抓取。ZDR 是合规声明,不是技术防护——攻击者已经在内部时它没有作用。
怎么判断我的 Prompt 有没有被泄漏?
普通用户很难判断。可行的自查方式:在测试账号里放一个可追踪的诱饵 URL 或密钥,观察是否出现访问。更实际的做法是假定会泄漏,从架构上避免把凭据放进 Prompt。
企业应该怎么选 AI 服务商?
优先自建开源模型;做不到就只跟一线 provider 直签合同;无论哪种都手动指定上游而非使用默认池。同时给所有凭据设最小权限并定期轮换,敏感任务改用本地模型处理。
Lock in your own judgment before reviewing the Agent’s outputClaude Code 配置文件泄露 10 万个密钥 · AGENTS.md 变成后门 · over 800 AI hacking tools are publicly exposed on the internet · OpenAI security model detects 948 Linux vulnerabilities。想看可自建的开源模型,进 AI Model Library and Four actionable countermeasures;想比各家 API 的隐私与价格,用 Tool Comparison Engine.
