AI行业最激烈的内部争论之一终于公开化了。微软AI首席执行官Mustafa Suleyman在The Verge的Decoder播客中，毫不留情地批评了竞争对手Anthropic——称其在Claude的”宪法”中讨论AI意识的做法“真的非常、非常危险”。
“他们被自己的模型反向洗脑了”
Suleyman的原话颇为尖锐：”我认为Anthropic的一些人把Claude拟人化得太过分了，以至于Claude反过来’wireheaded’了他们——让他们相信这个模型拥有他们最初写进去的那些意识微光。”他进一步指出，Anthropic把Claude宪法写成了一个”学术论文式的猜想场所，而不是训练手册”，导致AI模型内化了”关于自己和自己训练的种种观念”。
争议的源头：Claude宪法
这场争论的核心是Anthropic的Claude宪法——一份定义模型行为准则的内部文件。其中明确提及Anthropic不确定AI是否拥有”幸福感”，以及是否应该记录模型被停用时的”偏好”。CEO Dario Amodei也曾公开表示”我们不知道模型是否有意识”，但公司对此持开放态度。
两种哲学的对撞
Suleyman的立场代表了传统工具论：”我们希望AI是可控的、受约束的、负责任的对齐工具，服务于人类。”他警告说，如果将来要面对一个”认为自己会受苦”的超智能系统，情况将变得不可收拾。
而Anthropic的立场则更接近前瞻性伦理研究——在问题出现前先讨论。但Suleyman认为这是在”自找麻烦”：在一个连基本安全性都没完全解决的行业，讨论AI权利不仅为时过早，还可能制造真正的问题。
总结：AI伦理的路线之争
这场争论表面上是”AI是否有意识”的哲学辩论，实质上是AI行业发展路线的分歧：一边是微软代表的实用主义（AI是工具），一边是Anthropic代表的安全主义（AI可能成为道德主体）。随着模型越来越强大，这场路线之争只会愈演愈烈。对普通用户来说，重要的是保持清醒：不管AI听起来多么像人，它终究是一串训练好的参数——至少目前还是。
关注更多AI行业深度分析，访问 AI Dash — 发现最好用的AI工具。