白宫要求Anthropic在Fable 5重新发布前解决越狱漏洞,专家称难以实现
Claire Weston
白宫要求Anthropic修复Claude Fable 5的越狱漏洞才能重新上线,但独立安全专家认为AI护栏本质上只是临时方案,彻底堵住越狱路径几乎不可能。
Fable 5 为什么被下线?
上周美国政府以出口管制为由将 Claude Fable 5 下线,起因是用户可通过越狱提示绕过安全护栏。
这些护栏原本用于阻止用户访问 Mythos 模型中涉及网络安全、化学和生物的敏感能力。
这意味着→ 政府担心的不是模型本身的性能,而是安全锁能被撬开。
Anthropic 和白宫各说了什么?
Anthropic 连续多日表示政府担忧被夸大,越狱造成的影响有限,并在周一与商务部及国家网络主管 Sean Cairncross 办公室的技术会议上重申了这一立场。
但政府态度已经转变:不再争论漏洞严不严重,而是直接要求 Anthropic 自行修复。
美国国家安全局(NSA)已认定 Fable 5 存在关闭护栏的方法。
用大白话说= 政府的意思是:"漏洞存不存在已经不用讨论了,你来补。"
为什么政府不自己去堵漏洞?
三名知情人士称,商务部人工智能标准与创新中心和 NSA 都没有足够人员或带宽,去追踪每个上市模型可能出现的越狱方法。
因此政府认为,Anthropic 应更主动地持续测试 Fable 5 及所有前沿 AI 模型,寻找潜在越狱路径,并自行向政府报告。
这反映出一个更大的现实:美国政府对前沿 AI 的安全监管,实际上高度依赖企业自查。
越狱真的能被彻底解决吗?
独立网络安全专家越来越倾向于一个结论:AI 模型护栏只是临时方案。
原因很直接——熟练用户和未来更强的 AI 模型,仍可能找到绕过限制的方法。
这意味着→ 白宫要求 Anthropic"先修好再上线",但专家认为这个"修好"的终点可能根本不存在。
Content is for reference only, not financial advice.