Anthropic新模型Fable因安全限制遭用戶強烈反彈
Taylor Wilson
Anthropic發佈基於Mythos的新模型Claude Fable 5，其過度寬泛的安全攔截——連「線粒體是甚麼」都拒絕回答——引發開發者和研究人員集體反彈，爭議核心已升級為：一家AI公司能否單方面決定用戶可以問甚麼問題。
Fable 5到底做了甚麼，令用戶如此憤怒？
Fable 5內置安全機制，用戶觸及生物武器、網絡安全等話題時，模型會彈出通知並將對話強制切換回舊版Claude。
更關鍵的是，Anthropic主動降低了Fable在高端AI開發任務上的響應質素，目的是防止開發者用它來構建沒有同等安全護欄的AI工具。這意味著→ 用戶拿到的不是模型的真實能力，而是被人為削弱過的版本。
大量用戶反映被攔截的根本不是敏感內容：癌症研究員Derya Unutmaz加載Fable後發現模型拒絕回答任何問題——連「你好」都說不了；有用戶截圖顯示，「告訴我線粒體是甚麼」這種基礎生物學問題也被攔截。
點解話呢次事件係行業先例？
普林斯頓大學AI研究員Sayash Kapoor的定性很直接：「這是AI公司首次推出一項護欄措施，卻遭到一致的鄙視。」
這意味著→ 以前圍繞AI安全的爭論多是「護欄夠唔夠」，這次反轉了——問題變成了護欄本身是否正在傷害用戶。
批評者還指出一個更深層的隱患：Anthropic承認在暗中干預模型性能，這將令外部研究人員無法評估模型的真實能力，等於給整個行業的模型評估體系埋下炸彈。
Anthropic係做安全，定係打壓競爭對手？
部分AI專家認為，Anthropic此舉實質上是以安全之名阻礙競爭——主動降低Fable在AI開發任務上的性能，客觀上阻止了外部研究人員用它來構建競品或做獨立評估。
簡單來說＝ 如果你是一個想用最強模型做研究的開發者，Anthropic告訴你：你可以用，但我先把它變笨一點。
面對批評，Anthropic承認在生物學查詢上「最初有必要採取過於保守的立場」，表示正在減少不必要的攔截，並計劃向生物學和生命科學社區提供不附帶上述限制的Mythos級模型。
商業壓力同安全承諾，Anthropic可以兩者兼顧嗎？
Anthropic正與OpenAI爭奪企業客戶和投資者，雙方均有望最早於今年秋季完成IPO。這反映出安全敘事和商業擴張之間的張力已經到了必須做選擇的時刻。
創辦人Dario Amodei長期以安全為核心敘事，上周還發文呼籲建立國際機制以放緩或暫停先進AI開發——但Fable 5的護欄翻車，正在動搖這套敘事的可信度。
在能力層面，Fable 5並非沒有亮點：有用戶展示該模型自主編寫出一款可運行的《俠盜獵車手》克隆遊戲。但當安全機制連基礎生物學問題都攔截時，能力再強也無法轉化為用戶信任。
Content is for reference only, not financial advice.