Anthropic提出AI監管框架：政府應有權封鎖高風險模型
Claire Weston
Anthropic周三發布監管框架，主張美國政府應獲法律授權封鎖災難性風險AI模型，並提出與全球營收掛鈎的遞增罰款機制——這一訴求已超出現行法律和國會現有提案的範圍。
Anthropic到底想讓政府做甚麼？
Anthropic要求立法賦予政府一項新權力：當第三方評估認定某個AI模型存在不可接受的風險時，政府可以直接封鎖或限制其部署。
這意味著→ 這不是「自願報備」，而是強制審批——模型上線前必須過關，過不了就不能發布。
公司同時提出罰款機制：罰款金額與公司全球年收入掛鈎，且重複違規會逐次加碼。
誰會被管到？門檻畫在哪裡？
適用範圍限定為：訓練算力超過10²⁵ FLOPs（浮點運算次數，衡量訓練一個模型需要幾多計算資源）、且公司AI相關營收超過5億美元或AI研發支出超過10億美元的模型。
簡單來說＝ 這條線只有少數幾間頭部公司的最大模型先夠得着，絕大多數AI企業同開源項目不在射程內。
評估覆蓋四個具體風險領域：生物武器、網絡安全、AI系統控制能力、自動化研發——測試由獨立機構或獲授權的私營組織執行。
點解Anthropic拿自家模型做論據？
Anthropic此前已主動將旗下Mythos模型的網絡安全相關能力從公開版本中剝離，僅向少數合作夥伴開放完整版。
CEO Dario Amodei以Mythos為核心論據，形容它「完美展示了AI的驚人能力與潛在風險」。
這反映出 Anthropic的策略邏輯：先在內部執行嚴格流程，再將自身實踐包裝為行業標準的參照系，推動立法將其變成所有人的義務。
同特朗普政府的態度差幾遠？
特朗普本月初簽署的AI行政令僅要求政府獲取開發商自願提交的訪問權限，並無設置強制審批門檻。
Amodei此前已公開批評該行政令力度不足。
這意味著→ Anthropic的框架與白宮現行立場之間存在實質性落差——從「自願配合」跳到「政府有權封鎖」，中間需要國會立法先能跨越。
這是真心推動安全，定係幫自己修護城河？
Anthropic與競爭對手OpenAI均已宣布正在推進IPO。在上市前夕密集推出監管框架，時機本身就會被審視。
框架中的三項義務——安全測試、公開結果、接受獨立評估——與Anthropic自身已執行的流程高度一致。
說白了＝ 如果這套標準變成法律，Anthropic幾乎唔需要額外投入就能達標，而合規成本會落在對手肩上。聯邦立法能否在國會實質推進，是檢驗這套框架究竟是真公共倡議還是競爭工具的關鍵節點。
Content is for reference only, not financial advice.