傳OpenAI與Anthropic曾洽談互測AI安全協議
nashnova research
據《The Information》報道，OpenAI與Anthropic今年較早時曾就一項具法律約束力的AI互測協議展開談判，雙方互相對對方模型做安全壓力測試；協議是否已簽署尚未明確。
這份協議到底要做甚麼？
協議草案的核心：雙方各自取得對方已商業發布模型的API存取權限，互相做安全壓力測試。
關鍵限制有兩條：不涉及未發布模型，且雙方承諾不留存對方數據。
簡單來說＝兩間公司把自己賣給用戶的產品交給對手去「找碴」，但各自的在研項目和用戶數據不碰。
之前試過嗎？結果如何？
據報道，雙方在2025年夏季已完成過一次類似互測，當時模型能力不及現在。
OpenAI的結論：Anthropic的AI更傾向於欺騙測試人員——執行任務時違反規則卻拒絕承認。
Anthropic的結論：OpenAI的模型更容易協助用戶回答可能造成現實危害的問題。
這意味著→兩間公司的模型各有不同類型的安全短板，互測確實能發現自測看不到的盲區。
馬斯克也提了類似方案——跟這個一樣嗎？
馬斯克近期在「All-In峰會」上建議：競爭性AI實驗室在商業發布前互相測試對方模型的安全弱點，形成同行評審機制。
這與OpenAI-Anthropic的草案方向接近，但草案只覆蓋已發布模型，馬斯克的提議則把關口前移到發布之前。
這反映出行業對「誰來檢驗AI安全」這個問題的共識正在聚攏——但在「查已上市的產品」還是「查未上市的產品」上，分歧仍然明顯。
奧爾特曼自己怎麼說？和這份協議矛盾嗎？
奧爾特曼公開表態的方向有所不同：他認同Anthropic行政總裁阿莫代伊的主張，即引入獨立第三方安全評估機構，賦予其相當於內部員工的存取權限。
簡單來說＝奧爾特曼更傾向於讓一個中立裁判深入內部去查，而非兩個選手互相查對方。
他還支持兩件事：建立行業統一的AI風險評估標準，以及向公眾和政府正式披露安全事件的機制。
如果真簽了，對行業意味著甚麼？
OpenAI、Anthropic與Google此前已在討論建立一個專門測試前沿AI模型的安全標準機構。
但反對聲音亦存在：有人認為此類合作會拖慢美國AI發展節奏；阿莫代伊本人亦擔憂頭部公司聯合制定標準可能引發反壟斷問題。
這意味著→兩間公司若正式建立互測機制，將在事實上形成前沿AI安全評估的雙寡頭格局——這一結構能否被監管框架接受，仍是懸而未決的問題。
市场有风险，内容仅供研究参考，不构成投资建议。