Anthropic引入外部安全監察團隊，首家前沿AI公司落地承諾
nashnova research
Anthropic正式將六名獨立研究人員嵌入公司內部，賦予其準員工級別的系統存取權限，用於審查未發佈的AI模型安全性——這是前沿AI公司首次真正落地外部安全監察機制，此前的行業承諾從未走到這一步。
到底發生了甚麼？
Anthropic從獨立研究機構METR選入六名外部評估人員，給予「類員工級別」的存取權限。
這些人可以使用公司硬件、辦公空間和內部工具，直接審查尚未發佈的AI模型和智能體。
這意味著→ 外部監察不再停留在「看報告」的層面，而是能像內部員工一樣觸碰核心系統。
為何說這是「第一次」？
Anthropic CEO達里奧·阿莫代伊上月發文呼籲前沿AI公司放慢研發節奏，並單方面承諾嵌入外部安全評估人員。
OpenAI CEO薩姆·奧爾特曼當時回應稱也會採取類似措施，但截至目前尚未落地。
簡單來說＝ 行業裏喊「我們要搞安全監察」的公司不止一家，但真把人放進公司、給鑰匙的，Anthropic是第一個。
這些評估人員能講甚麼、不能講甚麼？
Anthropic允許METR自由發佈評估結論，但劃了三條紅線：不得披露客戶數據、模型架構以及受律師-客戶特權保護的資訊。
Anthropic保留要求METR刪改內容的權利——但METR可以公開說明「哪裏被刪了」以及「自己是否認為刪改合理」，只是不能透露被刪的具體內容。
這意味著→ 外部監察拿到了實質權力，但商業機密仍有護欄；這套機制到底夠不夠硬，要等第一批評估報告出來才能驗證。
METR是誰，憑甚麼是它？
METR是一家獨立AI安全研究機構，此前因發佈關於OpenAI智能體安全漏洞的報告而在業界知名。
被選入的六名研究人員姓名暫未公開，且將與METR更廣泛的團隊保持隔離，以符合Anthropic的安全標準。
這反映出一個現實：能做前沿AI安全評估的獨立機構極少，METR既有能力也有公信力，但隔離機制說明雙方對資訊洩露風險都很警惕。
市场有风险，内容仅供研究参考，不构成投资建议。