Anthropic研究員因AI失控風險辭職，公司IPO前安全爭議升溫
nashnova research
Anthropic研究員科克森因憂慮AI失控風險宣佈離職，正值公司衝刺2萬億美元估值IPO——這意味著→ 「安全標桿」公司自己也留不住安全人才，市場對AI公司估值邏輯的信心面臨考驗。
這位研究員為何要走？
科克森現年27歲，數學背景，此前專注於用大規模數據訓練新AI模型。
他的核心判斷：在沒有政府干預或行業協調減速的前提下，沒有任何一家公司能負責任地開發出AGI（人工通用智能，即在多項任務上全面超越人類的AI）。
他透露，許多業內同行已開始用「決戰時刻」和「終局」描述自我改進模型（能自己優化自己、愈跑愈快的AI）的發展軌跡。
「到明年底，局面可能已經失控。」——這意味著→ 他認為留給行業踩剎車的時間窗口可能不到18個月。
他為何連「最安全的公司」也待不下去？
科克森今年早些時候剛從OpenAI跳槽到以安全著稱的Anthropic，但仍然選擇離開。
他承認Anthropic的安全工作是真誠的，但問題不在單家公司的態度——而在於整個行業的競爭結構。
簡單來說＝ 當所有對手都在加速、又面對中國新興企業的壓力時，安全方面的妥協幾乎不可避免，一家公司再認真也改變不了賽道的方向。
這並非孤例：此前已有一名Anthropic安全研究員離職轉而研究詩歌，並警告「世界正處於危險之中」；OpenAI近年來也有多名研究員以類似理由出走。
行業高管自己在講甚麼？
OpenAI首席科學家帕霍茨基公開發文，呼籲行業協調減速並尋求政府干預。
OpenAI CEO奧特曼上周在G20峰會上警告：「除非各方採取緊迫行動，否則網絡安全領域將出現嚴重問題。」
Anthropic CEO阿莫代伊此前也多次警告流氓AI模型的風險，呼籲放緩開發。
這反映出一個矛盾：行業領袖一邊呼籲減速，一邊各自加速——說白了＝ 嘴上踩剎車，腳下踩油門。
政府層面有甚麼動作？
目前美國沒有聯邦層面的AI監管法規，特朗普政府優先推動輕監管路線以最大化AI經濟效益。
參議員桑德斯和眾議員卡薩爾上周提出立法，擬永久禁止超級智能並暫停模型開發，直至監管機構制定新規。
科克森、帕霍茨基、阿莫代伊等逾千名AI研究人員近期聯署聲明，呼籲各國政府協調建立「踩剎車機制」。
這意味著→ 行業內部的呼聲已經很大，但立法進程與AI發展速度之間的差距仍然懸殊。
這件事對Anthropic的IPO意味著甚麼？
Anthropic長期以「負責任AI開發」為核心品牌定位，並以此構建起規模龐大的AI平台。
現在的問題是：當安全人才開始用腳投票離開，這個品牌故事還能撐住2萬億美元的估值邏輯嗎？
這反映出一個更深層的市場信號：投資者為AI公司付出的溢價，很大程度上建立在「這些公司能管好自己」的假設之上——而這個假設正在被內部人的行動動搖。
市场有风险，内容仅供研究参考，不构成投资建议。