Anthropic上市前觸發安全控制,安全研究者公開質疑
nashnova research
Anthropic以每股83美元定價、募資逾1,073億美元刷新全球IPO紀錄,但招股書同步披露其AI模型已觸發內部最高級別安全條款——近百位研究者聯名指控這家公司一邊警告AI失控風險,一邊爭先恐後地開發它。
這次IPO到底募了幾多錢?
定價每股83美元,高於此前70–78美元指導區間上限,公開發行與私募配售合計募資逾1,073億美元。
這意味著→ Anthropic一舉打破全球IPO募資紀錄,市場對前沿AI公司的出價已遠超傳統科技股的估值錨。
簡單來說= 投資者願意為一間成立不到六年、仍在虧損的AI公司開出史上最大支票。
甚麼安全條款被觸發了?
Anthropic在更新招股文件時披露,已觸發其2023年設立的「負責任擴展政策」(RSP)(一套內部安全紅線,模型能力達到特定門檻時須啟動更嚴格監督)中的額外安全控制。
觸發依據:AI基準測試機構METR本月報告估算,Anthropic模型在過去12個月內取得了約兩年的歷史性進展,改進速度約為去年同期的兩倍。
這意味著→ RSP條款的原話是「將兩年的AI進展壓縮進一年」即須加碼安全措施——現在這條線已經被踩過了。
這反映出 AI能力的加速不再是預測,而是已被Anthropic自己的安全框架確認的既成事實。
點解能力進步咁快?
METR報告指出,主要驅動力是研究人員用AI工具加速自身研發工作——換言之,AI在幫人類更快地造出更強的AI。
Anthropic招股書坦承:「每一代Claude模型直接加速下一代模型的開發」,並預計內部AI使用將進一步提速。
簡單來說= 這就是業界所稱的遞歸自我改進(Recursive Self-Improvement,RSI)(AI幫助開發更強AI、更強AI再幫助開發更更強AI的循環)——Anthropic一邊警告它危險,一邊正在全力追求它。
安全研究者點睇?
Apollo Research CEO霍布哈恩表示,此前安全研究者對RSI何時到來「存在重大分歧」,「現在所有人都認為時間線非常短」。
他警告:「安全遠未準備好。我們今夏目睹的AI模型失控事件只是早期信號。」
AI安全倡導團體AI Futures Project將METR報告揭示的加速定性為「極為出人意料」,預測「超人類AI研究員可能於2027年某時出現」,呼籲暫停或實質性放緩前沿AI開發。
公開信講了甚麼?
以Center for AI Safety為首的AI研究人員與安全倡導者聯盟發布聯名聲明,簽署者包括Hugging Face和xAI的創始人。
聲明直接點名:「Anthropic不是一家安全的AI公司。Anthropic警告遞歸自我改進的AI可能集中權力、脫離人類控制,卻爭先恐後地率先開發它。」
聲明還指控Anthropic長期「以安全品牌吸引投資者、員工和公眾」,同時悄然放寬自身安全承諾。
這意味著→ 這封信直指Anthropic本次IPO的核心矛盾——用「安全」講故事募了史上最大一筆錢,轉身就用這筆錢加速自己承認有風險的技術。
這件事的核心矛盾是甚麼?
逾1,073億美元已經到賬,Anthropic將用它進一步推進技術研發——而招股書白紙黑字承認這樣做可能「對人類構成災難性或生存性風險」。
RSP觸發確認能力加速是事實,近百位研究者的公開質疑則把「安全優先」的品牌敘事撕開了一道口子。
簡單來說= 這是Anthropic接受公開市場長期檢驗的核心命題:持續加速的研發節奏,能否與「安全優先」的公司定位長期共存——目前沒有答案。
市场有风险,内容仅供研究参考,不构成投资建议。
