Anthropic警告：AI自我改進能力或已臨近
nashnova research
Anthropic在更新後的S-1A招股文件中首次承認，其未來模型可能即將觸及遞歸自我改進（RSI）門檻——這意味著AI安全議題正從學術討論進入公司治理與監管層面。
甚麼是遞歸自我改進，為甚麼值得關注？
RSI（遞歸自我改進）是指AI在訓練自身方面的能力強大到足以引發能力的急劇加速，從而超越人類對其發展進程的掌控。
簡單來說＝AI自己教自己變強，而且越變越快，快到人類來不及反應。
Anthropic此前從未在法律文件中正式承認這一能力臨近，今次是首次。
Anthropic的內部評估到底說了甚麼？
文件原文稱：公司內部估算顯示，未來模型（非現有模型）可能即將滿足其「負責任擴展政策」對「AI顯著加速進展」的定義。
關鍵限定詞：目前沒有任何現有模型已越過該門檻，公司仍在持續評估數據。
這意味著→ Anthropic劃了一條線：現在還未過線，但下一代模型可能就到了。
過去出過甚麼問題？
Anthropic在文件中坦承，公司過去已出現過「在能力顯著躍升發生後才意識到」的情況。
並警告未來可能再次出現類似情形。
這反映出一個核心矛盾：即便是開發者自己，也無法保證在能力突變發生之前就發現它。
Anthropic打算怎樣應對？
公司承諾在可預見的未來保持人類對研發流程的實質性監督。
文件明確表態：即便技術上可行，也不會讓Claude在無人類實質監督下完全自主地設計和構建下一代前沿模型。
公司正考慮更新「負責任擴展政策」，以確保人類持續掌控前沿模型開發。
這份文件本身有沒有「別的目的」？
S-1招股文件兼具資訊披露與市場推介雙重功能。
簡單來說＝聲稱自己接近造出能自我進化的超強AI，這本身也是一種向投資者展示技術領先地位的手段。
但無論動機如何，將RSI風險寫入法律文件這一行為本身，意味著這一議題已從論文裡的假設變成了必須向監管機構披露的實際風險。
市场有风险，内容仅供研究参考，不构成投资建议。