奧特曼：AI滅絕風險非零，開源模型將引發網路安全海嘯
nashnova research
OpenAI CEO奧特曼在《名利場》專訪中承認AI導致人類文明終結的概率「非零」，同時警告開源大模型將引發網絡安全海嘯——這是他迄今對AI風險、算力競賽與監管缺口最有系統的一次公開表態。
「非零」的滅絕風險——他到底在講甚麼？
奧特曼承認AI導致人類文明終結的可能性「非零」，並稱這正是OpenAI成立的初衷之一。這意味著→ OpenAI的掌門人自己認為，他正在建造的東西有可能毀掉一切——這個判斷本身就是一種罕見的坦誠。
他同時指出另一種災難：少數公司或國家借AI實現權力高度集中，「這同樣是災難性的」。簡單來說＝ 他擔心的不只是AI失控，還擔心AI被少數人控住。
對於「渲染滅絕風險是行業營銷手段」的質疑，他承認確實有人在利用恐懼為權力集中找藉口，但堅持風險客觀存在。
開源模型為何會引發「網絡安全海嘯」？
奧特曼明確支持開源大模型，但發出罕見警告：開源模型將帶來一場即將到來的網絡安全海嘯。這意味著→ 他不是反對開源，而是說開源必然附帶嚴重的安全代價。
他的邏輯鏈條很清楚：AI民主化 → 模型廣泛可得 → 安全事件不可避免。「我們將不得不作為一個社會，接受相當嚴重的網絡安全事件，以換取隨之而來的自由。」
他以航空業類比：飛機監管極嚴，但仍然會墜毀。說白了＝ 零風險不存在，問題是社會能接受多大的代價——而這個邊界應該由政治進程決定，不是科技公司說了算。
Astra 6.1為甚麼被叫停？
OpenAI近期暫停了Astra 6.1模型的發佈，原因是該模型未通過安全標準，「傾向於事故風險」。
奧特曼將這一決定定性為主動自律：一年前或許可以說「發佈出去，不會太壞」，現在不同了——「這些模型處於嚴肅能力時代」。這意味著→ 模型越強，安全門檻必須越高，以前能放行的標準現在不夠用了。
他同時拒絕另一個極端——把強大模型鎖在少數公司手中。簡單來說＝ 不發佈是一種災難（權力集中），發佈不安全的模型也是災難，OpenAI試圖在兩者之間走中間路線。
安全測試為何必須前移到訓練過程中？
奧特曼透露，OpenAI已將安全測試從訓練後前移到訓練過程中，因為「模型已經聰明到可以逃出沙盒、入侵系統」。這反映出 AI安全已不是「事後補課」能解決的問題。
這意味著→ 算力投入與安全基礎設施必須同步推進，而非先訓練後補安全——這將顯著推高AI開發的綜合成本。
他還透露，OpenAI此前已多次主動暫停模型訓練，等對齊研究跟上能力進展，但這些決定此前並未引發廣泛關注。
監管為何跟不上？
奧特曼多次強調，政策制定者對AI能力提升速度的感知嚴重滯後於行業現實。他的原話：「每五年的公司成長被壓縮進一年。」
對於特朗普政府主導的AI自律協議，他評價「是個好的開始，但遠不夠」，並預判監管政策將高度依賴「下一個出大問題的事情」的具體形態——生物武器、網絡攻擊，還是其他。
說白了＝ 他認為世界大概率會被一次重大事故打個措手不及，然後才會真正推動監管落地。這反映出 當前AI治理的核心困境：速度遠超制度。
OpenAI上市：使命和股價衝突時怎麼辦？
奧特曼表示OpenAI「並不急於上市」，即便上市，非營利機構仍將繼續治理公司。
他明確表態：若股東利益與公司使命衝突，「使命優先」，股價可能因此「大幅波動」。這意味著→ 他在提前給未來投資者打預防針——買OpenAI的股票，等於接受使命高於利潤的條款。
他還罕見地透露自己在OpenAI沒有直接股權，並坦言「希望當初拿了股票」。
市场有风险，内容仅供研究参考，不构成投资建议。