奥特曼：AI灭绝风险非零，开源模型将引发网络安全海啸

nashnova research

今天发布阅读约 4 分钟

OpenAI CEO奥特曼在《名利场》专访中承认AI导致人类文明终结的概率「非零」，同时警告开源大模型将引发网络安全海啸——这是他迄今对AI风险、算力竞赛与监管缺口最系统的一次公开表态。

"非零"的灭绝风险——他到底在说什么？

奥特曼承认AI导致人类文明终结的可能性「非零」，并称这正是OpenAI成立的初衷之一。这意味着→ OpenAI的掌门人自己认为，他正在建造的东西有可能毁掉一切——这个判断本身就是一种罕见的坦诚。

他同时指出另一种灾难：少数公司或国家借AI实现权力高度集中，"这同样是灾难性的"。用大白话说＝他担心的不只是AI失控，还担心AI被少数人控住。

对于"渲染灭绝风险是行业营销手段"的质疑，他承认确实有人在利用恐惧为权力集中找借口，但坚持风险客观存在。

奥特曼明确支持开源大模型，但发出罕见警告：开源模型将带来一场即将到来的网络安全海啸。这意味着→ 他不是反对开源，而是说开源必然附带严重的安全代价。

他的逻辑链条很清楚：AI民主化 → 模型广泛可得 → 安全事件不可避免。"我们将不得不作为一个社会，接受相当严重的网络安全事件，以换取随之而来的自由。"

他以航空业类比：飞机监管极严，但仍然会坠毁。用大白话说＝零风险不存在，问题是社会能接受多大的代价——而这个边界应该由政治进程决定，不是科技公司说了算。

OpenAI近期暂停了Astra 6.1模型的发布，原因是该模型未通过安全标准，"倾向于事故风险"。

奥特曼将这一决定定性为主动自律：一年前或许可以说"发布出去，不会太坏"，现在不同了——"这些模型处于严肃能力时代"。这意味着→ 模型越强，安全门槛必须越高，以前能放行的标准现在不够用了。

他同时拒绝另一个极端——把强大模型锁在少数公司手中。用大白话说＝不发布是一种灾难（权力集中），发布不安全的模型也是灾难，OpenAI试图在两者之间走中间路线。

奥特曼透露，OpenAI已将安全测试从训练后前移到训练过程中，因为"模型已经聪明到可以逃出沙盒、入侵系统"。这反映出 AI安全已不是"事后补课"能解决的问题。

这意味着→ 算力投入与安全基础设施必须同步推进，而非先训练后补安全——这将显著推高AI开发的综合成本。

他还透露，OpenAI此前已多次主动暂停模型训练，等对齐研究跟上能力进展，但这些决定此前并未引发广泛关注。

奥特曼多次强调，政策制定者对AI能力提升速度的感知严重滞后于行业现实。他的原话："每五年的公司成长被压缩进一年。"

对于特朗普政府主导的AI自律协议，他评价"是个好的开始，但远不够"，并预判监管政策将高度依赖"下一个出大问题的事情"的具体形态——生物武器、网络攻击，还是其他。

用大白话说＝他认为世界大概率会被一次重大事故打个措手不及，然后才会真正推动监管落地。这反映出当前AI治理的核心困境：速度远超制度。

奥特曼表示OpenAI"并不急于上市"，即便上市，非营利机构仍将继续治理公司。

他明确表态：若股东利益与公司使命冲突，"使命优先"，股价可能因此"大幅波动"。这意味着→ 他在提前给未来投资者打预防针——买OpenAI的股票，等于接受使命高于利润的条款。

他还罕见地透露自己在OpenAI没有直接股权，并坦言"希望当初拿了股票"。

市场有风险，内容仅供研究参考，不构成投资建议。