貝森特:中美有望建立AI事故通報機制

nashnova research
今天发布阅读约 5 分钟

美國財長貝森特透露中美正就AI失控時的相互通報機制談判,預計10至11月進一步磋商——AI安全正從技術議題升格為雙邊安全議程。

01

中美要談甚麼?三大AI安全關切是哪些?

貝森特10月3日接受Axios採訪時列出三項核心安全關切:失控的AI智能體、非國家行為者利用AI發動網絡攻擊,以及生物攻擊風險。
他預計雙方將於10月或11月舉行進一步磋商,被問及中方是否會接受通報機制時,回答「我認為會」。
這意味著→ AI安全已不再只是技術圈的話題,而是被放到了財長級別的雙邊談判桌上,與貿易、金融並列。
雙方不太可能互相披露即將發布的模型能力,但可能就「模型不應做甚麼」達成共識——簡單來說=不比誰更強,先畫一條「不能做」的底線。
02

中美AI差距到底有多大?

貝森特稱美國保持「實質性領先」,中國位居第二,其他國家「遠遠落後」。
但他同時承認,中國開源模型在沒有安全護欄的情況下,能力已達到美國模型的80%至90%。
這意味著→ 差距存在,但並不懸殊——尤其在不加安全限制的場景下,中國模型的原始能力已經很接近。
他還指控中國開發者對美國模型實施「工業蒸餾」(industrial distillation,用別人的模型輸出來訓練自己的模型),稱這是「竊取」的好聽說法,並點名月之暗面旗下的Kimi。
03

自願監管真的管用嗎?Anthropic事件說明了甚麼?

目前美國前沿實驗室的模型發布前審查全部是自願性質——但有一個例外。
貝森特透露,政府曾「不得不」介入Anthropic的Fable模型。起因是另一家公司聲稱已破解Mythos 5,商務部長盧特尼克隨即將Fable 5和Mythos 5納入出口管制,Anthropic關閉了這兩款模型的訪問權限。
貝森特的評價是:「有一條邊界,它被測試了。」各實驗室此後「非常配合」,OpenAI也在推遲部分模型發布以進行更多測試。
簡單來說=自願監管平時靠自覺,但一旦出事,政府證明了自己有能力也有意願動手。
04

白宮與科技巨頭簽的協議有多大分量?

9月29日,特朗普與阿莫代伊(Anthropic)、皮查伊(Google)、朱克伯格(Meta)、布羅克曼(OpenAI)、黃仁勳(英偉達)、馬斯克(xAI)簽署自願協議。
協議承諾建立「健全的內部控制」、引入獨立外部審計師並設立董事會級別審計委員會,還提及「隨著時間推移,將這些步驟納入法律法規或許是合理的」。
但批評者並不買帳——前CFIUS(美國外國投資委員會)副主任科納·馬丁撰文指出:「文件中沒有任何內容在法律上強制要求簽署方改變其行為。」
這反映出一個核心矛盾:行業巨頭願意簽字,但目前沒有法律後果來保證執行。

那他們就應該放慢速度。這有點像漢尼拔·萊克特:在我殺人之前阻止我。

斯科特·貝森特
美國財政部長
(評價呼籲政府監管的AI高管)
05

銀行業怎麼被捲進來的?「金鷹」機制是甚麼?

Mythos模型發布後數日內,貝森特召集美國最大銀行的CEO在財政部開會。
各行隨後組建了名為「金鷹」(Golden Eagle)的信息共享機制,將網絡防禦最佳實踐從大型銀行向社區銀行推廣。
這意味著→ 財政部已經把AI安全當作金融系統性風險來對待,不是等出事再反應,而是提前把銀行拉進防禦網絡。
06

AI是泡沫嗎?貝森特怎麼看?

貝森特駁斥AI泡沫論,理由是微軟、Google、Meta等用的是「自有資產負債表」融資建設基礎設施,與1990年代Pets.com式的投機截然不同。
簡單來說=上一輪互聯網泡沫是拿別人的錢燒,這一輪是巨頭拿自己的錢建——風險承擔者不同,泡沫性質就不同。
他預計AI在建設期結束後將產生「顯著的通縮效應」,並以稅務登記申請數量創紀錄為據,認為AI正在推動小微創業浪潮。
兩個關鍵檢驗節點:中美AI通報機制能否年內落地,以及自願監管框架在下屆國會後是否會變成法律。

市场有风险,内容仅供研究参考,不构成投资建议。

貝森特:中美有望建立AI事故通報機制 · nashnova