AI吹哨人國會作證：巨頭"極度無視風險"，紐約擬立法設緊急停止開關
nashnova research
多名前Anthropic、OpenAI、Google研究員在紐約市議會作證，稱AI失控概率超過五成，直指巨頭「極其魯莽」；紐約正加速推進強制審查與緊急停止開關立法，AI行業合規成本拐點逼近。
這些吹哨人到底說了甚麼？
前Anthropic研究員科克森（Jacob Coxon）給出最極端判斷：按當前路徑，人類失去AI控制的概率超過50%，最壞結局是人類滅絕。
前Google DeepMind研究員特納（Alex Turner）估計AI接管人類文明的概率約三分之一——他描述的情形是：超級智能會等到人類無法關閉它時才行動。
這意味著→ 這不是科幻預言，而是曾在這些公司核心崗位工作的人，用概率語言發出的正式警告。
除了失控，還有甚麼風險被點名？
前OpenAI研究員科科塔伊洛（Daniel Kokotajlo）指向另一層風險：即便AI沒有失控，掌握它的科技公司也可能藉此「在美國成為獨裁者或寡頭」。
他明確表示，科技領袖如今雖支持更嚴格監管，也未必應該把控制權交給他們。
簡單來說＝ 失控是一種風險，權力過度集中在少數公司手中是另一種——兩種都可能改變社會結構。
為甚麼這些公司被批「極其魯莽」？
科克森把問題歸結於行業文化：這些公司以初創思維運作——「快速行動，打破常規，以後再修」。
他指出這套邏輯適用於相片分享應用，不適用於打造有史以來最強大的技術。
這反映出一個結構性問題：AI能力提升正在加速，明年模型將非常強大，「我們正在接近AI系統能夠自我改進的臨界點」——一旦跨過，人類糾錯的窗口會急劇縮小。
巨頭們怎麼回應的？
Anthropic、OpenAI、Google、Meta均派政策負責人線上出席，沒有一家派CEO到場。
據報道，這些公司是在議員威脅發出傳票後才同意參加。
這意味著→ 巨頭的態度是「配合但不全力配合」——派政策崗而非決策層，既保留對話姿態，又迴避了CEO被直接追問的風險。
紐約打算怎麼管？
擬議法案核心有兩條：AI系統未經外部專家審查，不得在紐約五大區營銷、銷售或部署；所有在紐約使用的AI工具須配備「緊急停止開關」（即能關閉系統的人工干預機制）。
違反任一規定，罰款2.5萬美元；另設全美首個吹哨人現金獎勵制度，資金來自罰款。
此前紐約州長霍楚爾已宣布，AI公司須從11月起在政府平台註冊，重大安全事件須72小時內上報。
這對行業意味著甚麼？
Anthropic CEO阿莫代伊已公開呼籲競爭對手共同放緩模型開發，擔心「遞歸式自我改進」風險；OpenAI的奧特曼、馬斯克、比爾·蓋茨也都對不受監管的AI發展發出過警告。
簡單來說＝ 當巨頭自己都在喊「慢一點」，而立法端同時在加速，兩股力量合流的結果就是——合規成本會實質性上升。
這意味著→ 對投資者而言，AI公司的估值敘事正從「誰跑得最快」轉向「誰能在監管框架裡跑得最穩」。
市场有风险，内容仅供研究参考，不构成投资建议。