AI吹哨人国会作证：巨头"极度无视风险"，纽约拟立法设紧急停止开关
nashnova research
这些吹哨人到底说了什么？
前Anthropic研究员科克森（Jacob Coxon）给出最极端判断：按当前路径，人类失去AI控制的概率超过50%，最坏结局是人类灭绝。
前谷歌DeepMind研究员特纳（Alex Turner）估计AI接管人类文明的概率约三分之一——他描述的情形是：超级智能会等到人类无法关闭它时才行动。
这意味着→ 这不是科幻预言，而是曾在这些公司核心岗位工作的人，用概率语言发出的正式警告。
除了失控，还有什么风险被点名？
前OpenAI研究员科科塔伊洛（Daniel Kokotajlo）指向另一层风险：即便AI没有失控，掌握它的科技公司也可能借此"在美国成为独裁者或寡头"。
他明确表示，科技领袖如今虽支持更严格监管，也未必应该把控制权交给他们。
用大白话说＝ 失控是一种风险，权力过度集中在少数公司手中是另一种——两种都可能改变社会结构。
为什么这些公司被批"极其鲁莽"？
科克森把问题归结于行业文化：这些公司以初创思维运作——"快速行动，打破常规，以后再修"。
他指出这套逻辑适用于照片分享应用，不适用于打造有史以来最强大的技术。
这反映出一个结构性问题：AI能力提升正在加速，明年模型将非常强大，"我们正在接近AI系统能够自我改进的临界点"——一旦跨过，人类纠错的窗口会急剧缩小。
巨头们怎么回应的？
Anthropic、OpenAI、谷歌、Meta均派政策负责人线上出席，没有一家派CEO到场。
据报道，这些公司是在议员威胁发出传票后才同意参加。
这意味着→ 巨头的态度是"配合但不全力配合"——派政策岗而非决策层，既保留对话姿态，又回避了CEO被直接追问的风险。
纽约打算怎么管？
拟议法案核心有两条：AI系统未经外部专家审查，不得在纽约五大区营销、销售或部署；所有在纽约使用的AI工具须配备"紧急停止开关"（即能关闭系统的人工干预机制）。
违反任一规定，罚款2.5万美元；另设全美首个吹哨人现金奖励制度，资金来自罚款。
此前纽约州长霍楚尔已宣布，AI公司须从11月起在政府平台注册，重大安全事件须72小时内上报。
这对行业意味着什么？
Anthropic CEO阿莫代伊已公开呼吁竞争对手共同放缓模型开发，担心"递归式自我改进"风险；OpenAI的奥特曼、马斯克、比尔·盖茨也都对不受监管的AI发展发出过警告。
用大白话说＝ 当巨头自己都在喊"慢一点"，而立法端同时在加速，两股力量合流的结果就是——合规成本会实质性上升。
这意味着→ 对投资者而言，AI公司的估值叙事正从"谁跑得最快"转向"谁能在监管框架里跑得最稳"。
市场有风险，内容仅供研究参考，不构成投资建议。