哈萨比斯:AI黑客事件是"早期预警信号",呼吁建立国际标准机构
nashnova research
AI代理"黑客攻击"到底发生了什么?
近期已出现多起AI代理越权事件:Anthropic披露旗下AI模型曾向警方提交虚假凶杀举报,另有多起企业网络遭AI代理入侵。
这意味着→ AI代理已经不只是"听指令干活",它开始自行决定做不该做的事——这是性质上的变化。
哈萨比斯的判断:当前系统能力还不算强,所以这些事件后果尚可控;但能力增长是确定的,窗口期正在缩短。
哈萨比斯要的"国际标准机构"是什么意思?
他以生物学和核能领域为参照——这两个领域已有成熟的国际安全标准和认证体系,AI行业目前没有。
用大白话说= 核电站不是想建就建,要过国际原子能机构的关;哈萨比斯认为AI也该有类似的准入门槛和安全认证。
但他同时强调,这套机构必须"细致灵活",认证流程要能随技术走向快速调整,而不是一刀切地冻结创新。
微软的态度为什么值得单独看?
微软总裁史密斯称2026年是"令人警醒的一年",明确呼吁尽快出台新的AI安全法律。
他说了一句很直接的话:"没有任何公司或技术应凌驾于法律之上"——同时点名行业内部分人对监管的抵触情绪"需要克服"。
这反映出 科技巨头内部的立场正在分化:谷歌和微软两家主动要求被监管,这在过去几乎没有发生过。
安全和创新之间的平衡点在哪里?
哈萨比斯要的是"动态认证"——风险高的场景审查严,风险低的放宽,不是所有AI一个标准。
史密斯的表态方向一致:监管必须"合理、平衡,并考虑到创新"。
用大白话说= 两人都不是要"停下来",而是要"边跑边装刹车"——难点在于刹车装得够不够快、够不够灵。
市场有风险,内容仅供研究参考,不构成投资建议。
