谷歌、微软、xAI前沿模型发布前，须经美国政府测试

美国商务部下属的人工智能标准与创新中心 (CAISI) 周二宣布，与Google DeepMind、微软和xAI签署新协议，允许联邦政府在前沿AI模型公开发布前进行国家安全测试。

这项安排把政府评估前移到模型上线之前。CAISI称，新协议将支持发布前评估、发布后评估和定向研究，用于判断前沿模型的能力边界和潜在风险。

CAISI此前已在2024年8月与Anthropic和OpenAI宣布类似合作，并表示迄今完成超过40项评估，其中包括尚未公开发布的先进模型。随着Google DeepMind、微软和xAI加入，前沿AI公司的发布流程正更系统地进入政府测试框架。

参与测试的模型不一定是最终面向用户的商业版本。CAISI表示，为了充分评估与国家安全相关的能力和风险，开发者经常会提供减少或移除安全防护的模型。

这让政府能够观察到更接近模型极限状态的行为，也让AI公司的安全设计、能力披露和发布节奏更早进入政策框架。对谷歌、微软和xAI这类头部开发者来说，前沿模型竞争不再只是算力、数据和产品体验的竞争，也开始受到政府测试流程的影响。

根据公告，在商务部长Howard Lutnick领导下，CAISI已被指定为美国政府内部面向商业AI系统测试、协作研究和最佳实践制定的主要对接点。公告前一日，有报道称白宫正在权衡新AI模型护栏和审查流程，其中包括可能通过行政令建立由行业高管和政府官员组成的工作组。