谷歌、微软、xAI前缘模型发表前，须经美国政府测试

美国商务部属下嘅人工智能标准与创新中心 (CAISI) 星期二宣布，同Google DeepMind、微软同xAI签新协议，准许联邦政府喺前沿AI模型公开发布之前进行国家安全测试。

呢个安排将政府评估提前到模型上线之前。CAISI称，新协议将支持发布前评估、发布后评估同定向研究，用于判断前沿模型嘅能力边界同潜在风险。

CAISI之前已经喺2024年8月同Anthropic同OpenAI宣布类似合作，并且表示至今完成超过40项评估，其中包括未公开发布嘅先进模型。随住Google DeepMind、微软同xAI加入，前沿AI公司嘅发布流程正更系统地进入政府测试框架。

参与测试嘅模型唔一定系最终面向用户嘅商业版本。CAISI表示，为咗充分评估同国家安全相关嘅能力和风险，开发者经常会提供减少或者移除安全防护嘅模型。

咁做让政府能够观察到更接近模型极限状态嘅行为，都让AI公司嘅安全设计、能力披露同发布节奏更早进入政策框架。对于谷歌、微软同xAI呢类头部开发者来嘅话，前沿模型竞争唔再系只算力、数据同产品体验嘅竞争，而都开始受到政府测试流程嘅影响。

根据公告，在商务部长Howard Lutnick嘅领导下，CAISI已经被指定为美国政府内部向商业AI系统测试、协作研究同最佳实践制定嘅主要对接点。公告之前一日，有报道称白宫正在权衡新AI模型护栏同审查流程，其中包括可能通过行政令建立由行业高管同政府官员组成嘅工作组。