哈塞特称白宫正在研究AI安全行政令
N.R. Finch
白宫正在研究一项人工智能安全行政令,目标是为新AI模型建立更清晰的发布前审查路径。国家经济委员会主任凯文·哈塞特5月6日表示,未来存在网络安全风险的AI模型,可能需要经过测试并证明安全后再开放使用。
这轮政策讨论的直接导火索是Anthropic的Mythos模型。该模型擅长发现网络漏洞,但也可能被用于制造更大范围的网络安全风险,因此Anthropic目前只向少数大型科技和金融公司开放访问。
Mythos把美国AI监管推到了一个新边界。哈塞特称,政府已经协调公共部门和私营部门测试该模型,重点是在大规模开放前确认它不会伤害美国企业和政府网络。
“我们正在研究,可能通过行政令,给所有人一条清晰路线图。”
如果行政令落地,影响范围可能不止Anthropic。哈塞特表示,Mythos可能只是第一个案例,相关测试机制“很可能”最终扩展至所有AI公司。
如果这一机制落地,AI公司的核心变量将不再只是模型能力和商业化速度,还包括政府测试、合规流程和与联邦机构的合作条件。美国商务部5月5日已经扩大自愿测试计划,Google、Microsoft和xAI同意向政府开放模型用于能力评估和安全改进,OpenAI和Anthropic此前已经加入该项目。
Content is for reference only, not financial advice.