美国政府将干预新AI模型发布：全球五大前沿实验室均已加入

快科技5月6日消息，据央视新闻报道，当地时间本月5日，美国商务部下属人工智能标准与创新中心（CAISI）宣布和三家公司，分别是谷歌的AI研究部门DeepMind、微软和xAI，达成新的合作协议。

三家科技巨头将在新一代人工智能模型正式公开发布前，提前向美国政府开放模型权限，接受国家安全风险审查。

这一举措标志着美国对前沿AI技术的监管力度进一步升级，OpenAI和Anthropic已于2024年加入该审查机制，至此全球五大AI前沿实验室均已纳入这一自愿性审查框架。

虽然该协议目前仍为自愿性质，无法律强制约束力，但已覆盖全球绝大多数前沿AI开发力量，成为美国现阶段最接近正式AI监管的机制。

根据协议，CAISI将在模型发布前对其进行全面评估，重点分析其对美国国家安全和公共安全的潜在影响，特别是网络攻击、生物安全威胁等关键领域。

参与公司需提供包含降权防护措施的AI模型版本，供政府开展专项研究与测试，帮助提升系统安全防护水平。

CAISI主任克里斯・福尔强调，建立独立且严谨的量化评测体系，对摸清前沿AI技术能力及潜在风险至关重要。

此外，《纽约时报》近期还报道称，美国白宫还在考虑成立一个新的AI工作组，研究潜在的监管机制，这也被视为白宫在AI监管立场上的态度转向，从此前相对宽松的监管方式，开始收紧。

分析指出，引发白宫态度转向的一个重要触发点，是初创公司Anthropic推出的一款强大的网络安全AI模型Mythos，该模型在识别软件安全漏洞方面的能力极强，也让外界重新审视AI在网络攻防中的角色。

分析还认为如果白宫要出台监管政策还面临诸多挑战，一大现实问题就是AI模型的更新节奏极快，监管很难全面覆盖，业内预计即便加强监管，可能也将重点关注部分有能力跃迁的关键模型更新。