Anthropic的AI安全法案草案：若模型构成50人以上死亡或10亿美元损失的紧迫风险，法官可叫停发布

据POLITICO报道，Anthropic一直在议员中传阅其自拟的联邦AI安全法案草案，公司已确认这份文件。2026年10月21日，POLITICO发表后续报道，解释草案为何将损失门槛定为10亿美元。

主要条款（据报道）

• 只有在存在**“可预见的紧迫风险”，即可能造成超过50人死亡或重伤或超过10亿美元财产损失**时，才可阻止模型发布。
• 该风险必须源于生物武器、网络攻击或模型逃避开发者控制。
• 评估将由在美国商务部注册的独立评估机构进行。据POLITICO报道，评估方可由AI实验室付费，前提是付款不取决于评估结果。
• 若评估方发现紧迫的灾难性风险，须在72小时内通知商务部，再由商务部请求华盛顿特区联邦法官叫停发布。任何联邦机构都不能自行叫停模型。

背景

TechCrunch指出，50人死亡和10亿美元的标准与加州最近生效的SB 53法案对”灾难性风险”的定义相似。Anthropic发言人对POLITICO表示，该法案体现了公司的Advanced AI Framework，公司称自6月以来一直在向联邦和州议员推介这一框架。