Проект закона Anthropic о безопасности ИИ позволит суду остановить модель при непосредственной угрозе гибели 50+ человек или ущерба в $1 млрд
По данным POLITICO, Anthropic показывает законодателям проект федерального закона, по которому министерство торговли США могло бы просить федерального судью в Вашингтоне остановить выпуск передовой ИИ-модели в узко определённых катастрофических сценариях. Anthropic подтвердила существование проекта.
Anthropic распространяет среди законодателей собственный проект федерального закона о безопасности ИИ, сообщило издание POLITICO; компания подтвердила существование документа. 21 октября 2026 года POLITICO опубликовало продолжение — о том, почему порог ущерба в тексте установлен на уровне $1 млрд.
Основные положения (по сообщениям СМИ)
- Выпуск модели можно заблокировать только при «предсказуемом, непосредственном риске» гибели или тяжёлых травм более 50 человек либо имущественного ущерба свыше $1 млрд.
- Риск должен быть связан с биологическим оружием, кибератакой или выходом модели из-под контроля разработчика.
- Оценку проводили бы независимые эксперты, зарегистрированные в министерстве торговли США. По данным POLITICO, им могли бы платить сами ИИ-лаборатории — при условии, что оплата не зависит от результата.
- Обнаружив непосредственный катастрофический риск, эксперты должны в течение 72 часов уведомить министерство, которое затем обращается к федеральному судье в Вашингтоне с просьбой остановить выпуск. Ни одно федеральное ведомство не могло бы остановить модель самостоятельно.
Контекст
TechCrunch отмечает, что пороги в 50 погибших и $1 млрд похожи на определение «катастрофического риска» в недавно принятом калифорнийском законе SB 53. Представитель Anthropic сказал POLITICO, что законопроект отражает Advanced AI Framework компании, который она, по её словам, продвигает среди федеральных законодателей и законодателей штатов с июня.