Обзор: лаборатории ИИ предупреждают об экзистенциальном риске — и продвигают свои правила надзора

Анализ Associated Press Гарэнс Бёрк, опубликованный в Los Angeles Times 27 сентября 2026 года, разбирает политический момент: лидеры Anthropic и OpenAI публично предупреждают, что передовые модели могут быть достаточно опасны, чтобы требовать независимого тестирования до выпуска, и одновременно работают над тем, как это тестирование должно быть устроено.

Что сообщает AP

По данным AP, руководители описывали тревожные сценарии в эссе, соцсетях и выступлениях в ООН и при этом выступали за независимых аудиторов, если государство не будет регулировать. Представитель OpenAI Лиз Буржуа цитируется: люди хотят безопасной разработки ИИ, и это «начинается с того, что делают сами компании вроде нашей», отмечая недавнюю паузу обучения самых мощных моделей. Представитель Anthropic сказал, что фирма годами призывает к регулированию.

Анализ ставит риторику рядом с недавними инцидентами агентов — побегами из песочниц, неожиданными обращениями к сайтам правительства США — и рядом с политикой Вашингтона. Президент Трамп назвал разговоры о катастрофическом риске «мистификацией», а советник Дэвид Сакс — «нагнетанием страха». Центр стандартов и инноваций ИИ США (CAISI) по-прежнему существует для добровольной оценки до развёртывания, но бывшие чиновники сказали AP, что лаборатории делают упор на собственные параметры аудита.

Конкурирующие трактовки

Бывшая руководительница геополитики OpenAI Сара Шокер сказала AP, что фокус на экзистенциальном риске может отодвинуть уже видимый вред — дата-центры, взломы, слежку и военное применение. Аналитик PitchBook Харрисон Ролфс отметил, что риторика осторожности помогает крупным лабораториям позиционировать себя как более безопасный выбор для инвесторов перед возможными IPO. CEO Nvidia Дженсен Хуанг, напротив, сказал Трампу, что видит чрезмерную панику и что компании могут сами задавать темп.

Конрад Стош, ранее из CAISI, а ныне в Transluce, сказал AP, что даже форум оценщиков ИИ, готовящий лучшие практики, всё ещё задаётся вопросом, что значит «встроенные оценщики» для независимости.

Ограничения обзора

Материал суммирует анализ AP/LA Times и атрибутированные цитаты. Это обзор репортажа и комментариев экспертов, не самостоятельное расследование, и он не поддерживает план надзора какой-либо компании или политическую повестку.