Альтман и Амодеи выступили в Совбезе ООН о рисках ИИ; США отвергли «глобальное управление»
На заседании 23 сентября руководители ИИ-компаний и учёные призвали к общим стандартам безопасности. Ряд государств поддержал единые рамки; США и Россия выступили против.
23 сентября Совет Безопасности ООН провёл заседание, посвящённое искусственному интеллекту и международной безопасности; председательствовал министр иностранных дел Франции Жан-Ноэль Барро. Среди выступавших были руководители ведущих ИИ-компаний.
Руководители компаний
Глава OpenAI Сэм Альтман, выступавший лично, сказал, что мир стоит перед выбором: ИИ может стать «новым Возрождением творчества и открытий» или «новой промышленной революцией с потрясениями и хаосом». Поскольку модели всё активнее помогают создавать своих преемников (так называемое рекурсивное самосовершенствование), момент, по его словам, «требует крайней осторожности», но нельзя впадать ни в «слепой оптимизм», ни в «думеризм». Как пишет The Guardian, он заявил, что важнейшие решения не могут приниматься «одними лабораториями в Сан-Франциско» и должны формироваться демократическим путём.
Глава Anthropic Дарио Амодеи, подключившийся по видеосвязи, призвал к «узким» соглашениям, которые могут получить широкую поддержку, — например, к запрету использовать ИИ для создания биологического оружия, — а также к системам оценки и проверки и общим стандартам тестирования моделей на риски злоупотребления и потери контроля.
Глава Hugging Face Клеман Деланг призвал ужесточить стандарты мониторинга и раскрытия информации о кибер-инцидентах с участием ИИ. Йошуа Бенжио, сопредседатель Независимой международной научной группы ООН по ИИ, назвал нынешнюю гонку разработок «гонкой, в которой проигрывают все».
Государства
Франция, Дания и Великобритания высказались за общие рамки управления рисками передовых моделей; министр иностранных дел Великобритании Эд Милибэнд заявил, что правительства не могут передать частным компаниям обязанность защищать своих граждан. Советник Белого дома по науке Майкл Крациос сказал, что международный диалог «не должен скатываться к глобальному управлению». Представитель России усомнился в том, что общая тема ИИ относится к повестке Совбеза, а Китай продвигал собственную инициативу по глобальному управлению ИИ.