奥尔特曼与阿莫迪向联合国安理会介绍AI风险；美国拒绝"全球治理"

联合国安理会于9月23日就人工智能与国际安全举行会议，由法国外长让-诺埃尔·巴罗主持。主要AI公司的负责人也在通报者之列。

企业负责人

OpenAI首席执行官山姆·奥尔特曼亲自出席。他表示，世界面临选择：AI可能成为”创造与发现的新文艺复兴”，也可能成为”动荡与混乱的新工业革命”。由于模型越来越能帮助开发自己的下一代（即所谓递归自我改进），他说此刻”需要极度谨慎”，同时警告不要陷入”盲目乐观”或”末日论”。据《卫报》报道，他认为最重要的决定”不能只由旧金山的实验室做出”，而应通过民主程序形成。

Anthropic首席执行官达里奥·阿莫迪通过视频发言，呼吁达成能获得广泛支持的”窄范围”协议——例如禁止利用AI制造生物武器——并建立评估与核查体系，以及针对滥用和失控风险测试模型的共同标准。

Hugging Face首席执行官克莱芒·德朗格呼吁加强对AI驱动的网络安全事件的监测和披露标准。联合国人工智能独立国际科学小组联合主席约书亚·本吉奥则把当前的研发竞赛形容为”一场人人皆输的竞赛”。

成员国

法国、丹麦和英国表示支持建立管理前沿模型风险的共同框架；英国外交大臣埃德·米利班德表示，政府不能把保护民众的职责外包给私营公司。白宫科技顾问迈克尔·克拉齐奥斯表示，国际对话”不能滑向全球治理”。俄罗斯代表质疑AI这一泛泛议题是否属于安理会职责范围，中国则介绍了自己的全球人工智能治理倡议。