Google, OpenAI y Anthropic planean su propio organismo de normas de seguridad para la IA, según la prensa

Anthropic, Google y OpenAI trabajan en una nueva organización de normas para la IA de frontera y esperan lanzarla a finales de este año o a principios de 2027, informó The Information el 24 de septiembre, citando fuentes no identificadas. PYMNTS y Newsquawk resumieron la información; las empresas no han anunciado el organismo.

Qué haría

Según el informe, la organización:

• apoyaría a entidades externas que prueban los modelos antes de su lanzamiento;
• establecería cómo deben informar los desarrolladores sobre incidentes de seguridad;
• definiría los compromisos voluntarios de seguridad de los laboratorios;
• fijaría requisitos para los auditores independientes de modelos y laboratorios.

Un grupo de trabajo estudia además si el propio organismo debería evaluar la seguridad y las capacidades de los modelos.

Autorregulación en lugar de alianza pública

En un principio los laboratorios buscaban una alianza público-privada, pero ese intento se estancó con la administración Trump, según el informe; el plan actual es que los desarrolladores se regulen a sí mismos sin supervisión gubernamental. El Frontier Model Forum, organización sin ánimo de lucro creada en 2023 por Anthropic, Google, OpenAI y Microsoft con objetivos similares, sigue activo y está en contacto con la nueva iniciativa.

Críticas

Los críticos temen que los tres mayores laboratorios utilicen una organización así para dejar fuera a los desarrolladores de código abierto y a otros competidores.

Contexto

La información se publicó un día después de que directivos de empresas de IA informaran al Consejo de Seguridad de la ONU, en pleno debate sobre las reglas para la IA. El consejero delegado de Nvidia, Jensen Huang, dijo en un pódcast publicado el 23 de septiembre que las empresas de IA no deberían obtener exenciones de las leyes antimonopolio ni de responsabilidad por productos, según Reuters. A principios de este mes, el consejero delegado de Anthropic, Dario Amodei, había pedido una exención antimonopolio para que los laboratorios pudieran cooperar en materia de seguridad.