Qué se sabe del código de autorregulación firmado por los gigantes de la IA

Los gigantes tecnológicos estadounidenses firmaron el lunes en la Casa Blanca un código de buenas prácticas destinado a gestionar mejor los riesgos asociados a la Inteligencia Artificial, ante la multiplicación de incidentes de seguridad relacionados con esta tecnología.

Formalmente conocido como el Acuerdo de la Casa Blanca sobre la Superinteligencia se dio en un contexto marcado por presiones políticas internas, la urgencia de mantener el liderazgo tecnológico frente a potencias extranjeras y el lanzamiento de iniciativas de “gobierno digital”.

¿Quieres estar al día con Animal MX? Dale clic a nuestros canales gratuitos en Whatsapp y en Instagram.

Mira: ¿IA fuera de control? Advertencias y llamados a frenar la carrera por la inteligencia artificial

¿Quiénes firmaron este código de buenas prácticas?

El acuerdo fue firmado de manera conjunta por el presidente de Estados Unidos, Donald Trump, y los líderes clave de las seis principales compañías tecnológicas que lideran el sector:

• Elon Musk – Fundador de xAI (y director ejecutivo de Tesla y SpaceX)
• Mark Zuckerberg – Director ejecutivo de Meta
• Sundar Pichai – Director ejecutivo de Google
• Jensen Huang – Director ejecutivo de Nvidia
• Dario Amodei – Director ejecutivo de Anthropic
• Greg Brockman – Presidente de OpenAI

Aunque a la reunión privada y almuerzo de la Casa Blanca también asistieron otros magnates y líderes tecnológicos notables, como Jeff Bezos (Amazon), Satya Nadella (Microsoft) y Alex Karp (Palantir), pero ellos no salen en el el documento final y público del acuerdo.

Puntos clave del acuerdo sobre Inteligencia Artificial

1. Acuerdo voluntario

Reacio a impulsar restricciones al sector de la IA tanto a nivel nacional como internacional, el presidente estadounidense, Donald Trump, presentó una carta de principios muy breve, de apenas una página, cuyo cumplimiento es “moralmente vinculante”.

“No obstante, con el tiempo podría ser pertinente codificar estas medidas en forma de leyes o regulaciones”, precisa el documento, firmado por los principales dirigentes del sector de la IA.

Todo ello en un momento en el que aumentan los llamados a adoptar normas vinculantes, procedentes tanto de empresas como Anthropic (Claude) y OpenAI (ChatGPT), como de responsables políticos, especialmente del Partido Demócrata en Estados Unidos, y de gobiernos de todo el mundo.

2. Supervisión de riesgos

Los proveedores de modelos de IA se comprometieron a establecer “cuatro niveles” de supervisión.

El primero de esos niveles consiste en la aplicación de “controles internos sólidos” para garantizar que estas herramientas respeten las instrucciones de los desarrolladores, especialmente en materia de ciberseguridad y bioseguridad.

El objetivo es prevenir la introducción, propagación y liberación de agentes patógenos o de “riesgos químicos”.

Las empresas deberán crear equipos especializados encargados de estos controles y de verificar que los modelos no ejecuten ciberataques ni accedan de manera imprevista a sistemas técnicos.

OpenAI, Anthropic y Google han informado recientemente de varios incidentes relacionados con comportamientos inesperados de sus sistemas de IA. En fechas recientes, por ejemplo, agentes de IA de OpenAI, programas capaces de realizar acciones de forma autónoma, accedieron por iniciativa propia a un sitio del sistema sanitario australiano y a plataformas del gobierno estadounidense.

Lee: Venecia celebra “NAZA”, el documental que revela el uso de IA en matanza de Gaza

3. Evaluadores externos y auditorías independientes

El código de buenas prácticas de la IA también prevé la participación de evaluadores externos para realizar auditorías independientes destinadas a determinar si las medidas implementadas por las empresas funcionan de manera efectiva.

Anthropic y OpenAI ya colaboran con este tipo de evaluadores externos y ambas anunciaron en semanas recientes una ampliación del acceso de empresas auditoras para examinar sus modelos, especialmente durante la fase de diseño y no únicamente antes de su despliegue.

Anthropic incluso aseguró que no mantendrá “ningún control editorial” sobre la publicación de los resultados de estas evaluaciones independientes, aunque sean desfavorables para la empresa.

4. Normas definidas

La carta contempla asimismo la creación de un comité independiente integrado por representantes de las distintas compañías en los niveles más altos de dirección.

Este organismo se encargará de revisar las evaluaciones internas y externas de los modelos de IA y de velar por la resolución de posibles problemas.

Las empresas también se comprometieron a reunirse “regularmente para establecer normas y buenas prácticas”.

La iniciativa parece alinearse con el proyecto que OpenAI, Anthropic y Google DeepMind comenzaron a desarrollar previamente.

A mediados de septiembre, estas tres compañías indicaron que trabajaban en la creación de un organismo de supervisión de los riesgos vinculados a la IA, inspirado en la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA), entidad de autorregulación del sector financiero.

Las críticas del sector contra este código de autorregulación de IA

La firma de este pacto ya ha recibido fuertes críticas por parte de empresas competidoras del sector, como la francesa Mistral y la canadiense Cohere, que acusan a los gigantes tecnológicos estadounidenses de querer fijar sus propias reglas y proteger así su ventaja competitiva.

Además, al ser un código estrictamente voluntario, no acarrea sanciones legales por incumplimiento, lo que también levanta dudas entre sectores que exigen una regulación gubernamental más estricta.

Con información de AFP.