Líderes tecnológicos pactan autorregulación de la IA tras reunión con Trump

Los líderes del sector tecnológico acordaron este martes autorregularse a la hora de desarrollar sus modelos de inteligencia artificial tras reunirse con el presidente Donald Trump en la Casa Blanca.

Hostil a cualquier regla que restrinja el desarrollo de la IA, Trump propuso a sus invitados crear un comité para monitorear un acuerdo que sería “moralmente vinculante”, pero sin imposiciones legales.

“Redactamos un conjunto de principios y compromisos para construir controles internos sólidos y detectar cualquier problema que pudiera surgir con la tecnología”, repuso el jefe de Meta, Mark Zuckerberg. “Se van a controlar a sí mismos”, aseguró Trump ante los periodistas a la salida del encuentro.

“Estamos pensando en formar una especie de comité, en el que pongamos quizá a 10 personas. Podría ser gente de ese mismo grupo”, sugirió.

Lee: OpenAI, Anthropic y Google trabajan en la creación de un organismo de supervisión de la IA

Si el desarrollo de la IA lleva a abusos o peligros “automáticamente ya contamos con regulación a través del Departamento de Justicia, el FBI“, había dicho previamente Trump.

Los propios patrones del sector reconocieron en un reciente llamado conjunto que había peligros de descontrol, tras varios incidentes durante el desarrollo de nuevas versiones de la IA, en la que los programas invadieron otras plataformas y piratearon información, sin que los humanos lo solicitaran.

“Creo que vale la pena destacar los beneficios positivos de la inteligencia artificial. Creo que, con mucha diferencia, el resultado más probable es una era de abundancia”, declaró el patrón de X y Tesla, Elon Musk.

Coincidiendo con la campaña electoral en Estados Unidos, líderes demócratas pidieron que el Congreso refuerce la supervisión de la industria.

Mark Zuckerberg (Meta), Sundar Pichai (Google), el presidente de OpenAI, Greg Brockman; así como Dario Amodei (Anthropic), Jensen Huang (Nvidia), Alex Karp (Palantir), Jeff Bezos (Amazon) y Elon Musk (X, Tesla, Space X) acudieron a la cita.

La IA “conlleva riesgos muy reales y la forma en que abordamos esos riesgos sigue siendo materia de discusión. Pero todos tenemos que trabajar juntos” ratificó Amodei.

Trump quitó también importancia a los temores sobre la instalación de gigantescos centros de datos en Estados Unidos, que consumen enormes cantidades de energía y que son imperativos para el desarrollo de la IA.

Esas empresas “van a trabajar con las comunidades locales. Eso podría significar suministrar petróleo y gas. Podría significar proporcionar educación. Podría implicar ayudar económicamente a los docentes” indicó Trump.

Engañar a los supervisores

En la víspera de la reunión, OpenAI anunció que posponía el lanzamiento de su modelo de vanguardia previsto para octubre porque este se desviaba de las instrucciones recibidas e intentaba engañar a sus supervisores.

La misma empresa reconoció la semana pasada que sus agentes habían accedido a los sitios web de tres agencias federales estadounidenses, y que un modelo suyo había infiltrado un sitio web gubernamental de salud en Australia.

De su lado, Anthropic, responsable del modelo Claude, advirtió a los inversores antes de su salida a bolsa que esta tecnología podría presentar “riesgos existenciales para la humanidad”, informó el martes el Financial Times.

Podría interesarte: Mantienen veto del Pentágono a Anthropic por limitar uso de IA en armas

Preocupación del electorado

Trump presentó en otro evento este martes un nuevo portal web, America.gov, destinado a agrupar cerca de 29 mil sitios del gobierno federal estadounidense.

Construido directamente con la ayuda de la inteligencia artificial, el portal promete responder a cualquier solicitud de los usuarios, y supuestamente sin guardar ningún tipo de información personal. Las conversaciones serán borradas automáticamente tras la consulta, según el portal, así como la localización del usuario.

Estados Unidos no “sucumbe al miedo” a las nuevas tecnologías, aseguró Trump. Una encuesta publicada por CNN asegura que un 82 % de los estadounidenses se declara “preocupado” por el desarrollo de la IA.

Pero Trump considera esas advertencias exageradas y aboga por un desarrollo vigoroso para superar a China e impulsar una economía cada vez más dependiente del auge de esta tecnología.

Legisladores de ambos partidos han elaborado varios proyectos de ley para regular mejor el sector. Algunos exigen a las empresas mayor transparencia sobre cómo funcionan sus sistemas y qué medidas de seguridad emplean.

Pero con la Cámara de Representantes en receso hasta principios de noviembre y los senadores a punto de volver a sus circunscripciones para hacer campaña, es improbable que el Congreso apruebe cualquier legislación integral sobre la cuestión antes de las elecciones.

Antes de que te vayas: Redes sociales están diseñadas para su uso excesivo: exdirectivo de Meta