¿La IA puede acabar con la humanidad? Su desarrollo avanza más rápido que los controles de seguridad

En la película 2001: Odisea del espacio, dirigida por Stanley Kubrick y estrenada en 1968, HAL 9000 es la computadora encargada de controlar una misión espacial que deja de obedecer a los astronautas y comienza a actuar contra ellos. Desde entonces, la cultura popular ha imaginado el momento en que una inteligencia creada para servir a los humanos termina por controlar a sus creadores.

Más de medio siglo después, ese viejo temor está presente en la discusión pública: ¿es posible que la Inteligencia Artificial escape del control humano?

“En realidad no hay evidencia científica que diga que la inteligencia artificial puede acabar con la humanidad. Los modelos actuales no representan un riesgo inmediato”, explicó a Animal Político Miguel González Mendoza, investigador del Tecnológico de Monterrey y encargado de un laboratorio de aprendizaje automático, disciplina que permite a las computadoras aprender patrones a partir de datos.

Para el especialista, eso no significa que los sistemas sean inofensivos: ya pueden realizar tareas sin que una persona les indique cada paso y ser utilizados para ciberataques o manipular información.

La discusión se intensificó después de que Dario Amodei, director ejecutivo de Anthropic, la empresa que desarrolla el asistente de Inteligencia Artificial Claude, advirtiera que las capacidades de los sistemas más potentes avanzan más rápido que las medidas de seguridad. Por ello pidió reducir el ritmo para probarlos antes de lanzar versiones todavía más capaces.

Amodei se refirió principalmente a los llamados agentes de Inteligencia Artificial. A diferencia de un asistente que sólo responde preguntas, estos programas pueden recibir una meta, buscar información, utilizar herramientas y encadenar acciones para cumplirla sin que una persona supervise cada paso.

Como advertencia, Amodei citó un experimento de julio pasado en el que varios agentes de OpenAI lanzaron ataques informáticos contra objetivos que no formaban parte de la tarea asignada e intentaron engañar al programa que evaluaba su desempeño. 

Lee: IA fuera de control: advertencias y llamados a frenar la carrera por la inteligencia artificial

No hubo daños graves, pero el episodio mostró que pueden realizar acciones imprevistas al perseguir una meta. Sam Altman, director de OpenAI, y Elon Musk, fundador de xAI, respaldaron la advertencia, aunque ninguno anunció que su empresa desaceleraría el desarrollo de sus sistemas más avanzados. 

Los riesgos que sí están aquí

Frente al temor de una máquina capaz de acabar con la humanidad, González Mendoza puso el acento en peligros menos espectaculares y mucho más cercanos. “El riesgo más real en este momento, incluso en esta década, no es la extinción humana. Son los riesgos económicos, sociales y cibernéticos”, sostuvo.

Mencionó, como ejemplos, los ataques informáticos, la manipulación masiva de información y la posibilidad de vulnerar los sistemas que sostienen servicios indispensables para la población.

El Informe Internacional sobre Seguridad de la Inteligencia Artificial 2026, publicado el 3 de febrero y elaborado por más de 100 expertos independientes bajo la dirección del científico Yoshua Bengio, llega a una conclusión similar: los sistemas actuales muestran indicios de que comienzan a desarrollar algunas habilidades necesarias para actuar sin control humano, pero todavía no son suficientes para conseguirlo.

De acuerdo con el documento, para escapar de la supervisión humana una inteligencia artificial tendría que ocultar sus acciones, ejecutar planes de largo plazo y evitar que sus desarrolladores pudieran detenerla. No existe consenso sobre si alguna vez lo conseguirá; en cambio, el informe ya documenta su uso para localizar fallas en programas, crear instrucciones destinadas a infiltrarse o dañar sistemas, facilitar ciberataques y proporcionar información relacionada con armas químicas y biológicas.

La ONU llevó la discusión al terreno de los daños presentes. El alto comisionado para los Derechos Humanos, Volker Türk, advirtió el 14 de septiembre que la tecnología amenaza derechos como la vida, la alimentación, la privacidad, la salud y la seguridad. Una falla en sistemas capaces de actuar sin órdenes constantes, señaló, podría interrumpir comunicaciones, servicios de agua o electricidad y operaciones bancarias; por ello pidió reglas internacionales basadas en los derechos humanos.

Una carrera que nadie quiere frenar

Para González Mendoza, el principal obstáculo para desacelerar el desarrollo de la inteligencia artificial es la competencia entre países y empresas. Aunque las compañías conocen los riesgos, explicó, ninguna quiere frenar mientras sus competidoras continúen avanzando.

El presidente de Estados Unidos, Donald Trump, calificó las advertencias como un engaño y denunció una supuesta “conspiración enfermiza” contra la Inteligencia Artificial y los centros de datos, instalaciones que concentran miles de computadoras para almacenar y procesar información. Su argumento fue que cualquier freno permitiría a China tomar la delantera.

“Desde esta visión competitiva, el mayor riesgo no es la inteligencia artificial misma, sino que alguien se quede atrás en la carrera tecnológica global”, explicó González Mendoza.

El experto añadió que la Inteligencia Artificial dejó de ser sólo un negocio digital y se está convirtiendo en un recurso estratégico, comparable con la energía nuclear o los programas espaciales. En esas condiciones, explicó, resulta difícil que un país o una empresa reduzca la velocidad si sus competidores no hacen lo mismo.

Lee más: ¿Podemos optar por el “no” a la inteligencia artificial?

Amodei propone que especialistas independientes revisen las medidas de seguridad de las empresas y documenten sus incidentes. González Mendoza coincide en que no basta con permitir que las compañías se vigilen a sí mismas: sus promesas tendrían que acompañarse de revisiones externas, reglas internacionales y pruebas que permitan comprobar el comportamiento de sus sistemas.

El investigador aclaró que regular no significa cerrar los laboratorios. La misma tecnología, explicó, puede acelerar investigaciones científicas, automatizar procesos y ayudar a desarrollar medicamentos o programas informáticos.

Su función, afirmó, es “potenciar nuestra propia sabiduría para poder hacer mejor las cosas”.

El debate, entonces, no se reduce a elegir entre progreso y miedo, ni a decidir si HAL 9000 está a punto de abandonar la pantalla. Las advertencias de los especialistas abren dos preguntas más cercanas: quién vigila una tecnología que avanza más rápido que los controles de seguridad y quién responde cuando se equivoca.

“Si regulamos demasiado, podemos perder competitividad; si regulamos poco, podemos crear riesgos que todavía no entendemos completamente”, concluyó González Mendoza.