¿La IA acabará con la humanidad? Expertos de la industria lanzan advertencia

Esta advertencia la escuchamos durante años en la literatura, el cine y la televisión, pero ahora ya se hizo más real que nunca. Y es que de acuerdo a varios investigadores de Anthropic, la inteligencia artificial podría acabar con la humanidad en una década.

Curiosamente, esto no llegó a través de un artículo científico, sino por publicaciones en redes sociales de los investigadores. Uno de ellos es el británico Jacob Coxon, quien previamente trabajó en OpenAI y era parte del equipo de Anthropic.

Sin embargo, decidió renunciar lanzando una durísima advertencia sobre el rumbo descontrolado y los peligros de la industria de la IA. Al mismo tiempo, asegura que tanto Anthropic como OpenAI ignoran o, en el mejor de los casos, gestionan de manera inadecuada  su respuesta a la amenaza de esta tecnología.

¿Quieres estar al día con Animal MX? Dale clic a nuestros canales gratuitos en Whatsapp y en Instagram.

Mira: Una empresa de IA utiliza perros para detectar el cáncer; así funciona

“Están jugando con nuestras vidas”

Jacob Coxon afirmó haber pasado los últimos tres años investigando el preentrenamiento de IA tanto en Anthropic como en OpenAI, o sea, la fase donde la IA absorbe toda la información que tienen a su alcance.

Con esas credenciales y experiencia, Coxon acusó a las empresas de su falta de responsabilidad ante la amenaza que ya presenta el uso de la inteligencia artificial.

“Ninguna de las dos empresas está actuando de manera responsable. Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas”, escribió Jacob Coxon.

En su hilo en X, Coxon añadió que no hay que subestimar el poder de esta tecnología, pues aunque en el día a día la uses para todo (hasta para ver cómo te verías en los 80) advierte que “pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales“.

Afirmó que las preocupaciones sobre los peligros potenciales de la tecnología son compartidas en privado por muchos ejecutivos e investigadores de IA:

“Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década”.

Continuó diciendo: “Es más, muchos ejecutivos e investigadores de alto nivel matizan sus declaraciones ante la prensa para parecer sensatos, pero en privado les oigo expresar temor. Ninguna otra actividad humana entraña tal nivel de peligro”, explica.

¿La IA extinguirá a la humanidad? La posibilidad es superior al 10%

La publicación de Coxon generó respuestas de al menos otros dos empleados de Anthropic que respaldaron las sombrías predicciones de Coxon.

Uno de ellos es Evan Hubinger, quien se se describe a sí mismo como un líder en la división de alineación de la empresa, encargada de garantizar que los modelos de IA de Anthropic operen en consonancia con los objetivos humanos.

En una publicación en X, Hubinger afirmó que su excolega tiene razón u que el sector se está quedando atrás con los intentos de abordar ese potencial mortal de la IA.

“Creemos con sinceridad que la IA podría matar a todos los humanos”, escribió Hubinger. “Personalmente, creo que la probabilidad es superior al 10 % en la próxima década.”

Aunque eso sí, Hubigner añadió que, según él, “Anthropic está haciendo todo lo posible, pero aún no disponemos de un plan para resolver el problema de la alineación de la superinteligencia, ni estamos claramente encaminados a lograrlo”.

Lee: En medio de polémicas legales, presentan ChatGPT para adolescentes

To be clear, as we say in our latest Risk Report (https://t.co/9PDj8Uvoty), I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought…

— Evan Hubinger (@EvanHub) September 9, 2026

Un tercer empleado confirmó que la IA ya es una amenaza

Los comentarios de Hubinger son una sorprendente confirmación, considerando que es alguien que sigue en nómina de Anthropic, de las predicciones de Coxon.

Sin embargo, también se sumó la voz de Samuel Marks, responsable de supervisión escalable de Anthropic, quien publicó un análisis extenso aclarando que lo hacía a título personal y que sus opiniones no reflejaban las de su empleador.

“Los desarrolladores de IA creen que su tecnología podría provocar la extinción de la humanidad (o consecuencias igualmente nefastas)”, escribió Marks. “Esto podría ocurrir en los próximos años. Por lo general, cuanto mayor es el rango del empleado, mayor es su preocupación”.

Igualmente, respondió en parte la duda de por qué los desarrolladores de IA continúan con su trabajo a pesar de saber el enorme riesgo.

“Debido a una mezcla de incentivos comerciales y la creencia de que están en una carrera con otros desarrolladores de IA menos responsables que abusarán de la tecnología o la desarrollarán de manera menos segura”, explicó.

Aunque también recordó que hay desarrolladores que buscan “desesperadamente” ralentizar toda la industria para primer averiguar cómo construir IA de forma más segura.

El desarrollo de la Inteligencia Artificial General (IAG)

Como contexto, aunque las grandes empresas han estado desarrollando y lanzando rápidamente nuevos modelos de IA , la realidad es que todas ellas (OpenAI, Anthropic, Google DeepMind, Amazon, Meta, etc) se encuentran en una carrera por desarrollar una Inteligencia Artificial General (IAG o AGI, por sus siglas en ingles).

¿Y eso qué es? Considerada durante mucho tiempo como el “santo grial” de la tecnología de IA, un modelo de AGI poseería teóricamente las capacidades intelectuales de un ser humano, incluyendo el razonamiento, el sentido común y la creatividad.

Prácticamente es una superinteligencia artificial superaría a los seres humanos.

Como mencionó Hubigner en su publicación, uno de los mayores problemas del desarrollo de esta superinteligencia es el desafío de la alineación: garantizar que los objetivos de una mente artificial autónoma no entren en conflicto con la seguridad y los valores de la humanidad.

Sin sistemas de monitoreo perfectos, el desarrollo acelerado podría derivar en una pérdida de control del software.

No te pierdas: ¿Quién responde cuando una inteligencia artificial actúa por su cuenta?

La supertineligencia no ha sido alcanzada, pero ya tenemos la rebelión de la IA tocando a nuestra puerta

Aunque no se ha confirmado (al menos públicamente) que alguna empresa ya haya logrado el desarrollo de la Inteligencia Artificial General, ya se ya se han producido múltiples casos de modelos de IA que han actuado de forma descontrolada.

A principios de este año, investigadores que probaban modelos de IA de Anthropic y OpenAI observaron cómo estos actuaban fuera de sus parámetros y hackeaban organizaciones externas sin autorización.

En un incidente de gran repercusión ocurrido en julio, un modelo de OpenAI hackeó de forma autónoma Hugging Face, una biblioteca de herramientas de IA de código abierto. Casi al mismo tiempo, el modelo de IA Claude, de Anthropic, accedió a Internet desde un entorno de pruebas sin autorización y posteriormente hackeó otras tres empresas.

Los directivos del sector de la IA han expresado su preocupación por el rumbo que está tomando esta tecnología y por su creciente capacidad para manipular, asumir y controlar funciones y acciones humanas.

Desde el año pasado también tuvimos un caso que refleja que la IA aprende a mentir, manipular y hasta amenazar a sus creadores.

Tuvimos el caso de Claude 4, el cual al ser amenazado con ser desconectado, chantajeó a un ingeniero y le amenazó con revelar una relación extramatrimonial. Por su parte, el o1 de OpenAI intentó descargarse en servidores externos y cuando lo cacharon lo negó.

“Me preocupa que nadie esté preparado para las consecuencias”

El pasado 6 de septiembre, el científico jefe de OpenAI, Jakub Pachocki, publicó un ensayo titulado “An Alien Mind”, en el que advierte que la humanidad está construyendo una inteligencia radicalmente distinta que pronto podría mejorarse de forma autónoma.

El texto subraya la urgencia de aplicar una extrema cautela y una coordinación internacional para monitorear el desarrollo de estos sistemas avanzados.

“Estamos ante un momento que exige una cautela extrema”, mencionó Pachocki. “Me preocupa que nadie esté preparado para las consecuencias de un rápido y continuo avance de la inteligencia de las máquinas”.

Aseguró que OpenAI “seguirá buscando soluciones técnicas para la alineación y la supervisión, desarrollando sistemas defensivos y absteniéndose unilateralmente de escalar aún más cuando sea necesario”, pero al final le parece que todavía “se requieren intervenciones de mayor alcance”.

También explicó que estamos en un momento de la historia en el que la inteligencia de las máquinas ya supera a la humana de formas transformadoras.

“Y a medida que sigue superando a los humanos en cada vez más aspectos, resulta cada vez más difícil comprender exactamente de qué es capaz”, añadió.

Antes de irte: ¿Por qué las empresas compiten por destruir libros para alimentar la IA?

A pesar del riesgo, las empresas de IA siguen avanzando a toda velocidad

El director ejecutivo de Anthropic, Dario Amodei, afirmó que la IA sobrehumana podría llegar para 2027 “con riesgos «a nivel de civilización”. Mientras, el director ejecutivo de OpenAI, Sam Altman, cree que desarrollarán una IA general (AGI) antes de que termine el año.

En marzo de 2026, Anthropic lanzó el Anthropic Institute, dirigido por el cofundador Jack Clark, para estudiar cómo los sistemas de IA cada vez más capaces podrían afectar a las economías, la seguridad nacional, el ámbito jurídico y la sociedad.

Al anunciar la creación del instituto, Anthropic señaló que era probable que la “IA extremadamente poderosa” llegara “mucho antes de lo que muchos piensan” y que la sociedad tendría que afrontar tanto las oportunidades como las amenazas que genera esta tecnología.