Ingeniero de Anthropic renuncia y alerta sobre la IA: “podría acabar con todos nosotros”

Jacob Coxon, un ingeniero britanico de Anthropic, que también ha trabajado para otras empresas como OpenAl –empresa que creó a ChatGPT–, presentó su renuncia mediante una publicación en sus redes sociales al asegurar que ambas compañías “no están actuando con responsabilidad” y que están “jugando con nuestras vidas”. 

La empresa Anthropic fue la encargada de desarrollar Claude, que funciona como un modelo de lenguaje similar a ChatGPT o Gemini, y se especializa en redactar textos, analizar documentos largos, programar códigos y resolver tareas lógicas complejas.

Por medio de su cuenta de X, Coxon detalló que ha pasado los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic, lo que le ha dado la oportunidad de darse cuenta de que “ninguna de las dos empresas está actuando de manera responsable”.

“Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas”, advierte el ingeniero británico.

“Podría acabar con todos nosotros”: el mensaje de alarma del ingeniero 

Ante el aumento de los usuarios que cada vez usan con mayor frecuencia los modelos de inteligencia artificial, Coxon advierte que no se debe subestimar el poder de este tipo de tecnología y que pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa.

Incluso puntualizó en que quienes se encargan de desarrollar la IA son conscientes de que esta “podría acabar con todos nosotros antes de que termine la década”.

Lo anterior, debido a que, según el testimonio del ingeniero, la inteligencia artificial pronto será capaz de revolucionar cualquier campo, así como de adquirir poder y recursos reales.

Jacob Coxon señala también que ha escuchado a investigadores y ejecutivos hablar ante la prensa sobre el tema y “suelen matizar sus declaraciones” con el fin de parecer sensatos, no obstante, el ingeniero confiesa que ha escuchado a esas mismas personas expresar temor de esta tecnología cuando se encuentran en privado

“Ninguna otra actividad humana entraña un peligro de esta magnitud”, detalla el ingeniero britanico de 27 años.

Si es peligroso, ¿por qué siguen?

En medio del mensaje publicado, Coxon lanza un cuestionamiento que pareciera lógico y simple, “si realmente creen eso de la IA, ¿por qué siguen construyéndolo?”.

La respuesta del ingeniero es que en el caso de Open AI, muchos de quienes se encuentran desarrollando esta tecnología en dicha empresa, no han interiorizado a fondo lo que está en juego para la civilización.

Por otro lado, Anthropic, comprende la magnitud de lo que está en juego, pero la empresa lo ve como una carrera y ellos, según Coxon, quieren llegar primero: “creen que nadie más actuará con responsabilidad, por lo que deben hacerlo ellos mismos, a pesar del riesgo”.

“Soy optimista respecto a las posibilidades de coordinación”, menciona Coxon de una manera que puede caer en la contradicción, pues insiste en que “las señales de alerta, como el ataque a Hugging Face –en donde una IA de prueba actuó de manera autónoma para hackear un sitio externo–, han generado más viables los acuerdos de ritmo entre los laboratorios de Estados Unidos”.

La reflexión

Coxon finalizó su mensaje instando a los investigadores de este tipo de tecnologías a que consideren cómo serán realmente los próximos años si la inteligencia artificial sigue avanzando de manera desacelerada como ha ocurrido hasta ahora.

A modo de cuestionamiento y reflexión, lanzó dos cuestionamientos, el primero fue “¿quieres iniciar una fase de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa de su mente?”.

El segundo cuestionamiento, en un tono menos sutil, fue sobre si los investigadores deberían “agachar la cabeza” solo porque “va a suceder de todos modos”.