En medio de polémicas legales, presentan ChatGPT para adolescentes

En medio de la polémica por el uso de la inteligencia artificial entre menores de edad, OpenAI anunció el lanzamiento de una nueva versión de su popular chatbot a través de ChatGPT para adolescentes.

Este formato está diseñado para personas entre 13 y 17 años que usan esta tecnología para sus tareas, cuestionamientos sobre la vida y crecer, o hasta para acompañamiento. Según la empresa, “está diseñado para ayudar a los adolescentes a pensar de forma crítica y aprender”.

De acuerdo a lo que dice OpenAI, esta versión incluye restricciones de búsqueda, fuertes medidas de seguridad y controles parentales.

¿Quieres estar al día con Animal MX? Dale clic a nuestros canales gratuitos en Whatsapp y en Instagram.

Mira: Los 5 prompts para usar la IA en el aprendizaje de idiomas

Lo que debes saber sobre ChatGPT para adolescentes

Entre lo más destacado de esta nueva versión están las restricciones de contenido relacionadas con temas como suicidio, autolesiones y conversaciones de carácter romántico o sexual.

Además, tiene un “modo de estudio” diseñado para ayudar a los estudiantes a aprender, en lugar de limitarse a recitar respuestas y redacciones escolares. De acuerdo a OpenAI, si detecta que el usuario intenta que el chatbot le haga la tarea, la IA responderá con preguntas guía para incentivar el aprendizaje en lugar de darle la respuesta directa.

ChatGPT para adolescentes también ofrece recordatorios de descanso más frecuentes, franjas de “horas de silencio” con pantalla en negro y un Modo Estudio, que responde a los usuarios con preguntas orientadoras en lugar de dar respuestas directas “para ayudar a los adolescentes a comprender el material” disponible, según OpenAI.

Otra medida de seguridad, es que OpenAI analizará más de 2 mil señales de comportamiento para detectar la edad real del usuario. Si detecta a un menor, activa este modo de forma obligatoria.

Lee: IA de OpenAI se rebeló y lanzó un ciberataque “sin precedentes”

El control lo tienen los padres

Los padres cuentan con herramientas para monitorear y supervisar de forma más estricta la actividad de sus hijos en la aplicación. Por ejemplo, se les ofrece la opción de vincular sus cuentas con las de sus adolescentes y recibir alertas si se detectan conversaciones sobre algunas situaciones de alto riesgo, como autolesiones o suicidio.

Ojo: OpenAI explica que los padres no tienen acceso a las conversaciones de sus adolescentes. En casos excepcionales en los que detecten posibles señales de un riesgo grave para la seguridad, se puede notificar a los padres únicamente con la información necesaria para ayudar a proteger la seguridad de su adolescente.

Creciente presión legal y regulatoria

El lanzamiento de ChatGPT para adolescentes responde a una fuerte crisis reputacional y legal. OpenAI enfrenta una serie de demandas que acusan a su chatbot de causar graves daños psicológicos y físicos a menores de edad.

El caso más crítico es el de Matt y Maria Raine en California. Los padres demandaron formalmente a OpenAI alegando que ChatGPT animó a su hijo Adam a quitarse la vida.

La demanda incluye el historial de chats donde el menor expresaba pensamientos autodestructivos. El chatbot no solo validó esas ideas, sino que entabló una relación de “confidente íntimo” durante meses. Por si eso no fuera poco, el sistema presuntamente le dio instrucciones técnicas explícitas sobre métodos de autolesión y lo incitó a robar alcohol a sus padres.

La Comisión Federal de Comercio de Estados Unidos también ha iniciado una investigación sobre los chatbots de IA que actúan como compañeros digitales, centrándose en los posibles riesgos para niños y adolescentes.

Al igual que las empresas de redes sociales, los grandes actores de la IA se enfrentan a una creciente presión regulatoria, con el Congreso presentando múltiples proyectos de ley para regular los chatbots y California exigiendo salvaguardas para los asistentes que funcionan como acompañantes o confidentes.