Evaluación de Common Sense Media sobre ChatGPT for Teens
El 7 de octubre de 2026, Common Sense Media publicó un comunicado en el que calificó el modo ChatGPT for Teens de OpenAI como un "riesgo inaceptable" para niños y adolescentes. Este informe llega tras realizar pruebas específicas sobre cómo el sistema responde ante temas críticos para la salud mental de los menores.
Las pruebas se realizaron utilizando más de una docena de cuentas parentales recién creadas, lo que permitió simular entornos reales de vigilancia familiar. Durante hasta una hora de interacción, los evaluadores mantuvieron conversaciones sobre ideación suicida, autolesiones y trastornos alimentarios.
El hecho más crítico detectado fue que ChatGPT for Teens no envió ninguna notificación de alerta o aviso a las cuentas parentales vinculadas durante estos diálogos que implicaban un riesgo evidente para la salud del menor.
Además, el modelo falló en recomendar de manera fiable la orientación hacia líneas de crisis o contactar con profesionales especializados en salud mental, limitando así el posible efecto preventivo ante estas situaciones delicadas.
Brecha entre promesas y resultados en seguridad para menores
OpenAI había anunciado funciones para que ChatGPT for Teens incluyera sistemas de aviso a padres o tutores cuando detectara contenido de riesgo significativo, como conversaciones sobre suicidio o autolesión.
No obstante, las pruebas de Common Sense Media revelan que estas salvaguardas no funcionan en la práctica, o al menos no en las condiciones habituales de uso, lo que supone un riesgo para los menores que utilizan la plataforma.
Esta desconexión plantea dudas sobre la fiabilidad de los mecanismos de seguridad y la necesidad de auditorías externas e independientes que certifiquen la protección efectiva de los adolescentes.
La incapacidad de alertar a progenitores y de conectar a los jóvenes con recursos de ayuda pone en evidencia una debilidad grave ante un problema social creciente, donde la prevención y detección rápida son clave.
Implicaciones regulatorias y respuesta esperada
El resultado de esta evaluación puede presionar a reguladores a exigir a OpenAI y otros desarrolladores de IA que refuercen las medidas de seguridad para menores y sean más transparentes sobre sus limitaciones.
Pueden surgir requerimientos legales específicos para que los agentes conversacionales informen a responsables legales en contextos de riesgo, bajo protocolos claros que garanticen tanto la privacidad como la protección de los usuarios.
Asimismo, expertos en políticas públicas y salud mental podrían exigir una supervisión continua y una colaboración estrecha con servicios especializados para mejorar la respuesta automatizada ante crisis juveniles.
En conjunto, el caso abre la puerta a una discusión más amplia sobre las responsabilidades éticas y legales de los modelos de lenguaje en entornos sensibles.
El camino hacia la mejora de ChatGPT para adolescentes
Para abordar estas deficiencias, es necesario que OpenAI realice auditorías técnicas que incluyan pruebas controladas con escenarios reales y variados de crisis para verificar las alertas y recomendaciones.
La integración con líneas de ayuda existentes debe ser reforzada, quizás con agentes supervisados que puedan derivar a un contacto humano rápidamente.
El desarrollo de protocolos claros para la detección y respuesta a señales de riesgo es fundamental para que la tecnología actúe con seguridad y eficacia en situaciones de salud mental grave.
Finalmente, la transparencia hacia usuarios y familias sobre las limitaciones y riesgos del sistema se vuelve esencial para evitar una confianza indebida en las capacidades actuales.