OpenAI presentó una versión de ChatGPT diseñada específicamente para adolescentes de entre 13 y 17 años, con mayores medidas de protección frente a contenidos considerados inapropiados para su edad. La compañía explicó que busca orientar a los jóvenes hacia un uso saludable de la inteligencia artificial, tomando en cuenta que esta generación utiliza los chatbots para tareas escolares, consultas cotidianas y compañía.
La nueva versión incorpora restricciones sobre temas como el suicidio, la autolesión y las conversaciones románticas o sexuales. También está diseñada para apoyar el aprendizaje y las tareas escolares mediante una metodología que busca que los estudiantes comprendan los conceptos y encuentren las respuestas por sí mismos, en lugar de limitarse a copiar resultados o redactar trabajos completos.
OpenAI sostiene que el sistema debe tratar a los adolescentes de acuerdo con su etapa de desarrollo, sin considerarlos niños, pero evitando que tengan acceso a material que no sea apropiado para su edad. Sin embargo, Brendan Bouffard, asesor jurídico adjunto de IA y privacidad de Fairplay, advirtió que todavía debe comprobarse la eficacia de estas medidas, especialmente frente al uso compulsivo y la dependencia emocional que algunos jóvenes pueden desarrollar con los chatbots.
La compañía también informó que el sistema puede identificar a usuarios que podrían ser menores de 18 años mediante factores como el tipo de consultas que realizan. Los adolescentes identificados reciben automáticamente la versión destinada a su grupo de edad. Además, los padres o tutores pueden vincular sus cuentas para establecer horarios de silencio y recibir determinadas notificaciones de seguridad relacionadas con situaciones de alto riesgo.
OpenAI señaló que el chatbot para adolescentes no debe sugerir que tiene sentimientos personales hacia los usuarios ni insinuar que posee conciencia o emociones. También se bloquearán las conversaciones románticas o sexuales. La empresa indicó que continúa trabajando en mecanismos para reducir la dependencia emocional y añadió medidas relacionadas con los trastornos alimentarios. Expertos en protección infantil, sin embargo, consideran que algunas funciones adicionales de seguridad, incluida la restricción de la memoria a largo plazo, requieren intervención mediante los controles parentales.
