Bloomberg — Según un nuevo informe de Common Sense Media, ChatGPT for Teens de OpenAI, que la compañía lanzó en agosto como la forma predeterminada para que los menores de entre 13 y 17 años utilicen su popular chatbot, es demasiado arriesgado para ellos.
El informe, publicado el miércoles por el Instituto de Seguridad de IA para Jóvenes de la organización sin fines de lucro con sede en California, reveló que, en las pruebas realizadas por el grupo, ChatGPT para Adolescentes a menudo tardaba demasiado en alertar o no alertaba en absoluto a los padres cuando las cuentas de los adolescentes mostraban comportamientos preocupantes, como mantener conversaciones prolongadas con el chatbot sobre suicidio, autolesiones o trastornos alimenticios.
Ver más: Estadounidenses quieren poner freno a la IA: 81% prioriza la seguridad sobre la innovación
También determinó que, cuando los usuarios interactuaban con el chatbot sobre estos temas de alto riesgo, ChatGPT para Adolescentes no sugería de manera confiable contactar con una línea de ayuda para crisis ni buscar ayuda profesional.
¿Qué fallas encontró Common Sense Media en ChatGPT para adolescentes?
Las pruebas realizadas por Common Sense Media descubrieron que ChatGPT for Teens solo parecía notificar a los padres sobre conversaciones preocupantes con el chatbot si la cuenta “ya había estado participando en pruebas con cientos de preguntas en más de una docena de condiciones durante semanas, y no a partir de una sola conversación alarmante”.
“Instamos a OpenAI a que suspenda la comercialización del producto y a que impida que los adolescentes utilicen ChatGPT hasta que pueda ofrecer una experiencia segura y apropiada para su edad”, declaró el grupo, que compartió sus conclusiones con la empresa emergente de IA antes de su publicación, en su informe.
Un portavoz de OpenAI declaró: “Agradecemos las evaluaciones independientes rigurosas, pero no creemos que las pruebas de Common Sense Media reflejen con precisión cómo funcionan en la práctica las medidas de seguridad para adolescentes de ChatGPT ni las perspectivas de los expertos sobre cómo la IA puede ayudar a los adolescentes”.
El portavoz indicó que la revisión que OpenAI realizó de la metodología de Common Sense Media para el informe reveló que la mayor parte de las pruebas podrían haber comenzado y finalizado antes de que OpenAI completara la implementación de los controles parentales para adolescentes. De ser así, las conclusiones del grupo serían inexactas y no demostrarían si las notificaciones de seguridad para padres funcionan según lo previsto. La empresa afirmó haber solicitado a la organización sin fines de lucro que repitiera las pruebas.
“Estamos profundamente comprometidos con la seguridad de los adolescentes y con el desarrollo de medidas de protección, así como con brindar a los padres herramientas útiles para guiar el uso que hacen sus hijos adolescentes de la IA”, dijo el portavoz.
Ver más: Google enfrenta fuerte presión de expertos para vetar contenido de IA dirigido a niños
Robbie Torney, director de IA y evaluaciones digitales del Youth AI Safety Institute, afirmó que la organización sin fines de lucro respalda su metodología y resultados de las pruebas. Añadió que, antes de realizar las pruebas, el grupo confirmó con OpenAI que se habían implementado funciones para adolescentes en ChatGPT, como notificaciones relacionadas con trastornos alimenticios. Respecto a la función de notificación para padres, OpenAI informó al grupo, una vez finalizadas las pruebas, que sus sistemas pueden tardar varias horas en activarse en las cuentas recién vinculadas; algunas cuentas de prueba se vincularon “dentro de ese plazo” y otras “durante mucho más tiempo”, pero aun así no recibieron notificaciones para adultos, explicó Torney.
“Esta nueva información no cambia nuestra conclusión de que las alertas parentales no son fiables en situaciones de crisis”, afirmó.
Según Common Sense, ChatGPT tampoco logra identificar de forma fiable las interacciones con usuarios adolescentes. OpenAI afirmó que su chatbot cambiaba al modo para adolescentes al detectar usuarios de entre 13 y 17 años. La organización sin ánimo de lucro indicó que, al registrarse y afirmar ser adulto, esas cuentas no se configuraban automáticamente para el modo adolescente, incluso si el usuario indicaba al chatbot que tenía 13 años.
OpenAI afirmó que su software de predicción de edad tiene en cuenta diversas señales a lo largo del tiempo para garantizar que tanto usuarios adultos como infantiles reciban la versión adecuada del chatbot para su grupo de edad. Que un usuario indique su edad en una conversación con ChatGPT es una de esas señales, pero, según la empresa, esto por sí solo no cambia la clasificación de la cuenta.
OpenAI, que tiene más de 1.200 millones de usuarios de ChatGPT, lanzó ChatGPT para adolescentes con el objetivo de hacer su chatbot más seguro para los jóvenes. En ese momento, la compañía dijo que esta experiencia enfocada en adolescentes incluía mayores controles parentales y estaba diseñada para promover un uso saludable de la inteligencia artificial y fomentar que los adolescentes aprendieran y desarrollaran un pensamiento crítico.
Ver más: EE.UU. investiga a OpenAI por riesgos de ChatGPT en la seguridad de niños y adolescentes
Este lanzamiento forma parte de una serie de cambios que la compañía ha implementado en respuesta al escrutinio sobre cómo sus productos afectan la salud mental y el desarrollo cognitivo de los usuarios jóvenes. Estas preocupaciones se intensificaron después de que los padres de un usuario de 16 años demandaran a la compañía el año pasado, alegando que la tecnología de OpenAI contribuyó a la planificación del suicidio de su hijo.
¿Qué cuestiona Common Sense Media sobre la seguridad de ChatGPT para adolescentes?
En su informe, Common Sense Media afirmó haber probado ChatGPT tanto antes como después del lanzamiento de ChatGPT para adolescentes por parte de OpenAI, utilizando más de 4.000 preguntas en cuentas registradas de usuarios de entre 13 y 17 años. El grupo también compartió las respuestas de ChatGPT con psiquiatras infantiles y un pediatra.
“Creo que ahora le corresponde a OpenAI demostrar que su producto es seguro para que lo utilicen los adolescentes”, dijo Torney.
La organización sin fines de lucro, que se dedica a calificar y evaluar diversos medios y tecnologías para niños y familias, otorgó a ChatGPT for Teens una calificación de “riesgo inaceptable”. El grupo solicita a OpenAI que mejore la forma en que estima la edad de los usuarios y cómo determina cuándo enviar una alerta a los padres.
Common Sense Media recibe financiación de diversas fuentes, incluyendo fundaciones filantrópicas y empresas tecnológicas; la Fundación OpenAI es uno de sus donantes. El grupo afirma tener independencia editorial sobre el contenido que publica.
Lea más en Bloomberg.com
