Bloomberg — Google, de Alphabet Inc. (GOOGL), se enfrenta a las exigencias de expertos en desarrollo infantil para que prohíba que los videos creados con inteligencia artificial se muestren o recomienden a los espectadores jóvenes en YouTube y YouTube Kids.
Más de 200 especialistas en infancia, grupos de defensa y escuelas enviaron una carta al CEO de Google, Sundar Pichai, y al CEO de YouTube, Neal Mohan, el miércoles, expresando su preocupación por lo que consideran una falta de contenido sustancial en muchos videos de YouTube generados por IA que se presentan como educativos. En la carta, los defensores también criticaron la supuesta baja calidad del contenido infantil producido en masa por generadores de IA, y el aumento de creadores en el servicio de video YouTube de Google que utilizan inteligencia artificial para crear clips destinados a lucrarse a costa de los espectadores más jóvenes e impresionables del mundo.
Ver más: Google advierte que la computación cuántica podría romper la seguridad de bitcoin
Los defensores de la seguridad infantil temen que el material generado por IA, a veces denominado “basura de IA”, afecte la capacidad de atención de los niños y su habilidad para distinguir entre lo real y lo irreal. Argumentan, además, que el tiempo que pasan frente a una pantalla está reemplazando actividades del mundo real que son fundamentales para el desarrollo emocional y social de los niños.
“Hay mucho que desconocemos sobre las consecuencias de los contenidos de IA para los niños”, escribió el grupo. “YouTube está participando en este experimento incontrolado impulsando contenidos generados por IA sin investigaciones que demuestren sus beneficios y sin reconocer los principios de desarrollo infantil que nos dicen que probablemente sean en su mayoría perjudiciales”.
La carta fue firmada por el psicólogo social Jonathan Haidt, cuyo libro superventas La generación ansiosa impulsó un movimiento global para combatir los daños que las redes sociales y los teléfonos inteligentes causan a los jóvenes, así como por grupos de defensa de los derechos de la infancia como Fairplay y la Alianza Nacional para el Avance de la Salud Adolescente. La Federación Estadounidense de Maestros y varias escuelas también la firmaron.
“Tenemos altos estándares para el contenido en YouTube Kids, incluyendo la limitación del contenido generado por IA en la aplicación a un pequeño conjunto de canales de alta calidad”, dijo el portavoz de YouTube Boot Bullwinkle en un correo electrónico, añadiendo que los padres también tienen la opción de bloquear canales. “En todo YouTube, damos prioridad a la transparencia cuando se trata de contenido de IA, etiquetando el contenido de nuestras propias herramientas de IA y exigiendo a los creadores que revelen el contenido realista de IA. Siempre estamos evolucionando nuestro enfoque para mantenernos al día a medida que evoluciona el ecosistema”.
Ver más: Meta y Google encaran un impacto similar al de las tabacaleras tras juicio por adicción
Los videos generados por IA se han vuelto cada vez más populares en YouTube, sobre todo los dirigidos a bebés y niños pequeños. Algunos creadores han descubierto que externalizar este trabajo a un sistema de IA lo hace mucho más fácil y económico, e incluso han empezado a compartir tutoriales sobre cómo crear un negocio basado en la producción de videos para bebés y niños pequeños. (Bullwinkle afirmó que “producir masivamente contenido de baja calidad no es una estrategia comercial viable en YouTube, ya que nuestros sistemas y políticas de monetización están diseñados para penalizar este tipo de spam”).
En enero, Mohan afirmó que “gestionar los errores de la IA” y “garantizar que YouTube siga siendo un lugar donde la gente se sienta a gusto pasando su tiempo” es una prioridad absoluta para la empresa en 2026. Sin embargo, YouTube también ha argumentado que no todo el contenido creado con IA es de mala calidad y que, cuando se hace correctamente, crear con IA puede incluso ser positivo.
YouTube exige a los creadores que etiqueten el “contenido alterado y sintético”. Los defensores argumentaron en la carta que es “poco probable que estas etiquetas sean entendidas por los niños analfabetos que son el objetivo de gran parte de esta basura de la IA”.
En marzo, Google anunció una inversión en Animaj, un estudio de animación con IA centrado en la creación de contenidos de YouTube para niños, como parte de un esfuerzo por mejorar la calidad de su oferta para los usuarios más jóvenes. Un ejecutivo de Google implicado lo calificó de “verdadero proyecto de futuro”, mientras que los defensores de la seguridad infantil criticaron a Google y a Animaj por atraer a “bebés y niños pequeños que no deberían pasar nada de tiempo frente a la pantalla”. Instaron a YouTube a detener “toda inversión en la creación de videos para niños generados por IA”.
Ver más: Meta y Google son declaradas culpables en un caso de adicción a las redes sociales
La carta del miércoles llegó en un momento en que existen otros esfuerzos externos para cambiar el funcionamiento de YouTube. En marzo, un juicio histórico con jurado sobre la adicción a las redes sociales declaró a Google y Meta Platforms Inc. (META) responsables de perjudicar a una joven usuaria con productos diseñados para mantenerla enganchada. Ambas compañías anunciaron que apelarían el veredicto. Sin embargo, demandantes, defensores de los consumidores y legisladores están presionando a las empresas para que modifiquen algunas de sus funciones operativas más lucrativas, incluidos sus algoritmos de contenido.
Lea más en Bloomberg.com
