Bloomberg — Dos senadores estadounidenses enviaron una carta a los directivos de TikTok exigiendo respuestas sobre un experimento llevado a cabo por la empresa en el que se privó de una función de seguridad a millones de usuarios, entre ellos un adolescente que se quitó la vida. Los senadores, copatrocinadores de un proyecto de ley sobre la seguridad infantil en Internet, calificaron de “depravada” la decisión de TikTok de realizar dicha prueba.
La existencia de este experimento, analizado en detalle en un documento confidencial de la empresa de 2023, salió a la luz este mes. Esto motivó la carta enviada el miércoles por la senadora republicana Marsha Blackburn, de Tennessee, y el demócrata Richard Blumenthal, de Connecticut, al CEO de TikTok Inc., Shou Chew, y a Adam Presser, CEO de la filial estadounidense de la empresa.
“Les escribimos en relación con las repugnantes noticias recientes según las cuales TikTok habría ocultado deliberadamente una medida de seguridad fundamental para millones de usuarios estadounidenses —incluidos los niños— con el fin de determinar si la protección de los usuarios afectaría a sus resultados financieros”, comenzaba la carta de cuatro páginas.
Ver más: TikTok ultima tres acuerdos extrajudiciales por demandas que alegan adicción y daños a menores
Las “espantosas” revelaciones de la noticia, escribieron los senadores, “plantean serias dudas sobre las repetidas garantías ofrecidas por TikTok al Congreso, a los padres y al público estadounidense de que prioriza la seguridad y el bienestar de los jóvenes por encima de los beneficios”.
El documento de TikTok, entregado en el marco de un litigio contra las mayores empresas de redes sociales del mundo y sometido a un secreto judicial, muestra que la empresa desactivó intencionadamente una medida de protección algorítmica para el 10% de los usuarios estadounidenses, convirtiéndolos en un grupo de control. Dicha medida estaba diseñada para romper las “cámaras de eco” en línea de contenido nocivo.
En aquel momento, ese grupo de control habría estado formado por aproximadamente 15 millones de personas. Una de ellas era Chase Nasca, de 16 años, de Bayport, Nueva York. Según el documento, a su cuenta se le mostraron miles de vídeos sobre tristeza, desesperanza, soledad y suicidio hasta el mismo momento en que se quitó la vida. Chase fue seleccionado al azar para el experimento algorítmico el 25 de enero de 2022. En menos de un mes, había fallecido.
Ver más: Meta, TikTok, Snap y otras redes sociales pagarán US$27 millones por demanda escolar
El documento explica por qué la cuenta de Chase recibió lo que se denominó una “avalancha” de contenido oscuro: “Las estrategias de prevención de la burbuja de filtro de TikTok no surtieron efecto en este usuario por diseño”. Y expone por qué la empresa desactivó la configuración de seguridad para algunos usuarios: “La decisión sobre el impacto en los usuarios supuso un delicado equilibrio entre la seguridad y la capacidad de medir el impacto en los usuarios activos diarios (DAU) y las métricas fundamentales”.
TikTok no respondió a una solicitud de comentarios sobre la carta. Sin embargo, en una declaración para el artículo, un portavoz de TikTok afirmó que la empresa estaba “profundamente comprometida con la seguridad y el bienestar de los usuarios”, especialmente de los adolescentes. “Nos parte el corazón por cualquier familia que haya sufrido una pérdida trágica”, declaró el portavoz.
“Para ayudar a proteger a nuestra comunidad, seguimos invirtiendo de forma significativa en Confianza y Seguridad, lo que incluye sólidos sistemas de detección y equipos especializados en el cumplimiento de las normas que eliminan de forma proactiva el contenido que incumple nuestras directrices de la comunidad”, agregó
En su carta, Blumenthal y Blackburn señalaron que el Congreso había expresado su preocupación por el hecho de que el algoritmo de TikTok condujera a los usuarios jóvenes hacia contenidos nocivos desde octubre de 2021, antes de que la empresa pusiera en marcha el experimento. Estas revelaciones, escribieron los senadores, “resultan aún más inquietantes porque TikTok ya había sido advertida de los efectos de sus algoritmos de recomendación en los niños”.
Ver más: España prohibirá el acceso de niños a plataformas sociales como Grok y TikTok
Los senadores exigieron respuestas a 13 preguntas, entre las que se incluyen los nombres de todos los empleados informados del experimento; una explicación de por qué la empresa permitió que se incluyera a menores en la prueba; detalles sobre cuándo se enteraron los directivos del experimento; y una “versión completa y sin censura” del documento sobre el que informó.
Asimismo, solicitaron una lista de todos los experimentos algorítmicos realizados en EE.UU. en los que TikTok haya “ocultado, desactivado, retrasado o reducido una función de seguridad”, el número de usuarios implicados y cuántos de ellos eran menores de edad. Los senadores dieron a la empresa de plazo hasta el 1 de septiembre para responder.
“El hecho de que lo hicieran a sabiendas y de que utilizaran a sus usuarios como conejillos de indias es algo que resulta simplemente inconcebible”, afirmó Blackburn en una entrevista tras la publicación de la noticia, pero antes de que se enviara la carta. “Esto demuestra que, cuando nuestros hijos utilizan estas plataformas de redes sociales, son ellos mismos el producto”.
Ver más: México estudia formas de regular el uso de las redes sociales entre menores de edad
Para Blackburn, el experimento es un claro ejemplo de una empresa que antepone “ganar dinero y captar la atención” a la seguridad. “Fíjese en el hecho de que se trataba de un chico feliz de 16 años sin problemas de salud mental y, de repente, en este breve lapso de tiempo, el impacto de bombardearle con vídeo tras vídeo tras vídeo y publicación tras publicación tras publicación sobre la depresión y el suicidio, y lo que eso le provocó a este joven. Es aterrador, y esto es algo de lo que estas plataformas deben rendir cuentas”.
El diputado republicano por Florida, Gus Bilirakis, se hizo eco de las preocupaciones de Blackburn en una declaración escrita, en la que afirmó que el informe era profundamente preocupante y ponía de manifiesto las “consecuencias devastadoras que pueden producirse cuando se da prioridad a los indicadores de interacción y a los beneficios empresariales por encima de la seguridad y el bienestar de nuestros hijos”.
Durante una audiencia celebrada en marzo de 2023, semanas después de que se elaborara el documento confidencial, Bilirakis había interrogado al CEO de TikTok, Chew, sobre el caso de Chase Nasca y había afirmado: “Su tecnología está, literalmente, provocando la muerte”. Chew respondió que la empresa se toma estas cuestiones “muy en serio” y ofrece recursos de salud mental a los usuarios que buscan contenidos relacionados con el suicidio.
Tanto Bilirakis como Blackburn afirmaron que las familias estadounidenses han esperado demasiado tiempo para que se establezcan medidas de protección para los niños en Internet y pidieron que se acelere la tramitación de los proyectos de ley sobre seguridad infantil.
Blackburn impulsó la Ley de Seguridad Infantil en Internet (KOSA), un proyecto de ley del Senado del que es coautora junto con Blumenthal y que pretende obligar a las plataformas tecnológicas a dar prioridad a la seguridad infantil por encima de los beneficios. El proyecto de ley quedó sin tramitar en la Cámara de Representantes en 2024, pero se volvió a presentar en esta sesión legislativa.
Bilirakis defendió la Ley de Seguridad Digital y en Internet para Menores (KIDS), que incluye la mayor parte del proyecto del Senado, así como disposiciones relativas a los chatbots con IA y a los videojuegos. Se aprobó en la Cámara de Representantes en junio.
El proyecto de ley de la Cámara de Representantes eliminó de la versión del Senado la denominada cláusula de “deber de diligencia”, que habría obligado a las empresas tecnológicas a actuar con la diligencia razonable para prevenir daños a la salud mental de los menores, entre ellos la ansiedad, la depresión y el uso compulsivo de las redes sociales. Esta cláusula se suprimió por motivos relacionados con la Primera Enmienda.
El 5 de agosto, al día siguiente de la publicación de la noticia, la Comisión de Comercio, Ciencia y Transporte del Senado votó a favor de sacar adelante la KOSA original, reactivada, con la disposición sobre el deber de diligencia. Dicha disposición, según afirmó Blackburn en la entrevista, contribuiría a evitar futuros experimentos como este, ya que las plataformas de redes sociales estarían obligadas a dar prioridad a la seguridad en el diseño de sus productos, especialmente para los adolescentes.
Lea más en Bloomberg.com
