Bloomberg — Meta Platforms Inc. (META) ha publicado este año más de 300 anuncios en Instagram y Facebook que contenían material sospechoso de abuso sexual infantil, según un informe publicado este martes por la organización sin ánimo de lucro Tech Transparency Project.
En conjunto, estos anuncios llegaron a más de 29.000 personas y, por lo general, utilizaban inteligencia artificial para mostrar a niños pequeños siendo víctimas de abusos sexuales, según indicó TTP. Muchos de ellos servían para promocionar aplicaciones nudify de deepfake, que ya habían sido objeto de un informe anterior del grupo, el cual rastreó su origen hasta los desarrolladores de las aplicaciones y un socio publicitario de Meta en China.
TTP es la rama de investigación de Campaign for Accountability, una organización no partidista con sede en Washington D.C. dedicada a la supervisión de empresas y gobiernos.
El hecho de no haber impedido que dicho material apareciera en los servicios de Meta —utilizados por miles de millones de personas en todo el mundo— se produce en un momento en que la empresa se enfrenta a un escrutinio sin precedentes por los supuestos daños que las redes sociales causan a los menores.
Los anuncios infringen las propias políticas de Meta que prohíben la explotación, el abuso y la desnudez infantil, así como las leyes federales de Estados Unidos TTP afirmó que denunció los anuncios ante el Centro Nacional para Niños Desaparecidos y Explotados, organismo creado por mandato del Congreso.
“El contenido relacionado con el abuso sexual infantil se encuentra entre los más graves que pueden encontrarse en Internet”, afirmó Katie Paul, directora de TTP. “Pero este contenido no se esconde en los rincones oscuros de Internet. Se está utilizando en anuncios de pago en las plataformas de Meta”.
Ver más: Meta pagará hasta US$18.000 millones para resolver demanda sobre seguridad de jóvenes en redes
En un caso concreto, TTP señaló que había encontrado anuncios que utilizaban una foto que una niña había publicado en su cuenta de Instagram en la que aparecía con un uniforme deportivo. El anuncio animaba su imagen en un vídeo en el que se la mostraba realizando un acto sexual, según TTP. Otro anuncio mostraba a una niña preadolescente quitándose la camiseta, acompañado de un texto que prometía contenido “oscuro”.
“No toleramos las aplicaciones de desnudación ni ningún tipo de explotación infantil, ya sea real o generada por IA”, declaró a Bloomberg News el portavoz de Meta, Andy Stone. Muchos de los anuncios señalados ya habían sido eliminados, afirmó.
Quienes están detrás de este tipo de actividades cambian con frecuencia de táctica para eludir los sistemas de Meta, y la empresa sigue reforzando sus medidas de detección y aplicación de la normativa, añadió.
Ver más: “Me pareció impactante”: exempleado de Meta cuenta cómo su hija sufrió acoso en Instagram
En julio, TTP informó de que Meta había mostrado miles de anuncios sexualmente sugerentes de aplicaciones de “nudificación”, diseñadas para eliminar digitalmente la ropa o insertar fotos de personas reales en imágenes o vídeos explícitos. Los nuevos hallazgos se refieren a anuncios que son aún más explícitos, asegura TTP.
Según TTP, a fecha de 1 de septiembre, Meta había eliminado aproximadamente la mitad de los anuncios infractores de su biblioteca publicitaria. La empresa eliminó los anuncios restantes después de que TTP compartiera sus hallazgos, según indicó.
Este tipo de contenido suele denominarse “pornografía infantil”, pero las fuerzas del orden y los expertos también se refieren a él como “material de abuso sexual infantil” (CSAM, por sus siglas en inglés), ya que constituye prueba de un delito no consentido.
Ver más: México estudia formas de regular el uso de las redes sociales entre menores de edad
El informe de TTP se publica poco después de que Meta aceptara un acuerdo histórico por el que pagará hasta US$18.000 millones para resolver las reclamaciones de varios estados de EE.UU. por los supuestos daños que sus aplicaciones causaron a los jóvenes. Australia y más de dos docenas de países están aplicando o tramitando prohibiciones sobre el acceso de menores de 16 años a redes sociales como Instagram.
Más allá de Meta, las fuerzas del orden de EE.UU. se enfrentan a la difícil tarea de hacer frente a la proliferación de imágenes y vídeos explícitos alterados mediante IA, debido en gran parte a las herramientas que facilitan la creación de contenido ilegal.
Los 332 anuncios detectados por TTP llegaron a personas que podrían haber estado navegando por Instagram y Facebook en la Unión Europea, el Reino Unido, EE.UU., la India y Australia. Algunos de los anuncios individuales llegaron solo a un puñado de usuarios, otros a cientos, y dos de ellos alcanzaron a más de 2.500 solo en la UE.
El mes pasado, Wired informó de que Meta había publicado más de 50 anuncios que contenían material de abuso sexual infantil (CSAM). La nueva investigación de TTP incluye material recién descubierto del que no se había informado anteriormente.
La mayoría de los anuncios señalados a Meta tuvieron menos de 200 impresiones, y el gasto publicitario total fue inferior a US$5.000, según indicó Stone. Meta registró en el segundo trimestre unos ingresos de US$60.800 millones de dólares, y sus servicios contaban con una media de 3.600 millones de usuarios activos diarios en junio.
Aunque Instagram y Facebook no están disponibles en China, las empresas con sede en el país los utilizan como plataformas promocionales para llegar a audiencias globales. Meta cuenta con varios socios publicitarios en China, algunos de los cuales, según TTP, publicaron anuncios que contenían material de abuso sexual infantil (CSAM).
-Con la colaboración de Riley Griffin.
Lea más en Bloomberg.com
