Bloomberg — Facebook e Instagram, pertenecientes a Meta Platforms Inc. (META), han mostrado miles de anuncios de aplicaciones de IA para crear desnudos falsos, en incumplimiento de las políticas de la compañía, según el grupo sin fines de lucro Tech Transparency Project. Los anuncios fueron difundidos por uno de sus pocos socios publicitarios en China.
GatherOne Inc., con sede en Pekín, que pone en contacto a empresas chinas que desean anunciarse en los servicios de redes sociales de Meta con la empresa estadounidense, ha sido responsable en los últimos meses de unos 7.600 anuncios de aplicaciones móviles capaces de superponer rostros de mujeres sobre cuerpos desnudos y crear vídeos sexualizados, según ha señalado la organización en un nuevo informe. Destacó una aplicación, creada en China, que permite compartir material que algunos usuarios han señalado como pornografía infantil.
Ver más: Meta y Microsoft encaran sus resultados con el foco puesto en el gasto en IA
Las normas de Meta prohíben los anuncios sexualmente sugerentes o aquellos de aplicaciones que pretenden desnudar a las personas que aparecen en ellos. Sin embargo, el trabajo del TTP, cuyo objetivo es exigir responsabilidades a las grandes empresas tecnológicas, pone de manifiesto los repetidos fallos de empresas como Apple Inc. (AAPL) y Alphabet Inc. (GOOGL) a la hora de frenar este tipo de aplicaciones. Los organismos reguladores, las víctimas y sus familias de todo el mundo han estado instando a las empresas tecnológicas a que redoblen sus esfuerzos para combatir los denominados servicios de pornografía deepfake.
“Meta parece estar dando carta blanca a uno de sus principales socios publicitarios chinos en lo que respecta a los anuncios de desnudos generados por IA”, afirmó Katie Paul, directora de TTP.
Aunque Instagram y Facebook no están disponibles en China, constituyen atractivas herramientas promocionales para las empresas con sede en ese país que buscan una audiencia global. Paul señaló que las conclusiones de su organización contradicen las declaraciones de Meta sobre la prohibición de anuncios de aplicaciones de desnudos generados mediante deepfake y sugieren que la empresa antepone los ingresos publicitarios a la preocupación por sus usuarios.
“No permitimos imágenes íntimas sin consentimiento ni aplicaciones de desnudos generados artificialmente en nuestra plataforma, y tomamos medidas enérgicas para combatirlas”, afirmó Cindy Southworth, responsable de la política de seguridad de las mujeres de Meta.
“Todos los anunciantes deben cumplir con nuestras normas publicitarias, y el incumplimiento de nuestras políticas y normas puede dar lugar a la cancelación de los anuncios publicados, a sanciones económicas y a la cancelación de las cuentas publicitarias”, señaló un portavoz de Meta.
GatherOne afirmó que cumple con las políticas publicitarias de Meta y con todos los marcos legales internacionales aplicables. La empresa mantiene una política de tolerancia cero frente a las prácticas engañosas, el contenido para adultos, el material explícito generado por IA sin consentimiento, la explotación infantil y el fraude, según indicó. En su página web se indica que trabaja con clientes de los sectores de los videojuegos, el comercio electrónico, el entretenimiento y las finanzas, ayudándoles a publicar anuncios en las redes de Meta, Google (de Alphabet), TikTok (de ByteDance Ltd.) y X (de Elon Musk).
GatherOne suspende la creación de nuevas cuentas publicitarias para servicios relacionados con la desnudez mediante IA y el intercambio de rostros, según informó en respuesta a preguntas de Bloomberg News. Añadió que está llevando a cabo una actualización integral de cumplimiento normativo para abordar la evolución técnica de los medios sintéticos.
Ver más: Jueza desestima la demanda contra Meta por acusaciones sobre la privacidad de WhatsApp
TTP es la división de investigación de Campaign for Accountability, una organización no partidista con sede en Washington D.C. dedicada a la supervisión de empresas y gobiernos.
El informe, cuya publicación está prevista para el lunes, ofrece una visión poco habitual de cómo Meta obtiene ingresos de un país con 1.400 millones de habitantes en el que sus servicios están bloqueados. Las empresas chinas que venden productos y servicios fuera del país recurren a intermediarios como GatherOne para adquirir acceso y visibilidad ante los usuarios internacionales.
Meta afirmó que obtuvo US$18.400 millones en ventas en China durante el ejercicio que finalizó en 2024, lo que supuso el 11% de sus ingresos globales. Esa cifra duplicó con creces las ventas que realizó allí en 2022. Desde entonces, no ha desglosado sus ingresos en China.
Sarah Wynn-Williams, una antigua ejecutiva de Meta convertida en denunciante, declaró ante el Congreso el año pasado que la empresa ha ofrecido a lo largo de los años herramientas de censura a China y ha ayudado al país a avanzar en la carrera armamentística de la inteligencia artificial con EE.UU. Afirmó que China sigue siendo un mercado clave para la empresa, tal y como demuestran sus ingresos actuales en ese país. Las memorias de Wynn-Williams, que se publicarán en 2025, detallan su etapa como directora de políticas públicas en la empresa.
Ver más: Meta negocia un posible acuerdo con Anthropic para alquilar capacidad informática: reporte
Meta no respondió a una consulta sobre su testimonio. Un portavoz de la empresa rebatió en su momento los comentarios de Wynn-Williams.
En diciembre, Reuters informó de que documentos internos de Meta revelaban que la empresa había concluido en 2024 que alrededor del 19% de sus ingresos en China ese año procedían de anuncios de contenidos prohibidos, como pornografía, estafas y apuestas ilegales. Citó a GatherOne como una agencia publicitaria que, según sus pruebas, facilitaba anuncios de servicios fraudulentos.
Meta no respondió a una consulta sobre el informe. Un portavoz declaró a Reuters en aquel momento que la empresa se dedica a filtrar los anuncios que infringen sus políticas.
Los anuncios de este año, que TTP detectó entre abril y junio, fueron finalmente retirados por Meta tras haber sido mostrados a los usuarios. Muchos de los anuncios eran sugerentes y mostraban imágenes de mujeres jóvenes en poses sexuales junto con un texto que decía: “Cree un vídeo con cualquier rostro”.
Ver más: Nvidia y Microsoft impulsan modelos abiertos de IA para mantener el liderazgo de EE.UU.
GatherOne figura en la página web de Meta dirigida a empresas en China como una de las 11 agencias oficiales a través de las cuales se puede anunciarse en sus servicios de redes sociales en el extranjero. La página web de GatherOne muestra una fotografía en la que parece verse a su director ejecutivo recibiendo un premio, junto a dos altos ejecutivos de Meta, en un acto celebrado en Hong Kong en enero. El logotipo de Meta aparece en un cartel detrás de ellos.
El año pasado, Meta anunció que estaba tomando medidas enérgicas contra las aplicaciones de desnudos deepfake y presentó una demanda contra un desarrollador de aplicaciones con sede en Hong Kong que, según afirmó, estaba detrás de dichos servicios.
TTP descubrió que un grupo de anuncios dirigía a los usuarios a una aplicación para Android llamada BAfter. Al abrirla, TTP encontró una sección denominada “ShareZone” que ofrecía opciones pornográficas de intercambio de rostros en las que se mostraba a mujeres realizando actos sexuales.
Varios usuarios señalaron en la página de la aplicación en Google Play lo que describieron como “pornografía infantil ilegal” y vídeos generados por IA de menores. BAfter, cuyo desarrollador figura como con sede en la provincia de Guangxi, al sur de China, aparece clasificada como apta para todas las edades.
Ver más: Cómo pasó Moonshot de la sombra de DeepSeek a desafiar a OpenAI en la carrera de IA
No ha sido posible contactar con el desarrollador de BAfter para recabar sus comentarios. La aplicación desapareció de Google Play el 21 de julio y GatherOne afirmó que ha bloqueado de forma permanente todo acceso publicitario a la entidad asociada.
En respuesta a las preguntas de Bloomberg, Meta declaró que ha prohibido BAfter y que ya no permite enlaces a otras aplicaciones de contenido para adultos. Google, desarrollador del sistema operativo Android y operador de la tienda Google Play, no respondió a las solicitudes de comentarios.
Más de la mitad de los 557 adolescentes encuestados recientemente en EE.UU. por la Universidad George Mason afirmaron haber utilizado herramientas de desnudez para crear al menos una imagen de sí mismos o de otras personas. Más de un tercio declaró haber sido víctima de dichas herramientas. Muchos adolescentes ya saben cómo acceder a esos servicios a través de aplicaciones de mensajería o directamente desde sus sitios web, señaló Chad M. S. Steel, investigador de informática forense de la Universidad George Mason que dirigió la encuesta. Esto significa que las medidas adoptadas por las redes sociales o las tiendas de aplicaciones para limitar su difusión pueden tener un impacto limitado, añadió.
El presidente Donald Trump firmó el año pasado la Ley Take It Down, que tipifica como delito la publicación de contenido sexual sin consentimiento y obliga a los operadores de redes sociales y sitios web a eliminar dichas publicaciones. La Comisión Federal de Comercio comenzó a aplicar dicha ley en mayo.
TTP descubrió que los anuncios estaban vinculados a GatherOne tras examinar la información divulgada en la biblioteca de anuncios de Meta. Aunque no está claro cuántas instalaciones de la aplicación generaron los anuncios, algunas de las que estudió el grupo han sido descargadas en conjunto más de 2,5 millones de veces en todo el mundo, según datos de la empresa de investigación de mercado AppMagic facilitados por TTP.
Con la colaboración de Kiuyan Wong, Dong Lyu y Olivia Solon.
Lea más en Bloomberg.com
