Bloomberg — X, de Elon Musk, ha sido objeto de una investigación de la Unión Europea debido a la preocupación de que no haya podido evitar que su chatbot Grok AI publique imágenes deepfake “que podrían constituir material de abuso sexual infantil”.
La Comisión Europea dijo que la investigación, que corre el riesgo de generar otra ola de críticas por parte de la Casa Blanca , verificará si la plataforma de redes sociales evaluó y mitigó adecuadamente los riesgos asociados con el despliegue de Grok en X en los 27 países de la UE.
Ver más: Musk califica al Reino Unido de “fascista” y aumenta la polémica sobre las imágenes de la IA Grok
“Las falsificaciones sexuales no consentidas de mujeres y niños constituyen una forma de degradación violenta e inaceptable”, declaró la comisaria de tecnología de la UE, Henna Virkkunen. El caso se enmarca en la normativa de contenido en línea del bloque, la Ley de Servicios Digitales , que establece estrictas restricciones sobre el material dañino e ilegal en la web.
La condena global contra Grok se ha intensificado en las últimas semanas después de que usuarios de varios países denunciaran al chatbot de IA por generar imágenes sexualizadas y publicarlas en X, lo que provocó rápidas reprimendas de reguladores y defensores de la seguridad infantil.
El regulador de comunicaciones del Reino Unido, Ofcom, ya está investigando formalmente si X infringió la Ley de Seguridad en Línea del país. Francia e India también han intervenido, acusando a Grok de crear ilegalmente imágenes sexualizadas de personas sin su consentimiento.
Ver más: Grok, la IA de Musk, fue bloqueada en Indonesia y Malasia por imágenes sexuales
X, una subsidiaria de xAI, señaló una declaración anterior de que elimina contenido ilegal, incluido material de abuso sexual infantil, suspende cuentas y trabaja con las fuerzas del orden cuando es necesario.
“Seguimos comprometidos a hacer de X una plataforma segura para todos y continuamos teniendo tolerancia cero ante cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado”, afirmó.
La investigación de Grok se produce tras una sanción independiente de la UE de 120 millones de euros (US$142 millones) impuesta en virtud de la DSA, que la administración Trump considera un flagrante ataque a la libertad de expresión.
En ese caso, los organismos de control concluyeron que el símbolo de marca azul de pago de X engañó a los usuarios, la plataforma obstaculizó el acceso a los datos a los investigadores y no creó adecuadamente un repositorio de publicidad.
Ver más: Grok falla en sus filtros y genera imágenes sexualizadas de menores
Según la DSA, que entró en vigor en 2023, la UE puede imponer a las plataformas en línea multas de hasta el 6% de sus ingresos globales anuales por no abordar el contenido ilegal y la desinformación o no seguir las normas de transparencia.
Antes de la multa de la UE en diciembre, el vicepresidente de EE.UU., JD Vance, publicó en X que “la UE debería apoyar la libertad de expresión y no atacar a las empresas estadounidenses por basura”.
Lea más en Bloomberg.com
