Indonesia y Malasia restringieron el acceso a Grok, la inteligencia artificial de Elon Musk, durante el fin de semana, convirtiéndose en los primeros países en bloquear el sistema por la generación de contenido sexual.
El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia impuso una prohibición temporal a Grok “para proteger a las mujeres, los niños y a toda la comunidad del riesgo de contenido pornográfico falso generado mediante tecnología de inteligencia artificial”, según un comunicado difundido el sábado. La cartera también solicitó a la plataforma X que brinde aclaraciones inmediatas sobre el asunto.
VER MÁS: Musk califica al Reino Unido de “fascista” y aumenta la polémica sobre las imágenes de la IA Grok
“El gobierno considera las prácticas sexuales deepfake no consentidas como una grave violación de los derechos humanos, la dignidad y la seguridad nacional en el espacio digital”, afirmó en el comunicado la ministra de Comunicaciones y Digital, Meutya Hafid.
El domingo, el regulador de internet de Malasia informó que también está limitando el acceso a Grok hasta que se implementen salvaguardas eficaces. La Comisión de Comunicaciones y Multimedia de Malasia agregó que emitió notificaciones a X Corp. y a xAI LLC para impedir contenidos generados por IA que puedan contravenir la legislación local, pero sostuvo que las respuestas de las compañías no abordaron los riesgos inherentes de la herramienta.
La decisión de los países del sudeste asiático se produjo luego de que xAI, la empresa de Musk propietaria de Grok, resolviera el viernes restringir la función de generación de imágenes para la mayoría de los usuarios de la red social X, tras una amplia condena por la creación de imágenes de mujeres y niños sin ropa. Ahora, los usuarios necesitan una suscripción paga para generar y editar imágenes. Estas funciones habían sido lanzadas inicialmente de forma gratuita, con límites diarios.
Sin embargo, varios reguladores en todo el mundo, incluido el Reino Unido, consideraron insuficiente la medida adoptada por xAI. La aplicación independiente de Grok, que opera por fuera de la red social, aún permite generar imágenes sin suscripción.
El gobierno de India, que previamente también había expresado preocupación por esta función de la herramienta, recibió garantías de X de que cumplirá con las leyes locales en relación con el contenido obsceno generado por Grok, informó el domingo Press Trust of India, citando fuentes gubernamentales no identificadas. Según el reporte, alrededor de 3.500 contenidos fueron bloqueados y más de 600 cuentas eliminadas.
VER MÁS: Grok falla en sus filtros y genera imágenes sexualizadas de menores
“Disculpen las molestias”, publicó Grok en la plataforma X en referencia al bloqueo en Indonesia. “Estamos trabajando para resolver este problema”.
Lea más en Bloomberg.com
