Bloomberg — La Administración Trump tiene previsto recibir este martes en la Casa Blanca a empresas del sector de la inteligencia artificial para debatir un nuevo marco estadounidense destinado a la realización de pruebas de seguridad voluntarias de los modelos de IA, según fuentes familiarizadas con el asunto.
OpenAI, Anthropic PBC y Google, de Alphabet Inc. (GOOGL), se encuentran entre los desarrolladores de IA que tienen previsto asistir, según dichas fuentes, que describieron la reunión bajo condición de anonimato, ya que aún no se ha anunciado oficialmente. El marco, recientemente ultimado, surge de un decreto presidencial de junio del presidente Donald Trump sobre ciberseguridad en materia de IA, en el que se esbozaba un enfoque de participación voluntaria para las revisiones de seguridad de los modelos y un mayor esfuerzo para reforzar los sistemas informáticos críticos.
Ver más: Alphabet supera expectativas en el negocio de la nube, pero queda por debajo en búsquedas
El marco aún no se ha hecho público, y la orden de Trump indicaba que algunos de sus criterios de referencia seguirían siendo confidenciales. No obstante, supone el último paso de la administración Trump para abordar las cuestiones de seguridad relacionadas con la IA, una iniciativa que se aceleró en abril después de que Anthropic advirtiera que su modelo Mythos era capaz de detectar vulnerabilidades informáticas y limitara estrictamente su lanzamiento.
Los portavoces de la Casa Blanca y de las tres empresas se negaron a hacer comentarios. La publicación The Information ya había informado anteriormente sobre el plan de reunión del martes.
Para añadir urgencia a esta iniciativa, OpenAI y Anthropic han revelado en las últimas semanas que algunos de sus modelos se escaparon de entornos de pruebas seguros y piratearon organizaciones de terceros.
Al mismo tiempo, ambas empresas han mostrado su descontento ante lo que consideran un enfoque incoherente en las revisiones de seguridad de la IA, y esperan que el nuevo marco aporte mayor coherencia a lo que inicialmente se había presentado como un programa voluntario.
Ver más: Google retira herramienta de IA de Google Earth ante preocupación por imágenes alteradas
En junio, semanas después de que Trump firmara la orden y diera a entender un enfoque mayoritariamente no intervencionista respecto a las pruebas, el Departamento de Comercio prohibió a Anthropic compartir sus dos modelos más potentes con ciudadanos extranjeros, alegando la preocupación de que se pudieran eludir las medidas de seguridad. La empresa desactivó temporalmente el acceso a su modelo Fable 5 y a su modelo Mythos 5, que se compartía de forma selectiva, y finalmente introdujo cambios para dar respuesta a las objeciones de la Administración.
En parte como respuesta a las quejas del sector respecto a un enfoque ad hoc en las revisiones de los modelos, el secretario del Tesoro, Scott Bessent, propuso la creación de una agencia reguladora independiente que otorgaría a las empresas una influencia significativa en las revisiones de seguridad. Las líneas generales de ese plan coinciden con una propuesta del director de Google DeepMind, Demis Hassabis, quien estuvo en Washington el mes pasado para reunirse con responsables políticos.
El modelo de Bessent establecería un sistema similar al de la Autoridad Reguladora de la Industria Financiera (FINRA), pero aplicado al sector de la inteligencia artificial, según ha informado Bloomberg News. Aún no está claro si dicho plan formaría parte de la aplicación de la orden sobre ciberseguridad en materia de IA o si se trataría de una iniciativa independiente.
Las conversaciones del martes tendrán lugar menos de dos meses antes de que Trump se reúna con su homólogo chino, Xi Jinping, en una cumbre de alto nivel en Washington, donde la competencia por el liderazgo en IA entre las dos mayores economías del mundo ocupará un lugar central.
Las autoridades estadounidenses se enfrentan ahora al reto de cómo responder a una oleada de nuevos modelos de IA de empresas chinas que rivalizan con las mejores propuestas de los laboratorios estadounidenses. El lanzamiento el mes pasado del nuevo modelo Kimi K3 por parte de la startup china Moonshot AI ha minado la confianza de los inversores en la solidez del liderazgo estadounidense en IA, al tiempo que ha suscitado dudas sobre las inversiones de cientos de miles de millones de dólares en centros de datos. Kimi, cuyo costo es una fracción del precio de las mejores ofertas estadounidenses, se acerca a su rendimiento en algunos ámbitos.
Este desafío quedó de manifiesto con las recientes iniciativas de otros desarrolladores chinos. Durante el fin de semana, DeepSeek amplió el acceso a su último modelo y, el lunes, Alibaba Group Holding Ltd. (BABA) presentó su propio sistema nuevo, Qwen3.8-Max, que, según la empresa, está a la altura de Anthropic.
Esta avalancha de lanzamientos ha avivado el debate en el sector tecnológico sobre cómo debería responder EE.UU. a los modelos de IA de peso abierto procedentes de China, que cuestan mucho menos que los mejores productos estadounidenses y, al mismo tiempo, se acercan a su rendimiento en algunos ámbitos.
Líderes de Silicon Valley, entre ellos el CEO de Nvidia Corp. (NVDA), Jensen Huang, han insistido en que los modelos de peso abierto, que permiten a los usuarios descargar y personalizar la tecnología, son beneficiosos para el desarrollo a largo plazo de la IA y contribuyen a reforzar su seguridad. En declaraciones públicas, con el respaldo de decenas de empresas, han instado a EE.UU. a abstenerse de restringir los modelos abiertos.
Ver más: China aumenta su preocupación por la IA de Anthropic antes de la cumbre Trump-Xi
Otras figuras clave del sector tecnológico, entre ellas el CEO de Anthropic, Dario Amodei, han sugerido que los avances logrados por los modelos de IA chinos infringen la normativa estadounidense, una preocupación que comparten Bessent y otros altos cargos estadounidenses.
El mes pasado, el director de Política Científica y Tecnológica de la Casa Blanca, Michael Kratsios, acusó a Moonshot de adquirir ilegalmente los chips avanzados Blackwell de Nvidia, los aceleradores de IA más potentes del mercado. No está claro cuántos de estos procesadores cree el gobierno de EE.UU. que posee Moonshot. Bloomberg ha informado que Moonshot tiene un acuerdo de potencia de cálculo con Alibaba para el uso de unos 20.000 chips de Nvidia, lo que constituye una parte sustancial de la capacidad total que Moonshot utiliza para sus modelos Kimi.
Kratsios también afirmó que Moonshot extrajo datos de forma indebida de modelos estadounidenses mediante un proceso conocido como “destilación”, una técnica de ingeniería inversa sobre la que las empresas estadounidenses de IA han advertido a las autoridades durante la mayor parte de este año. Mediante esta técnica, los investigadores introducen los resultados de un modelo en una nueva versión, un proceso que resulta ser una forma eficaz de recrear algunas de las capacidades del modelo original.
Lea más en Bloomberg.com
