Bloomberg — La extraordinaria medida de EE.UU. de prohibir el acceso extranjero a los mejores modelos de IA de Anthropic PBC subraya la nueva voluntad de la administración Trump de ejercer el control sobre una industria fundamental. También recuerda a Silicon Valley que está trabajando con una tecnología imperfectamente comprendida y de impacto incierto.
Washington ha dado el paso sin precedentes de ordenar a la startup de IA que deshabilite el acceso a sus plataformas de IA más avanzadas a todos los ciudadanos extranjeros. El gobierno estadounidense emitió la orden tras descubrir que es posible hacer “jailbreak”, o saltarse las barreras de seguridad, del modelo de IA Fable 5 que Anthropic había lanzado apenas unos días antes.
Ver más: CEO de Anthropic dice que el gobierno debería evaluar riesgos de los nuevos modelos de IA
La rapidez de la medida desencadenó una preocupación generalizada por lo que la startup calificó de respuesta “desproporcionada”, y una advertencia de que tal enfoque podría “detener todos los despliegues de nuevos modelos para todos los proveedores de modelos de frontera.”
El personal superior de Anthropic está ahora en conversaciones con funcionarios en Washington sobre las preocupaciones específicas de seguridad que se han planteado, dijeron personas familiarizadas con el asunto, pidiendo permanecer sin identificar para discutir las deliberaciones privadas. Uno de los funcionarios clave en las negociaciones es el secretario del Tesoro, Scott Bessent, que ha lanzado advertencias a Wall Street sobre los peligros potenciales de los modelos de frontera como Mythos de Anthropic: una plataforma que teóricamente descubre y explota fallos en el software más rápido que los humanos.
La respuesta del gobierno estadounidense supone la incursión más importante jamás realizada por las autoridades en las operaciones de una empresa de IA. Se desarrolla justo cuando las mayores empresas emergentes de IA, incluida Anthropic, valorada ya en más de US$900.000 millones, tratan de convertirse en empresas que coticen en bolsa. Los controles sorpresa amenazan con sentar un precedente para los principales desarrolladores de modelos de IA, como OpenAI, Google de Alphabet Inc. (GOOGL) y Meta Platforms Inc. (META).
El gobierno está ahora dispuesto a utilizar poderes extraordinarios para obligar a los desarrolladores de IA a hacer su voluntad en el tratamiento de las amenazas potenciales a la seguridad, a pesar de una orden ejecutiva de junio que declaraba que no obligaría a Silicon Valley a cumplirla. Esa orden anterior declaró que EE.UU. no iba a crear un régimen de licencias para los modelos de IA, pero la administración Trump se ha movido para hacer exactamente eso.
“Los modelos de frontera de EE.UU. se tratan cada vez más como activos estratégicos, con un acceso estrictamente controlado y moldeado por consideraciones de seguridad nacional”, dijo Gary Tan, gestor de cartera de Allspring Global Investments. Esa es “una dinámica que probablemente persistirá a medida que China siga yendo a la zaga de EE.UU. en computación”.
El debate se produce en el contexto de una carrera con China por dominar la tecnología de la IA, a medida que actores como Alibaba Group Holding Ltd. (BABA) y DeepSeek acortan distancias con sus rivales estadounidenses en rendimiento y eficacia.
Anthropic lanzó Fable 5 la semana pasada como la primera versión de cara al público de su modelo de clase Mythos. La empresa ha advertido repetidamente sobre las capacidades cibernéticas de Mythos, y los funcionarios de la Casa Blanca se han tomado en serio esas preocupaciones, creando una vía a través de la orden ejecutiva voluntaria para que las agencias estadounidenses utilicen Mythos y otros modelos con capacidad cibernética para parchear los puntos débiles de sus propios sistemas.
Los temores de Washington pueden ir más allá de la mera capacidad de hacer jailbreak e influir en cualquier plataforma. En términos generales, también preocupa que los adversarios intenten robar los pesos del modelo de IA, un valioso archivo de números que contiene la clave de las capacidades del modelo. La medida de prohibir Fable y Mythos coincide con la creciente preocupación en Washington de que las empresas de IA deben proteger sus secretos comerciales contra posibles amenazas internas.
Tras décadas difundiendo tecnología punta estadounidense por todo el mundo como herramienta diplomática y económica, Washington se mueve ahora en la dirección contraria. Al igual que frena la exportación de chips a rivales geopolíticos como China, EE.UU. intenta cada vez más preservar la tecnología para uso doméstico, como una cuestión de seguridad nacional.
“Esto demuestra que EE.UU. se apresura a utilizar los controles a la exportación para frenar los riesgos de la frontera Al”, afirmó Stefanie Kam, profesora adjunta del Programa sobre China del Instituto de Defensa y Estudios Estratégicos de la Universidad Tecnológica Nanyang de Singapur.
“Podemos esperar que Washington endurezca los controles y trate las exportaciones de Al como una palanca estratégica contra Pekín. Si la directiva tiene un objetivo limitado, las empresas estadounidenses podrán adaptarse”, afirmó. “Si es arrolladora, corre el riesgo de deslocalizar la innovación mientras China avanza”.
La semana pasada, el senador Jim Banks, un republicano de Indiana que forma parte de un comité encargado de supervisar el control de las exportaciones, pidió a los funcionarios de la Administración Trump que estudiaran cómo podría EE.UU. proteger los pesos de los modelos de IA para evitar que China u otros adversarios los roben.
Objetivos políticos aparte, es probable que Silicon Valley se resista a los intentos de Washington de ejercer el control. Desde Meta hasta OpenAI, los mayores desarrolladores se apresuran a apostar por una tecnología que probablemente remodelará economías e industrias enteras.
Sin embargo, es imposible probar todas las permutaciones de las capacidades potenciales de un modelo de IA, lo que conduce a temores vagos sobre las amenazas y a un escrutinio continuo a medida que los modelos siguen mejorando.
Ver más: Anthropic alcanza una valoración de US$965.000 millones y supera a OpenAI en nueva ronda
“Puede haber umbrales de capacidad importantes, como los sistemas de IA que pueden automatizar grandes cantidades de investigación y desarrollo de IA en cortos periodos de tiempo, que planteen nuevos tipos de riesgos”, escribió Banks en una carta este mes a funcionarios entre los que se encontraban Bessent, el Director Cibernético Nacional Sean Cairncross y el Secretario de Defensa Pete Hegseth.
“Los expertos de la industria han planteado igualmente serias preocupaciones sobre la dificultad de mantener tales sistemas bajo control humano.”
Con la colaboración de Saritha Rai, Jeanny Yu y Daniel Flatley.
Lea más en Bloomberg.com
