Bloomberg — El gobierno de EE.UU. se está preparando para poner a disposición de las principales agencias federales una versión del potente nuevo modelo de inteligencia artificial de Anthropic PBC, en medio de preocupaciones de que la herramienta podría aumentar drásticamente el riesgo de ciberseguridad, según un memorando revisado por Bloomberg News.
Gregory Barbaccia, director de información federal de la Oficina de Administración y Presupuesto de la Casa Blanca, comunicó el martes por correo electrónico a funcionarios de los departamentos del Gabinete que la OMB está estableciendo medidas de protección que permitirían a sus agencias comenzar a utilizar la herramienta de inteligencia artificial Mythos, cuyo uso se mantiene en estricto secreto.
Ver más: Mythos demuestra la necesidad de un diálogo sobre IA entre EE.UU. y China: CEO de Nvidia
El correo electrónico no dice definitivamente que las distintas agencias tendrán acceso a Mythos, ni proporciona un calendario de cuándo podría llegar o cómo podrían utilizarlo. Dice a los jefes de tecnología y ciberseguridad que esperen más información “en las próximas semanas”.
Los funcionarios estadounidenses han instado anteriormente a las organizaciones del sector privado a utilizar Mythos para mejorar su ciberseguridad. El Departamento del Tesoro ha solicitado acceso a Mythos para descubrir sus propios fallos de software, según ha informado Bloomberg.
Anthropic solo ha proporcionado Mythos a un grupo limitado de empresas tecnológicas, firmas financieras y otras, instándolas a utilizarlo para evaluar su riesgo de ciberseguridad. La empresa limitó la liberación de Mythos ante la preocupación de que los piratas informáticos pudieran utilizar sus capacidades como arma para robar datos o sabotear las redes de las víctimas.
Antes de su liberación limitada de Mythos, Anthropic informó a altos funcionarios del gobierno estadounidense sobre las capacidades completas del modelo, incluidas sus aplicaciones cibernéticas ofensivas y defensivas, según un funcionario de la empresa que habló con la condición de no ser identificado al discutir las conversaciones con el gobierno. Las conversaciones incluyeron a personal de la Agencia de Ciberseguridad y Seguridad de Infraestructuras y del Centro de Estándares e Innovación en IA, entre otros, dijo el funcionario de la empresa, y Anthropic ha seguido trabajando con el gobierno en cuestiones de seguridad derivadas del modelo.
El mensaje de Barbaccia se envió en un momento en el que los líderes, desde Washington hasta Wall Street, están lidiando con la posibilidad de que el modelo facilite enormemente a los piratas informáticos encontrar formas de entrar en los sistemas informáticos sensibles de la industria y el gobierno.
Ver más: OpenAI lanza modelo de ciberseguridad para competir con Mythos de Anthropic
“Estamos trabajando estrechamente con los proveedores del modelo, con otros socios de la industria y con la comunidad de inteligencia para asegurarnos de que se han establecido las barandillas y salvaguardas adecuadas antes de lanzar potencialmente una versión modificada del modelo a las agencias”, escribió Barbaccia en el correo electrónico, cuyo asunto era “Acceso al modelo Mythos”.
Un funcionario de la Casa Blanca dijo en un correo electrónico que el gobierno sigue trabajando y comprometiéndose con las empresas de IA para garantizar que sus modelos ayuden a asegurar las vulnerabilidades críticas del software. No respondieron a preguntas concretas sobre el asunto.
Anthropic declinó hacer comentarios.
Ni Anthropic ni el gobierno dijeron qué agencias federales, si las hay, han obtenido acceso temprano a Mythos.
El correo electrónico de Barbaccia iba dirigido a funcionarios del Departamento de Defensa, el Departamento del Tesoro, el Departamento de Comercio, el Departamento de Seguridad Nacional, el Departamento de Justicia y el Departamento de Estado, entre otras agencias.
La medida de hacer llegar una versión de Mythos a las agencias señala el continuo interés del gobierno por las herramientas de Anthropic a pesar de una disputa pública y una lucha legal en curso entre la empresa y altos funcionarios de la administración Trump.
El Pentágono declaró este año a Anthropic una amenaza para la cadena de suministro, en virtud de una autoridad normalmente reservada a los adversarios extranjeros, por una disputa sobre las salvaguardias de la inteligencia artificial. La empresa obtuvo el mes pasado una orden judicial que bloqueaba la prohibición del uso de la tecnología por parte del gobierno, después de que Anthropic argumentara que la medida podría costarle miles de millones de dólares en ingresos perdidos.
Ver más: Anthropic restringe su modelo Mythos a grandes tecnológicas por riesgos de ciberataques
En el seno de Anthropic, los dirigentes de la empresa empezaron a preocuparse de que el modelo pudiera suponer un riesgo para la seguridad nacional después de que los encargados de las pruebas pudieran utilizar Mythos para sacar a la luz el tipo de fallos críticos que normalmente tardarían en descubrir los mejores hackers del mundo. Estas preocupaciones provocaron que la empresa limitara el lanzamiento del modelo.
Del mismo modo, ha hecho saltar las alarmas en varias partes del gobierno estadounidense.
Entre los funcionarios centrados en la defensa nacional, la introducción de Mythos ha creado una profunda incertidumbre sobre cómo evaluar el riesgo de ciberseguridad, según declaró previamente a Bloomberg una persona familiarizada con el asunto. Equipar a un hacker individual con el modelo, o con herramientas de IA similares, sería probablemente una transformación equivalente a convertir a un soldado convencional en un operador de las fuerzas especiales, dijo la persona.
El día en que Anthropic reveló públicamente la existencia de Mythos, el secretario del Tesoro estadounidense, Scott Bessent, y el presidente de la Reserva Federal, Jerome Powell, convocaron a los líderes de Wall Street a una reunión en Washington para instarles a utilizar el modelo para encontrar puntos débiles en sus propios sistemas.
Con la colaboración de Rachel Metz.
Lea más en Bloomberg.com
