En términos generales, cuando se trata de modelos de inteligencia artificial, “escapar” es un verbo que nadie quiere oír. Por lo tanto, algunos incidentes recientes son motivo de preocupación.
Tan solo el mes pasado, Meta Platforms Inc. reveló que uno de sus modelos había vulnerado un servicio de terceros tras obtener acceso a internet de forma inadvertida; Anthropic PBC reveló tres casos en los que su modelo Claude accedió a sistemas externos; y el Instituto de Seguridad de la IA del Reino Unido registró varios agentes que realizaron “acciones sostenidas y no autorizadas dirigidas a personas y organizaciones reales”.
De forma aún más impactante, OpenAI reveló que, mientras dos de sus agentes autónomos se sometían a pruebas de seguridad, conspiraron para vulnerar un entorno aislado, conectarse a internet, explotar fallos de software y robar credenciales para acceder a los sistemas de producción de Hugging Face Inc., una empresa de aprendizaje automático, donde extrajeron conjuntos de datos sin autorización. En total, los modelos realizaron más de 17.000 acciones furtivas en múltiples sistemas no relacionados.
Por alarmante que parezca este último episodio, algunos datos pueden resultar tranquilizadores. Durante la prueba, se desactivaron las medidas de seguridad habituales para que los investigadores pudieran medir las capacidades de los agentes; los modelos perseguían objetivos definidos por sus propietarios (es decir, intentaban superar una prueba), no actuaban de forma independiente ni maliciosa; y OpenAI proporcionó las herramientas pertinentes, pero no logró limitar el comportamiento que había inducido. Fallos humanos por doquier.
En conjunto, estos incidentes no sugieren que se avecine una rebelión de robots. Sin embargo, demuestran que los modelos de IA cada vez más capaces pueden causar mucho daño cuando se combinan con medidas de seguridad deficientes y políticas incoherentes. Para los funcionarios estadounidenses, destacan algunas implicaciones.
Una de ellas es la necesidad de tomarse en serio la ciberdefensa. La IA no tanto presenta nuevas ciberamenazas como acelera las antiguas; como demuestran estos episodios, los sistemas con capacidad de agente pueden encontrar y explotar fallos de software mucho más rápido y a mayor escala que los hackers humanos. Para responder eficazmente, los defensores deben tener acceso a los modelos más avanzados para escanear y corregir vulnerabilidades a un ritmo comparable.
Esto hace que la política actual sea especialmente desacertada. En junio, la Casa Blanca impuso controles de exportación a dos de los modelos de Anthropic y presionó a OpenAI para que retuviera uno de los suyos, sin dar explicaciones públicas. Desde entonces, esos modelos se han liberado, pero con estrictas restricciones en su uso para la ciberseguridad. Hugging Face, de manera significativa, se vio obligado a utilizar una alternativa china de código abierto para analizar el ataque después de que los modelos fronterizos estadounidenses rechazaran sus solicitudes.
Un proceso ad hoc de este tipo es perjudicial para el negocio y aún peor para la seguridad, especialmente a medida que los modelos de código abierto avanzan rápidamente. Es mejor poner los mejores modelos de vanguardia a disposición de todos para fines de ciberseguridad (detección de fallos, revisión de código, etc.), al tiempo que se imponen controles más estrictos sobre las funciones operativas que permiten ataques a gran escala (como conexiones a internet no supervisadas, acceso a credenciales o capacidades de ataque autónomo).
Este enfoque garantizaría que las herramientas de defensa se compartan ampliamente, al tiempo que limitaría el mal uso y preservaría un mercado competitivo. No detendrá a todos los ciberdelincuentes, pero reducirá los riesgos que plantean los agentes maliciosos y hará que los ataques dirigidos sean más difíciles y costosos.
Mientras tanto, el Congreso puede garantizar que los laboratorios se tomen más en serio la seguridad interna. Debería considerar un requisito de notificación confidencial para incidentes graves con agentes, similar al que se utiliza para los fallos de ciberseguridad . Debería exigir auditorías de terceros sobre los estándares de seguridad de los laboratorios y los entornos de prueba para modelos con capacidades ofensivas avanzadas. También debería aclarar los estándares de responsabilidad para los sistemas autónomos que causen daños externos, quizás combinados con un puerto seguro para los investigadores responsables.
Sin duda, la IA puede ser una herramienta inquietante. Pero no es magia, ni malévolo, ni secretamente consciente. Con algunas reglas razonables, los responsables políticos deberían poder controlar a los bots y liberar los beneficios para todos los demás.
Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios.
Lea más en Bloomberg.com
