Jacob Coxon, investigador de Anthropic PBC, renunció la semana pasada y publicó en redes sociales que su decisión se debía a que “quienes desarrollan la IA creen firmemente que podría acabar con todos nosotros para finales de la década”.
Evan Hubinger, líder del equipo de ciencia de alineación de la empresa de inteligencia artificial, estimó que la probabilidad de que esto ocurra en los próximos 10 años supera el 10%. El CEO de Anthropic, Dario Amodei, pidió una desaceleración en el desarrollo de la IA para mitigar los riesgos, una idea que compartieron el CEO de OpenAI, Sam Altman, y el CEO de xAI, Elon Musk.
Quizás te estés imaginando el fin del mundo a manos de robots asesinos con marcado acento austriaco. Pero el mayor riesgo proviene de las células, no del acero. Una encuesta del Instituto para la Seguridad y la Tecnología, realizada a 111 profesionales de la seguridad nacional, reveló que el 70% cree que la IA aumenta significativamente —o pronto lo hará— el riesgo de las armas biológicas.
Imagina a un investigador asistido por IA insertando un gen de señalización inmunitaria en un virus de la viruela que suprime la respuesta inmunitaria de forma tan completa que mata a todos los animales no vacunados que infecta y a la mayoría de los inmunizados.
Eso es una pesadilla. Pero no es ciencia ficción. Ocurrió hace más de 25 años sin la ayuda de la IA. La viruela del ratón con el gen de la interleucina-4 tuvo precisamente ese efecto en los ratones, y se describió en un artículo publicado en el Journal of Virology en febrero de 2001. Los investigadores australianos que la crearon ni siquiera intentaban matar ratones; simplemente buscaban limitar su reproducción.
El mundo natural proporciona a los aspirantes a terroristas una gran cantidad de patógenos. Si bien ya podemos agravarlos, aunque con cierta dificultad. La IA podría facilitar el proceso, pero nunca ha sido el principal obstáculo. Lo difícil era tomar el genoma de un virus (natural o modificado) y convertirlo en algo peligroso.
Eso todavía requiere un laboratorio y científicos capacitados. Y las habilidades necesarias no se aprenden fácilmente en los libros de texto. Se trata de lo que se denomina “conocimiento tácito”, que durante mucho tiempo se ha creído que requiere experiencia y aprendizaje.
En 1917, Francia solicitó a Estados Unidos la fabricación de réplicas de su cañón de campaña de 75 mm. Aun contando con los planos completos, Estados Unidos no logró producir ni una sola réplica en los 18 meses previos al fin de la guerra. Esto se debió a que los planos no describían las roscas del afuste, y al medir un cañón real, los estadounidenses encontraron seis tipos diferentes, ninguno de los cuales se utilizó en este caso.
Como escribió el historiador militar H. A. De Weerd: “El único secreto del sistema de retroceso francés residía en la dificultad de su construcción”. Se trata de un conocimiento tácito.
Con el tiempo, el conocimiento tácito suele perder importancia. Hoy en día, una fábrica podría fabricar armas a partir de archivos enviados por correo electrónico. Si bien el conocimiento tácito sigue siendo una importante medida de seguridad, este proceso apenas comienza en biología. Me preocupan sus efectos sobre el riesgo biológico desde mucho antes de que existiera la IA.
En 2009, escribí un artículo con Kenneth Oye del MIT y Scott Mohr de la Universidad de Boston argumentando que la biología sintética era un intento de minimizar la importancia del conocimiento tácito en la bioingeniería y que podría aumentar las amenazas biológicas.
La IA podría tener un impacto mucho mayor en la importancia del conocimiento tácito que el que jamás tuvo la biología sintética. El biólogo Roger Brent y Greg McKelvey Jr., de RAND, argumentan que deberíamos abandonar la suposición de que el conocimiento tácito es siquiera necesario. Demostraron que los modelos básicos disponibles en 2024 proporcionaban “instrucciones y orientación precisas para recuperar un poliovirus vivo a partir de una construcción creada con ADN sintético obtenido comercialmente”.
Las empresas de capital de riesgo también están invirtiendo en “laboratorios automatizados” que podrían, al menos en teoría, eliminar gran parte del componente de habilidad humana en la biología experimental y aumentar rápidamente la velocidad a la que se pueden realizar experimentos. Esto es una excelente noticia para los defensores y para cualquiera que desee que la ciencia médica progrese más rápidamente. Pero sin salvaguardias, también podría ser una excelente noticia para los atacantes.
Una medida de seguridad fundamental consiste en exigir que cualquier secuencia de ADN sintetizada se someta a pruebas para detectar su posible uso en un patógeno. Actualmente, la mayor parte del ADN sintetizado se compra a empresas, pero existen sintetizadores de ADN de sobremesa en el mercado. Muchas empresas de síntesis de ADN, aunque no todas, ya realizan estas pruebas, pero un equipo liderado por Microsoft Corp. demostró que las herramientas de diseño de proteínas basadas en IA ya pueden producir secuencias que el software de análisis no detecta, si bien no se ha demostrado que dichas secuencias sean eficaces.
Actualmente, el gobierno federal solicita, pero no exige, la realización de pruebas de detección, y un marco revisado lleva 16 meses en el limbo desde que una orden ejecutiva lo solicitara. Debería exigirse la realización de pruebas de detección, y las empresas de análisis de ADN y los laboratorios de IA de vanguardia deberían aunar sus recursos para crear incentivos que recompensen a quienes superen las pruebas de ADN basadas en IA.
Además, a medida que proliferen los laboratorios automatizados, estos solo deberían trabajar con investigadores verificados de instituciones de investigación acreditadas y estar sujetos a los mismos requisitos de pruebas de detección.
Estas son políticas en las que no hay nada que perder. Serían una buena idea incluso sin IA, y son aún mejores con ella. Implementarlas sería mucho más fácil con ayuda federal. Desafortunadamente, en lugar de contribuir, la Casa Blanca se ha opuesto a la regulación de la IA, y el presidente Donald Trump ha declarado que “la IA dominando el mundo, destruyendo a la humanidad y todo lo demás malo, es un ENGAÑO” y que “el único control o ‘salvaguarda’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!), ¡y Estados Unidos lo tiene de sobra!”.
Por si acaso ese presidente de alto coeficiente intelectual necesitara asesoramiento experto, habría sido útil institucionalizarlo dentro del gobierno en lugar de disolver el Centro Nacional de Contraproliferación y Bioseguridad y la oficina de lucha contra las armas de destrucción masiva del Departamento de Seguridad Nacional . La administración incluso suspendió los marcos de control actualizados que habrían cerrado la laguna legal que permitía el paso de nuevos agentes.
Hasta que el gobierno decida intervenir, los líderes del sector privado deberán suplir esta carencia. Anthropic ya ha denunciado el bloqueo de cinco intentos de utilizar a Claude para investigaciones que podrían contribuir al desarrollo de armas biológicas, y afirma que ya no puede asumir que sus modelos más recientes no alcancen el nivel necesario para ser de utilidad en su creación.
Incluso un ataque menor con un agente biológico desarrollado con la ayuda de la IA seguramente conllevará una regulación que asfixie a la industria. Debemos asegurarnos de no acabar como aquellos ratones australianos.
Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios.
Lea más en Bloomberg.com
