Bloomberg — El CEO de Anthropic PBC, Dario Amodei, afirmó que el gobierno debería tener la potestad de impedir que los desarrolladores de inteligencia artificial desplieguen nuevos modelos de IA si presentan ciertos riesgos.
En un extenso ensayo publicado este miércoles, Amodei argumentó que los modelos de IA deberían someterse a pruebas obligatorias por parte de terceros para evaluar el riesgo que plantean en varias categorías, incluida la habilitación de amenazas de ciberseguridad y armas biológicas. Si se considera que la IA “presenta riesgos inaceptables”, escribió, “el gobierno debería tener el poder de bloquear o disuadir su despliegue”.
Las observaciones representan algunos de los llamados más enérgicos de Amodei hasta la fecha para una regulación más estricta de la IA a medida que la tecnología avanza. La semana pasada también pidió la creación de un sistema en el que los gobiernos y los desarrolladores de inteligencia artificial decidan colectivamente cuándo frenar el trabajo en esta tecnología para evitar los peligros que pueda plantear.
Ver más: La fórmula de liderazgo de Anthropic: el CEO solo tiene un subordinado directo
A principios de este mes, el presidente Donald Trump esbozó un enfoque de no intervención para hacer frente a las amenazas de ciberseguridad planteadas por la IA bajo una orden ejecutiva que pide dar al gobierno de EE.UU. acceso voluntario a los modelos, pero se quedó corto en exigir a los desarrolladores que busquen una aprobación explícita.
“Es hora de ir más allá de la transparencia hacia una regulación más seria y vinculante de la IA”, escribió Amodei. “Creo que la mejor analogía, al menos en la fase actual de la exponencial, es con los coches, los aviones o las drogas: tecnologías poderosas esenciales para la economía moderna, pero capaces de matar a un gran número de personas si se diseñan o funcionan mal”.
Anthropic, que durante mucho tiempo se ha posicionado como un desarrollador de IA más responsable, hizo saltar las alarmas anteriormente al anunciar un modelo de IA más potente llamado Mythos que, según dijo, era capaz de detectar y explotar vulnerabilidades en software crítico. La empresa tomó la decisión de limitar la publicación de la herramienta a socios selectos. El martes, Anthropic publicó una versión diferente sin acceso a las capacidades de ciberseguridad.
Ver más: Anthropic lanza versión de Mythos con capacidades limitadas y restricciones en ciberseguridad
En su ensayo, Amodei citó a Mythos como ejemplo paradigmático del “increíble poder de la IA, así como de sus riesgos”.
“Ahora, global y colectivamente, necesitamos activar un aparato político lento y raquítico para hacer frente a riesgos y oportunidades que van a agravarse con sorprendente rapidez a partir de ahora”, escribió Amodei.
Lea más en Bloomberg.com
