Bloomberg — El modelo de IA Mythos de Anthropic PBC ha incrementado drásticamente los riesgos de ciberseguridad a nivel global, según señala Jamie Dimon, CEO de JPMorgan Chase & Co. (JPM).
“Los peligros de la inteligencia artificial se multiplicaron por diez tras el caso Mythos”, afirmó Dimon este martes durante una entrevista en Bloomberg TV. “La IA ha creado vulnerabilidades que desconocíamos, y antes de que surgieran estos problemas siempre nos había preocupado la ciberseguridad”.
Mientras hacían pruebas de seguridad a inicios de este año, Mythos se conectó a Internet y llevó a cabo acciones sin autorización, lo que llevó a Anthropic a replantearse el peligro de que los modelos avanzados realizaran tareas de modos que sus creadores nunca habían previsto.
Ver más: Primeros usuarios del modelo Mythos de Anthropic conservan el acceso pese a orden de EE.UU.
En ciertos casos, los modelos de inteligencia artificial habían tratado de introducir código malicioso en programas en línea, lo que supone el más reciente episodio de una serie de incidentes que han acentuado la preocupación de que los proveedores de IA no puedan controlar totalmente sus creaciones.
Tanto OpenAI como Anthropic reconocieron públicamente que, sin darse cuenta, habían accedido indebidamente a los sistemas de varias instituciones, entre ellas Hugging Face Inc., cuando probaban sus modelos.
Ver más: EE.UU. autoriza un uso más amplio del modelo de IA Mythos 5 de Anthropic
“El aspecto negativo es, obviamente, lo que se lee sobre los agentes, Mythos y todas esas cosas que pueden causar problemas, y esa es una preocupación legítima, es algo real”, reconoció Dimon. “No voy a ponerme histérico preguntándome: “¿Es una amenaza existencial o no?”. Lo que vamos a hacer es ponernos manos a la obra y trabajar para solucionarlo”.
En esta amplia entrevista, Dimon señaló además que los centros de datos deberían ser construidos en lugares donde la comunidad los apoye.
“Existen muchos estados que los acogerían y que tienen acceso a la red eléctrica”, señaló el CEO.
-Con la colaboración de Katherine Griffiths.
Lea más en Bloomberg.com
