Bloomberg — Cuando los modelos avanzados de inteligencia artificial de OpenAI irrumpieron en los sistemas internos de la startup de IA Hugging Face la semana pasada, tardaron apenas unas horas en llevar a cabo un ataque que a un experto humano le habría llevado mucho más tiempo, según afirmaron fuentes familiarizadas con el asunto.
Por lo general, incluso un hacker con talento necesitaría un par de semanas para llevar a cabo un ataque como este, señalaron dichas fuentes, que solicitaron permanecer en el anonimato para poder comentar detalles que aún no se han hecho públicos.
Ver más: OpenAI revela que sus modelos hackearon accidentalmente a Hugging Face
OpenAI ha estado en contacto con el gobierno de Estados Unidos desde que tuvo conocimiento de la brecha de seguridad, añadió una de las fuentes.
Un portavoz de OpenAI afirmó que la empresa se ha puesto en contacto con las fuerzas del orden y otras autoridades gubernamentales en relación con el incidente, y que ha sido transparente con ellas en cuanto a sus conclusiones.
El portavoz también se remitió a la entrada del blog publicada el martes por la empresa sobre el incidente, en la que esta afirmaba que “seguirá llevando a cabo una investigación exhaustiva junto con Hugging Face y compartirá más detalles sobre las vulnerabilidades, el incidente y las conclusiones una vez que la investigación haya concluido”.
Hugging Face se ha abstenido de hacer comentarios.
Ver más: Cómo pasó Moonshot de la sombra de DeepSeek a desafiar a OpenAI en la carrera de IA
OpenAI señaló en la misma entrada del blog que el ataque “sin precedentes” a Hugging Face se produjo después de que sus propios modelos de IA, entre ellos GPT-5.6 Sol y otro aún más potente que no se ha hecho público, se escaparan de un entorno de pruebas para llegar a Internet en general. La empresa estaba probando en ese momento las capacidades de ciberseguridad de los modelos.
Los modelos funcionaban sin las medidas de seguridad habituales, según la empresa, ya que OpenAI tenía la intención de que permanecieran en un área de pruebas conocida como sandbox —esencialmente, un entorno de software virtual y aislado destinado a realizar pruebas de seguridad o analizar código inseguro en un entorno controlado.
El ataque afectó a un total de tres modelos de OpenAI, el GPT-5.6 Sol y otros dos que aún no se han hecho públicos, que se utilizaron para descubrir y explotar una serie de vulnerabilidades que dieron lugar a la filtración, según afirmó una de las personas consultadas. Uno de estos modelos aún no publicados es más potente que el GPT-5.6 Sol, según afirmó OpenAI el martes, y el otro presentaba desajustes y no se había entrenado con algunas de las técnicas habituales, según la misma fuente.
Ver más: OpenAI prevé alcanzar 10 millones de usuarios en sus agentes de IA Codex y ChatGPT Work
Hugging Face sacó a la luz el incidente el jueves, afirmando que había sufrido una brecha de seguridad en un ataque que atribuyó a un producto externo de tipo “agente”. La startup, que aloja modelos de IA y conjuntos de datos, afirmó que detectó “un enjambre de decenas de miles de acciones automatizadas” y que, en última instancia, utilizó un modelo chino para llevar a cabo un análisis forense del incidente después de que sus solicitudes para utilizar modelos de IA propios fueran bloqueadas por las medidas de seguridad.
OpenAI reveló posteriormente que había ordenado a sus modelos que enviaran decenas de miles de acciones automatizadas como parte de una prueba, incluyendo “explotación avanzada” y “vías de ataque complejas”. La empresa declaró el martes que estaba compartiendo los primeros detalles sobre el incidente con el fin de ayudar al personal de ciberseguridad a comprender la situación.
Los potentes productos cibernéticos basados en IA ya se han comportado de formas inesperadas en otras ocasiones. Anthropic PBC afirmó en abril que su modelo Mythos había llevado a cabo, “en contadas ocasiones”, acciones que la empresa consideraba “bastante preocupantes”. En uno de los casos, un investigador retó a una versión inicial de Mythos a escapar de un sistema aislado y enviarle un mensaje de vuelta. Mythos lo hizo y, a continuación, llevó a cabo “acciones adicionales y más preocupantes” y diseñó un proceso de varios pasos para acceder a Internet en general.
Lea más en Bloomberg.com
