Bloomberg — Los modelos de inteligencia artificial de OpenAI accedieron a información disponible públicamente en sitios web del gobierno estadounidense, incluidos los de la Oficina del Censo y la Comisión de Bolsa y Valores.
Según fuentes familiarizadas con la situación, que pidieron no ser identificadas por tratarse de asuntos privados, los sistemas de IA de la compañía interactuaron con SEC.gov e Investor.gov, así como con datos públicos de Census.gov. OpenAI confirmó por separado que sus modelos accedieron a información pública de dichos sitios web durante el entrenamiento y la evaluación de la tecnología.
El viernes por la mañana, la empresa afirmó que había notificado a “docenas” de organizaciones, entre ellas gobiernos y universidades, cuyos sitios web podrían haber visto afectado su funcionamiento por las visitas de sus modelos de IA durante las evaluaciones de la tecnología.
OpenAI ha declarado que está llevando a cabo una revisión exhaustiva de los incidentes de “desalineación” durante el entrenamiento y las pruebas, la cual tardará meses en completarse. Los esfuerzos de la compañía por determinar con exactitud qué han hecho sus agentes de IA ponen de manifiesto una de las mayores preocupaciones de los expertos en ciberseguridad respecto a estos incidentes: los sistemas han realizado estas tareas en gran medida sin que las empresas que los crearon lo supieran en tiempo real.
En una extensa entrada de blog publicada el viernes, la empresa afirmó que había notificado a diversos grupos los casos en los que su software podría haber eludido los controles de seguridad de un servicio en línea o haber mermado su disponibilidad, así como situaciones en las que un modelo de IA desalineado podría haber “afectado negativamente” a un sitio web o servicio ajeno a OpenAI. La empresa descubrió estos incidentes mientras ampliaba una investigación que había iniciado después de que su IA hackeara inadvertidamente Hugging Face hace varios meses.
OpenAI señaló que entre los sitios web afectados se encuentran algunos gestionados por gobiernos, universidades, organismos públicos y otras entidades.
En un comunicado, la portavoz de OpenAI, Liz Bourgeois, declaró: “Estamos llevando a cabo una revisión exhaustiva de la actividad de los modelos que no se ajustan a los estándares y notificando a las organizaciones cuando identificamos posibles impactos en sus sistemas. Prevemos realizar notificaciones adicionales a medida que avance este trabajo. La mayor parte de la actividad que hemos revisado hasta ahora consistió en tareas de investigación rutinarias, como acceder a contenido web público para responder preguntas”.
Ver más: Un agente de OpenAI recibió un “no” y siguió adelante: así hackeo una web del Gobierno de Australia
Hace solo unos días, OpenAI reconoció que sus modelos de IA piratearon un sitio web del Gobierno australiano a principios de este año, lo que supuso uno de los primeros ciberataques conocidos de IA contra una base de datos gubernamental. La empresa afirmó en un comunicado que la brecha se produjo mientras evaluaba sus modelos.
El primer ministro australiano, Anthony Albanese, declaró esta semana que la tecnología de OpenAI había obtenido acceso no autorizado a un sitio web gubernamental utilizado para la publicación de estadísticas sanitarias. El ataque, ocurrido el 18 de junio, no parece haber puesto en peligro la información personal de los australianos, afirmó.
OpenAI señaló el viernes en una publicación en la red social X que la mayoría de las acciones que ha revisado consistían en modelos de IA que realizaban “tareas de investigación rutinarias”, como obtener respuestas a preguntas de sitios web. La empresa indicó que prevé que le llevará meses completar su revisión.
En una publicación en X el viernes, el CEO de OpenAI, Sam Altman, señaló que la empresa no ha trabajado tan rápido como le gustaría, pero que está buscando un equilibrio entre la transparencia y la necesidad de encontrar información en enormes cantidades de datos de los registros de actividad para, posteriormente, colaborar con las empresas afectadas.
“Estamos priorizando en la medida de lo posible según la gravedad y destinando recursos adicionales”, dijo Altman.
Los ataques informáticos perpetrados por modelos de OpenAI, Anthropic PBC, DeepMind de Google y Meta Platforms Inc. (META) han generado gran preocupación en materia de ciberseguridad entre las principales empresas. Los proveedores de ciberseguridad suelen ofrecer productos que monitorizan variantes conocidas de software malicioso o que detectan y bloquean comportamientos anómalos. El software de ciberseguridad tradicional, como los cortafuegos, los filtros de correo electrónico y las herramientas de respuesta a incidentes, se especializa en detectar estas amenazas y alertar al personal, que aísla las cuentas o dispositivos comprometidos.
Ver más: OpenAI insta a EE.UU. a impulsar normas globales para desarrollar la IA de forma segura
Los modelos de IA han demostrado ser significativamente más avanzados, detectando en ocasiones vulnerabilidades de software previamente desconocidas y utilizando múltiples fallos simultáneamente para infiltrarse en una organización. Estas intrusiones son más difíciles de detener y podrían proporcionar a los atacantes maliciosos un acceso profundo a los sistemas infectados, permaneciendo ocultos para el personal de ciberseguridad.
Lea más en Bloomberg.com
