Bloomberg — OpenAI reiteró este martes su disculpa por el hecho de que sus modelos de inteligencia artificial hubieran accedido sin autorización a sitios web del gobierno australiano, y se comprometió a trabajar para evitar incidentes similares y a responder con mayor rapidez en caso de que se produjeran.
“Quiero comenzar con una disculpa”, declaró el director de estrategia, Jason Kwon, en una audiencia celebrada en Sídney ante la Comisión Mixta Especial sobre Inteligencia Artificial de Australia. “Esto no debería haber ocurrido, y la empresa debería haber gestionado mejor su respuesta”, afirmó. “Lo sentimos, y sabemos que tenemos trabajo por delante para recuperar la confianza del pueblo australiano”, añadió.
Ver más: OpenAI conversa con fondos de Emiratos Árabes y BlackRock por una ronda de US$30.000 millones
La empresa, con sede en San Francisco, anunció el mes pasado que financiaría medidas de ciberdefensa en Australia y ayudaría a gestionar el riesgo que supone una IA cada vez más capaz, tras lo que fue el primer ataque de este tipo conocido contra sistemas gubernamentales. El primer ministro Anthony Albanese reprendió a la startup por lo que calificó como un retraso de tres meses a la hora de informar a Canberra de la intrusión.
OpenAI ha afirmado que, entre el momento en que se descubrió la intrusión en agosto y la notificación al gobierno australiano el 10 de septiembre, se dedicó a validar e investigar los hechos y a determinar a qué información se había accedido.
El CEO de OpenAI, Sam Altman, no tenía conocimiento de los incidentes cuando se reunió a principios del mes pasado con el viceprimer ministro de Australia, Richard Marles, según afirmó Kwon.
Cuando se le preguntó por qué no, Kwon respondió: “Era algo muy reciente, ya que se trata de incidentes sin precedentes en los que se intentaba, en primer lugar, comprender qué había sucedido en estas situaciones concretas”, y añadió que OpenAI se ha comprometido a mejorar sus procesos internos para realizar este tipo de notificaciones con mayor rapidez.
Ver más: Trabajador de OpenAI renuncia y pide medidas de seguridad de nivel nuclear
Al preguntársele qué había aprendido OpenAI y cómo estaba modificando su forma de operar, Kwon explicó que se ha implementado una supervisión adicional durante los procesos de entrenamiento de los sistemas de IA. Si los modelos acceden a Internet de forma inadecuada, una notificación permite pausar el entrenamiento.
“De hecho, este sistema ya está en vigor y nos ha permitido detectar recientemente un caso de este tipo, lo que ha dado lugar a una intervención inmediata por parte de nuestro personal”, afirmó.
La empresa apoya a los gobiernos que implementan marcos obligatorios de notificación de incidentes críticos, señaló Kwon.
La inquietud sobre los riesgos existenciales de la IA comenzó a crecer el mes pasado, impulsada por la sonada salida de un empleado de Anthropic, empresa rival de OpenAI, quien acusó a las empresas de IA de “jugar con nuestras vidas” en una publicación de dimisión que compartió en las redes sociales.
Varios dirigentes de empresas de IA, entre ellos Altman y el CEO de Anthropic, Dario Amodei, han instado a ralentizar el ritmo de desarrollo de la tecnología para hacer frente a sus riesgos, cada vez más impredecibles.
Lea más en Bloomberg.com
