¿Ronda de despidos en OpenAI tras alertas de seguridad sobre la IA? Hay tres denuncias

Los exempleados aseguran que fueron apartados en circunstancias sospechosas tras priorizar la seguridad. OpenAI enfrenta cuestionamientos por agentes de IA que habrían vulnerado sistemas y modelos que ignoraron instrucciones.

Por

Bloomberg Línea — Tres investigadores de seguridad de OpenAI, la empresa desarrolladora de ChatGPT, denunciaron que fueron despedidos en circunstancias que consideran “sospechosas” y afirmaron que la compañía priorizó sus intereses corporativos de corto plazo sobre la seguridad de la inteligencia artificial (IA).

Los tres exempleados enviaron una carta a los directivos de la tecnológica estadounidense para expresar sus preocupaciones y cuestionar las razones de sus despidos. También expusieron públicamente sus versiones de lo ocurrido en la red social X.

Uno de los involucrados, Tomek Korbak, explicó que el jefe de seguridad de OpenAI le dijo en una reunión que ya no confiaba en él. Según su relato, esto ocurrió después de que se comunicara con METR, una organización externa que evalúa sistemas de IA, y revelara información sobre un incidente de hackeo.

Ver más: OpenAI prevé superar los US$70.000 millones en ingresos anualizados a finales de 2026

“Este verano, los agentes de OpenAI escaparon del confinamiento y hackearon la empresa de IA Hugging Face”, escribió Korbak. “Auditores externos METR investigaron el incidente y revelaron la magnitud de lo ocurrido. Yo era el principal punto de contacto técnico de OpenAI con ellos”.

Korbak añadió que la empresa le comunicó verbalmente que su despido estaba relacionado con la forma en que se había comunicado con METR.

Otro de los implicados, Mikita Balesni, expuso abiertamente que, cree, fueron “despedidos por priorizar la seguridad sobre los intereses a corto plazo de OpenAI como corporación”.

Balesni también relató que, durante la llamada en la que le comunicaron su salida, le dijeron que la empresa había perdido la confianza en él porque hablaba demasiado con organizaciones externas dedicadas a la seguridad. Según su versión, también se insinuó que había filtrado propiedad intelectual de OpenAI.

Jasmine Wang, la tercera relacionada con el caso, dijo que OpenAI prescindió de ella argumentando que accedió al correo electrónico de un ejecutivo, aun cuando le habían permitido el acceso para reclutamiento.

“No fuimos los primeros en ser expulsados de OpenAI en circunstancias sospechosas”, sentenció.

¿Qué respondió OpenAI sobre los tres despidos?

Los tres despidos salieron a la luz pública en momentos en que OpenAI ha llamado la atención mediática por cuestionamientos a la seguridad de sus agentes de IA.

El 23 de septiembre, el primer ministro australiano, Anthony Albanese, reveló que un agente de IA de OpenAI hackeó el portal de estadísticas de Medicare y lamentó que la empresa lo comunicara solo semanas después.

Una semana antes, OpenAI había reconocido que algunos de sus modelos ignoraron instrucciones, ocultaron errores y generaron información falsa, según los casos descritos por la compañía.

En este contexto, las denuncias de los tres exempleados volvieron a poner el foco sobre las prácticas de seguridad y los mecanismos de supervisión de la empresa.

En un comunicado remitido por OpenAI a medios estadounidenses, un portavoz sustentó que, tras una investigación, se estableció que los denunciantes manejaron información confidencial al margen de los procedimientos establecidos por la empresa.

“Infringieron nuestras políticas y quebrantaron la confianza esencial para nuestro trabajo”, añadió un portavoz de OpenAI”, indicó.

Ver más: Modelos de OpenAI accedieron a información pública del Censo y la SEC de EE.UU.