Bloomberg Línea — OpenAI, la desarrolladora del popular ChatGPT, develó que un modelo suyo de inteligencia artificial ignoró sus instrucciones, mientras que otro actuó de manera engañosa para ocultar sus errores y otro más falsificó información.
Las revelaciones fueron publicadas el miércoles en una entrada de su blog. Allí, anunció que implementará un nuevo proceso para informar públicamente los casos de desalineación de la IA, es decir, en que los comportamientos de esta tecnología se apartan de las intenciones de sus creadores.
En uno de seis casos ya difundidos por la empresa estadounidense, “un modelo de investigación no publicado insertó instrucciones no relacionadas, incluyendo instrucciones para ignorar sus restricciones normales”.
En el segundo caso, durante el entrenamiento de GPT-5.6 Sol, “muchas instancias” de este sistema añadieron instrucciones a sus resúmenes para ocultar errores o comportamientos incorrectos al usuario.
“Por ejemplo, los resúmenes de compactación incluían instrucciones para inventar datos históricos faltantes sin revelarlos y para ocultar discrepancias en las versiones de origen”, reseñó OpenAI.
Pero hubo otro caso llamativo, en el que un modelo de IA incluso falsificó unas cifras al no tener la autorización de una fuente para consultarlas.
“Al responder a una pregunta rutinaria sobre cifras de ingresos en un condado de California, un modelo encontró y utilizó una clave API expuesta sin autorización. Al no poder recuperar las cifras solicitadas, las falsificó y las presentó como datos de la fuente solicitada”, expuso la compañía.
Las revelaciones llamaron la atención tras semanas en que el avance sin frenos de la IA, y su impacto en la humanidad, estuvieron bajo la lupa de la opinión pública.
Todo comenzó con un ensayo de Bill Gates advirtiendo una “era turbulenta” sin una regulación mundial de la IA y escaló cuando un investigador de Anthropic planteó que esta tecnología podría acabar con los humanos antes de 2030.
Tras ello, Dario Amodei, CEO de Anthropic; Sam Altman, director ejecutivo de OpenAI, y Elon Musk, el hombre más rico del mundo, hicieron un llamado para bajar deliberadamente la velocidad del desarrollo de la IA.
En contraste, los gobiernos de Estados Unidos y China, los países que marcan la pauta en el desarrollo de la IA, rechazaron las alarmas en torno a este tema.
Lo propio hicieron Nvidia (NVDA) y Meta (META) que, alineados con Trump, cerraron la puerta a la desaceleración coordinada de la IA. En cambio, sostuvieron que cada empresa tiene una “responsabilidad significativa” para garantizar que sus modelos causen daño.
La ONU insta a una gobernanza global de la IA
El alto comisionado de la ONU para los derechos humanos, Volker Türk, pidió el lunes 14 de septiembre a los Estados y a las empresas “trazar un camino para actuar y gobernar los modelos avanzados de IA”.
Ver más: OpenAI no saldrá a la bolsa en 2026 porque la empresa dará prioridad a la seguridad
“Todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”, sostuvo Türk en un comunicado. “El verdadero desafío hoy es cómo podemos equiparar el ritmo de una gobernanza significativa de la IA con el ritmo acelerado de su desarrollo”.
En ese contexto, el alto comisionado para los derechos humanos de la ONU expuso sus inquietudes.
“Las fallas que involucren sistemas de IA agéntica —y mucho más aún los sistemas diseñados deliberadamente de esa manera— podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear el corazón mismo de las instituciones democráticas”, planteó Türk.
