Bloomberg Línea — El alto comisionado de la ONU para los derechos humanos, Volker Türk, pidió a los Estados y a las empresas “trazar un camino para actuar y gobernar los modelos avanzados de IA”, después de una semana en la que los riesgos potenciales de esta tecnología estuvieron bajo la lupa de la opinión pública.
“Todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”, sostuvo Türk en un comunicado firmado este lunes. “El verdadero desafío hoy es cómo podemos equiparar el ritmo de una gobernanza significativa de la IA con el ritmo acelerado de su desarrollo”.
El más reciente debate en torno a la IA comenzó a finales de agosto, con un ensayo en el que Bill Gates advirtió que podría abrir la puerta de una era “turbulenta”, caracterizada por la desaparición de empleos y el reemplazo de las relaciones humanas, así como su uso “para hacer más daño”.
El tema escaló cuando un investigador de Anthropic, que también hizo parte de OpenAI, dimitió de su cargo asegurando que la IA podría acabar con la humanidad antes de 2030.
Tras ello, Dario Amodei, CEO de Anthropic; Sam Altman, director ejecutivo de OpenAI, y Elon Musk, el hombre más rico del mundo, hicieron un llamado para bajar deliberadamente la velocidad del desarrollo de la IA.
Ver más: De Nvidia a AMD: las acciones de IA más golpeadas del S&P 500 y qué está pasando
En ese contexto, el alto comisionado para los derechos humanos de la ONU expuso sus inquietudes.
“Las fallas que involucren sistemas de IA agéntica —y mucho más aún los sistemas diseñados deliberadamente de esa manera— podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear el corazón mismo de las instituciones democráticas”, planteó Türk.
Además, podría desencadenar que poblaciones enteras queden ”sin acceso a agua potable, calefacción y servicios financieros”, según él.
La preocupación de que la IA llegue a la guerra
A la ONU le preocupa que la IA pueda ser usada en la guerra y Türk lo expuso abiertamente en el comunicado con su firma.
“La IA agéntica ya está acelerando el ritmo y el alcance de la guerra y erosionando las salvaguardas que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva”.
No es para menos: por estos días Anthropic informó que su modelo de IA, Claude, fue utilizado por grupos de espionaje vinculados con el Estado de Rusia en el contexto de la guerra con Irán y por estructuras de reclutamiento ligadas con el Gobierno de China, por ejemplo.
En su reporte Detección y lucha contra el uso indebido de la IA: septiembre 2026, la compañía estadounidense comunicó que encontró cinco casos en que Claude también fue usado “de maneras que podrían apoyar el desarrollo de armas biológicas”.
El hallazgo incluye una investigación para modificar genéticamente el virus de chikungunya y, al parecer, agregarle capacidades biológicas para mejorarlo.
En ese panorama, Türk aseguró que, si bien el mundo actual depende “casi por completo de un pequeño número de empresas poderosas para que tomen las decisiones correctas sobre el desarrollo de la IA para toda la humanidad”, las determinaciones deben ser tomadas de manera conjunta.
“Dada la importancia de lo que está en juego y la situación en la que nos encontramos hoy, hago un llamado a los Estados y a las empresas para que se movilicen urgentemente a través de foros multilaterales con el fin de trazar un camino para actuar”, sentenció.
Ver más: China rechaza el “alarmismo” de las advertencias sobre la IA mientras crece la rivalidad con EE.UU.
