Bloomberg — El secretario general de las Naciones Unidas intensificó sus llamamientos a favor de la regulación de la inteligencia artificial para evitar un futuro distópico caracterizado por un poder corporativo desmedido y robots asesinos.
Antonio Guterres aprovechó su último discurso ante los líderes mundiales en la Asamblea General de las Naciones Unidas para dar la voz de alarma sobre los peligros de la IA, argumentando que el rápido avance de los modelos de vanguardia corre el riesgo de socavar a los Estados-nación.
“Estamos siendo testigos de una extraordinaria transferencia de poder desde los gobiernos hacia un puñado de empresas privadas y particulares”, afirmó Guterres el martes, al tiempo que instaba a alcanzar un acuerdo internacional sobre nuevas medidas de protección en materia de IA.
“Está avanzando a una velocidad extraordinaria y se adelanta a nuestra capacidad para comprender todas sus consecuencias”, añadió.
Tras una década al frente de la ONU, este hombre de 77 años esbozó una visión sombría de un mundo asolado por la guerra y el hambre “utilizada como arma”, con un cambio climático cada vez más acelerado y un respeto cada vez menor por los derechos humanos y el Estado de derecho.
Destacó la IA y la carrera armamentística de los centros de datos como la fuerza determinante en un período de cambios drásticos y, en una alusión a Estados Unidos y China, pidió que se establezcan medidas de protección para garantizar que la tecnología pueda desarrollarse de forma segura.
“Los gobiernos con mayor capacidad en materia de inteligencia artificial tienen la mayor responsabilidad ante la humanidad de establecer vías de diálogo, transparencia, confianza y cooperación”, afirmó.
Ver más: OpenAI insta a EE.UU. a impulsar normas globales para desarrollar la IA de forma segura
Los líderes mundiales se dieron cita en Nueva York para la reunión anual de la ONU en un momento de creciente inquietud, después de que investigadores de las empresas más avanzadas en el desarrollo de la IA advirtieran de que esta tecnología podría acabar con la humanidad si no se somete a los controles adecuados.
OpenAI, que inauguró la era de la IA con el lanzamiento de ChatGPT en 2022, pidió el lunes que se acordaran normas a escala internacional para garantizar que la IA pueda desarrollarse de forma segura.
También el lunes, el grupo de expertos en IA de la ONU publicó un informe en el que se advertía de que los modelos, cada vez más capaces, podrían escapar al control humano, y los líderes de más de 20 países y de la Unión Europea reclamaron pruebas de seguridad obligatorias para los modelos avanzados de IA y, potencialmente, una nueva institución mundial que garantice que los seres humanos mantengan el control.
El papa León afirmó en mayo que la inteligencia artificial debería ser “desarmada” para proteger a la humanidad, una advertencia de la que se han hecho eco el primer ministro canadiense, Mark Carney, y el presidente francés, Emmanuel Macron.
Ver más: La IA está creando más empleos, pero también golpea a los trabajadores con menos experiencia
El CEO de OpenAI, Sam Altman, tiene previsto intervenir ante el Consejo de Seguridad de la ONU este miércoles y asistirá el jueves a una cena de Estado en la Casa Blanca en honor del presidente chino, Xi Jinping. El rápido desarrollo de la IA es uno de los temas que probablemente se tratarán en la reunión de Xi con el presidente Donald Trump, que tendrá lugar a primera hora de ese mismo día.
Trump, sin embargo, es una figura clave que se desmarca en el debate sobre la IA.
El presidente de EE.UU. se ha resistido a las peticiones de ralentizar el ritmo de desarrollo, argumentando que hacerlo supondría el riesgo de que China superara a EE.UU. en la carrera por dominar esta tecnología.
“¡Quien gane en IA, gana!“, afirmó el lunes en una publicación en las redes sociales. ”Ahora mismo vamos por delante de China y de todos los demás, ¡y voy a hacer que siga siendo así!“.
Ver más: El jefe de IA de Microsoft afirma que China no es excusa para prescindir de la regulación
Una enorme oleada de inversiones en infraestructuras de IA ha llevado al S&P 500 a máximos históricos este año y ha contribuido a sostener el crecimiento económico en EE.UU. de cara a las elecciones de mitad de legislatura de noviembre.
El presidente comparó las preocupaciones en torno a la IA con los temores sobre el calentamiento global y afirmó que las advertencias de que la IA supone una amenaza para la humanidad son un “engaño”.
“Lo que el presidente ha dicho es: “Sí, si la inteligencia artificial supone algún peligro, debemos proteger a nuestro país de él”, pero no podemos permitirnos no estar a la vanguardia de la inteligencia artificial", declaró el secretario de Estado, Marco Rubio, en una entrevista concedida a Fox News el martes por la mañana. “Va a suceder —y, si va a suceder, debemos sacar provecho de ello y debemos estar a la cabeza”.
Ver más: EE.UU. y China destacan sus conversaciones sobre IA y comercio previas a la cumbre Trump-Xi
Guterres, por su parte, lleva advirtiendo sobre la IA prácticamente desde el inicio de su mandato. En su primer discurso de apertura de la Asamblea General en 2017, afirmó que la tecnología podría “impulsar el desarrollo y transformar vidas de manera espectacular”, pero que también podría tener un impacto drástico en los mercados laborales, la seguridad mundial y “el propio tejido de las sociedades”.
¿Qué riesgos plantea una IA cada vez más autónoma?
Nueve años después, su mensaje ha cobrado mayor urgencia. Esos riesgos se extienden ahora más allá del empleo y la desigualdad, abarcando modelos cada vez más autónomos que se comportan de formas imprevistas y el uso de la IA para facilitar ciberataques o el desarrollo de armas biológicas.
“El peligro no es la tecnología; el peligro es la tecnología sin rendición de cuentas”, afirmó. “Los seres humanos están cediendo cada vez más poder a las máquinas, con agentes de inteligencia artificial que se rebelan y armas autónomas letales que pasan de la ciencia ficción a la realidad militar”.
“Los robots asesinos no deben tener cabida en nuestro futuro”, añadió.
Lea más en Bloomberg.com
