Bloomberg — La oposición del presidente Donald Trump a la implantación de medidas de control sobre la inteligencia artificial lo sitúa en desacuerdo con un número cada vez mayor de legisladores de ambos partidos, y los temores sobre la seguridad de la IA se suman a las dudas de los votantes respecto a esta tecnología de cara a las elecciones de mitad de legislatura.
En una rápida sucesión de publicaciones en las redes sociales, Trump menospreció el lunes una iniciativa liderada por Anthropic PBC y OpenAI para ralentizar el desarrollo de sistemas de vanguardia, recurriendo a un lenguaje grandilocuente para desestimar los temores existenciales sobre la IA calificándolos de “un engaño”.
Más tarde ese mismo día, realizó una llamada improvisada al CEO de Nvidia Corp. (NVDA), Jensen Huang, quien se encontraba en el escenario de una conferencia tecnológica y puso la conversación en altavoz.
Ver más: Amodei, Altman y Musk piden frenar el desarrollo de modelos de IA
“Los robots no tomarán el control. La IA no se apoderará del resto del mundo”, le dijo Trump a Huang, quien era uno de los invitados destacados en la cumbre All-In celebrada en Los Ángeles. “Tenemos que hacer cosas, y tenemos que hacerlas con prudencia, pero eso no significa que vayamos a frenar a un sector”.
En conjunto, las declaraciones de Trump representaron su defensa más enérgica frente a los intentos de frenar el desarrollo de una tecnología que es fundamental para su agenda económica y que está detrás de un repunte histórico del mercado bursátil estadounidense.
Cualquier pausa o retraso en el avance de los denominados sistemas de IA de vanguardia no sería bien recibido por los inversores que apuestan por que el auge de la IA impulse un gasto de capital de cientos de miles de millones de dólares.
Para poner de relieve lo que está en juego para Trump, quien considera el mercado bursátil como un barómetro de su éxito como presidente, las acciones de los fabricantes de chips que se han beneficiado del aumento del gasto en infraestructuras de IA cayeron el lunes: Nvidia bajó un 3,4% y Micron Technology Inc. (MU), un 5,3%.
David Sacks, inversor de capital riesgo que fue asesor principal de Trump en materia de IA y que ahora es copresidente del Consejo de Asesores del Presidente sobre Ciencia y Tecnología, expresó ideas similares en una entrevista con Bloomberg Television el lunes. Anthropic y OpenAI tienen la libertad de ralentizar el desarrollo de sus modelos más sofisticados si consideran que la tecnología conlleva riesgos graves, afirmó, argumentando que no necesitan nuevas regulaciones para ello.
Ver más: Microsoft se suma al llamado de cautela por la IA y rechaza una superinteligencia sin control
“Realmente no me creo ese argumento de que no puedan garantizar la seguridad de sus productos a menos que el gobierno intervenga e imponga requisitos a empresas que ni siquiera se encuentran en la vanguardia”, afirmó Sacks.
La reacción de Trump se debió a un ensayo de 3.800 palabras publicado el sábado por el CEO de Anthropic, Dario Amodei, quien instó a frenar el desarrollo de los sistemas más avanzados para que los investigadores puedan comprender mejor las posibles amenazas. El CEO de OpenAI, Sam Altman, y el de SpaceXAI, Elon Musk, cuyas empresas son rivales acérrimas de Anthropic, respaldaron rápidamente la misiva de Amodei, sumándose a una corriente de opinión en todo Silicon Valley que apoya las medidas para hacer frente a los riesgos cada vez más impredecibles de la IA.
En Washington, el presidente se encuentra cada vez más aislado en su rechazo a una supervisión más estricta, mientras los legisladores plantean una serie de medidas destinadas a abordar las preocupaciones sobre la seguridad de la IA. Un grupo bipartidista de senadores, entre los que se encuentran el líder de la mayoría, John Thune; el presidente de la Comisión de Comercio del Senado, Ted Cruz; y la senadora demócrata por Minnesota, Amy Klobuchar, está trabajando en una legislación que obligue a los principales desarrolladores de IA a prevenir riesgos catastróficos.
Otras propuestas incluyen una medida del senador de Vermont Bernie Sanders, un independiente alineado con los demócratas, que aboga por la prohibición de la denominada IA “superinteligente”, que ha suscitado las últimas advertencias de Amodei. Los legisladores también han planteado la idea de un “interruptor de apagado” para la IA como parte de un proyecto de ley independiente.
Sin embargo, es poco probable que el Congreso apruebe alguna ley sobre IA en un futuro próximo, ya que la Cámara de Representantes tiene previsto abandonar Washington el jueves y no regresar hasta después de las elecciones de noviembre. Se espera que la breve sesión posterior a las elecciones se centre en un plan para aumentar el presupuesto del Pentágono.
“Dado lo que sabemos sobre la tecnología, no podemos volver a meter la IA en una caja. Pero sí podemos determinar colectivamente cómo se desarrolla y cómo se utiliza, en lugar de quedarnos de brazos cruzados y dejar que la IA y sus consecuencias nos afecten”, afirmó el expresidente Barack Obama en un comunicado.
Obama, un demócrata que ahora rara vez interviene en los debates sobre política pública, afirmó que no era ni un “aceleracionista” de la IA ni un “catastrofista” que predijera la destrucción de la humanidad. “Pero, al fin y al cabo, las normas voluntarias elaboradas por un puñado de empresas tecnológicas no serán suficientes”, afirmó, instando en cambio a los legisladores de Washington a “adoptar un enfoque proactivo a la hora de elaborar propuestas concretas, leyes y normativas que aborden las graves preocupaciones en materia de seguridad, anticipen el impacto de la IA en el empleo y en nuestros hijos, y garanticen que los beneficios de la IA se distribuyan ampliamente”.
A riesgo de provocar la ira de Trump, el presidente republicano de la Cámara de Representantes, Mike Johnson, se mostró cautelosamente abierto a la regulación y afirmó el lunes que los legisladores “posiblemente” tendrán que imponer medidas de control al sector, aunque advirtió de que probablemente llevaría “algún tiempo” elaborar una legislación que cuente con el apoyo suficiente para ser aprobada.
“Se trata de una cuestión muy compleja que requiere mucho trabajo y una solución bipartidista”, declaró Johnson a los periodistas en el Capitolio.
Ver más: CEO de Nvidia recibió llamada de Trump en vivo; ambos minimizaron los riesgos de la IA
La preocupación por los riesgos existenciales de la IA saltó a la palestra la semana pasada, impulsada por la sonada salida de Jacob Coxon, empleado de Anthropic, quien acusó a las empresas de IA de “jugar con nuestras vidas” en un mensaje de dimisión que compartió en las redes sociales. Decenas de otros investigadores en IA mostraron su apoyo a la publicación de Coxon, en la que pedía frenar una tecnología que, según él, “podría matarnos a todos antes de que termine la década”.
Esas preocupaciones en materia de seguridad amenazan con agravar el resentimiento bipartidista hacia la IA de cara a las elecciones de noviembre, en las que esta tecnología se está convirtiendo en un tema central en las campañas al Congreso y a los cargos locales.
Los votantes se sienten cada vez más frustrados por el impacto de la expansión de la IA, en particular por la rápida proliferación a nivel nacional de centros de datos, a los que se culpa de provocar el aumento de las tarifas de los servicios públicos.
En una de sus publicaciones del lunes, Trump achacó a una “conspiración enferma” la reacción negativa de los votantes ante los centros de datos de IA y la creciente preocupación por los modelos de vanguardia.
A pesar de las quejas de Trump, las advertencias sobre las amenazas existenciales que plantea la IA han continuado sin cesar por parte de figuras del sector. También el lunes, los investigadores de IA de Microsoft Corp. (MSFT) publicaron un nuevo conjunto de principios rectores que establecen límites al desarrollo de modelos de vanguardia.
En un manifiesto de 15.000 palabras, el equipo afirmó que los modelos no deben tener derechos legales ni personalidad jurídica, y que no deben diseñarse para escapar al control humano ni para engañar a los usuarios. Según el manifiesto, el sistema no debe completar una tarea si ello implica violar los principios rectores de la IA.
El debate sobre la seguridad de la IA también se cierne sobre la próxima cumbre de Trump con el presidente chino Xi Jinping, en la que la inteligencia artificial ocupará un lugar destacado en la agenda. Trump ha advertido en repetidas ocasiones de que EE.UU. debe mantenerse por delante de China en materia de IA para proteger la seguridad nacional, a medida que se intensifica la competencia entre las dos mayores economías del mundo en torno a la tecnología de vanguardia.
Por su parte, los responsables chinos han rechazado los llamamientos de los líderes tecnológicos estadounidenses a frenar el avance de la IA por motivos de seguridad, calificándolos de “alarmismo”, y han criticado las afirmaciones de que los avances chinos en IA suponen una amenaza para la seguridad mundial.
A China le preocupa que las advertencias sobre seguridad puedan ser utilizadas como pretexto por Estados Unidos para endurecer aún más las restricciones a la exportación de tecnología avanzada, según ha señalado Sun Chenghao, investigador del Centro de Seguridad Internacional y Estrategia de la Universidad de Tsinghua, en Pekín.
La administración Trump ha adoptado un enfoque mayoritariamente no intervencionista respecto a la IA desde que el presidente volvió al cargo el año pasado. En junio, Trump firmó un decreto ejecutivo sobre ciberseguridad en materia de IA que dejaba en manos de las empresas la decisión de si deseaban que el gobierno revisara sus nuevos modelos de IA, y a principios de este mes la administración convenció a los países del Grupo de los 20 para que adoptaran unos principios que abogan por un enfoque moderado respecto a la IA y otras tecnologías emergentes.
En Silicon Valley y en Wall Street persiste el escepticismo sobre hasta qué punto Anthropic y OpenAI llegarían a frenar el desarrollo de la IA, especialmente ahora que ambas empresas se preparan para salir a bolsa con ofertas públicas iniciales que batirán récords. Tanto Amodei como Altman se esforzaron por destacar que sus planes de moderar el ritmo de trabajo en los últimos modelos de IA no se traducirían en una ralentización del crecimiento de sus negocios ni de sus planes de inversión.
“Aún no está claro si los llamamientos a moderar el desarrollo de modelos avanzados ganarán terreno en todo el sector, pero creemos que su objetivo principal es configurar un marco regulador aceptable para los principales laboratorios de IA”, afirmó Ulrike Hoffmann-Burchardi, de la Oficina de Inversiones de UBS. “Por lo tanto, esperamos que la inversión en IA continúe”.
Con la colaboración de Rita Nazareth, Ed Ludlow, Natasha Mascarenhas, Ian King y Jordan Fabian.
Lea más en Bloomberg.com
