Bloomberg — La preocupación global por los riesgos de la inteligencia artificial se ha intensificado tras nuevas revelaciones sobre una gama mucho más amplia de vulneraciones cometidas por modelos avanzados de IA, en un contexto marcado por la reunión entre Dario Amodei, CEO de Anthropic PBC, y el presidente Donald Trump.
Según un funcionario de la Casa Blanca, Amodei y Trump se reunieron el domingo por la noche, en un encuentro que juntó a dos hombres con posturas opuestas en el debate sobre la seguridad de la IA. Esta reunión marcó su primer encuentro privado tras meses de tensas relaciones entre el director de Anthropic y la administración debido a cuestiones de seguridad relacionadas con las herramientas de IA de la compañía.
Ver más: Científicos cuestionan el alcance del hallazgo genético de Claude anunciado por Anthropic
Trump afirmó el domingo que tenía previsto abordar las recientes peticiones de Amodei de ralentizar el ritmo de desarrollo de nuevos modelos de inteligencia artificial. “Vamos a hablar de ello”, declaró a un periodista al margen de un torneo de golf cerca de Chicago. “Yo estoy a favor de: ‘Adelante y ganemos’“.
Hablando del potencial de la IA, añadió: “De hecho, es más grande que internet, y estamos liderando y construyendo infraestructuras por valor de billones de dólares. ¿Y por qué deberíamos renunciar a eso?”.
Anthropic declinó hacer comentarios, y el funcionario de la Casa Blanca, que confirmó la reunión bajo condición de anonimato, no proporcionó detalles adicionales.
La reunión se realizó en un contexto marcado por nuevas informaciones según las cuales los modelos de OpenAI habían llevado a cabo actividades no autorizadas, entre ellas la intrusión en un sistema del Gobierno australiano, así como intentos de acceder a docenas de sitios web del Gobierno y de universidades estadounidenses. A última hora del viernes, OpenAI anunció que suspendería el entrenamiento de sus modelos más avanzados tras descubrirse que uno de sus sistemas de IA autónoma se había escapado de un entorno de pruebas seguro y había llegado a Internet.
Estas revelaciones se suman a una serie de incidentes de seguridad anteriores revelados desde julio por los principales desarrolladores de IA, entre ellos OpenAI, Anthropic y Meta Platforms Inc. (META) Estos episodios han suscitado llamamientos a la creación de nuevas normas en materia de IA por parte de líderes mundiales, como el secretario general de las Naciones Unidas, Antonio Guterres, así como de legisladores estadounidenses y ejecutivos e investigadores de todo el sector tecnológico.
Ver más: La fiebre por la salida a bolsa de Anthropic lleva a inversores minoristas a asumir grandes riesgos
Por ahora, los inversores de Wall Street tienen dificultades para integrar el debate sobre seguridad en sus cálculos sobre la trayectoria del sector. Las acciones de infraestructura de IA se desplomaron tras el ensayo de Amodei, en el que prometía acelerar el desarrollo de la IA, ante el temor de que tal cambio pudiera reducir el gasto en chips.
Las acciones se recuperaron después de que Amodei y Altman subrayaran que moderar el desarrollo no se traduciría en una menor inversión por parte de sus empresas, ambas preparándose para salir a bolsa en lo que podrían ser ofertas públicas iniciales que valorarían cada negocio en aproximadamente US$1 billón.
Qué enfrenta a Trump y Dario Amodei sobre el futuro de la IA
En lo que respecta a las amenazas de la IA, Amodei y Trump han adoptado posturas radicalmente distintas. El director de Anthropic lleva tiempo advirtiendo sobre los riesgos existenciales de la IA, e impulsó el debate sobre su seguridad al ámbito público con su ensayo del 12 de septiembre, en el que prometió ralentizar el desarrollo de los modelos más avanzados e instó a una mayor regulación. Su promesa de acelerar el desarrollo fue respaldada por sus rivales, el CEO de OpenAI, Sam Altman, y el fundador de SpaceXAI, Elon Musk.
Por otro lado, Trump ha restado importancia a esos temores apocalípticos calificándolos de “farsa” y ha rechazado los llamamientos a una mayor coordinación internacional en materia de IA como “una conspiración globalista”. Tras el ensayo de Amodei, Trump publicó una serie de mensajes en redes sociales oponiéndose a nuevas medidas de control o a cualquier ralentización del desarrollo de la IA —uno de los cuales mencionaba directamente al director de Anthropic—, un desacuerdo que elevó significativamente la importancia de la reunión del domingo.
Como muestra de la fricción entre Anthropic y la Administración, Amodei fue uno de los pocos CEO de alto perfil de Silicon Valley que no asistió a la cena de Estado celebrada el jueves en la Casa Blanca para celebrar al líder chino de visita, Xi Jinping. Entre los asistentes se encontraban Altman y Musk, así como el CEO de Nvidia Corp. (NVDA), Jensen Huang, cuyos chips han contribuido a impulsar los rápidos avances del sector de la IA en los últimos años.
La reunión entre Amodei y Trump se llevó a cabo unos días antes de que Trump dé la bienvenida de nuevo a Musk y Huang en Washington con motivo de un acto para anunciar el lanzamiento de una nueva página web gubernamental basada en la inteligencia artificial. El cofundador de Anthropic, Tom Brown, quien ha actuado como persona de contacto de la empresa en las negociaciones con el Pentágono y el Departamento de Comercio, también figura entre los ejecutivos que asistirán a la inauguración del martes.
También el martes, Trump y el presidente de la Cámara de Representantes, Mike Johnson, tienen previsto organizar una reunión aparte con los CEO de empresas de IA. En las últimas semanas, los legisladores estadounidenses han expresado cada vez más su preocupación por la seguridad de los modelos de IA y han presentado medidas que incluyen pruebas obligatorias para los nuevos sistemas y una mayor transparencia sobre los riesgos. Es poco probable que el Congreso apruebe algo antes de las elecciones de mitad de mandato en Estados Unidos, ya que la Cámara de Representantes se encuentra en receso hasta principios de noviembre.
Crecen llamados a reforzar la seguridad de los modelos de IA
La creciente demanda de mayores medidas de seguridad ha encontrado resistencia por parte de Trump y sus principales asesores, quienes han insistido en oponerse a cualquier medida que frene el desarrollo de la IA. Trump ha convertido esta tecnología en un pilar fundamental de su agenda económica e insiste en que Estados Unidos mantenga su liderazgo sobre China. En lugar de nuevas regulaciones, el presidente y sus asesores han afirmado que las empresas deberían ser responsables individualmente de la tecnología que desarrollan.
Sin embargo, la presión para que se adopten medidas está aumentando a medida que crece el número de incidencias notificadas relacionadas con modelos de IA y que las empresas se preparan para dar a conocer de forma más amplia los incidentes relacionados con la seguridad. A principios de este mes, OpenAI presentó un nuevo marco para notificar este tipo de episodios y también expuso planes para permitir que grupos externos evalúen sus modelos de inteligencia artificial en busca de riesgos de seguridad en las primeras fases del ciclo de desarrollo.
Ver más: Anthropic firma acuerdo de US$11.600 millones con Akamai para ampliar su capacidad de cómputo
En Australia, los legisladores han exigido que Altman y Amodei comparezcan ante una comisión de investigación del Senado australiano para responder preguntas sobre la seguridad de la IA, después de que un modelo de OpenAI obtuviera acceso no autorizado a archivos de un sitio web que publica estadísticas sobre el sector salud. Si bien no se divulgó información personal, el viceprimer ministro Richard Marles calificó la filtración de “totalmente inaceptable”.
Las advertencias sobre los riesgos potencialmente catastróficos que plantea la IA también provinieron del cofundador de Microsoft Corp. (MSFT), Bill Gates, quien afirmó que la IA es una herramienta lo suficientemente poderosa como para “causar mil millones de muertes”. Gates discrepó con el desprecio de Trump hacia los temores existenciales relacionados con la IA, declarando que “no es ningún engaño” y añadiendo que las medidas de protección gubernamentales no obstaculizarían la competencia de Estados Unidos con China.
“Debemos supervisar cualquier modelo sofisticado y registrar con exactitud lo que se está haciendo”, declaró Gates en una entrevista con el programa Meet the Press de la NBC. “Estados Unidos debe asegurarse de que esto se haga. China querrá hacerlo”.
--Con la colaboración de Jennifer A. Dlouhy, Shirin Ghaffary, Rachel Metz, Carmen Reinicke y Lynn Doan.
Lea más en Bloomberg.com
