Bloomberg — El rey Carlos III solicitó a algunas de las figuras más destacadas de la inteligencia artificial garantías sobre el control de sus inventos. Alrededor de 30 ejecutivos tecnológicos, responsables políticos e investigadores en ética asistieron a la cumbre privada del monarca en Dumfries House, Escocia. A continuación, presentamos a algunos de los asistentes más conocidos.
Jensen Huang — fundador, presidente y CEO de Nvidia
Huang ha dirigido la empresa de chips gráficos Nvidia (NVDA) desde que la cofundó en 1993, convirtiéndola en la empresa más valiosa del mundo, cuyas GPU constituyen la columna vertebral del auge de la IA. “No necesitamos nuevas leyes, no necesitamos nuevas regulaciones”, afirmó Huang el martes, calificando la disyuntiva entre un desarrollo de IA rápido o seguro como una “falsa elección”.
Ver más: Jensen Huang prevé que Nvidia duplique sus ventas de chips en 2027 por el auge de la IA
Demis Hassabis — cofundador de Google DeepMind y científico jefe de Alphabet
Antiguo prodigio del ajedrez y diseñador de videojuegos, Hassabis cofundó DeepMind en 2010, empresa que Google adquirió en 2014. El laboratorio desarrolló AlphaGo, que logró dominar el notoriamente complejo juego de mesa Go, y AlphaFold, un sistema que predice la estructura de las proteínas y por el cual obtuvo el Premio Nobel de Química. El mes pasado, se apartó de la gestión diaria del laboratorio. Hassabis ha solicitado «medidas urgentes» para abordar los riesgos potenciales de la IA, incluida la creación de un organismo internacional de normas.
“Creo que estamos en un momento crucial de la historia de la humanidad”, declaró Hassabis hoy. La IA general “probablemente esté a solo unos pocos años de distancia. Su impacto podría ser sin precedentes, quizás diez veces mayor que el de la revolución industrial y a una velocidad diez veces mayor”.
Tino Cuéllar — director de asuntos globales de Anthropic
Cuéllar dirige el trabajo de políticas de Anthropic desde agosto. Anteriormente, dirigió la institución de investigación Carnegie Endowment for International Peace, fue juez del Tribunal Supremo de California y ocupó cargos en la administración del presidente Obama. El CEO, Dario Amodei, ha pedido que se ralentice el ritmo de ciertos modelos para que las salvaguardias puedan ponerse al día, al tiempo que subraya que no propone detener la capacitación en modelos ni el progreso técnico.
Sarah Friar — directora financiera de OpenAI
Sarah Friar es directora financiera de OpenAI, tras haber sido anteriormente directora financiera de Square y directora ejecutiva de Nextdoor. Participa en los preparativos de OpenAI para una posible salida a bolsa y en las negociaciones sobre una ronda de financiación que podría valorar la empresa en más de US$1,2 billones, según informó Bloomberg. El cofundador de OpenAI, Sam Altman, afirmó que la IA de vanguardia debería ralentizarse cuando sea necesario y que la seguridad debe prevalecer sobre los beneficios, el ego y la presión competitiva.
Yuval Noah Harari – autor y catedrático de Historia
Harari es el autor del éxito de ventas Sapiens, que ofrece una visión general del progreso de la humanidad desde los cavernícolas hasta la revolución tecnológica. Ha argumentado que la IA podría cambiar radicalmente la confianza en la sociedad y facilitar un nuevo tipo de estado de vigilancia, y ha abogado por regulaciones como la prohibición de la personalidad jurídica de la IA.
Paolo Benanti — asesor jefe del Vaticano en materia de IA
Benanti es un fraile franciscano italiano, teólogo y destacado asesor del Vaticano en materia de ética de la IA. La encíclica del papa León XIV, publicada en mayo, abogaba por que la IA fuera “desarmada”, es decir, liberada de aquellos usos que promueven la dominación, la exclusión o la muerte. El papa argumentó que la tecnología no es moralmente neutra, ya que refleja los motivos, la financiación y las regulaciones de quienes la controlan y la crean. Asimismo, afirmó que la IA debería liberarse del control monopolístico.
Blaise Metreweli — directora del MI6
El año pasado, Metreweli se convirtió en la primera mujer en dirigir el servicio de inteligencia exterior del Reino Unido, el MI6. Anteriormente, fue directora general de tecnología e innovación del MI6, un cargo conocido internamente como “Q”, en referencia al personaje de James Bond. Afirmó que la IA está “reescribiendo la realidad de los conflictos” mediante la creación de “herramientas propias de la ciencia ficción”, junto con la biotecnología y la computación cuántica.
Antonia Romeo — secretaria del Gabinete y jefa de la función pública del Reino Unido
Romeo se convirtió en la primera mujer en dirigir la administración pública del Reino Unido al ser nombrada en febrero. Funcionaria de carrera, ha convertido la adopción de la IA en un elemento clave de su mandato y supervisa un grupo de trabajo gubernamental sobre IA. Ha descrito esta tecnología como “la oportunidad que define nuestra generación, así como el desafío que la define”.
Kanishka Narayan — Ministro de IA del Reino Unido
Narayan fue ascendido a miembro del Gabinete por el Primer Ministro Andy Burnham. Esta semana afirmó que “no se descarta ninguna opción” en lo que respecta a una regulación más estricta de la IA, un cambio de tono con respecto a comentarios anteriores en los que restó importancia al riesgo de una catástrofe de la IA.
Stuart Russell — Investigador en IA de la Universidad de California, Berkeley
Russell es profesor de informática y dirige la Asociación Internacional para una Inteligencia Artificial Segura y Ética. Ha defendido que limitarse a ralentizar el desarrollo de modelos de vanguardia carece de sentido si no se establecen requisitos de seguridad. “Debemos establecer primero los requisitos de seguridad, y solo se podrá avanzar cuando se cumplan”, escribió en The Guardian.
Ver más: Rey Carlos reúne a gigantes como Nvidia y OpenAI en una cumbre para debatir la seguridad de la IA
Xue Lan - experto chino en gobernanza de la IA y asesor político
Xue dirige el Instituto de Gobernanza Internacional de la IA de la Universidad de Tsinghua y preside el Comité Nacional de Expertos del país sobre la Gobernanza de la IA de Próxima Generación. Ha argumentado que describir la IA como una carrera entre Estados Unidos y China es “impreciso”, ya que no se trata de una competencia entre dos países y una mentalidad competitiva dificulta la cooperación en materia de seguridad.
La presencia de un investigador chino resulta notable, después de que el presidente Trump se haya referido a las propuestas para frenar el desarrollo de la IA diciendo: “El único que se alegra de ello es China”.
Toby Ord – Investigador sénior de la Iniciativa para la Gobernanza de la IA de la Universidad de Oxford
Ord es filósofo e investigador en la Iniciativa de Gobernanza de la IA de la Universidad de Oxford. En su libro de 2020, El Precipicio, argumentó que la humanidad se enfrenta a un período inusual, ya que su futuro a largo plazo se ve amenazado por la tecnología que ella misma ha creado. También es una figura fundadora del movimiento del altruismo eficaz, que otorga gran importancia a la prevención de riesgos poco probables pero potencialmente catastróficos.
El rey Carlos III
A pesar de que, según se informa, nunca ha tenido un teléfono móvil y debe mantenerse al margen de la política partidista, Carlos ha hablado sobre la IA en varias ocasiones desde que asumió el trono en 2022. Al hacer entrega a Huang de un galardón de ingeniería el año pasado, el monarca obsequió al CEO de Nvidia una copia del discurso que pronunció en la Cumbre sobre la Seguridad de la IA de 2023 en Bletchley Park, en la que recalcó la importancia de la seguridad en esta tecnología.
Ver más: Jefe de IA de Microsoft advierte sobre los riesgos de dar rasgos humanos a Claude
“¿Traerá consigo la llegada de la inteligencia artificial una era de creciente abundancia material y ocio?”, preguntó en otro discurso. “¿O transformará radicalmente, e incluso consumirá, empleos y otras oportunidades antes de dominar y superar nuestras propias mentes?”.
--Con la colaboración de Tom Mackenzie.
Lea más en Bloomberg.com
