Bloomberg Línea — Elon Musk y otras más de 4.500 personas han firmado una carta abierta para hacer un llamado a todos los laboratorios de inteligencia artificial para que detengan “inmediatamente durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4″.
La carta ha sido publicada en la página de Future of Life Institute, una organización sin fines de lucro que trabaja para reducir los riesgos existenciales y catastróficos globales que enfrenta la humanidad, particularmente el riesgo existencial de la inteligencia artificial avanzada.
La oenegé está financiada principalmente por la Fundación Musk, así como por el grupo con sede en Londres Founders Pledge y Silicon Valley Community Foundation, según el registro de transparencia de la Unión Europea.
La pausa que insta la misiva a los laboratorios de IA “debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no puede promulgarse rápidamente, los gobiernos deberían intervenir e instituir una moratoria”.
Según la declaración, “los sistemas de IA con inteligencia competitiva humana pueden plantear profundos riesgos para la sociedad y la humanidad”.
Entre otros firmantes notables de la carta figuran Steve Wozniak, cofundador de Apple; Evan Sharp, cofundador, Pinterest; y Craig Peters, director ejecutivo de Getty Images.
El texto añade que “la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos adecuados”, un nivel de precaución y gestión que no está sucediendo, puesto que “en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, puede entender, predecir o controlar de manera confiable”.
Sistemas de IA más competitivos para los humanos
La carta señala que ante sistemas de IA contemporáneos que están volviéndose competitivos para los humanos en tareas generales, se necesita reflexionar sobre si “debemos arriesgarnos a perder el control de nuestra civilización?”.
Según los firmantes, los sistemas de IA potentes deben desarrollarse solo una vez que “estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”.
El texto indica que durante la pausa de seis meses sugerida, los laboratorios de IA y los expertos independientes deben desarrollar e implementar un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que sean rigurosamente auditados y supervisados por expertos externos independientes.
“La investigación y el desarrollo de la IA deben reenfocarse en hacer que los sistemas poderosos y de vanguardia de hoy sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”.
La carta recuerda que la ciencia ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad, tales como clonación humana, la modificación del ADN o la eugenesia. “Podemos hacerlo aquí. Disfrutemos de un largo verano de IA, no apresurémonos sin preparación en un otoño”.
Esto ha dicho Musk de la IA
Musk, quien cofundó el fabricante de ChatGPT OpenAI antes de dejar la compañía, dijo en una conferencia reciente que la IA es “uno de los mayores riesgos para el futuro de la civilización”.
Cuando se le preguntó sobre ChatGPT, el magnate dijo que la herramienta es “positiva o negativa” con “gran promesa”, incluso si viene con un “gran peligro”. Sus respuestas ilustran “cuán avanzada se ha vuelto la IA”.
Musk ha sido partidario de que la regulación de la IA es necesaria. “Creo que en realidad es un riesgo mayor para la sociedad que los automóviles, los aviones o la medicina”, dijo en la Cumbre Mundial del Gobierno en Dubai.
En 2020,también dijo que el proyecto DeepMind, propiedad de Google, podría conquistar el mundo. Dos años antes, en 2018, dijo que la IA puede ser más peligrosa que las armas nucleares.
Respecto al esfuerzo de Tesla para permitir que sus autos se conduzcan de manera segura, Musk refirió que es una IA “obviamente útil”. ”No lo sé. Tesla está haciendo cosas buenas en IA”.
