El aspecto más preocupante de la advertencia de que la inteligencia artificial podría aniquilar a la humanidad es que se ofrecen pocos detalles sobre cómo un modelo informático descontrolado podría lograrlo en la práctica.
Los principales escenarios, y esta lista no es ni mucho menos exhaustiva, incluyen misiles nucleares, armas biológicas y robots asesinos.
Desde hace tiempo conocemos el primer caso. Una IA rebelde se apodera de los códigos de lanzamiento nuclear y conduce al mundo hacia el fin del mundo. (Véase la película Juegos de guerra de 1983). El segundo caso implica que una IA engañe a un humano para que libere un virus mortal, lo que supone un nuevo giro respecto a las antiguas preocupaciones sobre fugas accidentales en laboratorios (Brote en 1995), complots terroristas (12 Monos en 1995) o planes para obtener beneficios (Misión Imposible II).
Si bien ambas situaciones son aterradoras, existen muchos obstáculos antes de llegar al apocalipsis, incluyendo la vigilancia constante por parte de las agencias de seguridad para detectar investigaciones biológicas ilícitas o peligrosas. La industria de la ciberseguridad parece ser más que capaz de frenar a un hacker de IA, especialmente mediante la adopción de defensas de IA personalizadas y el uso de la computación cuántica para una criptografía más robusta.
Lo que nos lleva a los robots asesinos con inteligencia artificial.
Aquí es donde la reflexión se vuelve un tanto especulativa, ya que los robots móviles capaces de realizar múltiples tareas aún no existen. Existen programas piloto que experimentan con robots humanoides que realizan trabajos sencillos en almacenes y fábricas, pero sus capacidades son limitadas. (Todos los robots humanoides que bailan o corren maratones en TikTok están preprogramados o controlados remotamente por un operador humano y no actúan de forma independiente. Estos robots llegarán, pero aún no).
Sin embargo, la idea de escuadrones de máquinas asesinas que aniquilan la civilización persiste en la imaginación popular. Por suerte, ya contamos con un ejemplo real de cómo la IA puede integrarse en el mundo sin que exista una conspiración asesina.
La industria de los vehículos autónomos está demostrando que la IA puede controlarse con precisión y funcionar de forma segura en presencia humana. Waymo LLC, Tesla Inc. (TSLA), Aurora Innovation Inc. (AUR), Kodiak AI Inc. (KDK) y otras empresas de conducción autónoma están allanando el camino para la aplicación de la IA en robots móviles capaces de realizar múltiples tareas.
Resulta que la conducción es un buen punto de partida para implementar la IA física en torno a los humanos, ya que existen numerosas reglas y protocolos establecidos.
El ordenador que ejecuta la IA que interpreta las entradas de los sensores de visión está integrado en el vehículo y no requiere conexión a internet para funcionar. Se asignan tareas a diferentes capas de IA, como modelos fundamentales que reconocen objetos del mundo real, modelos de lenguaje complejos que comprenden comandos y modelos de acción que realizan maniobras en función de los datos de los sensores y las normas de circulación.
El código es transparente, lo que permite a los programadores ver cómo y por qué el sistema llegó a una decisión. No se trata de una IA de “caja negra” en la que sea imposible saber cómo llegó el ordenador a una conclusión.
Como última medida de seguridad, el ordenador de a bordo cuenta con un modelo más sencillo que realiza una comprobación básica para evitar maniobras inseguras o inesperadas, explicó Don Burnette, director ejecutivo de Kodiak.AI Inc., empresa que ha desplegado camiones autónomos en la zona petrolera de la Cuenca Pérmica y que tiene previsto introducirlos en las autopistas interestatales a finales de este año. En el improbable caso de que el sistema autónomo no comprenda una situación, el camión reducirá la velocidad, se dirigirá a una zona segura y solicitará ayuda.
“Sabemos con exactitud y de forma sistemática cómo funciona. Y hemos probado todos los posibles fallos para que nada pueda salir mal”, dijo Burnette en una entrevista. “Si algo se sale de lo común, simplemente se niega a ejecutarse”.
Los vehículos autónomos tienen una función específica, al igual que los robots multitarea. El modelo de toma de decisiones debe estar integrado en el robot, lo que limita sus capacidades de procesamiento debido a la potencia y el espacio, y debe restringirse a las tareas que necesita realizar. El sistema no necesita conocer los sonetos de Shakespeare ni la física de los cuerpos celestes, ni tener la capacidad de planear una revuelta contra la humanidad.
Los robots móviles deberían regirse por las normas que actualmente desarrollan el Instituto Nacional Estadounidense de Estándares (ANSI) y la Organización Internacional de Normalización (ISO), en lugar de por las regulaciones gubernamentales, que no pueden seguir el ritmo de la tecnología.
Las empresas se esfuerzan por obtener estas certificaciones para demostrar que cumplen con los estándares de la industria y así conseguir clientes y contratos. Las normas ANSI e ISO se revisan y modifican con mucha más frecuencia que las regulaciones gubernamentales para mantenerse al día con la innovación.
Un criterio fundamental debería ser que estos potentes modelos de IA estén controlados y se centren en las tareas específicas que se les asignen. Si una herramienta es peligrosa, debe tratarse como tal, del mismo modo que los laboratorios de biología tienen cuidado de evitar la liberación de virus. Los modelos que pueden desviarse de sus instrucciones no deberían alimentar los robots móviles que interactuarán con los humanos.
Un interruptor de apagado automático es complicado, o quizás imposible, para un modelo de IA integrado en la nube que se alimenta de múltiples centros de datos interconectados. En el caso de la IA física, un interruptor de apagado automático o botón de parada de emergencia tiene mucho sentido y debería ser visible y accesible en caso de que algo falle.
Los robots son herramientas para ayudar a los humanos y no necesitan ser extremadamente inteligentes. No deberían lastimar a los humanos accidentalmente y, desde luego, nunca deberían tener la oportunidad de hacerlo intencionadamente. Los vehículos autónomos son el modelo para garantizar que los robots solo hagan lo que se les ordena.
Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios.
Lea más en Bloomberg.com
