Bloomberg — SpaceX de Elon Musk y su subsidiaria de propiedad absoluta xAI están compitiendo en un nuevo y secreto concurso del Pentágono para producir tecnología de enjambres de drones autónomos controlados por voz, según personas familiarizadas con el asunto.
La entrada de las dos empresas de Musk -que anunció a principios de febrero que se fusionarían- en una nueva frontera del desarrollo de armas con IA marca un nuevo y potencialmente controvertido punto de partida para Musk. Aunque SpaceX es un contratista de defensa bien establecido y Musk está entusiasmado con el avance de la IA, se encuentra entre los que también han argumentado anteriormente en contra de fabricar “nuevas herramientas para matar a la gente”.
Las empresas de Musk se encuentran entre las pocas seleccionadas para competir en el desafío de US$100 millones lanzado en enero, según personas familiarizadas con el asunto, que solicitaron el anonimato para hablar de temas delicados. Hasta ahora no se había informado de la participación de SpaceX y xAI.
SpaceX y xAI no respondieron a las solicitudes de comentarios.
El concurso, de seis meses de duración, tiene como objetivo producir una tecnología de enjambre avanzada que pueda traducir las órdenes de voz en instrucciones digitales y hacer funcionar múltiples drones.
Si bien ya es posible volar varios drones a la vez, desarrollar el software para dirigirlos en el mar y el aire como un enjambre —que puede moverse de forma autónoma en busca de un objetivo— sigue siendo un desafío. El concurso se desarrollará por fases, según el éxito y el interés de los participantes, según las fuentes.
El concurso del Pentágono fue lanzado conjuntamente por la Unidad de Innovación de Defensa, que se dedica a atraer a las startups de Silicon Valley, y el Grupo de Guerra Autónoma de Defensa, un nuevo elemento lanzado bajo la segunda administración Trump que forma parte del Mando de Operaciones Especiales de EE.UU. El DAWG continúa en parte el trabajo de la iniciativa Replicator de la era Biden, que pretendía producir varios miles de drones autónomos prescindibles.
La DIU no respondió a una solicitud de comentarios. El Mando de Operaciones Especiales, que dirige el DAWG, declinó hacer comentarios.
El esfuerzo se desarrollará en cinco fases, empezando por el desarrollo del software y avanzando hasta las pruebas en la vida real. Un funcionario de defensa indicó en el anuncio de enero del concurso que los aviones no tripulados se utilizarán con fines ofensivos, diciendo que la interacción hombre-máquina “tendrá un impacto directo en la letalidad y la eficacia de estos sistemas”.
Autorizaciones de seguridad
xAI se ha embarcado recientemente en una oleada de contrataciones para reclutar ingenieros de Washington o de la costa oeste con habilitación de seguridad estadounidense activa en los niveles “secreto” o “alto secreto” para trabajar con contratistas federales, según la página web de la empresa. Está buscando ingenieros de software que estén acostumbrados a trabajar con “agencias gubernamentales, el Departamento de Defensa o contratistas federales en proyectos de IA, software o datos”, decía en un anuncio de empleo, añadiendo que el proceso de contratación se completaría en una semana.
La empresa ya ha firmado contratos con el Pentágono para integrar su chatbot Grok en los sitios gubernamentales para “empoderar a militares y civiles”, dijo xAI en diciembre. Anteriormente había conseguido un contrato de US$200 millones con el Pentágono para integrar xAI en los sistemas militares.
Aunque SpaceX es un contratista de defensa desde hace mucho tiempo, la empresa se ha centrado en fabricar cohetes espaciales reutilizables y satélites para la exploración espacial, comunicaciones militares y sistemas de inteligencia, en lugar de software para armas ofensivas. SpaceX, junto con Boeing Co. y Lockheed Martin Corp., son los proveedores estadounidenses de cohetes para el lanzamiento de los satélites más sensibles del Pentágono.
Musk ya ha abogado anteriormente por la prohibición de armas autónomas ofensivas que puedan seleccionar y atacar sus propios objetivos y operar más allá del control humano significativo.
En 2015, Musk firmó una carta abierta de investigadores de IA y robótica que advertía contra los peligros del armamento autónomo.
xAI, que Musk puso en marcha en 2023, es propietaria de la startup de IA de Musk, la red social X y el chatbot Grok. La empresa, que hace apenas unas semanas acordó fusionarse con SpaceX en una operación valorada en US$1,25 billones, arrastra una deuda de miles de millones de dólares, está asediada por rivales bien financiados y se enfrenta a un creciente escrutinio regulador después de que su chatbot difundiera imágenes sexualizadas. Además, sus ingresos son escasos en comparación con los de SpaceX.
Cuando las dos acordaron fusionarse, un comunicado de Musk en la página web de SpaceX decía que la empresa había adquirido xAI para “formar el motor de innovación verticalmente integrado más ambicioso de la Tierra (y de fuera de ella), con IA, cohetes, Internet espacial, comunicaciones directas a dispositivos móviles y la plataforma de información en tiempo real y libertad de expresión más importante del mundo”.
Musk no dijo nada sobre la combinación de las dos empresas para ofrecer IA que proporcione software para apuntalar la novedosa tecnología armamentística. Pero la nueva empresa del Pentágono, en la que participarán ingenieros y directivos tanto de xAI como de SpaceX, tratará de hacer precisamente eso.
La primera fase del concurso se centraría únicamente en el desarrollo de software, antes de utilizar plataformas reales más adelante. El software está destinado a coordinar los movimientos de los aviones no tripulados en múltiples dominios, como por aire y por mar, según una descripción de la tarea realizada por el Pentágono. Las fases posteriores prevén el desarrollo de la “concienciación y compartición de objetivos” y, en última instancia, el “lanzamiento hasta la terminación”.
xAI no es la única empresa de IA avanzada que trabaja en el nuevo esfuerzo del Pentágono. OpenAI está apoyando una presentación exitosa de Applied Intuition, informó Bloomberg anteriormente, citando la oferta de presentación y a personas familiarizadas con el asunto.
OpenAI limitará su contribución al proyecto únicamente al elemento de “control de misión” que convertirá la voz y otras instrucciones de los comandantes del campo de batalla en instrucciones digitales, según el documento de presentación revisado por Bloomberg. La tecnología de OpenAI no se utilizaría para el funcionamiento del enjambre de drones, la integración de armas o la autoridad de apuntar, según informó Bloomberg anteriormente.
Un portavoz de OpenAI dijo que la tecnología de código abierto de la empresa se incluyó en las ofertas de concurso de dos empresas asociadas existentes diferentes y que OpenAI se aseguraría de que cualquier uso de sus herramientas fuera coherente con su política de uso.
En cambio, se espera que SpaceX y xAI trabajen juntos en todo el proyecto, según personas familiarizadas con el asunto.
La perspectiva de integrar chatbots y comandos de voz a texto en las plataformas de armamento ha alarmado incluso a algunos funcionarios de defensa, a pesar del afán del Pentágono por acelerar la adopción de la IA y la autonomía, según varias de esas personas. Dijeron que sería importante limitar la IA generativa a la traducción y no permitir que controle el comportamiento de los drones.
Varias de las personas expresaron su preocupación por los riesgos si la IA generativa se utilizara para traducir la voz en decisiones operativas sin un humano en el bucle.
La medida se produce en un momento en el que los empleados de los principales laboratorios se han marchado tras expresar una serie de otras preocupaciones éticas sobre la industria de la IA, incluso cuando las principales empresas de IA generativa presionan para obtener ingresos que respalden la investigación y el desarrollo en curso. Entre ellos se incluye una investigadora de OpenAI que dijo estar preocupada por los anuncios en ChatGPT, y un investigador de Anthropic que dimitió públicamente, planteando preocupaciones más amplias sobre el desarrollo de la IA.
Los grandes modelos lingüísticos, en los que se basan chatbots como ChatGPT de OpenAI, son propensos a los sesgos y a las llamadas alucinaciones, lo que significa que pueden generar resultados que no están anclados en la realidad pero que la IA puede presentar como fiables.
La nueva Estrategia de Aceleración de la IA del Pentágono, publicada en enero, pretende “dar rienda suelta” a los agentes de IA para el campo de batalla, desde la planificación de campañas militares hasta la selección de objetivos, lo que podría implicar ataques letales.
Los contratos de defensa han sido históricamente controvertidos dentro de las empresas de tecnología de consumo, incluyendo protestas significativas en Google en 2018 sobre el esfuerzo del Pentágono llamado Proyecto Maven que pretendía utilizar IA para analizar imágenes de drones.
Con la colaboración de Carmen Arroyo, Loren Grush y Tony Capaccio.
Lea más en Bloomberg.com
