Bloomberg — Cientos de investigadores en inteligencia artificial de Google, filial de Alphabet Inc. (GOOGL), firmaron una carta en la que instan al CEO, Sundar Pichai, a negarse a poner los sistemas de inteligencia artificial de la empresa a disposición de tareas clasificadas para misiones de defensa de Estados Unidos, según los organizadores de la iniciativa.
“Somos empleados de Google profundamente preocupados por las negociaciones en curso entre Google y el Departamento de Defensa de EE.UU.”, señala la carta a la que tuvo acceso Bloomberg News. “Como personas que trabajamos en IA, sabemos que estos sistemas pueden centralizar el poder y que cometen errores”.
Ver más: Google crea un fondo de US$750 millones para que consultoras adopten la IA
Los organizadores de la carta afirmaron que ha reunido más de 580 firmas, y que alrededor de dos tercios de los firmantes aceptaron que se revelara su nombre, mientras que aproximadamente un tercio solicitó el anonimato. Añadieron que se enviaría a Pichai el lunes.
Bloomberg habló con tres empleados que participaron en la organización de la carta, todos los cuales solicitaron el anonimato por temor a represalias. Los organizadores compartieron algunos de esos nombres con fines de verificación, pero Bloomberg no pudo comprobar la lista completa.
Un portavoz de Google no respondió de inmediato a una solicitud de comentarios.
La carta de protesta sigue de cerca al conflicto legal entre el Pentágono y Anthropic PBC sobre el uso de la IA para aplicaciones militares. El Pentágono busca excluir a Anthropic y su herramienta de IA Claude de las cadenas de suministro de defensa de EE.UU. y está buscando nuevos socios tecnológicos en el ámbito de IA.
La protesta de los trabajadores marca un nuevo intento por parte de empleados de Silicon Valley de restringir el uso de la IA y los riesgos asociados a estas herramientas en entornos clasificados de seguridad nacional. El Pentágono pretende invertir miles de millones de dólares en ampliar el uso militar de la IA y desarrollar armas autónomas.
Los empleados de Google fueron de los primeros en alertar sobre los riesgos de la guerra con IA en 2018 y obligaron a la empresa a limitar su trabajo en defensa. Sin embargo, los vínculos de la empresa con la industria de defensa estadounidense se han restablecido en los últimos años, y ha suavizado sus propias líneas rojas en materia de IA.
“Queremos que la IA beneficie a la humanidad, no que se utilice de formas inhumanas o extremadamente dañinas. Esto incluye las armas autónomas letales y la vigilancia masiva, pero va más allá”, señala la carta.
“Actualmente, la única forma de garantizar que Google no se vea asociado a tales daños es rechazar cualquier trabajo clasificado. De lo contrario, estos usos podrían producirse sin nuestro conocimiento o sin que tengamos el poder de detenerlos”.
Sofia Liguori, ingeniera de investigación en IA en Google DeepMind en Reino Unido, afirmó que firmó la carta porque considera que Google no ha discutido con los trabajadores ninguna línea roja concreta sobre el uso de su IA en redes clasificadas u otros sistemas. Además, cree que sería imposible para la empresa supervisar y limitar cómo se utilizan realmente sus herramientas de IA en sistemas clasificados “aislados”, es decir, separados de internet u otras redes no seguras.
Liguori, una física teórica formada cerca de Milán, indicó que la principal respuesta a las preocupaciones de los trabajadores sobre el uso de la IA de Google por parte del ejército estadounidense ha sido animar a la plantilla a confiar en que la dirección firmará buenos contratos.
“Pero todo se ha dejado muy en el aire”, dijo. “La IA autónoma es especialmente preocupante por el nivel de independencia que puede alcanzar. Es como entregar una herramienta muy poderosa al mismo tiempo que se renuncia a cualquier tipo de control sobre su uso”.
Ver más: Socias y rivales: Google planea invertir hasta US$40.000 millones en Anthropic
Los organizadores afirmaron que entre los firmantes de la carta hay más de 20 directores, directores sénior y vicepresidentes, además de varios empleados de alto rango de Google DeepMind, el laboratorio de investigación en IA de la empresa que busca mantener a Google a la vanguardia de la carrera de la IA mientras desarrolla aplicaciones que puedan beneficiar a la humanidad.
Una protesta en 2018 de los trabajadores de Google por la colaboración de la empresa con el ejército estadounidense marcó un punto álgido de tensión entre el Pentágono y Silicon Valley. Los empleados señalaron que se sintieron consternados al saber que Google se había comprometido a trabajar en lo que denominaron “el negocio de la guerra” en el marco del Proyecto Maven, una iniciativa del Pentágono para utilizar IA con el fin de detectar y analizar objetos en imágenes de video de drones.
Lea más en Bloomberg.com
