La fiebre del oro de la IA llevará a la humanidad a lugares oscuros

Bloomberg Opinión — Escanear los globos oculares de la humanidad a cambio de criptomonedas y asignar los resultados codificados a una blockchain es el tipo de idea distópica que podría haber avivado un boom especulativo durante la pandemia, antes de acabar estrellándose y dejando tras de sí un reguero de inversores enfadados. Pero con el interés por la inteligencia artificial alcanzando magnitudes cada vez mayores, esta arriesgada solución para demostrar en el mundo digital que uno es efectivamente una persona está cobrando un nuevo impulso.

Worldcoin, respaldada por personalidades como Marc Andreessen y Sam Bankman-Fried, comenzó como una forma de crear un token valioso regalándolo a personas dispuestas a identificarse mediante sus datos biométricos. Lo que el proyecto denomina eufemísticamente su fase de “pruebas de campo” consistió en escanear medio millón de iris utilizando una esfera cromada apodada “el orbe”, lo que dio lugar a innumerables denuncias de explotación, invasión de la privacidad, engaño e intento de fraude. La historia podría haber terminado ahí.

Pero a medida que el invierno de las criptomonedas da paso a un abrasador verano de la IA en el campo de la recaudación de fondos tecnológicos, el proyecto aspira a una nueva vida más alineada con la visión de otro Sam: Altman, cofundador de la matriz de Worldcoin, “Tools for Humanity”. Esos escáneres de iris, convertidos en identificadores únicos, son la pieza central de un plan para crear un “World ID” que pueda distinguir entre personas y bots en un futuro dominado por la IA. Con la estrella de Altman en lo alto del firmamento de Silicon Valley, el orbe se embarca en una gira mundial acompañada de una aplicación que ofrece criptotransacciones. El Financial Times informa de que Worldcoin, valorada en US$1.000 millones, está a punto de conseguir US$100 millones de financiación adicional.

La fuerza del complejo de salvador de la tecnología está aquí expuesta, y tanto los reguladores como los ciudadanos deben mantener la guardia a nivel colectivo. No hace falta ser un globalista que asiste a Davos para ver los beneficios de una Internet con menos bots y más humanos confirmados. Pero tampoco hace falta ser un Bitcoiner o un activista de la privacidad para ver los riesgos. Incluso si no se puede rastrear hasta su origen, un escáner de iris es un dato sensible y entregarlo debería requerir un consentimiento informado sobre dónde irá a parar. La Fundación Worldcoin tiene su sede en el paraíso fiscal de las Islas Caimán, su proceso de asignación de fichas digitales es opaco y su base de datos de 1,7 millones de códigos de iris requiere fe en la exactitud de la información subyacente. ¿Por qué debería alguien valorar esto como un torniquete digital fiable para todo, desde los servicios financieros hasta la renta básica universal?

Del mismo modo que los que proponen soluciones a través de la tecnología ofrecen compañeros de IA como respuesta a la soledad causada por las redes sociales, esta propuesta de solución a los efectos secundarios de las herramientas de IA, como ChatGPT, el software generativo lanzado al mundo por la empresa OpenAI de Altman, amenaza con crear aún más consecuencias no deseadas. TechCrunch ya ha informado que piratas informáticos han robado las credenciales de varios de sus “operadores” de orbe de élite -esencialmente reclutadores que ganan dinero por cada inscripción-, aunque Worldcoin afirma que no se accedió a datos personales de los usuarios. Worldcoin también ha identificado unos cientos de casos de fraude relacionados con el envío de códigos generados por el iris a una aplicación de terceros, tras los informes de un mercado negro de los códigos en territorios como China, donde la startup no opera. Si la mejor tecnología es indistinguible de la magia, la eficacia de World ID como la mejor forma de derrotar a los bots maliciosos se parece más a una ilusión óptica.

Tiago Sada, jefe de producto de Worldcoin, me dice que ha habido menos resistencia al proyecto por parte de los consumidores de lo esperado, pero admite que el lanzamiento es complicado y que “a cada persona le gustan partes diferentes”. Dice que hoy se podría argumentar que la aplicación Worldcoin está ayudando a la humanidad al ofrecer criptotransferencias, y que en el futuro añadir un documento de identidad digital podría ayudar a algunos países a acceder a servicios financieros.

Es poco probable que la mala prensa y las malas vibraciones disuadan a los partidarios de Worldcoin en medio de la fiebre del oro de la inteligencia artificial. Otra startup respaldada por Altman, Humane, recaudó recientemente US$100 millones a pesar de no tener ni producto ni beneficios: dice estar colaborando con OpenAI y se asociará con los servicios en la nube de Microsoft Corp. Imaginemos que Worldcoin forme parte de esta red algún día, con orbes más pequeños y omnipresentes que hoy y con comprobaciones del código del iris que hagan las veces de los CAPTCHA de la era de la IA y que incluso aumenten el valor de OpenAI. El modelo de ingresos podría implicar el cobro de tasas por la autenticación, lo que sin duda inflaría el valor de los tokens Worldcoin para los primeros poseedores. No exactamente humano para la mayoría de nosotros, pero alineado con la visión del mundo de Palo Alto de mejorar la humanidad a través de experimentos utilitarios basados en datos - incluso si la académica Margie Cheesman llama a Worldcoin un “experimento-estafa”.

Lo que ocurra después dependerá de la capacidad de esos operadores orbitales para mantener a la gente inscrita, de si los criptobarristas se dejan seducir por la ola de entusiasmo por todo lo relacionado con la IA y de lo decididos que estén los reguladores a levantar el capó de Worldcoin. Cuando se le preguntó a principios de este mes cuándo se distribuirían los tokens de Worldcoin, Altman dijo que los estadounidenses podrían “no recibirlos nunca” debido a la regulación de las criptomonedas. Claramente consternado por el estado de las criptomonedas en los EE.UU., dijo: “Se supone que los europeos deben hacerlo, pero nosotros no”. Si los europeos no sacan a relucir sus músculos de privacidad de datos echando un vistazo más de cerca a esos orbes, el auge de la IA llevará a la humanidad a lugares bastante oscuros.

Esta nota no refleja necesariamente la opinión del consejo editorial o de Bloomberg lp y sus propietarios.