Bloomberg — Dos semanas antes de que la junta de una agencia ambiental del sur de California votara en mayo una serie de iniciativas climáticas consideradas históricas, el personal interno emitió una advertencia. Una “campaña agresiva” desde una “plataforma impulsada por IA”, señalaron a los directivos, estaba saturando sus servidores con miles de correos de la ciudadanía en contra de las propuestas para eliminar gradualmente los calentadores de agua a gas y los sistemas de calefacción en casi la mitad de las viviendas del estado.
Funcionarios del South Coast Air Quality Management District intentaron averiguar quién estaba detrás del aluvión de mensajes —y si los correos eran reales—, según documentos obtenidos por Bloomberg News mediante una solicitud de registros públicos.
Un mensaje enviado a un administrador del distrito aéreo provenía de un amigo que aseguró no haberlo escrito. Otro supuestamente estaba firmado por el propio director ejecutivo de la agencia, Wayne Nastri. (Más tarde recibió un correo de un grupo que se oponía a las propuestas, agradeciéndole “por expresar su oposición a estas normas costosas”, reglas que su propio equipo había redactado).
VER MÁS: Una semana turbulenta para la IA obliga a inversores a ser más selectivos en sus apuestas
La subdirectora de Nastri, Lisa Tanaka O’Malley, planteó una hipótesis: “Me pregunto si usaron IA para rastrear correos electrónicos y enviaron una campaña masiva”. Un intento del organismo por verificar los mensajes no fue concluyente: los funcionarios contactaron a 172 personas que habían comentado, pero solo cinco respondieron; dos confirmaron haber enviado las cartas y tres negaron haberlo hecho.
Finalmente, la junta del distrito aéreo votó siete a cinco en contra de las propuestas elaboradas por su propio personal.
Desde California hasta Nueva York y Carolina del Norte, planes recientes para nuevos proyectos energéticos o regulaciones ambientales han generado volúmenes inusualmente altos de comentarios públicos, desconcertando a funcionarios locales y estatales. Originados en campañas pagas y generados con herramientas de automatización e inteligencia artificial, esos mensajes expresaban casi de forma uniforme apoyo a los combustibles fósiles o rechazo a restricciones sobre su uso, además de respaldo a otras políticas favorecidas por intereses corporativos.
No está del todo claro de qué manera estas campañas utilizaron IA ni cuánto influyeron en los responsables de las decisiones. Pero su sola existencia ha generado preocupación por el uso de estas herramientas para distorsionar la opinión pública en temas ya polarizados, y ha impulsado debates sobre cómo proteger los procesos democráticos de actores malintencionados.
“Los comentarios públicos son fundamentales para el funcionamiento de la democracia”, dijo Samuel Woolley, experto en desinformación de la Universidad de Pittsburgh. “Lo han sido desde la antigua Atenas”. Cuando los ciudadanos pueden opinar sobre proyectos y políticas, los gobiernos tienden a ser más transparentes y a considerar una gama más amplia de posiciones.
Sin embargo, la apertura del sistema también lo vuelve vulnerable a la manipulación, especialmente en la era de la IA.
La vocera del South Coast Air District, Connie Villanueva, dijo que la agencia estudia formas de filtrar comentarios potencialmente generados por IA, incluida la creación de un portal que requiera verificación humana adicional. “Mantener la integridad y la transparencia del proceso de comentarios públicos es una prioridad”, afirmó.
Grupos activistas, incluido el Sierra Club, pidieron una investigación sobre la campaña del año pasado. “Es extremadamente preocupante, porque si los funcionarios electos y los reguladores no pueden confiar en los comentarios que reciben, eso socava el proceso de toma de decisiones públicas”, dijo Dylan Plummer, asesor del Sierra Club.
Villanueva indicó que el distrito aéreo no puede comentar sobre posibles investigaciones.
“Si los funcionarios electos y los reguladores no pueden confiar en los comentarios que reciben, eso socava el proceso de toma de decisiones públicas”
La firma CiviClick, con sede en Washington D. C., detrás de los correos enviados a la agencia, promete a sus clientes que puede usar IA para crear de inmediato cartas personalizadas de simpatizantes “a la escala de una campaña masiva”. Sin embargo, no todos los clientes utilizan esa función. Los consultores políticos que dirigieron la campaña del sur de California no la emplearon, según la empresa.
“Para ser precisos: no se utilizó IA”, escribió la compañía en una publicación. “Ninguna inteligencia artificial, aprendizaje automático o generación automática de texto tocó los mensajes enviados en ese flujo de trabajo”.
Aun así, los críticos sostienen que la IA se está convirtiendo en una nueva herramienta para un problema antiguo: el “astroturfing”, campañas diseñadas para parecer espontáneas cuando en realidad están organizadas por intereses corporativos o políticos. La automatización ya había amplificado este tipo de esfuerzos de “falsa base social”, señaló Woolley, quien agregó: “El uso de IA generativa en este contexto lo pone todo en esteroides”.
CiviClick también estuvo detrás de una campaña en Nueva York que envió casi 10.000 correos en nombre de miembros sindicales a favor del uso continuo del gas natural en un plan energético estatal que terminó siendo aprobado. Sin embargo, aproximadamente la mitad de las cartas fueron enviadas después del cierre del período de comentarios públicos.
Ese no fue el único problema. En el sur de California, la empresa envió más de 12.000 mensajes en cinco días, pero cerca de 10.000 terminaron en filtros de spam, según registros oficiales. En Carolina del Norte, la energética Williams Cos. utilizó su software para mostrar apoyo popular a la expansión de un gasoducto, aunque funcionarios expresaron escepticismo inmediato.
“Algo no cuadraba”, dijo el comisionado Dan Besse, citando el volumen y el horario inusual de los mensajes. Algunos residentes afirmaron no haber enviado los comentarios atribuidos a ellos.
Consultado al respecto, el CEO de CiviClick, Chazz Clevinger, negó que la empresa falsifique identidades o correos. Afirmó que los mensajes fueron enviados por personas reales y que las discrepancias pueden deberse a olvidos, envíos en nombre de terceros o errores técnicos.
La empresa Williams Cos. también negó irregularidades. “En cualquier campaña de alto volumen es posible que algunas personas no recuerden haber enviado el correo, pero contamos con registros de tiempo e IP que confirman cada envío”, dijo una vocera.
Notablemente, estas campañas comenzaron a generar alarma entre reguladores en otras regiones. “¡Necesitamos defensas ya!”, escribió en febrero Rich Chien, funcionario del Bay Area Air District, tras la cobertura del caso en el sur de California.
Para entonces, otra firma, Speak4, que también promueve el uso de IA para “personalizar mensajes a escala”, ya estaba enviando correos a esa agencia.
Las autoridades de California, Nueva York y Carolina del Norte detectaron estos envíos masivos porque provenían de direcciones de correo idénticas. Los textos también se parecían a campañas previas de presión: más formularios que narrativas personales. Pero eso podría cambiar pronto.
En Berkeley, California, una campaña del grupo East Bay Alliance for Public Safety intensificó la presión antes de una votación sobre la instalación de cámaras de vigilancia y drones por parte del Departamento de Policía. El contrato, de 2 millones de dólares, ampliaría un vínculo existente con Flock Safety, una empresa con sede en Atlanta.
“Dile a los líderes de Berkeley que apoyen barrios más seguros. Responde una pregunta rápida para generar un mensaje personalizado y hacer oír tu voz”, decía uno de los mensajes enviados a un periodista de Bloomberg News que vive en la ciudad.
El enlace llevaba a un sitio operado por Influent, una firma de marketing digital de Los Ángeles que ofrece herramientas de “recolección de datos personalizados que aprovechan el poder de la IA para ayudar a los usuarios a redactar materiales personales”.
Primero se preguntaba: “¿Cuál es su postura sobre las cámaras de seguridad en Berkeley?”. Si la respuesta era “en contra”, el usuario era agradecido por participar en una encuesta. Si era “a favor”, se pedía una anécdota personal sobre delitos sufridos y datos de contacto. Luego, en segundos, el sistema generaba un borrador de correo personalizado para enviar a autoridades.
En pruebas repetidas con la misma anécdota, los textos generados variaban en lenguaje, estructura y tono, sugiriendo el uso de IA generativa.
“Es frustrante cuando el delito impacta directamente en tu vida”, decía uno de los correos, mientras otro afirmaba: “Este tipo de situaciones me hace preocuparme por la seguridad en nuestra ciudad”.
En contraste, una campaña de la firma Action Network envió decenas de correos casi idénticos de residentes de Berkeley en contra de las cámaras, fácilmente identificables como mensajes masivos.
La campaña de Influent no. “No estábamos al tanto de esa campaña y, hasta donde sabemos, no recibimos esos mensajes”, dijo la directora de comunicaciones del alcalde de Berkeley, Melissa Male.
Ninguna de las organizaciones implicadas respondió a pedidos de entrevista.
VER MÁS: Nuevos fondos de cobertura están utilizando bots de IA para competir con gigantes del sector
Plummer, del Sierra Club, señaló que estas campañas asistidas por IA parecen diseñadas para dar una falsa impresión de participación ciudadana auténtica.
El concejal de Berkeley Brent Blackaby recordó haber recibido correos con relatos personales similares a los generados por Influent. Aun así, sostuvo que estos mensajes son solo uno de varios factores en la toma de decisiones públicas.
“Agrega complejidad a la hora de evaluar qué tan representativo es esto de las personas a las que representamos”, dijo.
Finalmente, en Berkeley, la movilización presencial tradicional —reuniones y campaña puerta a puerta— terminó teniendo más peso. En mayo, la mayoría del consejo municipal, que inicialmente apoyaba el contrato con Flock, votó en contra de su aprobación.
Lea más en Bloomberg.com
