La carrera de chatbots de IA entre Microsoft y Google está cargada de peligros

Bloomberg Opinión — Esto es algo que no se ve todos los días: Microsoft Corp. (MSFT) está presentando una herramienta de búsqueda web muy elegante. Y Google, cuya página de búsqueda apenas ha cambiado en 24 años, también se está apresurando para lanzar en las próximas semanas una herramienta renovada igual de atractiva. Parece que, oficialmente, la nueva guerra de los motores de chat ya está en marcha. Microsoft anunció el martes su esperada integración del bot ChatGPT de OpenAI en Bing y lo calificó de “copiloto para la web”. Google publicó horas antes un post en su blog sobre su propio chatbot para búsquedas, llamado Bard. Para Google en particular, podría ser el movimiento estratégico más arriesgado que ha hecho en años, un salto metafórico del sofá en el que la empresa ha estado relajándose durante demasiado tiempo.

Esta pugna entre dos gigantes tecnológicos que suelen moverse con lentitud -y cuyo objetivo final es nada menos que hacerse con el control de la próxima era de las búsquedas en línea- será complicada y estará plagada de riesgos. Ambas empresas utilizan sistemas de inteligencia artificial que han sido entrenados con miles de millones de palabras de la red pública, pero que también pueden ofrecer información incorrecta e incluso sesgada. Google también se arriesga a provocar una reacción violenta de los medios de comunicación en línea, fundamentales para su negocio.

Cuando se lanzó el año pasado, ChatGPT suscitó una oleada de admiración por sus creativas respuestas a las preguntas de los usuarios, pero desde entonces ha aumentado la preocupación por su comprensión de los hechos. No tenemos estadísticas sobre la frecuencia con la que ChatGPT da información incorrecta porque OpenAI no las facilita. Sólo dice que la herramienta está mejorando gracias a sus actualizaciones periódicas. Pero los errores son lo suficientemente frecuentes (entre el 5% y el 10% de las veces que la he utilizado) como para que los usuarios desconfíen cada vez más de todas sus respuestas.

Y a pesar de los estrictos filtros que impiden que el bot haga declaraciones políticas o incite al odio, los usuarios del popular foro Reddit han descubierto cómo incitar a ChatGPT a proferir diatribas cargadas de improperios contra sus creadores utilizando trucos de ingeniería social. La herramienta también ha utilizado, inexplicablemente, retórica prorrusa al responder a preguntas sobre la matanza de civiles en Ucrania.

Esto nos da una idea de los posibles tropiezos que nos esperan. A primera vista, parece que Google se está atreviendo a utilizar la nueva tecnología. En los ejemplos que Microsoft ha publicado sobre el nuevo Bing, parece que las respuestas del chatbot quedarán relegadas a un lado de la página, y no en el centro, donde estarán los resultados de búsqueda habituales. Las respuestas del bot también incluyen notas a pie de página y enlaces a las fuentes, algo que ChatGPT no hace, pero que hace que la herramienta de Microsoft parezca mucho más fiable.

En cambio, el propio ejemplo de Google sobre Bard mostraba una única respuesta resumida en el centro de la página, por encima de sus resultados de búsqueda y sin notas a pie de página, lo que significa que sería imposible para un usuario identificar la fuente. ¿Por qué? Tal vez porque Google está bajo presión para actuar con rapidez. El laboratorio de inteligencia artificial de la empresa, DeepMind, trabaja actualmente en un chatbot llamado Sparrow que citará las fuentes en sus respuestas a las consultas, según una reciente entrevista de la revista Time con el CEO de DeepMind, Demis Hassabis. Pero la nueva herramienta de Google no utiliza la tecnología de DeepMind, al menos de momento.

En ninguna demostración de las empresas aparecía una advertencia de que su herramienta podría dar respuestas inexactas, como hace ChatGPT. Deberían hacerlo. “Esta tecnología es mucho más madura de lo que era hace un año, pero aún está lejos de ser lo suficientemente robusta como para estar a la vanguardia”, dice Ori Goshen, cofundador de AI21 Labs, una startup israelí que vende acceso a un modelo de gran lenguaje que compite con GPT-3.5 de OpenAI. “Las grandes tecnológicas se han visto empujadas a mover ficha y la tecnología aún no está ahí”.

Empresas como OpenAI han intentado que sus modelos lingüísticos sean más precisos añadiendo miles de millones de parámetros más, ajustes que les ayudan a predecir palabras. Pero aumentar el tamaño de esos modelos no significa que vayan a ser mucho más precisos, y algunos investigadores sospechan que la precisión disminuye a medida que los modelos crecen. Subsanar esas pocas falsedades persistentes podría convertirse en un reto crónico tanto para Microsoft como para Google, del mismo modo que la tecnología de los vehículos autoconducidos lleva “casi lista” más de seis años.

Google también corre el riesgo de dañar sus relaciones con los medios que confían en la página de búsqueda de la empresa para atraer clics a sus sitios. La empresa dispone desde hace tiempo de la tecnología que podría haberle permitido introducir respuestas basadas en inteligencia artificial a las consultas de búsqueda -e incluso habló de ello en 2011-, pero nunca lo hizo porque eso perturbaría un negocio de US$150.000 millones que depende de que la gente haga clic en los resultados de búsqueda de Google. Ahora que se ha visto obligada a actuar, las búsquedas de Google podrían desviar la atención de otros sitios web, lo que podría provocar la ira de los medios, que ya han acusado a la empresa de abusar de su dominio en la publicidad online. (Descargo de responsabilidad: Bloomberg LP es un editor web que obtiene tráfico de las búsquedas de Google).

Sin embargo, los medios no pueden retrasar la inevitable marcha de la tecnología. Otras grandes empresas tecnológicas, como Meta Platforms Inc. (META) y Amazon.com Inc. (AMZN), se moverán para hacer sus propias jugadas con modelos de gran tamaño, lo que con el tiempo amenazará a los editores de escritos, música, vídeo y más. El cambio a este tipo de modelos será similar al que se produjo hace más de una década al pasar de los ordenadores de mesa a los móviles, un cambio que empresas como Facebook consiguieron de forma espectacular, mientras que otras, como Microsoft con su desafortunada compra de Nokia, fracasaron. Este giro será complicado, sobre todo porque los dos principales actores se están precipitando.

Esta nota no refleja necesariamente la opinión del consejo editorial o de Bloomberg LP y sus propietarios.