Elon Musk ha dicho que Grok, el chatbot de xAI, es “la IA más inteligente del mundo”. ¿Y quién puede culparlo? Después de todo, Grok hace poco afirmó que la “inteligencia de Musk está entre las 10 mentes más brillantes de la historia, y que rivaliza con genios como Da Vinci o Newton gracias a sus innovaciones transformativas en varios campos”.
Más aún, el bot ha explicado que su jefe “supera” al icónico jugador de baloncesto LeBron James “en aptitud física holística”, le ganaría en una pelea al múltiple campeón mundial de peso pesado Mike Tyson y es “el mejor amante del mundo”.
Musk afirma que estas respuestas fueron resultado de una “incitación adversarial“, una forma de engañar a las IA para que dieran respuestas para las que no fueron diseñadas. Y desde la avalancha inicial de elogios, Grok ha suavizado sus respuestas. Cuando se le hacen preguntas similares hoy, sigue elogiando a Musk con insistencia, pero ya no lo considera mejor atleta que James y afirma que algunas de sus declaraciones anteriores fueron irónicas.
Aparte de lo gracioso que fue el último intento del chatbot por quedar bien, el incidente nos recuerda que, como ya he dicho antes, la IA es más un potenciador que un correctivo de las patologías gerenciales.
Mientras cada vez más directores ejecutivos acallan las voces disidentes dentro de sus organizaciones, Grok nos ofrece un ejemplo dramático de por qué esa tendencia natural del ser humano a rodearnos de aduladores y serviles es incluso más peligrosa en la era de la IA, y particularmente peligrosa para las compañías que se afanan por crear nuevas y cada vez mejores.
Las organizaciones aduladoras producen IAs defectuosas debido a dos características inherentes a la naturaleza de estos sistemas.
En primer lugar, se desarrollan, no se diseñan. Eso implica que nunca hacen exactamente lo que se quiere; por el contrario, son creaciones probabilísticas cuyas tendencias son moldeables, pero cuyo comportamiento es, en esencia, algo aleatorio.
Dudo que los responsables de Grok se propusieran expresamente crear un chatbot que describiese a Musk como el paradigma de todas las virtudes. No obstante, si la cultura de xAI les llevó a pensar que la adulación era un enfoque ganador con su famoso y temperamental jefe, esa es una de las conclusiones que inevitablemente se reflejaría en la tecnología.
Segundo, el comportamiento de los sistemas de inteligencia artificial, incluyendo sus sesgos, es un reflejo de los datos con los que han sido entrenados. Grok fue entrenado en parte con datos de X, un sitio que, bajo la gestión de Musk, ha cambiado y usa algoritmos para incrementar su alcance e influencia. Dedique unos minutos a X y verá que todas las publicaciones de Musk se sitúan cerca de la parte superior de su feed, y que cada una de ellas es respondida por un número aparentemente infinito de fans (o bots). Todo ello crea un patrón evidente que no hace falta ser una IA superinteligente para darse cuenta: Musk siempre tiene razón. Entrenado con esos datos, lo único sorprendente es que Grok tardase tanto en revelar sus tendencias.
Sin embargo, esto no se limita exclusivamente a Musk y Grok. Numerosas organizaciones se han construido en torno a la complacencia de los caprichos de la persona que ocupa el cargo más alto. Esto resulta especialmente llamativo, de hecho, entre las grandes empresas de Silicon Valley que invierten decenas de miles de millones en inteligencia artificial.
El CEO de Meta Platforms Inc. (META), Mark Zuckerberg, dio una vez una presentación inaugural con una camiseta que decía “aut Zuck, aut nihil” (traducción aproximada: “o Zuckerberg o nada”). Fácilmente descartable como una declaración de moda descarada, hasta que se considera la forma en que ha reinventado la empresa con su nueva imagen de “energía masculina” este año.
La adulación es, por supuesto, un peligro para toda organización, un peligro que los líderes conscientes toman medidas para contrarrestar. Y el reciente escándalo de Grok demuestra cuánto más peligroso es para las empresas que desarrollan IA. Sea cual sea la tecnología que esperen que tenga, los sistemas que creen reflejarán la cultura real, no la que se promueve, de su organización. Los líderes inteligentes que desean crear el futuro de la IA deberían empezar por maximizar la inteligencia natural de sus empleados. Y solo pueden lograrlo creando un entorno donde la verdad, y no la adulación, sea la norma real.
Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios.
Lea más en Bloomberg.com
