Bloomberg — Google, de Alphabet Inc. (GOOGL), planea introducir nuevas funciones de apoyo a la salud mental en su chatbot Gemini, ya que la compañía y sus rivales, como OpenAI, se han enfrentado a varias demandas que acusan a sus herramientas de inteligencia artificial de causar daños.
Gemini añadirá una interfaz que dirigirá a los usuarios del chatbot a una línea telefónica de apoyo cuando la conversación indique “una crisis potencial relacionada con el suicidio o las autolesiones”, según informó Google el martes en una entrada de su blog. Además, la compañía está añadiendo un módulo de “ayuda disponible” para los chats sobre salud mental y ajustes de diseño para desalentar las autolesiones.
La rápida explosión de herramientas como Gemini y ChatGPT ha llevado a algunos usuarios a establecer relaciones obsesivas con bots de IA, lo que supuestamente ha contribuido a delirios y, en casos extremos, a asesinatos-suicidios. Varias familias han demandado a los principales desarrolladores de IA por este asunto. El Congreso ha estudiado las amenazas potenciales que los chatbots suponen para niños y adolescentes.
Ver más: Ingresos de US$30.000 millones de Anthropic impulsaron su acuerdo con Broadcom y Google
En marzo, la familia de un hombre de 36 años fallecido en Florida demandó a Google, alegando que su uso de Gemini culminó en un “descenso de cuatro días en misiones violentas y suicidio dirigido”. En aquel momento, Google dijo que el chatbot remitió al hombre a una línea de ayuda en caso de crisis en numerosas ocasiones, pero prometió mejorar las salvaguardas de la herramienta.
En otros casos, los usuarios de chatbot han afirmado que las herramientas de IA les convencieron para actuar basándose en falsedades evidentes. En la entrada del blog del martes, Google dijo que ha entrenado a Gemini “para que no esté de acuerdo con falsas creencias ni las refuerce y, en su lugar, distinga con delicadeza la experiencia subjetiva del hecho objetivo”. La empresa no dio más detalles sobre este proceso.
En el pasado, Google ha realizado ajustes similares en sus populares servicios tras enfrentarse al escrutinio, añadiendo información de instituciones sanitarias y profesionales a su motor de búsqueda y a YouTube.
Google también dijo el martes que iba a donar US$30 millones a servicios de apoyo a crisis mundiales durante los próximos tres años.
Lea más en Bloomberg.com
