Bloomberg — Los chatbots impulsados por inteligencia artificial dan a los usuarios consejos médicos problemáticos casi la mitad de las veces, según un nuevo estudio, lo que pone de relieve los riesgos para la salud de esta tecnología cada vez más integrada en la vida cotidiana.
Investigadores de EE.UU., Canadá y el Reino Unido evaluaron cinco plataformas populares - ChatGPT, Gemini, Meta AI, Grok y DeepSeek - formulando a cada una de ellas 10 preguntas sobre cinco categorías de salud. Del total de respuestas, cerca del 50% se consideraron problemáticas, incluido casi un 20% que eran altamente problemáticas, según los resultados publicados esta semana en la revista médica BMJ Open.
Según el estudio, los chatbots obtuvieron resultados relativamente mejores en las preguntas cerradas y en las relacionadas con las vacunas y el cáncer, y peores en las preguntas abiertas y en áreas como las células madre y la nutrición.
Las respuestas se dieron a menudo con confianza y seguridad, aunque ningún chatbot produjo una lista de referencias totalmente completa y precisa en respuesta a ninguna de las preguntas, señalaron los investigadores. Solo hubo dos negativas a responder a una pregunta, ambas de Meta AI.
Los resultados ponen de relieve la creciente preocupación por el uso que se hace de las plataformas de IA generativa, que no están autorizadas para dar consejos médicos y carecen del juicio clínico necesario para realizar diagnósticos.
El crecimiento explosivo de los chatbots de IA los ha convertido en una herramienta popular para las personas que buscan orientación sobre sus dolencias y OpenAI ha afirmado que más de 200 millones de personas hacen preguntas sobre salud y bienestar a ChatGPT cada semana. La plataforma anunció en enero herramientas de salud tanto para usuarios cotidianos como para médicos, y Anthropic dijo el mismo mes que su producto Claude lanzaba una nueva oferta de atención sanitaria.
Uno de los principales riesgos del despliegue de chatbots sin educación y supervisión públicas es que podrían amplificar la desinformación, señalaron los autores del estudio BMJ Open.
Los hallazgos “ponen de relieve importantes limitaciones de comportamiento y la necesidad de reevaluar cómo se despliegan los chatbots de IA en la comunicación médica y sanitaria de cara al público”, escribieron. Estos sistemas pueden generar “respuestas que suenen autoritarias pero potencialmente erróneas”, escribieron.
Lea más en Bloomberg.com
