Los chatbots no funcionan bien en temas de salud propensos a la desinformación

Siga a Drugslib en

Por Lori Solomon HealthDay Reporter

Revisado médicamente por Drugs.com

vía HealthDay

VIERNES, 17 de abril de 2026: los chatbots funcionan mal al responder preguntas sobre temas de salud propensos a la desinformación, según un estudio publicado en línea el 14 de abril en BMJ Open.

Nicholas B. Tiller, Ph.D., del Centro Médico Harbor-UCLA en Torrance, California, y sus colegas auditaron las respuestas de los chatbots para preguntas relacionadas con la salud propensas a la desinformación. Se utilizaron diez preguntas de cinco categorías (cáncer, vacunas, células madre, nutrición y rendimiento deportivo) como indicaciones en cinco chatbots populares: Gemini (Google), DeepSeek (High-Flyer), Meta AI (Meta), ChatGPT (OpenAI) y Grok (xAI) en febrero de 2025, y dos expertos calificaron las respuestas.

Los investigadores encontraron que casi la mitad (49,6 por ciento) de las respuestas eran problemáticas (30 por ciento algo problemáticas y 19,6 por ciento muy problemáticas). La calidad de las respuestas fue similar entre los chatbots (P = 0,566), aunque Grok generó respuestas significativamente más problemáticas de lo que se esperaría bajo una distribución aleatoria (puntuación z, +2,07). Para las vacunas (puntuación z media, –2,57) y el cáncer (–2,12), el rendimiento fue más fuerte, mientras que fue más débil en las células madre (+1,25), el rendimiento deportivo (+3,74) y la nutrición (+4,35). La calidad de las referencias fue deficiente, con una puntuación media de integridad del 40 por ciento. Ningún chatbot produjo una lista de referencias completamente precisa debido a alucinaciones y citas inventadas. La legibilidad de las respuestas se calificó como "difícil", equivalente al nivel universitario de segundo a último año.

"De forma predeterminada, los chatbots no acceden a datos en tiempo real, sino que generan resultados infiriendo patrones estadísticos a partir de sus datos de entrenamiento y prediciendo probables secuencias de palabras", escriben los autores. "No razonan ni sopesan evidencia, ni son capaces de hacer juicios éticos o basados ​​en valores. Esta limitación de comportamiento significa que los chatbots pueden reproducir respuestas que suenan autoritarias pero potencialmente defectuosas".

Resumen/Texto completo

Descargo de responsabilidad: Los datos estadísticos en artículos médicos proporcionan tendencias generales y no pertenecen a individuos. Los factores individuales pueden variar mucho. Busque siempre asesoramiento médico personalizado para decisiones de atención médica individuales.

Fuente: HealthDay

Al corriente : 2026-04-18 01:55

Leer más

Descargo de responsabilidad

Se ha hecho todo lo posible para garantizar que la información proporcionada por Drugslib.com sea precisa, hasta -fecha y completa, pero no se ofrece ninguna garantía a tal efecto. La información sobre medicamentos contenida en este documento puede ser urgente. La información de Drugslib.com ha sido compilada para uso de profesionales de la salud y consumidores en los Estados Unidos y, por lo tanto, Drugslib.com no garantiza que los usos fuera de los Estados Unidos sean apropiados, a menos que se indique específicamente lo contrario. La información sobre medicamentos de Drugslib.com no respalda medicamentos, ni diagnostica a pacientes ni recomienda terapias. La información sobre medicamentos de Drugslib.com es un recurso informativo diseñado para ayudar a los profesionales de la salud autorizados a cuidar a sus pacientes y/o para servir a los consumidores que ven este servicio como un complemento y no un sustituto de la experiencia, habilidad, conocimiento y criterio de la atención médica. practicantes.

La ausencia de una advertencia para un determinado medicamento o combinación de medicamentos de ninguna manera debe interpretarse como una indicación de que el medicamento o la combinación de medicamentos es seguro, eficaz o apropiado para un paciente determinado. Drugslib.com no asume ninguna responsabilidad por ningún aspecto de la atención médica administrada con la ayuda de la información que proporciona Drugslib.com. La información contenida en este documento no pretende cubrir todos los posibles usos, instrucciones, precauciones, advertencias, interacciones medicamentosas, reacciones alérgicas o efectos adversos. Si tiene preguntas sobre los medicamentos que está tomando, consulte con su médico, enfermera o farmacéutico.

Palabras clave populares