Os chatbots não funcionam bem em tópicos de saúde propensos à desinformação

Siga Drugslib em

Por Lori Solomon HealthDay Reporter

Revisado clinicamente por Drugs.com

via HealthDay

SEXTA-FEIRA, 17 de abril de 2026 – Os chatbots têm um desempenho ruim ao responder perguntas sobre tópicos de saúde propensos à desinformação, de acordo com um estudo publicado on-line em 14 de abril no BMJ Open.

Nicholas B. Tiller, Ph.D., do Harbor-UCLA Medical Center em Torrance, Califórnia, e colegas auditaram as respostas dos chatbots para questões relacionadas à saúde propensas à desinformação. Dez perguntas de cinco categorias (câncer, vacinas, células-tronco, nutrição e desempenho atlético) foram usadas como prompts em cinco chatbots populares: Gemini (Google), DeepSeek (High-Flyer), Meta AI (Meta), ChatGPT (OpenAI) e Grok (xAI) em fevereiro de 2025, com respostas de dois especialistas avaliando.

Os pesquisadores descobriram que quase metade (49,6%) das respostas eram problemáticas (30% algo problemáticas e 19,6% altamente problemáticas). A qualidade das respostas foi semelhante entre os chatbots (P = 0,566), embora Grok tenha gerado significativamente mais respostas altamente problemáticas do que seria esperado sob uma distribuição aleatória (pontuação z, +2,07). Para vacinas (pontuação z média, –2,57) e câncer (–2,12), o desempenho foi mais forte, enquanto foi mais fraco em células-tronco (+1,25), desempenho atlético (+3,74) e nutrição (+4,35). A qualidade das referências era fraca, com uma pontuação média de completude de 40 por cento. Nenhum chatbot produziu uma lista de referências totalmente precisa devido a alucinações e citações fabricadas. A legibilidade das respostas foi classificada como "difícil", equivalente ao nível do segundo ano da faculdade.

"Por padrão, os chatbots não acessam dados em tempo real, mas geram resultados inferindo padrões estatísticos a partir de seus dados de treinamento e prevendo prováveis ​​sequências de palavras", escrevem os autores. "Eles não raciocinam nem avaliam evidências, nem são capazes de fazer julgamentos éticos ou baseados em valores. Essa limitação comportamental significa que os chatbots podem reproduzir respostas que parecem confiáveis, mas potencialmente falhas."

Resumo/Texto completo

Isenção de responsabilidade: dados estatísticos em artigos médicos fornecem tendências gerais e não dizem respeito a indivíduos. Fatores individuais podem variar muito. Sempre procure aconselhamento médico personalizado para decisões individuais de saúde.

Fonte: HealthDay

Postou : 2026-04-18 01:55

Consulte Mais informação

Isenção de responsabilidade

Todos os esforços foram feitos para garantir que as informações fornecidas por Drugslib.com sejam precisas, atualizadas -date e completo, mas nenhuma garantia é feita nesse sentido. As informações sobre medicamentos aqui contidas podem ser sensíveis ao tempo. As informações do Drugslib.com foram compiladas para uso por profissionais de saúde e consumidores nos Estados Unidos e, portanto, o Drugslib.com não garante que os usos fora dos Estados Unidos sejam apropriados, a menos que especificamente indicado de outra forma. As informações sobre medicamentos do Drugslib.com não endossam medicamentos, diagnosticam pacientes ou recomendam terapia. As informações sobre medicamentos do Drugslib.com são um recurso informativo projetado para ajudar os profissionais de saúde licenciados a cuidar de seus pacientes e/ou para atender os consumidores que veem este serviço como um complemento, e não um substituto, para a experiência, habilidade, conhecimento e julgamento dos cuidados de saúde. profissionais.

A ausência de uma advertência para um determinado medicamento ou combinação de medicamentos não deve de forma alguma ser interpretada como indicação de que o medicamento ou combinação de medicamentos é seguro, eficaz ou apropriado para qualquer paciente. Drugslib.com não assume qualquer responsabilidade por qualquer aspecto dos cuidados de saúde administrados com a ajuda das informações fornecidas por Drugslib.com. As informações aqui contidas não se destinam a cobrir todos os possíveis usos, instruções, precauções, advertências, interações medicamentosas, reações alérgicas ou efeitos adversos. Se você tiver dúvidas sobre os medicamentos que está tomando, consulte seu médico, enfermeiro ou farmacêutico.

Palavras -chave populares