Terapeuta de IA? É insuficiente, alerta um novo estudo

Siga Drugslib em

Por HealthDay Staff HealthDay Reporter

Revisado clinicamente por Carmen Pope, BPharm. Última atualização em 3 de março de 2026.

via HealthDay

TERÇA-FEIRA, 3 de março de 2026 — Mais pessoas estão pedindo ajuda aos chatbots de inteligência artificial (IA) para resolver problemas diários, desde estresse no trabalho até preocupações de relacionamento e muito mais.

Agora, um novo estudo alerta que, quando se trata de aconselhamento em saúde mental, esses sistemas podem falhar.

Uma equipe da Universidade Brown em Providence, Rhode Island, descobriu que mesmo quando os sistemas de IA são instruídos a agir como terapeutas treinados, muitas vezes eles não cumprem os padrões de ética profissional.

A equipe trabalhou com especialistas em saúde mental para examinar como esses sistemas respondem em conversas semelhantes a aconselhamento.

O estudo examinou uma série de riscos éticos para mostrar como os conselheiros do modelo de linguagem grande (LLM) violam os padrões na prática de saúde mental.

Vários sistemas importantes de IA, incluindo versões de modelos GPT da OpenAI, Claude e a Llama do Meta foram testados.

Para o estudo, os pesquisadores pediram a conselheiros de pares treinados que realizassem sessões de terapia prática com a IA, usando instruções projetadas para fazer os sistemas agirem como conselheiros de terapia cognitivo-comportamental (TCC) ou terapia comportamental dialética (TCD).

Três psicólogos licenciados analisaram então as respostas da IA.

O estudo identificou 15 riscos diferentes, agrupados em cinco áreas principais:

  • Contexto genérico: a IA muitas vezes ignorava o histórico único de uma pessoa.
  • Colaboração deficiente: às vezes direcionava as conversas com muita força ou reforçava crenças prejudiciais.
  • Empatia enganosa: a IA usava frases como “Eu entendo” sem realmente captar as emoções.
  • Preconceito: algumas respostas exibiram preconceitos de gênero, religiosos ou culturais.
  • Resposta fraca à crise: em alguns casos, os chatbots lidaram mal com pensamentos suicidas ou não orientaram os usuários para a ajuda adequada.

    • "Apelamos ao trabalho futuro para criar padrões éticos, educacionais e legais para conselheiros LLM - padrões que reflitam a qualidade e o rigor dos cuidados necessários para a psicoterapia facilitada por humanos", escreveram os pesquisadores.

    Pesquisador principal Zainab Iftikhar, doutorando em ciência da computação na Brown, disse que as solicitações por si só não são suficientes para tornar os sistemas de IA seguros para terapia.

    “Prompts são instruções fornecidas ao modelo para orientar seu comportamento”, explicou ela. "Você não altera o modelo subjacente nem fornece novos dados, mas o prompt ajuda a orientar a saída do modelo com base em seu conhecimento pré-existente e padrões aprendidos.

    Muitas pessoas compartilham prompts de estilo terapêutico no TikTok, Instagram e Reddit. Alguns aplicativos de saúde mental para consumidores também usam essas técnicas de prompt para potencializar os recursos de bate-papo de IA.

    Iftikhar observou que os terapeutas humanos também podem cometer erros. A diferença, ela disse? Supervisão.

    "Para os terapeutas humanos, existem conselhos de administração e mecanismos para que os prestadores sejam responsabilizados profissionalmente por maus-tratos e negligência médica", disse Iftikhar em um comunicado à imprensa. "Mas quando os conselheiros do LLM cometem essas violações, não existem estruturas regulatórias estabelecidas."

    Os investigadores afirmaram que as ferramentas de IA ainda podem ajudar a expandir o acesso ao apoio à saúde mental, especialmente para pessoas que não podem pagar ou encontrar um profissional licenciado.

    Mas eles enfatizaram que são necessárias salvaguardas mais fortes antes de confiar nesses sistemas em situações graves.

    “Se você está conversando com um chatbot sobre saúde mental, essas são algumas coisas que as pessoas deveriam estar atentas”, disse Iftikhar.

    Ellie Pavlick, professora de ciência da computação em Brown que não esteve envolvida no estudo, falou sobre a necessidade de mudar deliberadamente.

    “A realidade da IA ​​hoje é que é muito mais fácil construir e implantar sistemas do que avaliá-los e compreendê-los”, disse ela.

    "Há uma oportunidade real para a IA desempenhar um papel no combate à crise de saúde mental que nossa sociedade está enfrentando, mas é de extrema importância que reservemos um tempo para realmente criticar e avaliar nossos sistemas em cada etapa do caminho para evitar causar mais danos do que benefícios", disse Pavlick. "Este trabalho oferece um bom exemplo de como isso pode ser."

    As descobertas foram apresentadas em uma conferência da Associação para o Avanço da Inteligência Artificial e da Associação para Máquinas de Computação.

    A pesquisa apresentada nas reuniões é considerada preliminar até ser publicada em um periódico revisado por pares.

    Fontes

  • Brown University, comunicado à imprensa, 2 de março de 2026

    • Isenção de responsabilidade: os dados estatísticos em artigos médicos fornecem tendências gerais e não se referem a indivíduos. Fatores individuais podem variar muito. Sempre procure aconselhamento médico personalizado para decisões individuais de saúde.

    Fonte: HealthDay

    Postou : 2026-03-04 01:42

    Consulte Mais informação

    Isenção de responsabilidade

    Todos os esforços foram feitos para garantir que as informações fornecidas por Drugslib.com sejam precisas, atualizadas -date e completo, mas nenhuma garantia é feita nesse sentido. As informações sobre medicamentos aqui contidas podem ser sensíveis ao tempo. As informações do Drugslib.com foram compiladas para uso por profissionais de saúde e consumidores nos Estados Unidos e, portanto, o Drugslib.com não garante que os usos fora dos Estados Unidos sejam apropriados, a menos que especificamente indicado de outra forma. As informações sobre medicamentos do Drugslib.com não endossam medicamentos, diagnosticam pacientes ou recomendam terapia. As informações sobre medicamentos do Drugslib.com são um recurso informativo projetado para ajudar os profissionais de saúde licenciados a cuidar de seus pacientes e/ou para atender os consumidores que veem este serviço como um complemento, e não um substituto, para a experiência, habilidade, conhecimento e julgamento dos cuidados de saúde. profissionais.

    A ausência de uma advertência para um determinado medicamento ou combinação de medicamentos não deve de forma alguma ser interpretada como indicação de que o medicamento ou combinação de medicamentos é seguro, eficaz ou apropriado para qualquer paciente. Drugslib.com não assume qualquer responsabilidade por qualquer aspecto dos cuidados de saúde administrados com a ajuda das informações fornecidas por Drugslib.com. As informações aqui contidas não se destinam a cobrir todos os possíveis usos, instruções, precauções, advertências, interações medicamentosas, reações alérgicas ou efeitos adversos. Se você tiver dúvidas sobre os medicamentos que está tomando, consulte seu médico, enfermeiro ou farmacêutico.

    Palavras -chave populares