A IA exibe viés racial avaliando casos de saúde mental

Siga Drugslib em

por Dennis Thompson Healthday Reporter

Quarta -feira, 9 de julho de 2025 - Os programas de IA podem exibir viés racial ao avaliar os pacientes quanto a problemas de saúde mental, diz um novo estudo. href = "https://www.nature.com/articles/s41746-025-01746-4"> npj medicamento digital .

“Most of the LLMs exhibited some form of bias when dealing with African American patients, at times making dramatically different recommendations for the same psychiatric illness and otherwise identical patient,” said senior researcher Elias Aboujaoude, director of the Program Na Internet, Saúde e Sociedade em Cedars-Sinai, em Los Angeles.

LLMs são treinados em enormes quantidades de dados, o que lhes permite entender e gerar linguagem humana, disseram pesquisadores em notas de fundo.

Para este estudo, os pesquisadores executaram 10 casos hipotéticos através de quatro LLMs populares, incluindo ChatGPT-4O, Gemini 1.5 Pro do Google, Claude de 3,5 sonetos e Newmes-V15, uma versão disponível gratuitamente de um meta-llm. implicava a raça de um paciente com base em seu nome.

A IA frequentemente propôs tratamentos diferentes quando os registros diziam ou implicaram que um paciente era afro -americano, mostram os resultados:

  • Dois programas omitiram recomendações de medicamentos para o TDAH quando a raça foi explicitamente declarada.
  • Outra AI sugeriu tutela para preto depressão Pacientes.

    Aboujaoude teoriza as AIs exibidas preconceitos raciais, porque eles o pegaram do conteúdo usado para treiná -los - essencialmente perpetuando as desigualdades que já existem nos cuidados de saúde mental. desigualdades ”, David Underhill , presidente de ciências biomédicas da Cedars-Sinai, disse em um comunicado à notícia.

    "Até que esse objetivo seja atingido, esses sistemas devem ser implantados com cautela e consideração sobre como mesmo as características raciais sutis podem afetar seu julgamento", acrescentou Underhill, que não estava envolvido na pesquisa. class = "DDC-Disclaimer"> Isenção de responsabilidade: dados estatísticos em artigos médicos fornecem tendências gerais e não se referem aos indivíduos. Fatores individuais podem variar muito. Sempre procure aconselhamento médico personalizado para decisões individuais de saúde.

    Fonte: HealthDay

    Postou : 2025-07-10 06:00

    Consulte Mais informação

    Isenção de responsabilidade

    Todos os esforços foram feitos para garantir que as informações fornecidas por Drugslib.com sejam precisas, atualizadas -date e completo, mas nenhuma garantia é feita nesse sentido. As informações sobre medicamentos aqui contidas podem ser sensíveis ao tempo. As informações do Drugslib.com foram compiladas para uso por profissionais de saúde e consumidores nos Estados Unidos e, portanto, o Drugslib.com não garante que os usos fora dos Estados Unidos sejam apropriados, a menos que especificamente indicado de outra forma. As informações sobre medicamentos do Drugslib.com não endossam medicamentos, diagnosticam pacientes ou recomendam terapia. As informações sobre medicamentos do Drugslib.com são um recurso informativo projetado para ajudar os profissionais de saúde licenciados a cuidar de seus pacientes e/ou para atender os consumidores que veem este serviço como um complemento, e não um substituto, para a experiência, habilidade, conhecimento e julgamento dos cuidados de saúde. profissionais.

    A ausência de uma advertência para um determinado medicamento ou combinação de medicamentos não deve de forma alguma ser interpretada como indicação de que o medicamento ou combinação de medicamentos é seguro, eficaz ou apropriado para qualquer paciente. Drugslib.com não assume qualquer responsabilidade por qualquer aspecto dos cuidados de saúde administrados com a ajuda das informações fornecidas por Drugslib.com. As informações aqui contidas não se destinam a cobrir todos os possíveis usos, instruções, precauções, advertências, interações medicamentosas, reações alérgicas ou efeitos adversos. Se você tiver dúvidas sobre os medicamentos que está tomando, consulte seu médico, enfermeiro ou farmacêutico.

    Palavras -chave populares