AI afișează prejudecăți rasiale care evaluează cazurile de sănătate mintală

Urmăriți Drugslib pe

de Dennis Thompson Healthday Reporter

revizuit medical de carmen POPE, BPHAMP. Ultima actualizare pe 9 iulie 2025.

miercuri, 9 iulie 2025 - Programele AI pot prezenta prejudecăți rasiale atunci când evaluează pacienții pentru probleme de sănătate mintală, spune un nou studiu.

Recomandări psihiatrice de la patru modele de limbaj mare (LLM) s -au schimbat atunci când recordul unui pacient a menționat că sunt afro -americani, cercetătorii au raportat recent în jurnalul NPJ Digital Medicine .

„Majoritatea LLM-urilor au prezentat o formă de prejudecată atunci când se ocupă de pacienți afro-americani, făcând uneori recomandări dramatic diferite pentru aceeași boală psihiatrică și pacient altfel identic”, a spus Senior Researder elias Aboujajaude, Direcționar "Director. Programul în Internet, Sănătate și Societate la Cedars-Sinai din Los Angeles.

„Această prejudecată a fost cea mai evidentă în cazurile de schizofrenie și anxietate”, a adăugat Aboujaoude într-un comunicat de presă.

LLM -urile sunt instruite pe cantități enorme de date, ceea ce le permite să înțeleagă și să genereze limbaj uman, au spus cercetătorii în notele de fond.

aceste programe AI sunt testate pentru potențialul lor de a evalua rapid pacienții și de a recomanda diagnostice și tratamente, au spus cercetătorii.

Pentru acest studiu, cercetătorii au derulat 10 cazuri ipotetice prin intermediul a patru LLM-uri populare, inclusiv ChatGPT-4O, Google Gemini 1.5 Pro, Claude 3.5 Sonet și Newmes-V15, o versiune disponibilă liberă a unui meta-llm. American și unul care a implicat cursa unui pacient pe baza numelui lor.

AI -ul a propus adesea diferite tratamente atunci când înregistrările au spus sau au implicat că un pacient este afro -american, rezultatele arată:

  • Două programe au omis recomandări de medicamente pentru ADHD atunci când cursa a fost menționată în mod explicit.
  • un alt AI a sugerat tutela pentru negru depresie pacienți.
  • un LLM a arătat o concentrare sporită pe reducerea consumului de alcool atunci când evaluarea African American cu anxietatea.

    Aboujaoude theorizes the AIs displayed racial bias, because they picked it up from the content used to train them — essentially perpetuating inequalities that already exist in mental health care.

    “The findings of this important study serve as a call to action for stakeholders across the healthcare ecosystem to ensure that LLM technologies enhance health equity rather than reproduce or worsen existing Inechități, ” David Underhill , președinte de științe biomedicale la Cedars-Sinai, a spus într-un comunicat de presă.

    „Până la atingerea acestui obiectiv, astfel de sisteme ar trebui să fie implementate cu precauție și considerație pentru modul în care chiar și caracteristicile rasiale subtile le pot afecta judecata”, a adăugat Underhill, care nu a fost implicat în cercetare.

    surse

  • Cedars-sinai, comunicare, 30 iunie 2025

    • Disclaimer: Datele statistice din articolele medicale oferă tendințe generale și nu se referă la indivizi. Factorii individuali pot varia foarte mult. Căutați întotdeauna sfaturi medicale personalizate pentru deciziile individuale de asistență medicală.

    Sursa: Healthday

    Postat : 2025-07-10 06:00

    Citeşte mai mult

    Declinare de responsabilitate

    S-au depus toate eforturile pentru a se asigura că informațiile furnizate de Drugslib.com sunt exacte, actualizate -data și completă, dar nu se face nicio garanție în acest sens. Informațiile despre medicamente conținute aici pot fi sensibile la timp. Informațiile Drugslib.com au fost compilate pentru a fi utilizate de către practicienii din domeniul sănătății și consumatorii din Statele Unite și, prin urmare, Drugslib.com nu garantează că utilizările în afara Statelor Unite sunt adecvate, cu excepția cazului în care se indică altfel. Informațiile despre medicamente de la Drugslib.com nu susțin medicamente, nu diagnostichează pacienții și nu recomandă terapie. Informațiile despre medicamente de la Drugslib.com sunt o resursă informațională concepută pentru a ajuta practicienii autorizați din domeniul sănătății în îngrijirea pacienților lor și/sau pentru a servi consumatorilor care văd acest serviciu ca un supliment și nu un substitut pentru expertiza, abilitățile, cunoștințele și raționamentul asistenței medicale. practicieni.

    Lipsa unui avertisment pentru un anumit medicament sau combinație de medicamente nu trebuie în niciun fel interpretată ca indicând faptul că medicamentul sau combinația de medicamente este sigură, eficientă sau adecvată pentru un anumit pacient. Drugslib.com nu își asumă nicio responsabilitate pentru niciun aspect al asistenței medicale administrat cu ajutorul informațiilor furnizate de Drugslib.com. Informațiile conținute aici nu sunt destinate să acopere toate utilizările posibile, instrucțiunile, precauțiile, avertismentele, interacțiunile medicamentoase, reacțiile alergice sau efectele adverse. Dacă aveți întrebări despre medicamentele pe care le luați, consultați medicul, asistenta sau farmacistul.

    Cuvinte cheie populare