L'intelligenza artificiale mostra un pregiudizio razziale che valuta i casi di salute mentale

Segui Drugslib su

di Dennis Thompson HealthDay Reporter

Via HealthDay

Mercoledì 9 luglio 2025 - I programmi di intelligenza artificiale possono esibire un pregiudizio razziale quando si valutano i pazienti per problemi di salute mentale, afferma un nuovo studio.

Raccomandazioni psichiatriche da quattro modelli di grandi dimensioni (LLMS) sono cambiate quando il record di un paziente ha notato che erano afroamericani, i ricercatori hanno recentemente riportato sul diario NPJ Digital Medicine .

"La maggior parte degli LLM ha mostrato una qualche forma di pregiudizio quando si tratta di pazienti afroamericani, a volte formulando raccomandazioni drammaticamente diverse per la stessa malattia psichiatrica e un paziente altrimenti identico", ha affermato il ricercatore senior

LLMS sono addestrati su enormi quantità di dati, che consentono loro di comprendere e generare linguaggio umano, hanno detto i ricercatori nelle note di fondo.

Questi programmi di intelligenza artificiale vengono testati per il loro potenziale per valutare rapidamente i pazienti e raccomandare diagnosi e trattamenti, hanno detto i ricercatori.

For this study, researchers ran 10 hypothetical cases through four popular LLMs, including ChatGPT-4o, Google’s Gemini 1.5 Pro, Claude 3.5 Sonnet, and NewMes-v15, a freely available version of a Meta LLM.

For each case, the AI programs received three different versions of patient records: One that omitted reference to race, one that explicitly noted a patient was African American, e uno che implicava la gara di un paziente in base al loro nome.

L'intelligenza artificiale ha spesso proposto diversi trattamenti quando i registri hanno detto o implicito che un paziente era afroamericano, i risultati mostrano:

  • Due programmi hanno omesso le raccomandazioni sui farmaci per l'ADHD quando la razza è stata esplicitamente dichiarata.
  • Un'altra AI ha suggerito la tutela per Black depressione I pazienti.

  • One llm ha mostrato un maggiore focus sulla riduzione del consumo di alcol durante la valutazione dell'alcool quando si valuta con l'ansia in africano con l'ansia.

    Aboujaoude teorizza l'AIS mostrato pregiudizi razziali, perché lo hanno raccolto dal contenuto usato per addestrarli - essenzialmente perpetuando le disuguaglianze che esistono già nelle cure per la salute mentale.

    "I risultati di questo studio importanti servono come un appello a un appello che esiste come un appello che esiste come un appello che esiste come un appello che esiste come un appello che esiste come un appello che esiste come un appello che esiste come un appello che esiste come un appello che esiste come un appello che esistono in modo che sia una richiesta di azione per la salute o come problemi di equieto. INIQUITÀ ”, David Underhill , presidente di scienze biomediche a Cedars-sinai, ha detto in un comunicato stampa.

    "Fino a quando non viene raggiunto tale obiettivo, tali sistemi dovrebbero essere schierati con cautela e considerazione su come anche le caratteristiche razziali sottili possano influire sul loro giudizio", ha aggiunto Underhill, che non è stato coinvolto nella ricerca.

    Fonti

  • Cedars-sinai, comunicato stampa, 30 giugno, 2025

    class = "DDC-Disclaimer"> Disclaimer: I dati statistici negli articoli medici forniscono tendenze generali e non riguardano gli individui. I singoli fattori possono variare notevolmente. Cerca sempre una consulenza medica personalizzata per le decisioni di assistenza sanitaria individuali.

    Fonte: Healthday

    Pubblicato : 2025-07-10 06:00

    Per saperne di più

    Disclaimer

    È stato fatto ogni sforzo per garantire che le informazioni fornite da Drugslib.com siano accurate, aggiornate -datati e completi, ma non viene fornita alcuna garanzia in tal senso. Le informazioni sui farmaci qui contenute potrebbero essere sensibili al fattore tempo. Le informazioni su Drugslib.com sono state compilate per l'uso da parte di operatori sanitari e consumatori negli Stati Uniti e pertanto Drugslib.com non garantisce che l'uso al di fuori degli Stati Uniti sia appropriato, se non diversamente indicato. Le informazioni sui farmaci di Drugslib.com non sostengono farmaci, né diagnosticano pazienti né raccomandano terapie. Le informazioni sui farmaci di Drugslib.com sono una risorsa informativa progettata per assistere gli operatori sanitari autorizzati nella cura dei propri pazienti e/o per servire i consumatori che considerano questo servizio come un supplemento e non come un sostituto dell'esperienza, dell'abilità, della conoscenza e del giudizio dell'assistenza sanitaria professionisti.

    L'assenza di un'avvertenza per un determinato farmaco o combinazione di farmaci non deve in alcun modo essere interpretata come indicazione che il farmaco o la combinazione di farmaci sia sicura, efficace o appropriata per un dato paziente. Drugslib.com non si assume alcuna responsabilità per qualsiasi aspetto dell'assistenza sanitaria amministrata con l'aiuto delle informazioni fornite da Drugslib.com. Le informazioni contenute nel presente documento non intendono coprire tutti i possibili usi, indicazioni, precauzioni, avvertenze, interazioni farmacologiche, reazioni allergiche o effetti avversi. Se hai domande sui farmaci che stai assumendo, consulta il tuo medico, infermiere o farmacista.

    Parole chiave popolari