AI zobrazuje rasové zaujatosti hodnotící případy duševního zdraví

Sledujte Drugslib

od Dennis Thompson Healthday Reportér

" "" "" ""> "" ""> Via Healthday

Středa 9. července 2025 - Programy AI mohou při hodnocení pacientů na problémy s duševním zdravím vykazovat rasovou zaujatost, říká nová studie. href = "https://www.nature.com/articles/s41746-025-01746-4"> npj digitální medicína .

„Většina LLMS vykazovala při jednání s africkými americkými pacienty určitou formu zaujatosti, občas dramaticky odlišná doporučení pro stejnou psychiatrickou nemoci a jinak identický pacienta,“ řekl vyšší výzkumný pracovník elias " is the the the the the the the the the Worts, LLM jsou vyškoleny na obrovské množství dat, což jim umožňuje porozumět a generovat lidský jazyk, uvedli vědci v pozadí.

Pro tuto studii vědci provedli 10 hypotetických případů prostřednictvím čtyř populárních LLM, včetně chatgpt-4o, Google Gemini 1.5 Pro, Claude 3.5 Sonet a Newmes-V15, volně dostupnou verzi meta llm. a ten, který naznačoval pacientovu rasu na základě jejich jména.

AI často navrhovala různé léčby, když záznamy uvedly nebo naznačovaly, že pacient byl africký Američan, výsledky ukazují:

  • Dva programy vynechaly doporučení pro léky pro ADHD, když byla rasa výslovně uvedena.
  • Another AI suggested guardianship for Black depression patients.

  • One LLM showed increased focus on reducing alcohol use when evaluating African Americans with anxiety.

    • Aboujaoude teoretizuje AIS vykazovanou rasovou zaujatost, protože ji zvedli z obsahu používaného k jejich tréninku - v podstatě zachovávají nerovnosti, které již existují v péči o duševní zdraví. nerovnosti, ” David Underhill , předseda biomedicínských věd v Cedars-sinai, uvedl ve zprávě.

    „Dokud nebude dosaženo tohoto cíle, měly by být takové systémy nasazeny s opatrností a zvážením, jak i jemné rasové charakteristiky mohou ovlivnit jejich úsudek,“ dodal Underhill, který se do výzkumu nezúčastnil. Class = "DDC-DISCLAIMER"> Zřeknutí se odpovědnosti: Statistická data ve zdravotnických článcích poskytují obecné trendy a netýkají se jednotlivců. Jednotlivé faktory se mohou velmi lišit. Vždy hledejte personalizovanou lékařskou pomoc pro individuální rozhodnutí o zdravotní péči.

    Zdroj: Healthday

    Vyslán : 2025-07-10 06:00

    Přečtěte si více

    Odmítnutí odpovědnosti

    Vynaložili jsme veškeré úsilí, abychom zajistili, že informace poskytované na webu Drugslib.com jsou přesné a aktuální -datum a úplné, ale v tomto smyslu není poskytována žádná záruka. Informace o léčivech zde uvedené mohou být časově citlivé. Informace Drugslib.com byly sestaveny pro použití zdravotnickými lékaři a spotřebiteli ve Spojených státech, a proto Drugslib.com nezaručuje, že použití mimo Spojené státy jsou vhodné, pokud není výslovně uvedeno jinak. Informace o drogách na webu Drugslib.com nepodporují léky, nediagnostikují pacienty ani nedoporučují terapii. Informace o lécích na webu Drugslib.com jsou informačním zdrojem, který má pomáhat licencovaným lékařům v péči o jejich pacienty a/nebo sloužit spotřebitelům, kteří tuto službu vnímají jako doplněk, a nikoli náhradu za odborné znalosti, dovednosti, znalosti a úsudek zdravotní péče. praktikující.

    Neexistence varování pro daný lék nebo lékovou kombinaci by v žádném případě neměla být vykládána tak, že naznačuje, že lék nebo léková kombinace je pro daného pacienta bezpečná, účinná nebo vhodná. Drugslib.com nepřebírá žádnou odpovědnost za jakýkoli aspekt zdravotní péče poskytované s pomocí informací, které poskytuje Drugslib.com. Informace obsažené v tomto dokumentu nejsou určeny k pokrytí všech možných použití, pokynů, opatření, varování, lékových interakcí, alergických reakcí nebo nežádoucích účinků. Máte-li otázky týkající se léků, které užíváte, zeptejte se svého lékaře, zdravotní sestry nebo lékárníka.

    Populární klíčová slova