AI toont raciale vooringenomenheid die gevallen van geestelijke gezondheid evalueert

Volg Drugslib op

door Dennis Thompson HealthDay Reporter

via gezondheidsday

Woensdag 9 juli 2025 - AI -programma's kunnen raciale vooringenomenheid vertonen bij het evalueren van patiënten op psychische problemen, zegt een nieuwe studie, zegt een nieuwe studie.

Psychiatrische aanbevelingen van vier grote taalmodellen (LLMS) veranderden toen het dossier van een patiënt opgemerkt was dat ze Afro -Amerikaans waren, onderzoekers onlangs gerapporteerd in het tijdschrift NPJ Digital Medicine .

"De meeste LLM's vertoonden een vorm van vooringenomenheid bij het omgaan met Afro-Amerikaanse patiënten, die soms dramatisch verschillende aanbevelingen doen voor dezelfde psychiatrische ziekte en anders identieke patiënt," zei senior onderzoeker

LLM's zijn getraind op enorme hoeveelheden gegevens, waardoor ze de menselijke taal kunnen begrijpen en genereren, zeiden onderzoekers in achtergrondnotities.

Deze AI -programma's worden getest op hun potentieel om patiënten snel te evalueren en diagnoses en behandelingen aan te bevelen, zeiden onderzoekers.

Voor deze studie hebben onderzoekers 10 hypothetische gevallen uitgevoerd via vier populaire LLMS, waaronder Chatgpt-4O, Google's Gemini 1.5 Pro, Claude 3.5 Sonnet en Newmes-V15, een vrij beschikbare versie van een meta LLM.

voor elk geval, de AI-programma's ontvingen drie verschillende versies van Patient, One That Explicity, die expliciet is, een van de Patient-American, een van de Patient-American, een van de Patient-American, een van de Patient-American, een van de Patient-American, een van de Patient Was African, One That Explicity, die expliciet is. en een die het ras van een patiënt impliceerde op basis van hun naam.

De AI stelde vaak verschillende behandelingen voor toen de gegevens zeiden of impliceerden dat een patiënt Afro -Amerikaan was, laten de resultaten zien:

  • Twee programma's hebben medicatie -aanbevelingen voor ADHD weggelaten toen race expliciet werd vermeld.
  • Een andere AI stelde voogdij voor zwart depressie "> Depressie"> Depressie "> Depressie"> Depressie Patiënten.
  • One llm toonde een verhoogde focus op het gebruik van alcoholgebruik bij evaluatie van evaluatie bij het evalueren van Afrikaan-Amerikanen met angst.

    Aboujaoude theorizes the AIs displayed racial bias, because they picked it up from the content used to train them — essentially perpetuating inequalities that already exist in mental health care.

    “The findings of this important study serve as a call to action for stakeholders across the healthcare ecosystem to ensure that LLM technologies enhance health equity rather than reproduce or worsen existing ongelijkheden, " David Underhill , voorzitter van Biomedical Sciences bij Cedars-Sinai, zei in een nieuwsbericht.

    "Totdat dat doel is bereikt, moeten dergelijke systemen worden ingezet met voorzichtigheid en overweging voor hoe zelfs subtiele raciale kenmerken hun oordeel kunnen beïnvloeden," voegde Underhill toe, die niet betrokken was bij het onderzoek.

    bronnen

  • Cedars-Sinai, News Release, NEWSVERKREIDINGEN, NEWSCHEMPEN, NEWSCHIEKSCHEIDSRESENTIE, NEWSCHIEKEN class = "DDC-Disclaimer"> Disclaimer: statistische gegevens in medische artikelen bieden algemene trends en hebben geen betrekking op individuen. Individuele factoren kunnen sterk variëren. Zoek altijd gepersonaliseerd medisch advies voor individuele beslissingen in de gezondheidszorg.

    Bron: HealthDay

    Geplaatst : 2025-07-10 06:00

    Lees verder

    Disclaimer

    Er is alles aan gedaan om ervoor te zorgen dat de informatie die wordt verstrekt door Drugslib.com accuraat en up-to-date is -datum en volledig, maar daarvoor wordt geen garantie gegeven. De hierin opgenomen geneesmiddelinformatie kan tijdgevoelig zijn. De informatie van Drugslib.com is samengesteld voor gebruik door zorgverleners en consumenten in de Verenigde Staten en daarom garandeert Drugslib.com niet dat gebruik buiten de Verenigde Staten gepast is, tenzij specifiek anders aangegeven. De geneesmiddeleninformatie van Drugslib.com onderschrijft geen geneesmiddelen, diagnosticeert geen patiënten of beveelt geen therapie aan. De geneesmiddeleninformatie van Drugslib.com is een informatiebron die is ontworpen om gelicentieerde zorgverleners te helpen bij de zorg voor hun patiënten en/of om consumenten te dienen die deze service zien als een aanvulling op en niet als vervanging voor de expertise, vaardigheden, kennis en beoordelingsvermogen van de gezondheidszorg. beoefenaars.

    Het ontbreken van een waarschuwing voor een bepaald medicijn of een bepaalde medicijncombinatie mag op geen enkele manier worden geïnterpreteerd als een indicatie dat het medicijn of de medicijncombinatie veilig, effectief of geschikt is voor een bepaalde patiënt. Drugslib.com aanvaardt geen enkele verantwoordelijkheid voor enig aspect van de gezondheidszorg die wordt toegediend met behulp van de informatie die Drugslib.com verstrekt. De informatie in dit document is niet bedoeld om alle mogelijke toepassingen, aanwijzingen, voorzorgsmaatregelen, waarschuwingen, geneesmiddelinteracties, allergische reacties of bijwerkingen te dekken. Als u vragen heeft over de medicijnen die u gebruikt, neem dan contact op met uw arts, verpleegkundige of apotheker.

    Populaire zoekwoorden