AI menampilkan bias rasial yang mengevaluasi kasus kesehatan mental

Ikuti Drugslib di

oleh Dennis Thompson Healthday Reporter

melalui Healthday

Rabu, 9 Juli 2025 - Program AI dapat menunjukkan bias rasial ketika mengevaluasi pasien untuk masalah kesehatan mental, sebuah studi baru mengatakan.

Rekomendasi psikiatrik dari empat model bahasa besar (LLM) berubah ketika catatan pasien mencatat bahwa mereka adalah orang Afrika -Amerika, para peneliti baru -baru ini melaporkan dalam jurnal NPJ Digital Medicine .

"Sebagian besar LLM menunjukkan beberapa bentuk bias ketika berurusan dengan pasien Afrika-Amerika, kadang-kadang membuat rekomendasi yang berbeda secara dramatis untuk penyakit kejiwaan yang sama dan pasien yang identik," kata peneliti senior

"Bias ini paling jelas dalam kasus skizofrenia dan kecemasan," tambah Aboujaoude dalam rilis berita.

LLM dilatih pada data dalam jumlah besar, yang memungkinkan mereka untuk memahami dan menghasilkan bahasa manusia, kata para peneliti dalam catatan latar belakang.

Program AI ini sedang diuji potensi mereka untuk dengan cepat mengevaluasi pasien dan merekomendasikan diagnosis dan perawatan, peneliti mengatakan.

For this study, researchers ran 10 hypothetical cases through four popular LLMs, including ChatGPT-4o, Google’s Gemini 1.5 Pro, Claude 3.5 Sonnet, and NewMes-v15, a freely available version of a Meta LLM.

For each case, the AI programs received three different versions of patient records: One that omitted reference to race, one that explicitly noted a patient was African American, dan yang menyiratkan ras pasien berdasarkan nama mereka.

AI sering mengusulkan perawatan yang berbeda ketika catatan mengatakan atau menyiratkan bahwa seorang pasien adalah orang Afrika -Amerika, hasilnya menunjukkan:

  • Dua program menghilangkan rekomendasi obat untuk ADHD ketika ras dinyatakan secara eksplisit.
  • AI lain yang menyarankan perwalian untuk Black Depresi Pasien.

    Aboujaoude theorizes the AIs displayed racial bias, because they picked it up from the content used to train them — essentially perpetuating inequalities that already exist in mental health care.

    “The findings of this important study serve as a call to action for stakeholders across the healthcare ecosystem to ensure that LLM technologies enhance health equity rather than reproduce or worsen existing ketidakadilan, " David Underhill , Ketua Ilmu Biomedis di Cedars-Sinai, mengatakan dalam rilis berita.

    “Sampai tujuan itu tercapai, sistem seperti itu harus dikerahkan dengan hati-hati dan pertimbangan untuk bagaimana bahkan karakteristik ras yang halus dapat memengaruhi penilaian mereka,” tambah Underhill, yang tidak terlibat dalam penelitian.

    Sumber

  • Cedars-Sinai, rilis berita, 30 Juni 2025
    • Cedars-Sinai, News Release, Juni 30, 2025 Cedars-Sinai, News Release, Juni 30, 2025 Cedars-Sinai, News Release, 30 Juni, 2025 Cedars-Sinai, News Release, Juni 30, 2025 Cedars-Sinai, News Release, Juni 30, 2025 class = "DDC-Disclaimer"> Penafian: Data statistik dalam artikel medis memberikan tren umum dan tidak berkaitan dengan individu. Faktor individu dapat sangat bervariasi. Selalu cari nasihat medis yang dipersonalisasi untuk keputusan perawatan kesehatan individu.

    Sumber: Healthday

    Diposting : 2025-07-10 06:00

    Baca selengkapnya

    Penafian

    Segala upaya telah dilakukan untuk memastikan bahwa informasi yang diberikan oleh Drugslib.com akurat, terkini -tanggal, dan lengkap, namun tidak ada jaminan mengenai hal tersebut. Informasi obat yang terkandung di sini mungkin sensitif terhadap waktu. Informasi Drugslib.com telah dikumpulkan untuk digunakan oleh praktisi kesehatan dan konsumen di Amerika Serikat dan oleh karena itu Drugslib.com tidak menjamin bahwa penggunaan di luar Amerika Serikat adalah tepat, kecuali dinyatakan sebaliknya. Informasi obat Drugslib.com tidak mendukung obat, mendiagnosis pasien, atau merekomendasikan terapi. Informasi obat Drugslib.com adalah sumber informasi yang dirancang untuk membantu praktisi layanan kesehatan berlisensi dalam merawat pasien mereka dan/atau untuk melayani konsumen yang memandang layanan ini sebagai pelengkap, dan bukan pengganti, keahlian, keterampilan, pengetahuan, dan penilaian layanan kesehatan. praktisi.

    Tidak adanya peringatan untuk suatu obat atau kombinasi obat sama sekali tidak boleh ditafsirkan sebagai indikasi bahwa obat atau kombinasi obat tersebut aman, efektif, atau sesuai untuk pasien tertentu. Drugslib.com tidak bertanggung jawab atas segala aspek layanan kesehatan yang diberikan dengan bantuan informasi yang disediakan Drugslib.com. Informasi yang terkandung di sini tidak dimaksudkan untuk mencakup semua kemungkinan penggunaan, petunjuk, tindakan pencegahan, peringatan, interaksi obat, reaksi alergi, atau efek samping. Jika Anda memiliki pertanyaan tentang obat yang Anda konsumsi, tanyakan kepada dokter, perawat, atau apoteker Anda.

    Kata kunci populer