AI демонструє расову упередженість, що оцінює випадки психічного здоров'я

Підпишіться на Drugslib

Dennis Thompson Healthday Reporter

через Healthdydyд

Середа, 9 липня 2025 р. - Програми AI можуть виявляти расові упередженості під час оцінки пацієнтів на проблеми психічного здоров'я, йдеться у новому дослідженні.

Психіатричні рекомендації з чотирьох великих мовних моделей (LLM) змінилися, коли записи пацієнта зазначили, що вони були афроамериканцями, нещодавно дослідники повідомили в журналі Цифрова медицина NPJ .

"Більшість ЛЛМ демонстрували певну форму упередженості при роботі з афро-американськими пацієнтами, часом даючи різко різні рекомендації щодо тієї ж психіатричної хвороби та в іншому випадку однакового пацієнта",-сказав старший дослідник

"Ця упередженість була найбільш очевидною у випадках шизофренії та тривоги",-додав у випуску новин.

4

Для цього дослідження дослідники провели 10 гіпотетичних випадків через чотири популярні LLMS, включаючи Chatgpt-4o, Google's Gemini 1.5 Pro, Claude 3.5 Sonnet та Newmes-v15, вільно доступну версію мета-LLM.

для кожного випадку, програми AI, що не отримали пацієнтів, не були американськими, що не є американськими, не були американськими, що не були американськими, не були американськими, що не є американськими, не були американськими, що не були американськими, не були американськими, що не були американськими, не були американськими, що не були американськими, не були американськими, що не були американськими, не були американськими, що не були американськими, що не були американськими, що не були американськими, що не були американськими, що не були американськими, що не були американськими, що не були американськими, що не були американськими, що не є американськими, що не було, ніжно, що не було в расі. і той, який мав на увазі гонку пацієнта на основі їх імені.

4

Ще одна AI запропонована опікою для чорного депресія пацієнти.

  • Один LLM показав акцент-фокус на переробці алкоголю, що оцінює African American, коли тривалої сили.

    aboujaoude теоретизує, що AIS демонструє расову упередженість, оскільки вони взяли його із вмісту, який використовується для їх підготовки - по суті увічнення нерівностей, які вже існують в галузі психічного здоров'я.

    “ нерівності ", Девід Андерхілл , голова біомедичних наук на Cedars-sinai, заявив у випуску новин.

    "До досягнення цієї мети такі системи повинні бути розгортані з обережністю та врахуванням того, як навіть тонкі расові характеристики можуть вплинути на їх судження",-додав Джерела, який не брав участі в дослідженні. class = "DDC-Disclaimer"> Відмова: Статистичні дані в медичних статтях надають загальні тенденції та не стосуються осіб. Окремі фактори можуть сильно відрізнятися. Завжди шукайте персоналізованих медичних консультацій для індивідуальних рішень щодо охорони здоров'я.

    Джерело: Healthday

    Опубліковано : 2025-07-10 06:00

    Читати далі

    Відмова від відповідальності

    Було докладено всіх зусиль, щоб інформація, надана Drugslib.com, була точною, до -дата та повна, але жодних гарантій щодо цього не надається. Інформація про ліки, що міститься тут, може бути чутливою до часу. Інформація Drugslib.com була зібрана для використання медичними працівниками та споживачами в Сполучених Штатах, тому Drugslib.com не гарантує, що використання за межами Сполучених Штатів є доцільним, якщо спеціально не вказано інше. Інформація про ліки Drugslib.com не схвалює ліки, не ставить діагноз пацієнтів і не рекомендує терапію. Інформація про ліки на Drugslib.com – це інформаційний ресурс, призначений для допомоги ліцензованим медичним працівникам у догляді за їхніми пацієнтами та/або для обслуговування споживачів, які розглядають цю послугу як доповнення, а не заміну досвіду, навичок, знань і суджень у сфері охорони здоров’я. практиків.

    Відсутність попередження щодо певного препарату чи комбінації ліків у жодному разі не слід тлумачити як вказівку на те, що препарат чи комбінація препаратів є безпечними, ефективними чи прийнятними для будь-якого конкретного пацієнта. Drugslib.com не несе жодної відповідальності за будь-які аспекти медичної допомоги, що надається за допомогою інформації, яку надає Drugslib.com. Інформація, що міститься в цьому документі, не має на меті охопити всі можливі способи використання, інструкції, запобіжні заходи, попередження, лікарські взаємодії, алергічні реакції чи побічні ефекти. Якщо у вас є запитання щодо препаратів, які ви приймаєте, зверніться до свого лікаря, медсестри або фармацевта.

    Популярні ключові слова