ИИ демонстрирует расовые предвзятости, оценивая случаи психического здоровья

Следите за Drugslib на

от Dennis Thompson Healthday Reporter

medically-pope. Последнее обновлено 9 июля 2025 года.

> via hearthyday<p> Среда, 9 июля 2025 года. Программы искусственного интеллекта могут демонстрировать расовую предвзятость при оценке пациентов с проблемами психического здоровья, говорится в новом исследовании. href = NPJ Цифровая медицина .

“Most of the LLMs exhibited some form of bias when dealing with African American patients, at times making dramatically different recommendations for the same psychiatric illness and otherwise identical patient,” said senior researcher Elias Aboujaoude, director of the Program in Интернет, здоровье и общество в Cedars-Sinai в Лос-Анджелесе.

llms обучаются огромным количеству данных, что позволяет им понимать и генерировать человеческий язык, сообщили исследователи в фоновых примечаниях.

Для этого исследования исследователи провели 10 гипотетических случаев через четыре популярных LLM, включая CHATGPT-4O, Google Gemini 1.5 Pro, Claude 3.5 Sonnet и Newmes-V15, свободно доступная версия мета-LLM. это подразумевало гонку пациента на основе их имени.

ИИ часто предлагал различные методы лечения, когда в записях говорилось или подразумевало, что пациент был афроамериканцем, результаты показывают:

  • Две программы пропущены рекомендации по лекарствам от СДВГ, когда раса была явно указана.
  • Другой ИИ предложил опекунство за черного депрессия Пациенты.

    Aboujaoude теоретизирует AIS, демонстрируемый расовой предвзятостью, потому что они выбрали его из содержания, используемого для их обучения - по существу, увековечивая неравенство, которое уже существует в психиатрической медицинской помощи. Неравенство, ” Дэвид Андерхилл , председатель биомедицинских наук в Cedars-sinai, сказал в пресс-релизе.

    .

    «Пока эта цель не будет достигнута, такие системы должны быть развернуты с осторожностью и рассмотрением того, как даже тонкие расовые характеристики могут повлиять на их суждение»,-добавил Андерхилл, который не участвовал в исследовании. class = "ddc-discalimer"> Отказ от ответственности: Статистические данные в медицинских статьях обеспечивают общие тенденции и не относятся к отдельным лицам. Индивидуальные факторы могут сильно различаться. Всегда ищите персонализированные медицинские консультации для индивидуальных решений в области здравоохранения.

    Источник: HealthDay

    Опубликовано : 2025-07-10 06:00

    Читать далее

    Отказ от ответственности

    Мы приложили все усилия, чтобы гарантировать, что информация, предоставляемая Drugslib.com, является точной и соответствует -дата и полная информация, но никаких гарантий на этот счет не предоставляется. Содержащаяся здесь информация о препарате может меняться с течением времени. Информация Drugslib.com была собрана для использования медицинскими работниками и потребителями в Соединенных Штатах, и поэтому Drugslib.com не гарантирует, что использование за пределами Соединенных Штатов является целесообразным, если специально не указано иное. Информация о лекарствах на сайте Drugslib.com не рекламирует лекарства, не диагностирует пациентов и не рекомендует терапию. Информация о лекарствах на сайте Drugslib.com — это информационный ресурс, предназначенный для помощи лицензированным практикующим врачам в уходе за своими пациентами и/или для обслуживания потребителей, рассматривающих эту услугу как дополнение, а не замену опыта, навыков, знаний и суждений в области здравоохранения. практики.

    Отсутствие предупреждения для данного препарата или комбинации препаратов никоим образом не должно быть истолковано как указание на то, что препарат или комбинация препаратов безопасны, эффективны или подходят для конкретного пациента. Drugslib.com не несет никакой ответственности за какой-либо аспект здравоохранения, администрируемый с помощью информации, предоставляемой Drugslib.com. Информация, содержащаяся в настоящем документе, не предназначена для охвата всех возможных вариантов использования, направлений, мер предосторожности, предупреждений, взаимодействия лекарств, аллергических реакций или побочных эффектов. Если у вас есть вопросы о лекарствах, которые вы принимаете, проконсультируйтесь со своим врачом, медсестрой или фармацевтом.

    Популярные ключевые слова