AI muestra sesgo racial que evalúa los casos de salud mental

Siga a Drugslib en

por Dennis Thompson Healthday Reporter

revisado medicalmente por Carmen. Última actualización el 9 de julio de 2025.

> vía salud<p> Miércoles 9 de julio de 2025 - Los programas de IA pueden exhibir un sesgo racial al evaluar a los pacientes para problemas de salud mental, dice un nuevo estudio. </p> <p> Recomendaciones psiquiátricas de cuatro modelos de idiomas grandes (LLMS) cambió cuando el registro de un paciente señaló que eran afroamericanos, los investigadores informaron recientemente en la revista <a rel = NPJ Medicina digital .

“Most of the LLMs exhibited some form of bias when dealing with African American patients, at times making dramatically different recommendations for the same psychiatric illness and otherwise identical patient,” said senior researcher Elias Aboujaoude, director of the Program in Internet, salud y sociedad en Cedars-Sinai en Los Ángeles.

"Este sesgo fue más evidente en casos de esquizofrenia y ansiedad", agregó Aboujaoude en un comunicado de prensa.

.

LLMS se capacitan en enormes cantidades de datos, lo que les permite comprender y generar lenguaje humano, dijeron los investigadores en las notas de fondo.

Estos programas de IA están siendo probados por su potencial para evaluar rápidamente a los pacientes y recomendar diagnósticos y tratamientos, dijeron los investigadores.

Para este estudio, los investigadores realizaron 10 casos hipotéticos a través de cuatro LLM populares, incluidos ChatGPT-4O, Gemini 1.5 Pro de Google, Claude 3.5 sonnet y Newmes-V15, una versión gratuita de una versión de una meta llm.

Para cada AFRANOS. Eso implicaba la raza de un paciente basada en su nombre.

La IA a menudo propuso diferentes tratamientos cuando los registros decían o implicaban que un paciente era afroamericano, los resultados muestran:

  • Dos programas omitieron recomendaciones de medicamentos para el TDAH cuando la raza se declaró explícitamente.
  • Otra AI sugerida de tutela para Black depresión pacientes.
  • un LLM mostró un aumento en el enfoque en el control de alcohol cuando se evalúa a los África con ansiedad.

    Aboujaoude teoriza el sesgo racial mostrado, porque lo recogieron del contenido utilizado para capacitarlos, esencialmente perpetuando las desigualdades que ya existen en la atención de salud mental.

    "Los resultados de este importante estudio sirven como un llamado a la acción para las partes interesadas en todo el ecosistema de la salud para garantizar que las tecnologías de LLM en la salud en lugar de la actualización o el llamado de la acción existente. Inequidades, " David Underhill , presidente de ciencias biomédicas en Cedars-Sinai, en un comunicado de prensa.

    "Hasta que se alcance ese objetivo, dichos sistemas deben desplegarse con precaución y consideración de cómo incluso las características raciales sutiles pueden afectar su juicio", agregó Underhill, que no participó en la investigación. class = "DDC-Disclaimer"> Descargo de responsabilidad: Los datos estadísticos en artículos médicos proporcionan tendencias generales y no pertenecen a los individuos. Los factores individuales pueden variar mucho. Siempre busque asesoramiento médico personalizado para decisiones de atención médica individuales.

    Fuente: Salud Day

    Al corriente : 2025-07-10 06:00

    Leer más

    Descargo de responsabilidad

    Se ha hecho todo lo posible para garantizar que la información proporcionada por Drugslib.com sea precisa, hasta -fecha y completa, pero no se ofrece ninguna garantía a tal efecto. La información sobre medicamentos contenida en este documento puede ser urgente. La información de Drugslib.com ha sido compilada para uso de profesionales de la salud y consumidores en los Estados Unidos y, por lo tanto, Drugslib.com no garantiza que los usos fuera de los Estados Unidos sean apropiados, a menos que se indique específicamente lo contrario. La información sobre medicamentos de Drugslib.com no respalda medicamentos, ni diagnostica a pacientes ni recomienda terapias. La información sobre medicamentos de Drugslib.com es un recurso informativo diseñado para ayudar a los profesionales de la salud autorizados a cuidar a sus pacientes y/o para servir a los consumidores que ven este servicio como un complemento y no un sustituto de la experiencia, habilidad, conocimiento y criterio de la atención médica. practicantes.

    La ausencia de una advertencia para un determinado medicamento o combinación de medicamentos de ninguna manera debe interpretarse como una indicación de que el medicamento o la combinación de medicamentos es seguro, eficaz o apropiado para un paciente determinado. Drugslib.com no asume ninguna responsabilidad por ningún aspecto de la atención médica administrada con la ayuda de la información que proporciona Drugslib.com. La información contenida en este documento no pretende cubrir todos los posibles usos, instrucciones, precauciones, advertencias, interacciones medicamentosas, reacciones alérgicas o efectos adversos. Si tiene preguntas sobre los medicamentos que está tomando, consulte con su médico, enfermera o farmacéutico.

    Palabras clave populares