AI แสดงอคติทางเชื้อชาติที่ประเมินกรณีสุขภาพจิต

ติดตาม Drugslib ได้ที่

โดย Dennis Thompson Healthday Reporter

วันพุธที่ 9 กรกฎาคม 2568 - โปรแกรม AI สามารถแสดงอคติทางเชื้อชาติเมื่อประเมินผู้ป่วยสำหรับปัญหาสุขภาพจิตการศึกษาใหม่กล่าวว่า

คำแนะนำทางจิตเวชจากรูปแบบภาษาขนาดใหญ่สี่แบบ (LLMs) เปลี่ยนไปเมื่อบันทึกของผู้ป่วยสังเกตว่าพวกเขาเป็นชาวแอฟริกันอเมริกัน href = "https://www.nature.com/articles/S41746-025-01746-4"> ยาดิจิตอล NPJ .

“ LLMs ส่วนใหญ่แสดงรูปแบบของอคติบางอย่างเมื่อต้องรับมือกับผู้ป่วยชาวแอฟริกันอเมริกันบางครั้งก็ให้คำแนะนำที่แตกต่างกันอย่างมากสำหรับการเจ็บป่วยทางจิตเวชเดียวกันและผู้ป่วยที่เหมือนกัน” นักวิจัยอาวุโสกล่าว อินเทอร์เน็ตสุขภาพและสังคมที่ Cedars-Sinai ในลอสแองเจลิส

“ อคตินี้เห็นได้ชัดที่สุดในกรณีของโรคจิตเภทและความวิตกกังวล” Aboujaoude กล่าวเสริมในข่าวประชาสัมพันธ์

LLMs ได้รับการฝึกอบรมเกี่ยวกับข้อมูลจำนวนมหาศาลซึ่งช่วยให้พวกเขาเข้าใจและสร้างภาษามนุษย์นักวิจัยกล่าวในบันทึกพื้นหลัง

โปรแกรม AI เหล่านี้กำลังถูกทดสอบเพื่อประเมินศักยภาพของผู้ป่วยอย่างรวดเร็วและแนะนำการวินิจฉัยและการรักษานักวิจัยกล่าวว่า

สำหรับการศึกษานี้นักวิจัยได้ดำเนินการตามสมมุติฐาน 10 กรณีผ่าน LLM ที่ได้รับความนิยมสี่คนรวมถึง CHATGPT-4O, Gemini 1.5 Pro ของ Google, Claude 3.5 Sonnet และ NewMes-V15 ซึ่งเป็นรุ่นที่มีการอ้างอิง Meta LLM และสิ่งที่บ่งบอกถึงการแข่งขันของผู้ป่วยตามชื่อของพวกเขา

AI มักเสนอการรักษาที่แตกต่างกันเมื่อบันทึกที่กล่าวหรือบอกเป็นนัยว่าผู้ป่วยเป็นชาวแอฟริกันอเมริกันผลลัพธ์แสดง:

  • โปรแกรมสองโปรแกรมละเว้นคำแนะนำยาสำหรับสมาธิสั้นเมื่อการแข่งขันระบุไว้อย่างชัดเจน
  • AI อีกคนหนึ่งแนะนำการเป็นผู้ปกครองสำหรับสีดำ ภาวะซึมเศร้า ผู้ป่วย
  • Aboujaoude ตั้งทฤษฎีว่า AIS แสดงอคติทางเชื้อชาติเพราะพวกเขาหยิบมันขึ้นมาจากเนื้อหาที่ใช้ในการฝึกอบรมพวกเขา ความไม่เท่าเทียมกัน” David Underhill ประธานของวิทยาศาสตร์ชีวการแพทย์ที่ Cedars-Sinai กล่าวในข่าวประชาสัมพันธ์

    “ จนกว่าจะถึงเป้าหมายนั้นระบบดังกล่าวควรถูกนำไปใช้ด้วยความระมัดระวังและการพิจารณาว่าลักษณะทางเชื้อชาติที่ละเอียดอ่อนอาจส่งผลต่อการตัดสินของพวกเขาได้อย่างไร class = "DDC-disclaimer"> ข้อจำกัดความรับผิดชอบ: ข้อมูลทางสถิติในบทความทางการแพทย์ให้แนวโน้มทั่วไปและไม่เกี่ยวข้องกับบุคคล ปัจจัยส่วนบุคคลสามารถแตกต่างกันอย่างมาก ขอคำแนะนำทางการแพทย์ส่วนบุคคลสำหรับการตัดสินใจด้านการดูแลสุขภาพส่วนบุคคลเสมอ

    ที่มา: Healthday

    โพสต์แล้ว : 2025-07-10 06:00

    อ่านเพิ่มเติม

    ข้อจำกัดความรับผิดชอบ

    มีความพยายามทุกวิถีทางเพื่อให้แน่ใจว่าข้อมูลที่ให้โดย Drugslib.com นั้นถูกต้อง ทันสมัย -วันที่และเสร็จสมบูรณ์ แต่ไม่มีการรับประกันใดๆ เกี่ยวกับผลกระทบดังกล่าว ข้อมูลยาเสพติดที่มีอยู่นี้อาจจะเป็นเวลาที่สำคัญ. ข้อมูล Drugslib.com ได้รับการรวบรวมเพื่อใช้โดยผู้ประกอบวิชาชีพด้านการดูแลสุขภาพและผู้บริโภคในสหรัฐอเมริกา ดังนั้น Drugslib.com จึงไม่รับประกันว่าการใช้นอกสหรัฐอเมริกามีความเหมาะสม เว้นแต่จะระบุไว้เป็นอย่างอื่นโดยเฉพาะ ข้อมูลยาของ Drugslib.com ไม่ได้สนับสนุนยา วินิจฉัยผู้ป่วย หรือแนะนำการบำบัด ข้อมูลยาของ Drugslib.com เป็นแหล่งข้อมูลที่ได้รับการออกแบบมาเพื่อช่วยเหลือผู้ปฏิบัติงานด้านการดูแลสุขภาพที่ได้รับใบอนุญาตในการดูแลผู้ป่วยของตน และ/หรือเพื่อให้บริการลูกค้าที่ดูบริการนี้เป็นส่วนเสริมและไม่ใช่สิ่งทดแทนความเชี่ยวชาญ ทักษะ ความรู้ และการตัดสินด้านการดูแลสุขภาพ ผู้ปฏิบัติงาน

    การไม่มีคำเตือนสำหรับยาหรือยาผสมใด ๆ ไม่ควรตีความเพื่อบ่งชี้ว่ายาหรือยาผสมนั้นปลอดภัย มีประสิทธิผล หรือเหมาะสมสำหรับผู้ป่วยรายใดรายหนึ่ง Drugslib.com ไม่รับผิดชอบต่อแง่มุมใดๆ ของการดูแลสุขภาพที่ดำเนินการโดยได้รับความช่วยเหลือจากข้อมูลที่ Drugslib.com มอบให้ ข้อมูลในที่นี้ไม่ได้มีวัตถุประสงค์เพื่อให้ครอบคลุมถึงการใช้ คำแนะนำ ข้อควรระวัง คำเตือน ปฏิกิริยาระหว่างยา ปฏิกิริยาการแพ้ หรือผลข้างเคียงที่เป็นไปได้ทั้งหมด หากคุณมีคำถามเกี่ยวกับยาที่คุณกำลังใช้ โปรดตรวจสอบกับแพทย์ พยาบาล หรือเภสัชกรของคุณ

    คำหลักยอดนิยม