Друкарські помилки, сленг поїздка до медичних оцінок AI

Підпишіться на Drugslib

Dennis Thompson Healthday Reporter

Четвер, 26 червня 2025 р. - Поширені помилки типізації людини можуть вдосконалити програми штучного інтелекту (AI), розроблені для надання допомоги медичним працівникам шляхом перегляду медичних записів href = "https://dl.acm.org/doi/10.1145/3715275.3732121"> повідомляється Цього тижня на конференції Асоціації обчислювальних машин в Афінах, Греція.

Відсутні гендерні посилання або використання сленгу також можуть порушити рекомендації щодо лікування ШІ, дослідники зазначають.

Ці людські помилки або вибір мови збільшили ймовірність того, що AI рекомендує пацієнту самостійно керувати своєю проблемою для здоров'я, а не шукати зустрічі, показують результати.

Вони також частіше змінили рекомендації щодо лікування AI для жінок, внаслідок чого вищий відсоток, яким помилково радили не шукати медичної допомоги, додавання дослідників. href = "https://scholar.google.com/citations?user=aubfq6aaaaaj&hl=en"> abinitha gurabathina . Вона є аспірантом з кафедри електротехніки та інформатики MIT в Кембриджі, штат Массачусетс

Зростаюча кількість досліджень вивчає здатність ШІ надати другу думку для лікарів людини, заявили дослідники у фонових записках. Програми вже використовуються для того, щоб допомогти лікарям розробити клінічні записки та повідомлення пацієнтів. Вона була здивована, виявивши, що прості помилки форматування спричинили змістовні зміни у відповідях AI.

Для подальшого вивчення цієї проблеми дослідники змінювали записи, замінивши або видаливши гендерні довідки, вставляючи додатковий простір або друкарські помилки в повідомлення пацієнтів, або додавши барвисту або невизначену мову.

Барвиста мова може включати оклики, такі як "вау", або прислівники, як "дійсно" або "дуже", - сказали дослідники. Приклади невизначеної мови включають хедж -слова, такі як "вид", "начебто", "можливо" або "припустимо".

Пацієнт зазначає, що зберегли всі клінічні дані, як, наприклад, ліки, що відпускаються за рецептом, та попередні діагнози, при цьому додавання мови, яка більш точно відображає, як люди набирають та говорять.

“Медичні набори даних ці моделі навчаються, як правило, очищаються та структуруються, а не дуже реалістичне відображення населення пацієнтів”, - сказав Гурабатіна. "Ми хотіли побачити, як ці дуже реалістичні зміни в тексті можуть вплинути на випадки використання вниз за течією"

Команда проводила ці записи минулих чотирьох різних АІ, запитуючи, чи повинен пацієнт керувати своїми симптомами вдома, прийти на візит до клініки, або отримати лабораторний тест, щоб краще оцінити їх стан.

Коли АІ були подані змінені або «обурені» дані, вони були на 7% до 9% більше шансів, щоб пацієнти дбали про себе, результати показують.

Використання барвистої мови, таких як сленг або драматичні вирази, мали найбільший вплив, зазначають дослідники.

Моделі AI також зробили приблизно на 7% більше помилок для жінок, і вони частіше рекомендують жінкам самостійно керувати вдома-навіть коли дослідники усунули всі гендерні підказки з записів.

Подальші дослідження, які зараз переглядаються, показали, що ті самі зміни не впливають на точність лікарів людини, додавали дослідники.

Дослідники планують продовжувати свою роботу, перевіряючи записи, які краще імітують реальні повідомлення від пацієнтів. Вони також планують вивчити, як програми AI визначають статі з клінічних тестів.

Дослідники повідомили про свої висновки на зустрічі, що закінчується сьогодні. Висновки, представлені на медичних зборах, повинні вважатися попередніми до опублікування в рецензованому журналі. Окремі фактори можуть сильно відрізнятися. Завжди шукайте персоналізованих медичних консультацій для індивідуальних рішень щодо охорони здоров'я.

Джерело: Healthday

Опубліковано : 2025-06-27 00:00

Читати далі

Відмова від відповідальності

Було докладено всіх зусиль, щоб інформація, надана Drugslib.com, була точною, до -дата та повна, але жодних гарантій щодо цього не надається. Інформація про ліки, що міститься тут, може бути чутливою до часу. Інформація Drugslib.com була зібрана для використання медичними працівниками та споживачами в Сполучених Штатах, тому Drugslib.com не гарантує, що використання за межами Сполучених Штатів є доцільним, якщо спеціально не вказано інше. Інформація про ліки Drugslib.com не схвалює ліки, не ставить діагноз пацієнтів і не рекомендує терапію. Інформація про ліки на Drugslib.com – це інформаційний ресурс, призначений для допомоги ліцензованим медичним працівникам у догляді за їхніми пацієнтами та/або для обслуговування споживачів, які розглядають цю послугу як доповнення, а не заміну досвіду, навичок, знань і суджень у сфері охорони здоров’я. практиків.

Відсутність попередження щодо певного препарату чи комбінації ліків у жодному разі не слід тлумачити як вказівку на те, що препарат чи комбінація препаратів є безпечними, ефективними чи прийнятними для будь-якого конкретного пацієнта. Drugslib.com не несе жодної відповідальності за будь-які аспекти медичної допомоги, що надається за допомогою інформації, яку надає Drugslib.com. Інформація, що міститься в цьому документі, не має на меті охопити всі можливі способи використання, інструкції, запобіжні заходи, попередження, лікарські взаємодії, алергічні реакції чи побічні ефекти. Якщо у вас є запитання щодо препаратів, які ви приймаєте, зверніться до свого лікаря, медсестри або фармацевта.

Популярні ключові слова