Literówki, wycieczka slang w górę oceny medycznej AI

Śledź Drugslib na

autor: Dennis Thompson Healthday Reporter

medycznie recenzowane przez carmen, BPHARM. Ostatnia aktualizacja 26 czerwca 2025 r.

via HealthDay

Czwartek, 26 czerwca 2025 r. - Wspólne błędy pisania na ludziach mogą potknąć się programy sztucznej inteligencji (AI) zaprojektowane w celu ułatwienia pracownikom służby zdrowia poprzez przeglądanie dokumentacji medycznej, nowe badanie MIT mówi.

Literówki i dodatkowe białe przestrzenie mogą zakłócać zdolność AI do prawidłowego analizy dokumentacji pacjentów, naukowcy zgłoszony w tym tygodniu na stowarzyszeniu konferencji maszynowej w Atenach, Grecja.

Brakuje odniesień do płci lub użycie slangów może również zważyć zalecenia dotyczące leczenia sztucznej inteligencji, naukowcy wskazują.

Te ludzkie błędy lub wybory językowe zwiększyły prawdopodobieństwo, że AI zaleciłaby samodzielne samodzielne zarządzanie problemem zdrowotnym, zamiast szukać spotkania.

.

Często zmienili zalecenia dotyczące leczenia AI dla kobiet, co spowodowało wyższy odsetek, które błędnie zalecono, aby nie szukać opieki medycznej, dodają naukowcy.

„Te modele są często szkolone i testowane na pytaniach medycznych, ale następnie stosowane w zadaniach, które są dość daleko od tego, podobnie jak ocena dotkliwości klinicznej sprawy”, powiedziały ołowiu Abinitha Gourabathina . Jest absolwentką Departamentu Inżynierii Elektrycznej i Informatyki w Cambridge, Mass.

Badacze twierdzą, że

Rosnące badanie badają zdolność sztucznej inteligencji do przekazywania drugiej opinii ludzkim lekarzom. Programy są już wykorzystywane, aby pomóc lekarzom w przygotowaniu notatek klinicznych i komunikatów pacjentów z rozróżnianiem.

To badanie rozpoczęło się, gdy Gourarabathina przeprowadziła eksperymenty, w których zamieniła wskazówki dotyczące płci w notatkach pacjentów, a następnie nakarmiła je na sztuczną inteligencję. Była zaskoczona, gdy stwierdziła, że proste błędy formatowania spowodowały znaczące zmiany w odpowiedzi AI.

Aby dalej zbadać ten problem, naukowcy zmienili rejestry, zamieniając lub usuwając referencje płci, wkładając dodatkową przestrzeń lub literówki do wiadomości pacjentów lub dodając kolorowy lub niepewny język. Kolorowy język może obejmować okrzyki takie jak „Wow” lub przysłówki takie jak „naprawdę” lub „bardzo”, powiedzieli naukowcy. Przykłady niepewnego języka obejmują słowa hedgingowe, takie jak „rodzaj”, „rodzaj”, „ewentualnie” lub „przypuść”.

Notatki pacjenta zachowały wszystkie dane kliniczne, takie jak leki na receptę i poprzednie diagnozy, jednocześnie dodając język, który dokładniej odzwierciedla sposób, w jaki ludzie pisają i mówią.

„Zestawy danych medycznych są szkolone, są zwykle czyszczone i ustrukturyzowane, i nie jest to bardzo realistyczne odzwierciedlenie populacji pacjentów” - powiedziała Gourabathina. „Chcieliśmy zobaczyć, w jaki sposób te bardzo realistyczne zmiany tekstu mogą wpływać na przypadki użycia poniżej.”

Zespół przeprowadził te zapisy po czterech różnych AIS, pytając, czy pacjent powinien zarządzać objawami w domu, przyjść na wizytę w klinice, czy też uzyskać test laboratoryjny, aby lepiej ocenić ich stan.

Gdy AI były karmione zmienionymi lub „zaburzonymi” danymi, były one 7% do 9%, bardziej skłonne do zalecenia, aby pacjenci troszczą się o siebie, wyniki.

.Badacze powiedzieli, że

Zastosowanie kolorowego języka, takiego jak slang lub dramatyczne wyrażenia.Badacze dodali naukowcy,

Badania kontrolne wykazały, że te same zmiany nie wpłynęły na dokładność ludzkich lekarzy.

planują kontynuować pracę, testując rejestry, które lepiej naśladują rzeczywiste wiadomości od pacjentów. Planują również zbadać, w jaki sposób programy AI wnioskują płeć z testów klinicznych.

Naukowcy zgłosili swoje ustalenia na spotkaniu, które kończą się dzisiaj. Ustalenia przedstawione na spotkaniach medycznych należy uznać za wstępne, dopóki nie zostaną opublikowane w recenzowanym czasopiśmie.

Źródła

  • MIT, komunikat prasowy, 23 czerwca 2025 r.

    • Złączenie: Dane statystyczne w artykułach medycznych Dostarczanie ogólnych tańczyków i nie jest osobno. Poszczególne czynniki mogą się znacznie różnić. Zawsze szukaj spersonalizowanej porady medycznej w zakresie indywidualnych decyzji dotyczących opieki zdrowotnej.

    Źródło: Healthday

    Wysłano : 2025-06-27 00:00

    Czytaj więcej

    Zastrzeżenie

    Dołożono wszelkich starań, aby informacje dostarczane przez Drugslib.com były dokładne i aktualne -data i kompletność, ale nie udziela się na to żadnej gwarancji. Informacje o lekach zawarte w niniejszym dokumencie mogą mieć charakter wrażliwy na czas. Informacje na stronie Drugslib.com zostały zebrane do użytku przez pracowników służby zdrowia i konsumentów w Stanach Zjednoczonych, dlatego też Drugslib.com nie gwarantuje, że użycie poza Stanami Zjednoczonymi jest właściwe, chyba że wyraźnie wskazano inaczej. Informacje o lekach na Drugslib.com nie promują leków, nie diagnozują pacjentów ani nie zalecają terapii. Informacje o lekach na Drugslib.com to źródło informacji zaprojektowane, aby pomóc licencjonowanym pracownikom służby zdrowia w opiece nad pacjentami i/lub służyć konsumentom traktującym tę usługę jako uzupełnienie, a nie substytut wiedzy specjalistycznej, umiejętności, wiedzy i oceny personelu medycznego praktycy.

    Brak ostrzeżenia dotyczącego danego leku lub kombinacji leków w żadnym wypadku nie powinien być interpretowany jako wskazanie, że lek lub kombinacja leków jest bezpieczna, skuteczna lub odpowiednia dla danego pacjenta. Drugslib.com nie ponosi żadnej odpowiedzialności za jakikolwiek aspekt opieki zdrowotnej zarządzanej przy pomocy informacji udostępnianych przez Drugslib.com. Informacje zawarte w niniejszym dokumencie nie obejmują wszystkich możliwych zastosowań, wskazówek, środków ostrożności, ostrzeżeń, interakcji leków, reakcji alergicznych lub skutków ubocznych. Jeśli masz pytania dotyczące przyjmowanych leków, skontaktuj się ze swoim lekarzem, pielęgniarką lub farmaceutą.

    Popularne słowa kluczowe