Typefouten, jargon -trip Up AI Medische beoordelingen

Volg Drugslib op

door Dennis Thompson HealthDay Reporter

VIA VOOR GEZONDHEIDSDAG

Donderdag 26 juni 2025 - Gemeenschappelijke menselijke typefouten kunnen struikelen op kunstmatige intelligentie (AI) -programma's die zijn ontworpen om gezondheidswerkers te helpen door gezondheidsdossiers te beoordelen, zegt een nieuwe MIT -studie.

typefouten en extra witte ruimtes kunnen interfereren met het vermogen van AI om patiëntrecords te analyseren, onderzoekers gemeld Deze week op een associatie voor computermachines in Athene, Griekenland.

Ontbrekende genderreferenties of het gebruik van jargon kan ook de behandelingsaanbevelingen van een AI vervuilen, onderzoekers wijzen erop.

Deze menselijke fouten of taalkeuzes verhoogden de kans dat een AI zou aanbevelen om een patiënt zelf te beheren in plaats van een afspraak te zoeken, de resultaten laten zien.

Ze hadden ook meer kans om de behandelingsaanbevelingen van een AI voor vrouwen te wijzigen, wat resulteerde in een hoger percentage dat ten onrechte niet werd geadviseerd om geen medische zorg te zoeken, voegt onderzoekers toe.

"Deze modellen worden vaak getraind en getest op medische examenvragen maar vervolgens gebruikt in taken die vrij ver van dat zijn, zoals evalueren van de ernst van een klinische zaak," NoFollow " href = "https://scholar.google.com/citations?User=aubfq6AAAAAJ&hl=en"> Abinitha gourabathina . Ze is een afgestudeerde student bij de MIT Department of Electrical Engineering and Computer Science in Cambridge, Mass.

Een groeiend aantal onderzoek is het onderzoeken van het vermogen van AI om een second opinion te bieden voor menselijke artsen, zeiden onderzoekers in achtergrondnotities. De programma's worden al gebruikt om artsen te helpen klinische aantekeningen en berichten van de triage -patiënt op te stellen.

Deze studie begon toen Gourabathina experimenten uitvoerde waarin ze gender signalen in patiëntnotities verwisselde en vervolgens in een AI werd gevoerd. Ze was verrast om te ontdekken dat eenvoudige opmaakfouten zinvolle veranderingen in AI -reacties veroorzaakten.

Om dit probleem verder te verkennen, hebben onderzoekers records gewijzigd door genderreferenties te ruilen of te verwijderen, extra ruimte of typefouten in patiëntberichten in te voegen of kleurrijke of onzekere taal toe te voegen.

Kleurrijke taal kan uitroepen bevatten zoals "WOW" of adverten zoals "echt" of "zeer", zeiden onderzoekers. Voorbeelden van onzekere taal zijn hedge -woorden als "soort van", "soort van", "mogelijk" of "veronderstellen."

De aantekeningen van de patiënt hebben alle klinische gegevens bewaard, zoals voorgeschreven medicijnen en eerdere diagnoses, terwijl het taalt door de taal die nauwkeuriger weerspiegelt hoe mensen typen en spreken.

"De medische datasets waarop deze modellen worden getraind, zijn meestal schoongemaakt en gestructureerd, en niet een zeer realistische reflectie van de patiëntenpopulatie," zei Gourabathina. "We wilden zien hoe deze zeer realistische veranderingen in tekst downstream use cases kunnen beïnvloeden."

Het team heeft deze records voorbij vier verschillende AI's gerund en gevraagd of een patiënt hun symptomen thuis zou moeten beheren, een kliniekbezoek moet binnenkomen of een laboratoriumtest zou krijgen om hun toestand beter te evalueren.

Toen de AIS de gewijzigde of "verstoorde" gegevens werd gevoed, waren ze 7% tot 9% meer kans om te zorgen dat patiënten voor zichzelf zorgen.

Het gebruik van kleurrijke taal zoals jargon of dramatische uitdrukkingen had de grootste impact, zeiden onderzoekers.

De AI-modellen maakten ook ongeveer 7% meer fouten voor vrouwelijke patiënten en hadden meer kans om vrouwen thuis te maken-zelfs wanneer onderzoekers alle geslachtsignalen uit de records verwijderden.

Follow-up onderzoek die momenteel wordt beoordeeld, bleek dat dezelfde veranderingen geen invloed hebben op de nauwkeurigheid van menselijke artsen, voegden onderzoekers toe.

onderzoekers zijn van plan hun werk voort te zetten door records te testen die echte berichten van patiënten beter nabootsen. Ze zijn ook van plan om te bestuderen hoe AI -programma's geslacht afleiden uit klinische tests.

Onderzoekers rapporteerden hun bevindingen tijdens de vergadering, die vandaag eindigen. Bevindingen die tijdens medische vergaderingen worden gepresenteerd, moeten voorlopig worden beschouwd totdat ze worden gepubliceerd in een peer-reviewed tijdschrift.

bronnen

  • MIT, nieuwsbericht, 23 juni 2025

    • disclaimer: statistical gegevens in artikelen voor algemene trends. Individuele factoren kunnen sterk variëren. Zoek altijd gepersonaliseerd medisch advies voor individuele beslissingen in de gezondheidszorg.

    Bron: HealthDay

    Geplaatst : 2025-06-27 00:00

    Lees verder

    Disclaimer

    Er is alles aan gedaan om ervoor te zorgen dat de informatie die wordt verstrekt door Drugslib.com accuraat en up-to-date is -datum en volledig, maar daarvoor wordt geen garantie gegeven. De hierin opgenomen geneesmiddelinformatie kan tijdgevoelig zijn. De informatie van Drugslib.com is samengesteld voor gebruik door zorgverleners en consumenten in de Verenigde Staten en daarom garandeert Drugslib.com niet dat gebruik buiten de Verenigde Staten gepast is, tenzij specifiek anders aangegeven. De geneesmiddeleninformatie van Drugslib.com onderschrijft geen geneesmiddelen, diagnosticeert geen patiënten of beveelt geen therapie aan. De geneesmiddeleninformatie van Drugslib.com is een informatiebron die is ontworpen om gelicentieerde zorgverleners te helpen bij de zorg voor hun patiënten en/of om consumenten te dienen die deze service zien als een aanvulling op en niet als vervanging voor de expertise, vaardigheden, kennis en beoordelingsvermogen van de gezondheidszorg. beoefenaars.

    Het ontbreken van een waarschuwing voor een bepaald medicijn of een bepaalde medicijncombinatie mag op geen enkele manier worden geïnterpreteerd als een indicatie dat het medicijn of de medicijncombinatie veilig, effectief of geschikt is voor een bepaalde patiënt. Drugslib.com aanvaardt geen enkele verantwoordelijkheid voor enig aspect van de gezondheidszorg die wordt toegediend met behulp van de informatie die Drugslib.com verstrekt. De informatie in dit document is niet bedoeld om alle mogelijke toepassingen, aanwijzingen, voorzorgsmaatregelen, waarschuwingen, geneesmiddelinteracties, allergische reacties of bijwerkingen te dekken. Als u vragen heeft over de medicijnen die u gebruikt, neem dan contact op met uw arts, verpleegkundige of apotheker.

    Populaire zoekwoorden