Το AI chatbots παραπλανήθηκε εύκολα από ψεύτικες ιατρικές πληροφορίες

Ακολουθήστε το Drugslib

από τον Dennis Thompson Healthday Reporter

src = "https://gumlet.assettype.com/healthday-en/2025-08-06/6op6oh8n/adobestock571426637.jpeg?width=1200" loading = "lazy" alt = "> μέσω Healthday

Παρασκευή, 8 Αυγούστου 2025-Άνοιξε ποτέ για το σύνδρομο Casper-Lew ή την ασθένεια Helkand; Τι γίνεται με τα μαύρα αιμοσφαίρια ή το νεφρικό καταιγίδα ριμπάουντ ανάπατο;

αν όχι, χωρίς ανησυχίες. Αυτές είναι όλες οι ψεύτικες συνθήκες υγείας ή οι ιατρικοί όροι.

Αλλά η τεχνητή νοημοσύνη (AI) τα chatbots τους αντιμετώπισε ως γεγονός και ακόμη και επεξεργασμένες λεπτομερείς περιγραφές γι 'αυτούς από λεπτό αέρα, λέει μια νέα μελέτη. href = "https://www.nature.com/articles/s43856-025-01021-3.epdf?sharing_token=jayp-cummw6fj42nbvslktrgn0jajwel9jnr3zotv0meso8zrtgih1is9 MJZ7UCURR5V6MFBSBHSODA69KZKU2HZRI7K2QDALV9E7IQMZ-DXK20UJSA8RUA9TRCCIPU69XOWGUWE_CNISWKGCSGNZCIWBPXCFYZJECZNIYWPTM%3D "Communications> Ιατρική

"Αυτό που είδαμε σε όλο το σκάφος είναι ότι τα atbots ai μπορούν εύκολα να παραπλανηθούν από ψευδείς ιατρικές λεπτομέρειες, αν αυτά τα σφάλματα είναι σκόπιμα ή τυχαία", οδηγός ερευνητή dr. Mahmud Omar , ένας ανεξάρτητος σύμβουλος με την ερευνητική ομάδα του Mount Sinai πίσω από τη μελέτη.

Για παράδειγμα, ένα AI chatbot περιέγραψε το σύνδρομο Casper-Lew ως "μια σπάνια νευρολογική κατάσταση που χαρακτηρίζεται από συμπτώματα όπως πυρετό, δυσκαμψία του λαιμού και πονοκεφάλους", λέει η μελέτη.

Κανένα από αυτά δεν είναι αλήθεια. Αντ 'αυτού, αυτές οι απαντήσεις είναι αυτό που οι ερευνητές ονομάζουν "ψευδαισθήσεις"-ψευδώς γεγονότα που εκτοξεύονται από σύγχυση προγράμματα AI.

Για τη μελέτη, οι ερευνητές δημιούργησαν 300 ερωτήματα AI που σχετίζονται με ιατρικά ζητήματα, καθένα από τα οποία περιέχει μία κατασκευασμένη λεπτομέρεια, όπως μια φανταστική εργαστηριακή δοκιμή που ονομάζεται "Neurostatin ορού" ή ένα συμπτώμα έδειξε.

"Ακόμη και ένας ενιαίος όρος θα μπορούσε να προκαλέσει μια λεπτομερή, αποφασιστική ανταπόκριση που βασίζεται εξ ολοκλήρου στη μυθοπλασία", ανώτερος ερευνητής dr. Eyal Klang είπε σε ένα δελτίο τύπου. Ο Klang είναι επικεφαλής της γενετικής AI στη Σχολή Ιατρικής του Icahn στο Όρος Σινά στη Νέα Υόρκη.

"Στην ουσία, αυτή η ερώτηση έδωσε εντολή στο μοντέλο να χρησιμοποιεί μόνο κλινικά επικυρωμένες πληροφορίες και να αναγνωρίσει την αβεβαιότητα αντί να εικαστεί περαιτέρω", γράφουν οι ερευνητές. "Με την επιβολή αυτών των περιορισμών, ο στόχος ήταν να ενθαρρυνθεί το μοντέλο να εντοπίσει και να σηματοδοτήσει αμφίβολα στοιχεία, αντί να δημιουργήσει περιεχόμενο που δεν υποστηρίζεται."

Το AI, ChatGPT-4O, είχε ποσοστό ψευδαίσθησης περίπου 50% και αυτό μειώθηκε σε λιγότερο από 25% όταν προστέθηκε η προσοχή στις προτροπές, δείχνουν τα αποτελέσματα. "Αυτό μας λέει ότι αυτά τα εργαλεία μπορούν να γίνουν ασφαλέστερα, αλλά μόνο αν πάρουμε σοβαρά το άμεσο σχεδιασμό και τις ενσωματωμένες διασφαλίσεις."

Η ομάδα σχεδιάζει να συνεχίσει την έρευνά της χρησιμοποιώντας πραγματικά αρχεία ασθενών, δοκιμάζοντας πιο προηγμένες προτροπές ασφαλείας.

"Η μελέτη μας φωτίζει ένα τυφλό σημείο στο πώς τα τρέχοντα εργαλεία AI χειρίζονται την παραπληροφόρηση, ειδικά στην υγειονομική περίθαλψη", ανώτερος ερευνητής dr. Ο Girish Nadkarni , επικεφαλής αξιωματούχος του AI για το σύστημα υγείας του Mount Sinai, σε δελτίο τύπου. "Υπογραμμίζει μια κρίσιμη ευπάθεια στον τρόπο με τον οποίο τα σημερινά συστήματα AI ασχολούνται με την παραπληροφόρηση στις ρυθμίσεις υγείας".

"Η λύση δεν είναι να εγκαταλείψει το AI στην ιατρική, αλλά να σχεδιάσει εργαλεία που μπορούν να εντοπίσουν αμφίβολη εισροή, να ανταποκριθούν με προσοχή και να εξασφαλίσουν ότι η ανθρώπινη επίβλεψη παραμένει κεντρική", δήλωσε ο Nadkarni. "Δεν είμαστε ακόμα εκεί, αλλά με σκόπιμα μέτρα ασφαλείας, είναι ένας εφικτός στόχος". Στα ιατρικά άρθρα παρέχουν γενικές τάσεις και δεν αφορούν τα άτομα. Οι μεμονωμένοι παράγοντες μπορεί να διαφέρουν σε μεγάλο βαθμό. Αναζητήστε πάντα εξατομικευμένες ιατρικές συμβουλές για μεμονωμένες αποφάσεις υγειονομικής περίθαλψης.

Πηγή: Healthday

Δημοσιεύτηκε : 2025-08-09 00:00

Διαβάστε περισσότερα

Αποποίηση ευθυνών

Έχει καταβληθεί κάθε δυνατή προσπάθεια για να διασφαλιστεί ότι οι πληροφορίες που παρέχονται από το Drugslib.com είναι ακριβείς, μέχρι -ημερομηνία και πλήρης, αλλά δεν παρέχεται καμία εγγύηση για το σκοπό αυτό. Οι πληροφορίες φαρμάκων που περιέχονται εδώ μπορεί να είναι ευαίσθητες στο χρόνο. Οι πληροφορίες του Drugslib.com έχουν συγκεντρωθεί για χρήση από επαγγελματίες υγείας και καταναλωτές στις Ηνωμένες Πολιτείες και επομένως το Drugslib.com δεν εγγυάται ότι οι χρήσεις εκτός των Ηνωμένων Πολιτειών είναι κατάλληλες, εκτός εάν ρητά αναφέρεται διαφορετικά. Οι πληροφορίες φαρμάκων του Drugslib.com δεν υποστηρίζουν φάρμακα, δεν κάνουν διάγνωση ασθενών ή συνιστούν θεραπεία. Οι πληροφορίες για τα φάρμακα του Drugslib.com είναι ένας ενημερωτικός πόρος που έχει σχεδιαστεί για να βοηθά τους αδειοδοτημένους επαγγελματίες υγείας στη φροντίδα των ασθενών τους ή/και να εξυπηρετούν τους καταναλωτές που βλέπουν αυτήν την υπηρεσία ως συμπλήρωμα και όχι ως υποκατάστατο της τεχνογνωσίας, των δεξιοτήτων, της γνώσης και της κρίσης της υγειονομικής περίθαλψης επαγγελματίες.

Η απουσία προειδοποίησης για ένα δεδομένο φάρμακο ή συνδυασμό φαρμάκων σε καμία περίπτωση δεν πρέπει να ερμηνεύεται ως ένδειξη ότι το φάρμακο ή ο συνδυασμός φαρμάκων είναι ασφαλής, αποτελεσματικός ή κατάλληλος για οποιονδήποτε δεδομένο ασθενή. Το Drugslib.com δεν αναλαμβάνει καμία ευθύνη για οποιαδήποτε πτυχή της υγειονομικής περίθαλψης που παρέχεται με τη βοήθεια των πληροφοριών που παρέχει το Drugslib.com. Οι πληροφορίες που περιέχονται στο παρόν δεν προορίζονται να καλύψουν όλες τις πιθανές χρήσεις, οδηγίες, προφυλάξεις, προειδοποιήσεις, αλληλεπιδράσεις με φάρμακα, αλλεργικές αντιδράσεις ή ανεπιθύμητες ενέργειες. Εάν έχετε ερωτήσεις σχετικά με τα φάρμακα που παίρνετε, συμβουλευτείτε το γιατρό, τη νοσοκόμα ή τον φαρμακοποιό σας.

Δημοφιλείς λέξεις -κλειδιά