Θεραπευτής AI; Είναι σύντομο, προειδοποιεί μια νέα μελέτη

Ακολουθήστε το Drugslib

Από τον Reporter HealthDay Staff του HealthDay

alt=1200"aayt loading

ΤΡΙΤΗ, 3 Μαρτίου 2026 — Περισσότεροι άνθρωποι ζητούν βοήθεια από chatbots τεχνητής νοημοσύνης (AI) για καθημερινά προβλήματα, από εργασιακό άγχος μέχρι ανησυχίες για τις σχέσεις και πολλά άλλα.

Τώρα, μια νέα μελέτη προειδοποιεί ότι όσον αφορά τις συμβουλές ψυχικής υγείας, αυτά τα συστήματα ενδέχεται να αποτύχουν.

Μια ομάδα στο Πανεπιστήμιο Μπράουν στο Πρόβιντενς του Ρόουντ Άιλαντ διαπίστωσε ότι ακόμη και όταν τα συστήματα τεχνητής νοημοσύνης λέγονται να ενεργούν σαν εκπαιδευμένοι θεραπευτές, συχνά αποτυγχάνουν να πληρούν τα πρότυπα επαγγελματικής δεοντολογίας.

Η ομάδα συνεργάστηκε με ειδικούς ψυχικής υγείας για να εξετάσει πώς αυτά τα συστήματα ανταποκρίνονται σε συνομιλίες που μοιάζουν με συμβουλευτική.

Η μελέτη τους εξέτασε μια σειρά ηθικών κινδύνων για να δείξει πώς οι σύμβουλοι μεγάλων γλωσσικών μοντέλων (LLM) παραβιάζουν τα πρότυπα στην πρακτική της ψυχικής υγείας.

Διάφορα σημαντικά συστήματα τεχνητής νοημοσύνης, συμπεριλαμβανομένων των εκδόσεων του Openai. rel="nofollow noopener noreferrer" href="https://claude.ai/login?returnTo=%2F%3Fredirect%3Dclaude.com" target="_blank">Claude και του Meta Lama δοκιμασμένο.

Για τη μελέτη, οι ερευνητές ζήτησαν από εκπαιδευμένους συμβούλους ομοτίμους να πραγματοποιήσουν συνεδρίες πρακτικής θεραπείας με το AI, χρησιμοποιώντας προτροπές σχεδιασμένες να κάνουν τα συστήματα να λειτουργούν όπως σύμβουλοι γνωσιακής συμπεριφορικής θεραπείας (CBT) ή διαλεκτικής συμπεριφορικής θεραπείας (DBT).

Τρεις αδειοδοτημένοι ψυχολόγοι στη συνέχεια εξέτασαν τις απαντήσεις της AI.

Η μελέτη εντόπισε 15 διαφορετικούς κινδύνους, ομαδοποιημένους σε πέντε βασικούς τομείς:

  • Γενικό πλαίσιο: Η τεχνητή νοημοσύνη συχνά αγνόησε το μοναδικό υπόβαθρο ενός ατόμου.
  • Κακή συνεργασία: Μερικές φορές καθοδηγούσε τις συζητήσεις πολύ έντονα ή ενίσχυε επιβλαβείς πεποιθήσεις.
  • Παραπάτητη ενσυναίσθηση: Η τεχνητή νοημοσύνη χρησιμοποίησε φράσεις όπως «καταλαβαίνω» χωρίς να καταλαβαίνω πραγματικά συναισθήματα.
  • Προκατάληψη: Ορισμένες απαντήσεις εμφάνιζαν φυλετικές, θρησκευτικές ή πολιτιστικές προκαταλήψεις.
  • Αδύναμη απόκριση σε κρίση: Σε ορισμένες περιπτώσεις, τα chatbot διαχειρίστηκαν λάθος σκέψεις αυτοκτονίας ή απέτυχαν να καθοδηγήσουν τους χρήστες στη σωστή βοήθεια.

    • "Καλούμε μελλοντικές εργασίες για τη δημιουργία ηθικών, εκπαιδευτικών και νομικών προτύπων για τους συμβούλους LLM — πρότυπα που αντικατοπτρίζουν την ποιότητα και την αυστηρότητα της φροντίδας που απαιτείται για την υποβοηθούμενη από τον άνθρωπο ψυχοθεραπεία", έγραψαν οι ερευνητές.

    Κύριος ερευνητής Zainab Iftikhar, υποψήφια διδάκτορας στην επιστήμη των υπολογιστών στο Brown, είπε ότι οι προτροπές από μόνες τους δεν αρκούν για να καταστούν τα συστήματα AI ασφαλή για θεραπεία.

    "Τα μηνύματα προτροπής είναι οδηγίες που δίνονται στο μοντέλο για να καθοδηγήσουν τη συμπεριφορά του", εξήγησε. "Δεν αλλάζετε το υποκείμενο μοντέλο ούτε παρέχετε νέα δεδομένα, αλλά η προτροπή βοηθά στην καθοδήγηση των αποτελεσμάτων του μοντέλου με βάση τις προϋπάρχουσες γνώσεις και τα μαθημένα μοτίβα.

    Πολλοί άνθρωποι μοιράζονται προτροπές τύπου θεραπείας στο TikTok, το Instagram και το Reddit. Ορισμένες εφαρμογές ψυχικής υγείας των καταναλωτών χρησιμοποιούν επίσης αυτές τις τεχνικές προτροπής για να ενεργοποιήσουν τις λειτουργίες συνομιλίας AI.

    Ο Iftikhar σημείωσε ότι οι ανθρώπινοι θεραπευτές μπορούν επίσης να κάνουν λάθη. Η διαφορά, είπε; Επίβλεψη.

    "Για τους ανθρωποθεραπευτές, υπάρχουν διοικητικά συμβούλια και μηχανισμοί για τους παρόχους που πρέπει να θεωρούνται επαγγελματικά υπεύθυνοι για κακομεταχείριση και κακή πρακτική", δήλωσε ο Iftikhar σε δελτίο τύπου. "Όμως όταν οι σύμβουλοι LLM κάνουν αυτές τις παραβιάσεις, δεν υπάρχουν καθιερωμένα ρυθμιστικά πλαίσια."

    Ερευνητές είπαν ότι τα εργαλεία τεχνητής νοημοσύνης θα μπορούσαν να βοηθήσουν στην επέκταση της πρόσβασης σε υποστήριξη ψυχικής υγείας, ειδικά για άτομα που δεν μπορούν να αντέξουν οικονομικά ή να βρουν έναν εξουσιοδοτημένο επαγγελματία.

    Αλλά τόνισαν ότι απαιτούνται ισχυρότερες διασφαλίσεις πριν βασιστείτε σε αυτά τα συστήματα σε σοβαρές καταστάσεις.

    "Εάν μιλάτε σε ένα chatbot για την ψυχική υγεία, αυτά είναι μερικά πράγματα που πρέπει να προσέχουν οι άνθρωποι", είπε ο Iftikhar.

    Ο Ellie Pavlick δεν ασχολήθηκε με την επιστήμη, ο καθηγητής της πληροφορικής, ο Ellie Pavlick δεν ασχολήθηκε με την επιστήμη. στην ανάγκη για σκόπιμη μετακίνηση.

    "Η πραγματικότητα της τεχνητής νοημοσύνης σήμερα είναι ότι είναι πολύ πιο εύκολο να δημιουργήσεις και να αναπτύξεις συστήματα παρά να τα αξιολογήσεις και να τα κατανοήσεις", είπε.

    "Υπάρχει μια πραγματική ευκαιρία για την τεχνητή νοημοσύνη να παίξει ρόλο στην καταπολέμηση της κρίσης ψυχικής υγείας που αντιμετωπίζει η κοινωνία μας, αλλά είναι υψίστης σημασίας να αφιερώσουμε χρόνο για να κριτικάρουμε περισσότερο και να αξιολογούμε τον τρόπο που βλάπτει τα συστήματά μας". "Αυτό το έργο προσφέρει ένα καλό παράδειγμα για το πώς μπορεί να μοιάζει."

    Τα ευρήματα παρουσιάστηκαν σε συνέδριο του Association for the Advancement of Artificial Intelligence and Association for Computing Machinery.

    Η έρευνα που παρουσιάζεται σε συναντήσεις θεωρείται προκαταρκτική έως ότου δημοσιευτεί σε περιοδικό με κριτές.

    Πηγές

  • Brown University, δελτίο ειδήσεων, 2 Μαρτίου 2026

    • Αποποίηση ευθυνών: Τα στατιστικά δεδομένα σε ιατρικά άρθρα παρέχουν γενικές τάσεις και δεν αφορούν μεμονωμένα άτομα. Οι μεμονωμένοι παράγοντες μπορεί να διαφέρουν πολύ. Να αναζητάτε πάντα εξατομικευμένες ιατρικές συμβουλές για μεμονωμένες αποφάσεις υγειονομικής περίθαλψης.

    Πηγή: HealthDay

    Δημοσιεύτηκε : 2026-03-04 01:42

    Διαβάστε περισσότερα

    Αποποίηση ευθυνών

    Έχει καταβληθεί κάθε δυνατή προσπάθεια για να διασφαλιστεί ότι οι πληροφορίες που παρέχονται από το Drugslib.com είναι ακριβείς, μέχρι -ημερομηνία και πλήρης, αλλά δεν παρέχεται καμία εγγύηση για το σκοπό αυτό. Οι πληροφορίες φαρμάκων που περιέχονται εδώ μπορεί να είναι ευαίσθητες στο χρόνο. Οι πληροφορίες του Drugslib.com έχουν συγκεντρωθεί για χρήση από επαγγελματίες υγείας και καταναλωτές στις Ηνωμένες Πολιτείες και επομένως το Drugslib.com δεν εγγυάται ότι οι χρήσεις εκτός των Ηνωμένων Πολιτειών είναι κατάλληλες, εκτός εάν ρητά αναφέρεται διαφορετικά. Οι πληροφορίες φαρμάκων του Drugslib.com δεν υποστηρίζουν φάρμακα, δεν κάνουν διάγνωση ασθενών ή συνιστούν θεραπεία. Οι πληροφορίες για τα φάρμακα του Drugslib.com είναι ένας ενημερωτικός πόρος που έχει σχεδιαστεί για να βοηθά τους αδειοδοτημένους επαγγελματίες υγείας στη φροντίδα των ασθενών τους ή/και να εξυπηρετούν τους καταναλωτές που βλέπουν αυτήν την υπηρεσία ως συμπλήρωμα και όχι ως υποκατάστατο της τεχνογνωσίας, των δεξιοτήτων, της γνώσης και της κρίσης της υγειονομικής περίθαλψης επαγγελματίες.

    Η απουσία προειδοποίησης για ένα δεδομένο φάρμακο ή συνδυασμό φαρμάκων σε καμία περίπτωση δεν πρέπει να ερμηνεύεται ως ένδειξη ότι το φάρμακο ή ο συνδυασμός φαρμάκων είναι ασφαλής, αποτελεσματικός ή κατάλληλος για οποιονδήποτε δεδομένο ασθενή. Το Drugslib.com δεν αναλαμβάνει καμία ευθύνη για οποιαδήποτε πτυχή της υγειονομικής περίθαλψης που παρέχεται με τη βοήθεια των πληροφοριών που παρέχει το Drugslib.com. Οι πληροφορίες που περιέχονται στο παρόν δεν προορίζονται να καλύψουν όλες τις πιθανές χρήσεις, οδηγίες, προφυλάξεις, προειδοποιήσεις, αλληλεπιδράσεις με φάρμακα, αλλεργικές αντιδράσεις ή ανεπιθύμητες ενέργειες. Εάν έχετε ερωτήσεις σχετικά με τα φάρμακα που παίρνετε, συμβουλευτείτε το γιατρό, τη νοσοκόμα ή τον φαρμακοποιό σας.

    Δημοφιλείς λέξεις -κλειδιά