Terapeut AI? Este scurt, avertizează un nou studiu

Urmăriți Drugslib pe

De către personalul HealthDay HealthDay Reporter

mhar Popedicallyp; Ultima actualizare pe 3 martie 2026.

via Health

MARȚI, 3 martie 2026 — Mai mulți oameni solicită ajutor chatbot-urilor de inteligență artificială (AI) pentru problemele zilnice, de la stresul de la locul de muncă la grijile relațiilor și multe altele.

Acum, un nou studiu avertizează că, atunci când vine vorba de sfaturi de sănătate mintală, aceste sisteme pot fi insuficiente.

O echipă de la Universitatea Brown din Providence, Rhode Island, a descoperit că, chiar și atunci când sistemelor AI li se spune să acționeze ca niște terapeuți instruiți, adesea nu îndeplinesc standardele de etică profesională.

Echipa a lucrat cu experți în sănătate mintală pentru a examina modul în care aceste sisteme răspund în conversații asemănătoare consilierii.

Studiul lor a examinat o serie de riscuri etice pentru a arăta modul în care consilierii cu modele lingvistice mari (LLM) încalcă standardele în practica sănătății mintale.

Mai multe sisteme majore de inteligență artificială, inclusiv versiuni ale OpenAI’s href="_blank">modele OpenAI’s href="a rethropicsnoopener, noopener noreferrer" href="https://claude.ai/login?returnTo=%2F%3Fredirect%3Dclaude.com" target="_blank">Claude și Llaude ale lui Meta au fost testațiLlama.

Pentru studiu, cercetătorii le-au cerut consilierilor formați să organizeze sesiuni de terapie practică cu AI, folosind instrucțiuni concepute pentru a face ca sistemele să acționeze ca consilieri de terapie cognitiv-comportamentală (CBT) sau terapie dialectică comportamentală (DBT).

Trei psihologi autorizați au revizuit apoi răspunsurile AI.

Studiul a identificat 15 riscuri diferite, grupate în cinci domenii principale:

  • Context generic: IA a ignorat adesea mediul unic al unei persoane.
  • Colaborare slabă: uneori conducea conversațiile prea puternic sau întărea convingerile dăunătoare.
  • Empatie înșelătoare: AI folosea expresii precum „înțeleg” fără a înțelege cu adevărat emoțiile.
  • Prejudecăți: unele răspunsuri au afișat prejudecăți de gen, religioase sau culturale.
  • Răspuns slab la criză: în unele cazuri, chatboții au gestionat greșit gândurile de sinucidere sau nu au reușit să îndrume utilizatorii către ajutorul adecvat.

    • „Facem apel la lucrările viitoare pentru a crea standarde etice, educaționale și legale pentru consilierii LLM – standarde care reflectă calitatea și rigoarea îngrijirii necesare pentru psihoterapia facilitată de oameni”, au scris cercetătorii.

    Cercetator principal , un candidat la doctorat în informatică la Brown, a spus că doar solicitările nu sunt suficiente pentru a face sistemele AI sigure pentru terapie.

    „Prompturile sunt instrucțiuni care sunt date modelului pentru a-i ghida comportamentul”, a explicat ea. „Nu schimbați modelul de bază și nu furnizați date noi, dar promptul vă ajută să ghidați rezultatul modelului pe baza cunoștințelor sale preexistente și a modelelor învățate.

    Mulți oameni împărtășesc sugestii în stilul terapiei pe TikTok, Instagram și Reddit. Unele aplicații de sănătate mintală pentru consumatori folosesc și aceste tehnici de prompt pentru a alimenta funcțiile de chat AI.

    Iftikhar a remarcat că și terapeuții umani pot face greșeli. Diferența, a spus ea? Supraveghere.

    „Pentru terapeuții umani, există consilii de conducere și mecanisme pentru ca furnizorii să fie trași la răspundere profesională pentru maltratare și malpraxis”, a spus Iftikhar într-un comunicat de presă. „Dar atunci când consilierii LLM fac aceste încălcări, nu există cadre de reglementare stabilite.”

    Cercetătorii au spus că instrumentele de inteligență artificială ar putea contribui în continuare la extinderea accesului la sprijin pentru sănătatea mintală, în special pentru persoanele care nu își permit sau își găsesc un profesionist autorizat.

    Dar ei au subliniat că sunt necesare garanții mai puternice înainte de a se baza pe aceste sisteme în situații grave.

    „Dacă vorbești cu un chatbot despre sănătatea mintală, acestea sunt câteva lucruri la care oamenii ar trebui să aibă grijă”, a spus Iftikhar.

    Ellie Pavlick, care nu a fost profesor de informatică implicat în studiu la Brown, a vorbit deplasându-se în mod deliberat.

    „Realitatea inteligenței artificiale de astăzi este că este mult mai ușor să construiești și să implementezi sisteme decât să le evaluezi și să le înțelegi”, a spus ea.

    „Există o oportunitate reală pentru inteligența artificială de a juca un rol în combaterea crizei de sănătate mintală cu care se confruntă societatea noastră, dar este de cea mai mare importanță să ne acordăm timp pentru a evita critica și evaluarea cu adevărat a sistemelor noastre, mai mult decât să ne dăunem fiecare pas bun”. spuse. „Această lucrare oferă un bun exemplu despre cum poate arăta.”

    concluziile au fost prezentate la o conferință a Asociației pentru Progresul Inteligenței Artificiale și a Asociației pentru Mașini de Calcul.

    Cercetarea prezentată la întâlniri este considerată preliminară până la publicarea într-un jurnal evaluat de colegi.

    Surse

  • Universitatea Brown, comunicat de presă, 2 martie 2026

    • Renunțare la răspundere: datele statistice din articolele medicale oferă tendințe generale și nu se referă la indivizi. Factorii individuali pot varia foarte mult. Căutați întotdeauna sfaturi medicale personalizate pentru deciziile individuale de îngrijire a sănătății.

    Sursa: HealthDay

    Postat : 2026-03-04 01:42

    Citeşte mai mult

    Declinare de responsabilitate

    S-au depus toate eforturile pentru a se asigura că informațiile furnizate de Drugslib.com sunt exacte, actualizate -data și completă, dar nu se face nicio garanție în acest sens. Informațiile despre medicamente conținute aici pot fi sensibile la timp. Informațiile Drugslib.com au fost compilate pentru a fi utilizate de către practicienii din domeniul sănătății și consumatorii din Statele Unite și, prin urmare, Drugslib.com nu garantează că utilizările în afara Statelor Unite sunt adecvate, cu excepția cazului în care se indică altfel. Informațiile despre medicamente de la Drugslib.com nu susțin medicamente, nu diagnostichează pacienții și nu recomandă terapie. Informațiile despre medicamente de la Drugslib.com sunt o resursă informațională concepută pentru a ajuta practicienii autorizați din domeniul sănătății în îngrijirea pacienților lor și/sau pentru a servi consumatorilor care văd acest serviciu ca un supliment și nu un substitut pentru expertiza, abilitățile, cunoștințele și raționamentul asistenței medicale. practicieni.

    Lipsa unui avertisment pentru un anumit medicament sau combinație de medicamente nu trebuie în niciun fel interpretată ca indicând faptul că medicamentul sau combinația de medicamente este sigură, eficientă sau adecvată pentru un anumit pacient. Drugslib.com nu își asumă nicio responsabilitate pentru niciun aspect al asistenței medicale administrat cu ajutorul informațiilor furnizate de Drugslib.com. Informațiile conținute aici nu sunt destinate să acopere toate utilizările posibile, instrucțiunile, precauțiile, avertismentele, interacțiunile medicamentoase, reacțiile alergice sau efectele adverse. Dacă aveți întrebări despre medicamentele pe care le luați, consultați medicul, asistenta sau farmacistul.

    Cuvinte cheie populare