AI terapeuta? Nem sikerül – figyelmeztet egy új tanulmány

Kövesse a Drugslib-et

A HealthDay Staff HealthDay Reporterétől

Carmen-weokicallyesp); Pope, BPharm. Utolsó frissítés: 2026. március 3.

via HealthDay

KEDD, 2026. március 3. – Egyre többen kérnek mesterséges intelligencia (AI) chatbotoktól segítséget a napi problémák megoldásában, a munkahelyi stressztől a párkapcsolati gondokig stb.

Most egy új tanulmány arra figyelmeztet, hogy a mentális egészségügyi tanácsokat illetően ezek a rendszerek kudarcot vallanak.

A Rhode Island állambeli Providence-i Brown Egyetem egyik csapata azt találta, hogy még ha a mesterséges intelligencia rendszereknek azt mondják is, hogy képzett terapeutákként viselkedjenek, gyakran nem felelnek meg a szakmai etikai normáknak.

A csapat mentális egészségügyi szakértőkkel együttműködve megvizsgálta, hogyan reagálnak ezek a rendszerek a tanácsadáshoz hasonló beszélgetésekre.

Tanulmányukban egy sor etikai kockázatot vizsgáltak meg annak bemutatására, hogy a nagy nyelvi modellek (LLM) tanácsadói hogyan sértik meg a normákat a mentálhigiénés gyakorlatban.

Számos fő mesterséges intelligencia-rendszer, köztük az OpenAI-modellek változata, Anthro noopener noreferrer" href="https://claude.ai/login?returnTo=%2F%3Fredirect%3Dclaude.com" target="_blank">Claude és Meta A tanulmányhoz a kutatók képzett kortárs tanácsadókat kértek fel, hogy tartsanak gyakorlati terápiás foglalkozásokat az MI-vel, olyan utasításokat használva, amelyek célja, hogy a rendszerek kognitív viselkedésterápia (CBT) vagy dialektikus viselkedésterápia (DBT) tanácsadóként működjenek.

Ezt követően három engedéllyel rendelkező pszichológus felülvizsgálta az MI válaszait.

A tanulmány 15 különböző kockázatot azonosított, öt fő területre csoportosítva:

  • Általános kontextus: A mesterséges intelligencia gyakran figyelmen kívül hagyta egy személy egyedi hátterét.
  • Gyenge együttműködés: Néha túl erősen irányította a beszélgetéseket, vagy megerősítette a káros hiedelmeket.
  • Megtévesztő empátia: A mesterséges intelligencia olyan kifejezéseket használt, mint az „értem”, anélkül, hogy valóban megragadta volna az érzelmeket.
  • Elfogultság: Egyes válaszok nemi, vallási vagy kulturális előítéleteket tükröztek.
  • Gyenge válságreakció: Egyes esetekben a chatbotok rosszul kezelték az öngyilkossági gondolatokat, vagy nem tudták megfelelő segítséghez irányítani a felhasználókat.

    • "Felhívjuk a jövőbeli munkát, hogy etikai, oktatási és jogi normákat hozzunk létre az LLM-tanácsadók számára – olyan normákat, amelyek tükrözik az ember által támogatott pszichoterápiához szükséges ellátás minőségét és szigorúságát" - írták a kutatók.

    A kutatásvezető , a Brown informatika doktorjelöltje szerint a felszólítások önmagukban nem elegendőek ahhoz, hogy az AI-rendszereket biztonságossá tegyék a terápia számára.

    „A felszólítások olyan utasítások, amelyeket a modellnek adnak, hogy irányítsák a viselkedését” – magyarázta. "Nem módosítja az alapul szolgáló modellt, és nem ad meg új adatokat, de a felszólítás segít a modell kimenetének irányítani a már meglévő ismeretek és a tanult minták alapján.

    Sokan osztanak meg terápiás jellegű felszólításokat a TikTokon, az Instagramon és a Redditen. Egyes fogyasztói mentálhigiénés alkalmazások is használják ezeket a felszólítási technikákat a mesterséges intelligencia csevegési funkcióinak működtetésére.

    Iftikhar megjegyezte, hogy a humán terapeuták is hibázhatnak. A különbség, mondta? Felügyelet.

    "A humán terapeuták számára vannak olyan irányító testületek és mechanizmusok, amelyekkel a szolgáltatókat szakmailag felelősségre vonhatják a helytelen bánásmódért és visszaélésekért" - mondta Iftikhar egy sajtóközleményben. "De amikor az LLM-tanácsadók megszegik ezeket a jogsértéseket, nincsenek megállapított szabályozási keretek."

    A kutatók szerint az AI-eszközök továbbra is segíthetnek a mentális egészségügyi támogatáshoz való hozzáférés bővítésében, különösen azok számára, akik nem engedhetik meg maguknak, vagy nem találnak engedéllyel rendelkező szakembert.

    De hangsúlyozták, hogy erősebb biztosítékokra van szükség, mielőtt komoly helyzetekben ezekre a rendszerekre hagyatkozna.

    „Ha a mentális egészségről beszél egy chatbottal, ezekre a dolgokra az embereknek oda kell figyelniük” – mondta Iftikhar.

    Ellie Pavlick, a Brown számítástechnikai professzorának kellett a költöztetésben részt vennie. szándékosan.

    "A mesterséges intelligencia manapság az, hogy sokkal könnyebb rendszereket felépíteni és telepíteni, mint értékelni és megérteni" - mondta.

    "Valós lehetőség van a mesterséges intelligencia számára, hogy szerepet játsszon a társadalmunk előtt álló mentális egészségügyi krízis leküzdésében, de rendkívül fontos, hogy szánjunk időt arra, hogy valóban kritizáljuk és értékeljük a rendszereink minden lépését, mintsem kárt tenni." "Ez a munka jó példát mutat arra, hogyan nézhet ki."

    A eredményeket a Mesterséges Intelligencia Fejlesztéséért Egyesület és a Számítógépek Szövetsége konferenciáján mutatták be.

    Az értekezleteken bemutatott kutatás előzetesnek minősül, amíg egy lektorált folyóiratban nem teszik közzé.

    Források

  • Brown University, sajtóközlemény, 2026. március 2.

    • Felelősség kizárása: Az orvosi cikkekben található statisztikai adatok általános tendenciákat mutatnak be, és nem egyénekre vonatkoznak. Az egyéni tényezők nagyon eltérőek lehetnek. Mindig kérjen személyre szabott orvosi tanácsot egyéni egészségügyi döntéseihez.

    Forrás: HealthDay

    Elküldve : 2026-03-04 01:42

    Olvass tovább

    Felelősség kizárása

    Minden erőfeszítést megtettünk annak érdekében, hogy a Drugslib.com által közölt információk pontosak és naprakészek legyenek - dátum, és teljes, de erre nem vállalunk garanciát. Az itt található gyógyszerinformációk időérzékenyek lehetnek. A Drugslib.com információit egészségügyi szakemberek és fogyasztók számára állítottuk össze az Egyesült Államokban, ezért a Drugslib.com nem garantálja, hogy az Egyesült Államokon kívüli felhasználás megfelelő, kivéve, ha kifejezetten másként jelezzük. A Drugslib.com gyógyszerinformációi nem támogatják a gyógyszereket, nem diagnosztizálnak betegeket, és nem ajánlanak terápiát. A Drugslib.com gyógyszerinformációi egy információs forrás, amelynek célja, hogy segítse az engedéllyel rendelkező egészségügyi szakembereket betegeik ellátásában és/vagy olyan fogyasztók kiszolgálására, akik ezt a szolgáltatást az egészségügyi szakértelem, készség, tudás és megítélés kiegészítéseként, nem pedig helyettesítőjeként tekintik. gyakorló szakemberek.

    Az adott gyógyszerre vagy gyógyszerkombinációra vonatkozó figyelmeztetés hiánya semmiképpen sem értelmezhető úgy, hogy a gyógyszer vagy gyógyszerkombináció biztonságos, hatékony vagy megfelelő az adott beteg számára. A Drugslib.com nem vállal felelősséget a Drugslib.com által biztosított információk segítségével nyújtott egészségügyi ellátás egyetlen aspektusáért sem. Az itt található információk nem terjednek ki minden lehetséges felhasználásra, útmutatásra, óvintézkedésre, figyelmeztetésre, gyógyszerkölcsönhatásra, allergiás reakcióra vagy káros hatásra. Ha kérdése van az Ön által szedett gyógyszerekkel kapcsolatban, kérdezze meg kezelőorvosát, ápolónőjét vagy gyógyszerészét.

    Népszerű kulcsszavak