AI terapeut? Nedaří se to, varuje nová studie

Sledujte Drugslib

Od pracovníků HealthDay HealthDay Reporter

BPharm. Poslední aktualizace 3. března 2026.

ÚTERÝ 3. března 2026 — Stále více lidí žádá chatboty s umělou inteligencí (AI) o pomoc s každodenními problémy, od pracovního stresu po starosti se vztahy a další.

Nová studie nyní varuje, že pokud jde o poradenství v oblasti duševního zdraví, tyto systémy mohou selhat.

Tým z Brown University v Providence na Rhode Islandu zjistil, že i když je systémům umělé inteligence řečeno, aby se chovaly jako vyškolení terapeuti, často nesplňují profesionální etické standardy.

Tým spolupracoval s odborníky na duševní zdraví, aby prozkoumal, jak tyto systémy reagují na konverzace podobné poradenství.

Jejich studie zkoumala řadu etických rizik, aby ukázala, jak poradci s velkým jazykovým modelem (LLM) porušují standardy v praxi duševního zdraví.

Několik hlavních systémů umělé inteligence, včetně verzí modelů OpenAI openrelno="follera noreferrlow, Anthropic" norelno="GPT, Anthropic" href="https://claude.ai/login?returnTo=%2F%3Fredirect%3Dclaude.com" target="_blank">Claude a Meta Llama byli testováni.

V rámci studie výzkumníci požádali vyškolené peer poradce, aby pořádali cvičná terapeutická sezení s umělou inteligencí pomocí pokynů navržených tak, aby systémy fungovaly jako poradci kognitivně behaviorální terapie (CBT) nebo dialektické behaviorální terapie (DBT).

Tři licencovaní psychologové poté přezkoumali odpovědi AI.

Studie identifikovala 15 různých rizik seskupených do pěti hlavních oblastí:

  • Obecný kontext: AI často ignorovala jedinečné pozadí člověka.
  • Špatná spolupráce: Někdy to řídilo konverzace příliš silně nebo posilovalo škodlivé přesvědčení.
  • Klamná empatie: Umělá inteligence používala fráze jako „Rozumím“, aniž by skutečně pochopila emoce.
  • Předsudky: Některé odpovědi vykazovaly genderové, náboženské nebo kulturní předsudky.
  • Slabá reakce na krizi: V některých případech chatboti nesprávně zacházeli se sebevražednými myšlenkami nebo nedokázali navést uživatele ke správné pomoci.

    • „Vyzýváme budoucí práci na vytvoření etických, vzdělávacích a právních standardů pro poradce LLM – standardů, které odrážejí kvalitu a přísnost péče požadované pro psychoterapii podporovanou člověkem,“ napsali vědci.

    Vedoucí výzkumník Iftikhar, doktorand v oboru počítačových věd na Brownu, řekl, že samotné výzvy nestačí k tomu, aby byly systémy umělé inteligence bezpečné pro terapii.

    „Výzvy jsou pokyny, které jsou modelu poskytovány, aby řídily jeho chování,“ vysvětlila. „Nezměníte základní model ani neposkytnete nová data, ale výzva pomáhá vést výstup modelu na základě jeho již existujících znalostí a naučených vzorů.

    Mnoho lidí sdílí výzvy ve stylu terapie na TikTok, Instagram a Reddit. Některé spotřebitelské aplikace pro duševní zdraví také používají tyto techniky výzvy k podpoře funkcí chatu AI.

    Iftikhar poznamenal, že lidští terapeuti mohou také dělat chyby. Rozdíl, řekla? Dohled.

    "Pro lidské terapeuty existují řídící rady a mechanismy, aby poskytovatelé byli profesionálně odpovědní za špatné zacházení a zanedbání povinné péče," uvedl Iftikhar v tiskové zprávě. "Ale když poradci LLM tato porušení poruší, neexistují žádné zavedené regulační rámce."

    Výzkumníci uvedli, že nástroje AI by stále mohly pomoci rozšířit přístup k podpoře duševního zdraví, zejména pro lidi, kteří si nemohou dovolit nebo najít licencovaného profesionála.

    Zdůraznili však, že před spolehnutím se na tyto systémy ve vážných situacích jsou zapotřebí silnější záruky.

    „Pokud mluvíte s chatbotem o duševním zdraví, toto jsou některé věci, na které by si lidé měli dávat pozor,“ řekl Iftikhar.

    Ellie Pavlick, mluvila k profesorovi výpočetní techniky na Brownu, který se nepodílel na stěhování, mluvila Ellie Pavlick, profesorka výpočetní techniky na Brownu, která se neúčastnila stěhování.

    „Současná realita umělé inteligence je taková, že je mnohem snazší budovat a nasazovat systémy, než je vyhodnocovat a chápat,“ řekla.

    „Umělá inteligence má skutečnou příležitost hrát roli v boji proti krizi duševního zdraví, které naše společnost čelí, ale je nanejvýš důležité, abychom si udělali čas na to, abychom skutečně kritizovali a vyhodnocovali naše systémy na každém kroku více než dobře,“ řekl Pavl. "Tato práce nabízí dobrý příklad toho, jak to může vypadat."

    Zjištění zjištění byly prezentovány na konferenci Asociace pro rozvoj umělé inteligence a Asociace pro výpočetní techniku.

    Výzkum prezentovaný na setkáních je považován za předběžný, dokud nebude publikován v recenzovaném časopise.

    Zdroje

  • Brown University, tisková zpráva, 2. března 2026

    • Odmítnutí odpovědnosti: Statistická data v lékařských článcích poskytují obecné trendy a netýkají se jednotlivců. Jednotlivé faktory se mohou velmi lišit. Při individuálních rozhodnutích o zdravotní péči vždy vyhledejte osobní lékařskou pomoc.

    Zdroj: HealthDay

    Vyslán : 2026-03-04 01:42

    Přečtěte si více

    Odmítnutí odpovědnosti

    Vynaložili jsme veškeré úsilí, abychom zajistili, že informace poskytované na webu Drugslib.com jsou přesné a aktuální -datum a úplné, ale v tomto smyslu není poskytována žádná záruka. Informace o léčivech zde uvedené mohou být časově citlivé. Informace Drugslib.com byly sestaveny pro použití zdravotnickými lékaři a spotřebiteli ve Spojených státech, a proto Drugslib.com nezaručuje, že použití mimo Spojené státy jsou vhodné, pokud není výslovně uvedeno jinak. Informace o drogách na webu Drugslib.com nepodporují léky, nediagnostikují pacienty ani nedoporučují terapii. Informace o lécích na webu Drugslib.com jsou informačním zdrojem, který má pomáhat licencovaným lékařům v péči o jejich pacienty a/nebo sloužit spotřebitelům, kteří tuto službu vnímají jako doplněk, a nikoli náhradu za odborné znalosti, dovednosti, znalosti a úsudek zdravotní péče. praktikující.

    Neexistence varování pro daný lék nebo lékovou kombinaci by v žádném případě neměla být vykládána tak, že naznačuje, že lék nebo léková kombinace je pro daného pacienta bezpečná, účinná nebo vhodná. Drugslib.com nepřebírá žádnou odpovědnost za jakýkoli aspekt zdravotní péče poskytované s pomocí informací, které poskytuje Drugslib.com. Informace obsažené v tomto dokumentu nejsou určeny k pokrytí všech možných použití, pokynů, opatření, varování, lékových interakcí, alergických reakcí nebo nežádoucích účinků. Máte-li otázky týkající se léků, které užíváte, zeptejte se svého lékaře, zdravotní sestry nebo lékárníka.

    Populární klíčová slova