Terapi AI? Iku Falls Short, A New Study Warns

Tindakake Drugslib ing

Dening Staff HealthDay HealthDay Reporter

Medically. Dianyari pungkasan tanggal 3 Maret 2026.

via HealthDay

SELASA, 3 Maret 2026 — Akeh wong sing njaluk bantuan chatbots artificial intelligence (AI) kanggo masalah saben dina, saka stres kerja nganti kuwatir hubungan lan liya-liyane.

Saiki, sing anyar sinau ngelingake yen nalika nerangake saran kesehatan mental, sistem kasebut bisa gagal.

Sawijining tim ing Universitas Brown ing Providence, Rhode Island, nemokake manawa sanajan sistem AI didhawuhi tumindak kaya terapi sing dilatih, dheweke asring gagal netepi standar etika profesional.

Tim kerja sama karo ahli kesehatan mental kanggo nliti cara sistem kasebut nanggapi ing obrolan kaya konseling.

Panaliten kasebut nliti serangkaian risiko etika kanggo nuduhake kepiye penasihat model basa gedhe (LLM) nglanggar standar praktik kesehatan mental.

Saperangan sistem AI utama, kalebu versi Model OpenAI's, OpenAI's noopener noreferrer" href="https://claude.ai/login?returnTo=%2F%3Fredirect%3Dclaude.com" target="_blank">Claude lan Meta's Llama.

Kanggo sinau, peneliti njaluk penasihat kanca sing dilatih supaya nganakake sesi terapi latihan karo AI, nggunakake pituduh sing dirancang kanggo nggawe sistem tumindak kaya terapi perilaku kognitif (CBT) utawa terapi perilaku dialektik (DBT).

Telung psikolog sing dilisensi banjur mriksa tanggapan AI.

Panaliten kasebut nemtokake 15 risiko sing beda-beda, diklompokake dadi limang wilayah utama:

  • Konteks umum: AI asring nglirwakake latar mburi unik saka wong.
  • Kolaborasi sing ora apik: Kadhangkala nyebabake obrolan sing kuwat banget utawa nguatake kapercayan sing mbebayani.
  • Empati sing ngapusi: AI nggunakake frase kaya "Aku ngerti" tanpa bener-bener nangkep emosi.
  • Bias: Sawetara tanggepan nuduhake prasangka jender, agama utawa budaya.
  • Tanggepan krisis sing lemah: Ing sawetara kasus, chatbots salah nangani pikiran bunuh diri utawa gagal nuntun pangguna kanggo bantuan sing bener.

    • "Kita ngajak kerja ing mangsa ngarep kanggo nggawe standar etika, pendidikan lan hukum kanggo penasihat LLM - standar sing nggambarake kualitas lan kaku perawatan sing dibutuhake kanggo psikoterapi sing difasilitasi manungsa," tulis peneliti. Iftikhar, calon doktor ing ilmu komputer ing Brown, ujar manawa mung pituduh ora cukup kanggo nggawe sistem AI aman kanggo terapi.

    "Prompts minangka instruksi sing diwenehake marang model kanggo nuntun prilaku," dheweke nerangake. "Sampeyan ora ngganti model dhasar utawa menehi data anyar, nanging pituduh mbantu nuntun output model adhedhasar kawruh sing wis ana lan pola sing wis dipelajari.

    Akeh wong nuduhake pituduh gaya terapi ing TikTok, Instagram lan Reddit. Sawetara aplikasi kesehatan mental konsumen uga nggunakake teknik pituduh iki kanggo nguwasani fitur obrolan AI.

    Iftikhar nyathet yen terapi manungsa uga bisa nggawe kesalahan. Bentenipun, dheweke ngandika? Pengawasan.

    "Kanggo terapi manungsa, ana papan panguwasa lan mekanisme kanggo panyedhiya supaya bisa tanggung jawab kanthi profesional amarga penganiayaan lan pelanggaran," ujare Iftikhar ing siaran pers. "Nanging nalika penasihat LLM nggawe pelanggaran kasebut, ora ana kerangka regulasi sing mapan."

    Para panaliti ujar manawa alat AI isih bisa mbantu nggedhekake akses menyang dhukungan kesehatan mental, utamane kanggo wong sing ora bisa mbayar utawa golek profesional sing dilisensi.

    Nanging dheweke negesake manawa pengamanan sing luwih kuat dibutuhake sadurunge ngandelake sistem kasebut ing kahanan sing serius.

    "Yen sampeyan ngomong karo chatbot babagan kesehatan mental, iki sawetara perkara sing kudu digatekake wong," ujare Iftikhar.

    Ellie Pavlick, profesor ilmu komputer sing ora perlu melu ing bidang ilmu komputer. sengaja.

    "Kasunyatan AI saiki luwih gampang kanggo mbangun lan nyebarake sistem tinimbang ngevaluasi lan ngerti," ujare.

    "Ana kesempatan nyata kanggo AI kanggo main peran kanggo nglawan krisis kesehatan mental sing diadhepi masyarakat, nanging sing paling penting yaiku kita njupuk wektu kanggo ngritik lan ngevaluasi sistem kita saben langkah kanggo ngindhari piala, "ujare Pavlick. "Karya iki menehi conto sing apik babagan apa sing bisa katon."

    The Temuan diwenehi ing konferensi Asosiasi kanggo Kemajuan Kecerdasan Buatan lan Asosiasi Mesin Komputasi.

    Riset sing disajikake ing rapat-rapat dianggep minangka wiwitan nganti diterbitake ing jurnal sing ditinjau peer.

    Sumber

  • Universitas Brown, rilis warta, 2 Maret 2026

    • Disclaimer: Data statistik ing artikel medis nyedhiyakake tren umum lan ora ana hubungane karo individu. Faktor individu bisa beda-beda banget. Tansah golek saran medis pribadi kanggo keputusan perawatan kesehatan individu.

    Sumber: HealthDay

    Dikirim : 2026-03-04 01:42

    Waca liyane

    Disclaimer

    Kabeh upaya wis ditindakake kanggo mesthekake yen informasi sing diwenehake dening Drugslib.com akurat, nganti -tanggal, lan lengkap, nanging ora njamin kanggo efek sing. Informasi obat sing ana ing kene bisa uga sensitif wektu. Informasi Drugslib.com wis diklumpukake kanggo digunakake dening praktisi kesehatan lan konsumen ing Amerika Serikat lan mulane Drugslib.com ora njamin sing nggunakake njaba Amerika Serikat cocok, kajaba khusus dituduhake digunakake. Informasi obat Drugslib.com ora nyetujoni obat, diagnosa pasien utawa menehi rekomendasi terapi. Informasi obat Drugslib.com minangka sumber informasi sing dirancang kanggo mbantu praktisi kesehatan sing dilisensi kanggo ngrawat pasien lan / utawa nglayani konsumen sing ndeleng layanan iki minangka tambahan, lan dudu pengganti, keahlian, katrampilan, kawruh lan pertimbangan babagan perawatan kesehatan. praktisi.

    Ora ana bebaya kanggo kombinasi obat utawa obat sing diwenehake kanthi cara apa wae kudu ditafsirake kanggo nuduhake yen obat utawa kombinasi obat kasebut aman, efektif utawa cocok kanggo pasien tartamtu. Drugslib.com ora nanggung tanggung jawab kanggo aspek kesehatan apa wae sing ditindakake kanthi bantuan informasi sing diwenehake Drugslib.com. Informasi sing ana ing kene ora dimaksudake kanggo nyakup kabeh panggunaan, pituduh, pancegahan, bebaya, interaksi obat, reaksi alergi, utawa efek samping. Yen sampeyan duwe pitakon babagan obat sing sampeyan gunakake, takon dhokter, perawat utawa apoteker.

    Kata kunci populer