Ahli Terapi AI? It Falls Short, Kajian Baru Memberi Amaran
melalui HealthDay="">melalui HealthDay="">SELASA, 3 Mac 2026 — Lebih ramai orang meminta bantuan kepada bot sembang kecerdasan buatan (AI) untuk masalah harian, daripada tekanan kerja kepada kebimbangan perhubungan dan banyak lagi.
Kini, kajian baharu memberi amaran bahawa apabila ia berkaitan dengan nasihat kesihatan mental, sistem ini mungkin gagal.
Sebuah pasukan di Universiti Brown di Providence, Rhode Island, mendapati bahawa walaupun sistem AI diberitahu untuk bertindak seperti ahli terapi terlatih, mereka sering gagal memenuhi piawaian etika profesional.
Pasukan bekerja dengan pakar kesihatan mental untuk memeriksa cara sistem ini bertindak balas dalam perbualan seperti kaunseling.
Kajian mereka meneliti satu siri risiko etika untuk menunjukkan cara kaunselor model bahasa besar (LLM) melanggar piawaian dalam amalan kesihatan mental.
Beberapa sistem AI utama, termasuk versi model GAP Terbukanofollow noopener noreferrer" href="https://claude.ai/login?returnTo=%2F%3Fredirect%3Dclaude.com" target="_blank">Claude dan Meta's Llama's target="_blank">Llama Untuk kajian itu, penyelidik meminta kaunselor rakan sebaya yang terlatih untuk mengadakan sesi terapi amalan dengan AI, menggunakan gesaan yang direka bentuk untuk menjadikan sistem bertindak seperti kaunselor terapi tingkah laku kognitif (CBT) atau terapi tingkah laku dialektik (DBT). Tiga ahli psikologi berlesen kemudian menyemak respons AI. Kajian itu mengenal pasti 15 risiko berbeza, dikumpulkan kepada lima bidang utama: "Kami menyeru kerja masa depan untuk mencipta piawaian etika, pendidikan dan undang-undang untuk kaunselor LLM — piawaian yang mencerminkan kualiti dan ketelitian penjagaan yang diperlukan untuk psikoterapi yang difasilitasi manusia," tulis penyelidik. Penyelidik utama , calon kedoktoran dalam sains komputer di Brown, berkata gesaan sahaja tidak mencukupi untuk menjadikan sistem AI selamat untuk terapi. "Gesaan ialah arahan yang diberikan kepada model untuk membimbing tingkah lakunya," jelasnya. "Anda tidak menukar model asas atau menyediakan data baharu, tetapi gesaan membantu membimbing output model berdasarkan pengetahuan sedia ada dan corak dipelajarinya. Ramai orang berkongsi gesaan gaya terapi di TikTok, Instagram dan Reddit. Beberapa apl kesihatan mental pengguna turut menggunakan teknik gesaan ini untuk menguasakan ciri sembang AI. Iftikhar menyatakan bahawa ahli terapi manusia juga boleh melakukan kesilapan. Perbezaannya, katanya? Pengawasan. "Bagi ahli terapi manusia, terdapat lembaga pentadbir dan mekanisme untuk penyedia dipertanggungjawabkan secara profesional atas penganiayaan dan penyelewengan," kata Iftikhar dalam satu kenyataan berita. "Tetapi apabila kaunselor LLM membuat pelanggaran ini, tiada rangka kerja pengawalseliaan yang ditetapkan." Penyelidik berkata alatan AI masih boleh membantu meluaskan akses kepada sokongan kesihatan mental, terutamanya bagi mereka yang tidak mampu atau mencari profesional berlesen. Tetapi mereka menegaskan bahawa perlindungan yang lebih kukuh diperlukan sebelum bergantung pada sistem ini dalam situasi yang serius. “Jika anda bercakap dengan bot sembang tentang kesihatan mental, ini adalah beberapa perkara yang harus diperhatikan oleh orang ramai,” kata Iftikhar. Ellie Pavlick, seorang profesor sains komputer yang tidak perlu terlibat dalam pengajian sains komputer. dengan sengaja. “Realiti AI hari ini ialah jauh lebih mudah untuk membina dan menggunakan sistem daripada menilai dan memahaminya,” katanya. "Terdapat peluang sebenar bagi AI untuk memainkan peranan dalam memerangi krisis kesihatan mental yang dihadapi oleh masyarakat kita, tetapi yang paling penting adalah kita meluangkan masa untuk benar-benar mengkritik dan menilai sistem kita setiap langkah untuk mengelak daripada melakukan perkara yang baik," Pavlick berkata. "Kerja ini menawarkan contoh yang baik tentang rupanya." penemuan telah dibentangkan pada persidangan Persatuan untuk Kemajuan Kepintaran Buatan dan Persatuan untuk Jentera Pengkomputeran. Penyelidikan yang dibentangkan pada mesyuarat dianggap awal sehingga diterbitkan dalam jurnal yang disemak oleh rakan sebaya. Penafian: Data statistik dalam artikel perubatan memberikan trend umum dan tidak berkaitan dengan individu. Faktor individu boleh sangat berbeza. Sentiasa dapatkan nasihat perubatan yang diperibadikan untuk keputusan penjagaan kesihatan individu. Sumber: HealthDay Disiarkan : 2026-03-04 01:42 Segala usaha telah dilakukan untuk memastikan bahawa maklumat yang diberikan oleh Drugslib.com adalah tepat, terkini -tarikh, dan lengkap, tetapi tiada jaminan dibuat untuk kesan itu. Maklumat ubat yang terkandung di sini mungkin sensitif masa. Maklumat Drugslib.com telah disusun untuk digunakan oleh pengamal penjagaan kesihatan dan pengguna di Amerika Syarikat dan oleh itu Drugslib.com tidak menjamin bahawa penggunaan di luar Amerika Syarikat adalah sesuai, melainkan dinyatakan sebaliknya secara khusus. Maklumat ubat Drugslib.com tidak menyokong ubat, mendiagnosis pesakit atau mengesyorkan terapi. Maklumat ubat Drugslib.com ialah sumber maklumat yang direka bentuk untuk membantu pengamal penjagaan kesihatan berlesen dalam menjaga pesakit mereka dan/atau memberi perkhidmatan kepada pengguna yang melihat perkhidmatan ini sebagai tambahan kepada, dan bukan pengganti, kepakaran, kemahiran, pengetahuan dan pertimbangan penjagaan kesihatan pengamal. Ketiadaan amaran untuk gabungan ubat atau ubat yang diberikan sama sekali tidak boleh ditafsirkan untuk menunjukkan bahawa gabungan ubat atau ubat itu selamat, berkesan atau sesuai untuk mana-mana pesakit tertentu. Drugslib.com tidak memikul sebarang tanggungjawab untuk sebarang aspek penjagaan kesihatan yang ditadbir dengan bantuan maklumat yang disediakan oleh Drugslib.com. Maklumat yang terkandung di sini tidak bertujuan untuk merangkumi semua kemungkinan penggunaan, arahan, langkah berjaga-jaga, amaran, interaksi ubat, tindak balas alahan atau kesan buruk. Jika anda mempunyai soalan tentang ubat yang anda ambil, semak dengan doktor, jururawat atau ahli farmasi anda.Sumber
Baca lagi
Penafian
Kata kunci yang popular