Yapay Zeka Terapisti mi? Yeni Bir Araştırma Uyardı: Yetersiz Kalıyor

Drugslib'i takip edin

HealthDay Personeli HealthDay Muhabiri tarafından

Tıbbi olarak Carmen Pope, BPharm tarafından incelendi. En son 3 Mart 2026'da güncellendi.

HealthDay aracılığıyla

3 Mart 2026 SALI — Giderek daha fazla insan, iş stresinden ilişki kaygılarına ve daha fazlasına kadar günlük sorunlarda yapay zeka (AI) sohbet robotlarından yardım istiyor.

Şimdi, yeni bir çalışma, konu ruh sağlığı tavsiyeleri olduğunda bu sistemlerin yetersiz kalabileceği konusunda uyarıyor.

Rhode Island'ın Providence şehrindeki Brown Üniversitesi'nden bir ekip, yapay zeka sistemlerine eğitimli terapistler gibi davranmaları söylense bile, çoğu zaman mesleki etik standartlarını karşılamakta başarısız olduklarını keşfetti.

Ekip, bu sistemlerin danışmanlık benzeri konuşmalarda nasıl tepki verdiğini incelemek için ruh sağlığı uzmanlarıyla birlikte çalıştı.

Çalışmaları, büyük dil modeli (LLM) danışmanlarının ruh sağlığı uygulamalarındaki standartları nasıl ihlal ettiğini göstermek için bir dizi etik riski inceledi.

OpenAI'nin GPT modelleri ve Anthropic'in Claude ve Meta'nın Llama'sı test edildi.

Araştırma için araştırmacılar, eğitimli akran danışmanlardan, sistemlerin bilişsel davranışçı terapi (CBT) veya diyalektik davranış terapisi (DBT) danışmanları gibi davranmasını sağlamak için tasarlanmış yönlendirmeleri kullanarak yapay zeka ile pratik terapi seansları düzenlemelerini istedi.

Üç lisanslı psikolog daha sonra yapay zeka yanıtlarını inceledi.

Çalışma, beş ana alanda gruplandırılmış 15 farklı risk belirledi:

  • Genel bağlam: Yapay zeka genellikle kişinin benzersiz geçmişini göz ardı etti.
  • Zayıf işbirliği: Bazen konuşmaları çok güçlü bir şekilde yönlendiriyor veya zararlı inançları güçlendiriyordu.
  • Aldatıcı empati: Yapay zeka, duyguları gerçekten kavramadan "anlıyorum" gibi ifadeler kullandı.
  • Önyargı: Bazı yanıtlarda cinsiyet, dini veya kültürel önyargılar görülüyordu.
  • Krizlere karşı zayıf müdahale: Bazı durumlarda, sohbet robotları intihar düşüncelerini yanlış yönetti veya kullanıcıları uygun yardıma yönlendirmede başarısız oldu.

    • Araştırmacılar, "Yüksek Lisans danışmanları için etik, eğitimsel ve yasal standartlar oluşturmak için gelecekteki çalışmalara çağrıda bulunuyoruz; bu standartlar, insan destekli psikoterapi için gereken bakımın kalitesini ve titizliğini yansıtan standartlar".

    Baş araştırmacı Zainab Brown'da bilgisayar bilimleri alanında doktora adayı olan Iftikhar, istemlerin tek başına yapay zeka sistemlerini terapi için güvenli hale getirmek için yeterli olmadığını söyledi.

    "İstemler, davranışını yönlendirmek için modele verilen talimatlardır" diye açıkladı. "Temel modeli değiştirmezsiniz veya yeni veriler sağlamazsınız, ancak istem, modelin çıktısını önceden var olan bilgi ve öğrenilmiş kalıplara göre yönlendirmeye yardımcı olur.

    Birçok kişi TikTok, Instagram ve Reddit'te terapi tarzı istemleri paylaşır. Bazı tüketici ruh sağlığı uygulamaları da yapay zeka sohbet özelliklerini güçlendirmek için bu istem tekniklerini kullanır.

    İftikhar, insan terapistlerin de hata yapabileceğini belirtti. Fark mı dedi? Gözetim.

    Iftikhar bir basın bülteninde, "İnsan terapistleri için, sağlayıcıların kötü muamele ve yanlış uygulamalardan mesleki olarak sorumlu tutulabileceği yönetim kurulları ve mekanizmalar var" dedi. "Fakat Yüksek Lisans danışmanları bu ihlalleri yaptığında yerleşik bir düzenleyici çerçeve bulunmuyor."

    Araştırmacılar, yapay zeka araçlarının, özellikle maddi gücü yetmeyen veya lisanslı bir profesyonel bulamayan kişiler için ruh sağlığı desteğine erişimin genişletilmesine hâlâ yardımcı olabileceğini söyledi.

    Ancak ciddi durumlarda bu sistemlere güvenmeden önce daha güçlü koruma önlemlerine ihtiyaç duyulduğunu vurguladılar.

    "Akıl sağlığı hakkında bir sohbet robotuyla konuşuyorsanız, bunlar insanların dikkat etmesi gereken bazı şeylerdir" dedi Iftikhar.

    Brown'da çalışmaya dahil olmayan bilgisayar bilimleri profesörü Ellie Pavlick, hareket etme ihtiyacından bahsetti kasıtlı olarak.

    "Günümüzde yapay zekanın gerçeği, sistemleri oluşturmak ve dağıtmanın, onları değerlendirmek ve anlamaktan çok daha kolay olduğudur" dedi.

    "Toplumumuzun karşı karşıya olduğu zihinsel sağlık kriziyle mücadelede yapay zekanın bir rol oynaması için gerçek bir fırsat var, ancak yarardan çok zarar vermekten kaçınmak için sistemlerimizi her adımda gerçekten eleştirmeye ve değerlendirmeye zaman ayırmamız son derece önemlidir" dedi Pavlick. "Bu çalışma bunun nasıl görünebileceğine dair güzel bir örnek sunuyor."

    Bulgular, Yapay Zekayı Geliştirme Derneği ve Bilgisayar Makineleri Derneği'nin bir konferansında sunuldu.

    Toplantılarda sunulan araştırmalar, hakemli bir dergide yayınlanıncaya kadar ön hazırlık olarak kabul edilir.

    Kaynaklar

  • Brown Üniversitesi, haber bülteni, 2 Mart 2026

    • Sorumluluk reddi beyanı: Tıbbi makalelerdeki istatistiksel veriler genel eğilimleri sağlar ve bireylere ait değildir. Bireysel faktörler büyük ölçüde değişebilir. Bireysel sağlık hizmeti kararları için daima kişiselleştirilmiş tıbbi tavsiye alın.

    Kaynak: HealthDay

    Gönderildi : 2026-03-04 01:42

    Devamını oku

    Sorumluluk reddi beyanı

    Drugslib.com tarafından sağlanan bilgilerin doğru ve güncel olmasını sağlamak için her türlü çaba gösterilmiştir. -tarihli ve eksiksizdir ancak bu konuda hiçbir garanti verilmemektedir. Burada yer alan ilaç bilgileri zamana duyarlı olabilir. Drugslib.com bilgileri Amerika Birleşik Devletleri'ndeki sağlık uygulayıcıları ve tüketiciler tarafından kullanılmak üzere derlenmiştir ve bu nedenle Drugslib.com, aksi özellikle belirtilmediği sürece Amerika Birleşik Devletleri dışındaki kullanımların uygun olduğunu garanti etmez. Drugslib.com'un ilaç bilgileri ilaçları onaylamaz, hastalara teşhis koymaz veya tedavi önermez. Drugslib.com'un ilaç bilgileri, lisanslı sağlık uygulayıcılarına hastalarıyla ilgilenme konusunda yardımcı olmak ve/veya bu hizmeti görüntüleyen tüketicilere sağlık hizmetinin uzmanlığı, becerisi, bilgisi ve muhakemesi yerine değil, tamamlayıcı olarak hizmet etmek için tasarlanmış bir bilgi kaynağıdır. uygulayıcılar.

    Belirli bir ilaç veya ilaç kombinasyonu için bir uyarının bulunmaması, hiçbir şekilde ilacın veya ilaç kombinasyonunun herhangi bir hasta için güvenli, etkili veya uygun olduğu şeklinde yorumlanmamalıdır. Drugslib.com, Drugslib.com'un sağladığı bilgilerin yardımıyla uygulanan sağlık hizmetlerinin herhangi bir yönüne ilişkin herhangi bir sorumluluk kabul etmez. Burada yer alan bilgilerin olası tüm kullanımları, talimatları, önlemleri, uyarıları, ilaç etkileşimlerini, alerjik reaksiyonları veya olumsuz etkileri kapsaması amaçlanmamıştır. Aldığınız ilaçlarla ilgili sorularınız varsa doktorunuza, hemşirenize veya eczacınıza danışın.

    Popüler Anahtar Kelimeler