AI Chatbots sahte tıbbi bilgilerle kolayca yanlış yönlendirilir

Drugslib'i takip edin

Dennis Thompson Healthday Reporter

Drugs.com tarafından tıbbi olarak gözden geçirildi src = "https://gumlet.assettype.com/healthday-en/2025-08-06/6op6oh8n/adobestock571426637.jpeg?width=1200" yükleme

8 Ağustos 2025 Cuma-Hiç Casper-Lew Sendromu veya Helkand hastalığını duydunuz mu? Siyah kan hücrelerine veya böbrek fırtınası ribaund yankılarına ne dersin? Bunların hepsi sahte sağlık koşulları veya makyaj tıbbi terimlerdir.

Ancak yapay zeka (AI) sohbet botları onlara gerçek olarak muamele etti ve hatta ince havadan onlar için ayrıntılı açıklamalar bile oluşturdu. href = "https://www.nature.com/articles/s43856-025-01021-3.epdf? MJZ7UCURR5V6MFBSBHSODA69KZKU2HZRI7K2QDALV9E7IQMZ-DXK20UJSA8RUA İlaç .

“Kurulda gördüğümüz şey, AI chatbots'un bu hatalar kasıtlı veya kazara olsun, yanlış tıbbi detaylar tarafından kolayca yanlış yönlendirilebileceğidir” baş araştırmacı dr. Eyal Klang bir haber bülteninde dedi. Klang, New York'taki Sina Dağı'ndaki Icahn Tıp Fakültesi'nde üretken yapay zeka şefidir.

“Özünde, bu istem, modele sadece klinik olarak doğrulanmış bilgileri kullanma ve daha fazla spekülasyon yerine belirsizliği kabul etmesi talimatı verdi” diye yazdı. “Bu kısıtlamaları dayatarak amaç, desteklenmeyen içerik üretmek yerine şüpheli unsurları tanımlamaya ve işaretlemeye teşvik etmekti.”

En iyi performans gösteren yapay zeka olan chatgpt-4o,% 50 civarında bir halüsinasyon oranına sahipti ve bu, istemlere dikkat edildiğinde, sonuçlar gösterildiğinde% 25'in altına düştü. “Bu bize bu araçların daha güvenli hale getirilebileceğini söylüyor, ancak sadece hızlı tasarım ve yerleşik güvenceleri ciddiye alırsak.”

Ekip, gerçek hasta kayıtlarını kullanarak araştırmasına devam etmeyi planlıyor, daha gelişmiş güvenlik istemlerini test ediyor.

“Çalışmamız, mevcut AI araçlarının özellikle sağlık hizmetlerinde yanlış bilgilendirmeyi nasıl ele aldığı konusunda kör bir noktaya ışık tutuyor,” Kıdemli araştırmacı Mount Sinai Sağlık Sistemi Başkanı Başkanı bir haber bülteninde. “Bugünün AI sistemlerinin sağlık ortamlarında yanlış bilgi ile nasıl başa çıktığı konusunda kritik bir kırılganlığın altını çiziyor.”

Tek bir yanıltıcı ifade, "kendinden emin ama tamamen yanlış bir cevap" sağlayabilir.

“Çözüm, tıpta yapay zekayı terk etmek değil, şüpheli girdileri tespit edebilen, dikkatle yanıt verebilen ve insan gözetiminin merkezi kalmasını sağlayabilen araçları mühendislik yapmaktır” dedi. "Henüz orada değiliz, ancak kasıtlı güvenlik önlemleriyle, bu ulaşılabilir bir hedeftir.”

Kaynaklar

  • 6 Ağustos Mount Sina Sağlık Sistemi, Haber Bülteni, İletişim Tıbbı, 6, DDC-Disclaimer

    <"Data> <" Data> <"Güçlü" <"Dikkat: <" Dikbaz <"Dikbaz <" Dikkat: " Tıbbi makalelerde genel eğilimler sağlar ve bireylerle ilgili değildir. Bireysel faktörler büyük ölçüde değişebilir. Her zaman bireysel sağlık kararları için kişiselleştirilmiş tıbbi tavsiye alın.

    Kaynak: Healthday

    Gönderildi : 2025-08-09 00:00

    Devamını oku

    Sorumluluk reddi beyanı

    Drugslib.com tarafından sağlanan bilgilerin doğru ve güncel olmasını sağlamak için her türlü çaba gösterilmiştir. -tarihli ve eksiksizdir ancak bu konuda hiçbir garanti verilmemektedir. Burada yer alan ilaç bilgileri zamana duyarlı olabilir. Drugslib.com bilgileri Amerika Birleşik Devletleri'ndeki sağlık uygulayıcıları ve tüketiciler tarafından kullanılmak üzere derlenmiştir ve bu nedenle Drugslib.com, aksi özellikle belirtilmediği sürece Amerika Birleşik Devletleri dışındaki kullanımların uygun olduğunu garanti etmez. Drugslib.com'un ilaç bilgileri ilaçları onaylamaz, hastalara teşhis koymaz veya tedavi önermez. Drugslib.com'un ilaç bilgileri, lisanslı sağlık uygulayıcılarına hastalarıyla ilgilenme konusunda yardımcı olmak ve/veya bu hizmeti görüntüleyen tüketicilere sağlık hizmetinin uzmanlığı, becerisi, bilgisi ve muhakemesi yerine değil, tamamlayıcı olarak hizmet etmek için tasarlanmış bir bilgi kaynağıdır. uygulayıcılar.

    Belirli bir ilaç veya ilaç kombinasyonu için bir uyarının bulunmaması, hiçbir şekilde ilacın veya ilaç kombinasyonunun herhangi bir hasta için güvenli, etkili veya uygun olduğu şeklinde yorumlanmamalıdır. Drugslib.com, Drugslib.com'un sağladığı bilgilerin yardımıyla uygulanan sağlık hizmetlerinin herhangi bir yönüne ilişkin herhangi bir sorumluluk kabul etmez. Burada yer alan bilgilerin olası tüm kullanımları, talimatları, önlemleri, uyarıları, ilaç etkileşimlerini, alerjik reaksiyonları veya olumsuz etkileri kapsaması amaçlanmamıştır. Aldığınız ilaçlarla ilgili sorularınız varsa doktorunuza, hemşirenize veya eczacınıza danışın.

    Popüler Anahtar Kelimeler