معالج الذكاء الاصطناعي؟ تحذر دراسة جديدة من أنها غير كافية

اتبع Drugslib على

بواسطة HealthDay Staff HealthDay Reporter

تمت مراجعته طبيًا بواسطة كارمن بوب، BPharm. تم آخر تحديث في 3 مارس 2026.

عبر HealthDay

الثلاثاء، 3 مارس 2026 - يطلب المزيد من الأشخاص من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي (AI) المساعدة في حل المشكلات اليومية، بدءًا من ضغوط العمل إلى مخاوف العلاقات والمزيد.

الآن، تحذر دراسة جديدة من أنه عندما يتعلق الأمر بنصائح الصحة العقلية، فإن هذه الأنظمة قد تكون قاصرة.

وجد فريق من جامعة براون في بروفيدنس، رود آيلاند، أنه حتى عندما يُطلب من أنظمة الذكاء الاصطناعي أن تتصرف مثل المعالجين المدربين، فإنها غالبًا ما تفشل في تلبية معايير الأخلاقيات المهنية.

عمل الفريق مع خبراء الصحة العقلية لفحص كيفية استجابة هذه الأنظمة في المحادثات الشبيهة بالمشورة.

بحثت دراستهم في سلسلة من المخاطر الأخلاقية لإظهار مدى انتهاك مستشاري النماذج اللغوية الكبيرة (LLM) للمعايير في ممارسة الصحة العقلية.

العديد من أنظمة الذكاء الاصطناعي الرئيسية، بما في ذلك إصدارات نماذج GPT الخاصة بـOpenAI، وClaude وLlama، تم اختبارهما.

بالنسبة للدراسة، طلب الباحثون من مستشاري الأقران المدربين عقد جلسات علاجية تدريبية باستخدام الذكاء الاصطناعي، باستخدام المطالبات المصممة لجعل الأنظمة تتصرف مثل مستشاري العلاج السلوكي المعرفي (CBT) أو العلاج السلوكي الجدلي (DBT).

ثم قام ثلاثة علماء نفس مرخصين بمراجعة استجابات الذكاء الاصطناعي.

حددت الدراسة 15 خطرًا مختلفًا، تم تجميعها في خمسة مجالات رئيسية:

  • السياق العام: غالبًا ما يتجاهل الذكاء الاصطناعي الخلفية الفريدة للشخص.
  • ضعف التعاون: يؤدي في بعض الأحيان إلى توجيه المحادثات بشكل قوي للغاية أو تعزيز المعتقدات الضارة.
  • التعاطف الخادع: استخدم الذكاء الاصطناعي عبارات مثل "أنا أفهم" دون استيعاب المشاعر حقًا.
  • التحيز: أظهرت بعض الردود تحيزات تتعلق بالجنس أو الدين أو الثقافة.
  • استجابة ضعيفة للأزمات: في بعض الحالات، أساءت برامج الدردشة الآلية التعامل مع الأفكار الانتحارية أو فشلت في توجيه المستخدمين إلى المساعدة المناسبة.

    • "ندعو العمل المستقبلي إلى إنشاء معايير أخلاقية وتعليمية وقانونية لمستشاري LLM - معايير تعكس جودة وصرامة الرعاية المطلوبة للعلاج النفسي الميسر من قبل الإنسان"، كما كتب الباحثون.

    الباحث الرئيسي زينب قال افتخار، طالب الدكتوراه في علوم الكمبيوتر في جامعة براون، إن المطالبات وحدها ليست كافية لجعل أنظمة الذكاء الاصطناعي آمنة للعلاج.

    "المحفزات هي تعليمات يتم تقديمها للنموذج لتوجيه سلوكه"، كما أوضحت. "لا يمكنك تغيير النموذج الأساسي أو تقديم بيانات جديدة، لكن الموجه يساعد في توجيه مخرجات النموذج بناءً على المعرفة الموجودة مسبقًا والأنماط المستفادة.

    يشارك العديد من الأشخاص مطالبات بأسلوب العلاج على TikTok وInstagram وReddit. وتستخدم بعض تطبيقات الصحة العقلية للمستهلكين أيضًا هذه التقنيات السريعة لتشغيل ميزات الدردشة المدعمة بالذكاء الاصطناعي.

    وأشار افتخار إلى أن المعالجين البشر يمكن أن يرتكبوا الأخطاء أيضًا. قالت الفرق ؟ الرقابة.

    "بالنسبة للمعالجين البشريين، هناك مجالس إدارة وآليات لمقدمي الخدمات ليكونوا مسؤولين مهنيًا عن سوء المعاملة وسوء الممارسة"، قال افتخار في بيان صحفي. "ولكن عندما يقوم مستشارو LLM بهذه الانتهاكات، لا توجد أطر تنظيمية ثابتة."

    قال الباحثون إن أدوات الذكاء الاصطناعي لا يزال بإمكانها المساعدة في توسيع نطاق الوصول إلى دعم الصحة العقلية، خاصة للأشخاص الذين لا يستطيعون تحمل التكاليف أو العثور على متخصص مرخص.

    لكنهم أكدوا أن هناك حاجة إلى ضمانات أقوى قبل الاعتماد على هذه الأنظمة في المواقف الخطيرة.

    "إذا كنت تتحدث إلى برنامج chatbot حول الصحة العقلية، فهذه بعض الأشياء التي يجب أن يبحث عنها الناس"، قال افتخار.

    تحدثت إيلي بافليك، أستاذة علوم الكمبيوتر في جامعة براون والتي لم تشارك في الدراسة، عن الحاجة إلى الانتقال عمدا.

    "إن واقع الذكاء الاصطناعي اليوم هو أنه من الأسهل بكثير بناء الأنظمة ونشرها بدلاً من تقييمها وفهمها"، قالت بافليك.

    "هناك فرصة حقيقية للذكاء الاصطناعي للعب دور في مكافحة أزمة الصحة العقلية التي يواجهها مجتمعنا، ولكن من الأهمية القصوى أن نأخذ الوقت الكافي لنقد وتقييم أنظمتنا في كل خطوة على الطريق لتجنب إلحاق ضرر أكبر من نفعها". "يقدم هذا العمل مثالًا جيدًا لما يمكن أن يبدو عليه."

    تم تقديم النتائج في مؤتمر جمعية النهوض بالذكاء الاصطناعي وجمعية آلات الحوسبة.

    تعتبر الأبحاث المقدمة في الاجتماعات أولية حتى يتم نشرها في مجلة خاضعة لمراجعة النظراء.

    المصادر

  • جامعة براون، بيان صحفي، 2 مارس 2026

    • إخلاء المسؤولية: توفر البيانات الإحصائية في المقالات الطبية اتجاهات عامة ولا تتعلق بالأفراد. يمكن أن تختلف العوامل الفردية بشكل كبير. اطلب دائمًا المشورة الطبية المخصصة لاتخاذ قرارات الرعاية الصحية الفردية.

    المصدر: HealthDay

    نشر : 2026-03-04 01:42

    اقرأ أكثر

    إخلاء المسؤولية

    تم بذل كل جهد لضمان دقة المعلومات المقدمة من Drugslib.com، وتصل إلى -تاريخ، وكامل، ولكن لا يوجد ضمان بهذا المعنى. قد تكون المعلومات الدوائية الواردة هنا حساسة للوقت. تم تجميع معلومات موقع Drugslib.com للاستخدام من قبل ممارسي الرعاية الصحية والمستهلكين في الولايات المتحدة، وبالتالي لا يضمن موقع Drugslib.com أن الاستخدامات خارج الولايات المتحدة مناسبة، ما لم تتم الإشارة إلى خلاف ذلك على وجه التحديد. معلومات الأدوية الخاصة بموقع Drugslib.com لا تؤيد الأدوية أو تشخص المرضى أو توصي بالعلاج. معلومات الأدوية الخاصة بموقع Drugslib.com هي مورد معلوماتي مصمم لمساعدة ممارسي الرعاية الصحية المرخصين في رعاية مرضاهم و/أو لخدمة المستهلكين الذين ينظرون إلى هذه الخدمة كمكمل للخبرة والمهارة والمعرفة والحكم في مجال الرعاية الصحية وليس بديلاً عنها. الممارسين.

    لا ينبغي تفسير عدم وجود تحذير بشأن دواء معين أو مجموعة أدوية بأي حال من الأحوال على أنه يشير إلى أن الدواء أو مجموعة الأدوية آمنة أو فعالة أو مناسبة لأي مريض معين. لا يتحمل موقع Drugslib.com أي مسؤولية عن أي جانب من جوانب الرعاية الصحية التي يتم إدارتها بمساعدة المعلومات التي يوفرها موقع Drugslib.com. ليس المقصود من المعلومات الواردة هنا تغطية جميع الاستخدامات أو التوجيهات أو الاحتياطات أو التحذيرات أو التفاعلات الدوائية أو ردود الفعل التحسسية أو الآثار الضارة المحتملة. إذا كانت لديك أسئلة حول الأدوية التي تتناولها، استشر طبيبك أو الممرضة أو الصيدلي.

    كلمات رئيسية شعبية