Nhà trị liệu AI? Nó rơi ngắn, một nghiên cứu mới cảnh báo

Theo dõi Drugslib trên

Bởi nhân viên HealthDay Phóng viên HealthDay

Được Carmen Pope, BPharm xem xét về mặt y tế. Cập nhật lần cuối vào ngày 3 tháng 3 năm 2026.

qua HealthDay

THỨ BA, ngày 3 tháng 3 năm 2026 — Ngày càng có nhiều người yêu cầu các chatbot trí tuệ nhân tạo (AI) trợ giúp giải quyết các vấn đề hàng ngày, từ căng thẳng trong công việc đến lo lắng về mối quan hệ, v.v.

Giờ đây, một nghiên cứu mới cảnh báo rằng khi nói đến lời khuyên về sức khỏe tâm thần, các hệ thống này có thể không đạt yêu cầu.

Một nhóm tại Đại học Brown ở Providence, Rhode Island, phát hiện ra rằng ngay cả khi hệ thống AI được yêu cầu hoạt động giống như các nhà trị liệu đã qua đào tạo, chúng thường không đáp ứng các tiêu chuẩn đạo đức nghề nghiệp.

Nhóm đã làm việc với các chuyên gia sức khỏe tâm thần để kiểm tra xem các hệ thống này phản ứng như thế nào trong các cuộc trò chuyện giống như tư vấn.

Nghiên cứu của họ xem xét một loạt rủi ro đạo đức để cho thấy các cố vấn theo mô hình ngôn ngữ lớn (LLM) vi phạm các tiêu chuẩn trong thực hành sức khỏe tâm thần như thế nào.

Một số hệ thống AI chính, bao gồm các phiên bản Các mô hình GPT của OpenAI, Claude và Llama của Meta đã được thử nghiệm.

Trong nghiên cứu này, các nhà nghiên cứu đã yêu cầu các cố vấn đồng đẳng được đào tạo tổ chức các buổi trị liệu thực hành với AI, sử dụng các lời nhắc được thiết kế để khiến hệ thống hoạt động giống như các cố vấn trị liệu hành vi nhận thức (CBT) hoặc trị liệu hành vi biện chứng (DBT).

Sau đó, ba nhà tâm lý học được cấp phép sẽ xem xét các phản hồi của AI.

Nghiên cứu đã xác định 15 rủi ro khác nhau, được nhóm thành 5 lĩnh vực chính:

  • Bối cảnh chung: AI thường bỏ qua lý lịch riêng của một người.
  • Sự hợp tác kém: Đôi khi nó thúc đẩy các cuộc trò chuyện quá mạnh mẽ hoặc củng cố những niềm tin có hại.
  • Sự đồng cảm lừa đảo: AI sử dụng các cụm từ như “Tôi hiểu” mà không thực sự nắm bắt được cảm xúc.
  • Thành kiến: Một số câu trả lời thể hiện định kiến ​​về giới tính, tôn giáo hoặc văn hóa.
  • Phản ứng yếu với khủng hoảng: Trong một số trường hợp, chatbot xử lý sai ý nghĩ tự tử hoặc không hướng dẫn người dùng cách trợ giúp thích hợp.

    • Các nhà nghiên cứu viết: "Chúng tôi kêu gọi công việc trong tương lai tạo ra các tiêu chuẩn đạo đức, giáo dục và pháp lý cho cố vấn LLM - những tiêu chuẩn phản ánh chất lượng và sự nghiêm ngặt của việc chăm sóc cần thiết cho liệu pháp tâm lý do con người tạo điều kiện".

    Trưởng nhóm nghiên cứu Zainab Iftikhar, một tiến sĩ ứng cử viên khoa học máy tính tại Brown, cho biết chỉ nhắc nhở thôi thì không đủ để làm cho hệ thống AI an toàn cho việc trị liệu.

    “Lời nhắc là những hướng dẫn được đưa ra cho mô hình để hướng dẫn hành vi của nó,” cô giải thích. "Bạn không thay đổi mô hình cơ bản hoặc cung cấp dữ liệu mới, nhưng lời nhắc giúp hướng dẫn kết quả của mô hình dựa trên kiến ​​thức có sẵn và các mẫu đã học được.

    Nhiều người chia sẻ lời nhắc kiểu trị liệu trên TikTok, Instagram và Reddit. Một số ứng dụng sức khỏe tâm thần của người tiêu dùng cũng sử dụng các kỹ thuật nhắc nhở này để hỗ trợ các tính năng trò chuyện AI.

    Iftikhar lưu ý rằng các nhà trị liệu con người cũng có thể mắc sai lầm. Sự khác biệt, cô nói? Giám sát.

    "Đối với các nhà trị liệu con người, có các ban quản lý và cơ chế để các nhà cung cấp phải chịu trách nhiệm pháp lý về mặt chuyên môn đối với hành vi ngược đãi và sơ suất," Iftikhar cho biết trong một thông cáo báo chí. "Nhưng khi các cố vấn LLM thực hiện những vi phạm này thì không có khuôn khổ pháp lý nào được thiết lập."

    Các nhà nghiên cứu cho biết các công cụ AI vẫn có thể giúp mở rộng khả năng tiếp cận dịch vụ hỗ trợ sức khỏe tâm thần, đặc biệt đối với những người không đủ khả năng chi trả hoặc không tìm được chuyên gia được cấp phép.

    Nhưng họ nhấn mạnh rằng cần có những biện pháp bảo vệ mạnh mẽ hơn trước khi dựa vào những hệ thống này trong những tình huống nghiêm trọng.

    “Nếu bạn đang nói chuyện với một chatbot về sức khỏe tâm thần thì đây là một số điều mà mọi người nên chú ý,” Iftikhar nói.

    Ellie Pavlick, giáo sư khoa học máy tính tại Brown, người không tham gia vào nghiên cứu, đã đề cập đến nhu cầu di chuyển có chủ ý.

    Bà nói: “Thực tế của AI ngày nay là việc xây dựng và triển khai các hệ thống dễ dàng hơn nhiều so với việc đánh giá và hiểu chúng”.

    "Có cơ hội thực sự để AI đóng vai trò trong việc chống lại cuộc khủng hoảng sức khỏe tâm thần mà xã hội chúng ta đang phải đối mặt, nhưng điều quan trọng nhất là chúng ta phải dành thời gian để thực sự phê bình và đánh giá hệ thống của mình theo từng bước để tránh gây hại nhiều hơn là có lợi". "Tác phẩm này đưa ra một ví dụ điển hình về việc nó có thể trông như thế nào."

    những phát hiện đã được trình bày tại hội nghị của Hiệp hội vì sự tiến bộ của trí tuệ nhân tạo và Hiệp hội máy tính.

    Nghiên cứu được trình bày tại các cuộc họp được coi là sơ bộ cho đến khi được công bố trên một tạp chí được bình duyệt.

    Nguồn

  • Đại học Brown, bản tin, ngày 2 tháng 3 năm 2026

    • Tuyên bố từ chối trách nhiệm: Dữ liệu thống kê trong các bài báo y tế cung cấp các xu hướng chung và không liên quan đến cá nhân. Các yếu tố cá nhân có thể khác nhau rất nhiều. Luôn tìm kiếm lời khuyên y tế được cá nhân hóa cho các quyết định chăm sóc sức khỏe của từng cá nhân.

    Nguồn: HealthDay

    Đã đăng : 2026-03-04 01:42

    Đọc thêm

    Tuyên bố từ chối trách nhiệm

    Chúng tôi đã nỗ lực hết sức để đảm bảo rằng thông tin do Drugslib.com cung cấp là chính xác, cập nhật -ngày và đầy đủ, nhưng không có đảm bảo nào được thực hiện cho hiệu ứng đó. Thông tin thuốc trong tài liệu này có thể nhạy cảm về thời gian. Thông tin về Drugslib.com đã được biên soạn để các bác sĩ chăm sóc sức khỏe và người tiêu dùng ở Hoa Kỳ sử dụng và do đó Drugslib.com không đảm bảo rằng việc sử dụng bên ngoài Hoa Kỳ là phù hợp, trừ khi có quy định cụ thể khác. Thông tin thuốc của Drugslib.com không xác nhận thuốc, chẩn đoán bệnh nhân hoặc đề xuất liệu pháp. Thông tin thuốc của Drugslib.com là nguồn thông tin được thiết kế để hỗ trợ các bác sĩ chăm sóc sức khỏe được cấp phép trong việc chăm sóc bệnh nhân của họ và/hoặc phục vụ người tiêu dùng xem dịch vụ này như một sự bổ sung chứ không phải thay thế cho chuyên môn, kỹ năng, kiến ​​thức và đánh giá về chăm sóc sức khỏe các học viên.

    Việc không có cảnh báo đối với một loại thuốc hoặc sự kết hợp thuốc nhất định không được hiểu là chỉ ra rằng loại thuốc hoặc sự kết hợp thuốc đó là an toàn, hiệu quả hoặc phù hợp với bất kỳ bệnh nhân nào. Drugslib.com không chịu bất kỳ trách nhiệm nào đối với bất kỳ khía cạnh nào của việc chăm sóc sức khỏe được quản lý với sự hỗ trợ của thông tin Drugslib.com cung cấp. Thông tin trong tài liệu này không nhằm mục đích bao gồm tất cả các công dụng, hướng dẫn, biện pháp phòng ngừa, cảnh báo, tương tác thuốc, phản ứng dị ứng hoặc tác dụng phụ có thể có. Nếu bạn có thắc mắc về loại thuốc bạn đang dùng, hãy hỏi bác sĩ, y tá hoặc dược sĩ.

    Từ khóa phổ biến