Чат-боты не очень хорошо справляются с темами, связанными со здоровьем, которые могут привести к дезинформации

Следите за Drugslib на

Лори Соломон, репортер HealthDay

Медицинская проверка на сайте Drugs.com

через HealthDay

ПЯТНИЦА, 17 апреля 2026 г. — Согласно исследованию, опубликованному 14 апреля в BMJ Open, чат-боты плохо отвечают на вопросы, связанные со здоровьем, которые могут привести к дезинформации.

Николас Б. Тиллер, доктор философии из Медицинского центра Harbour-UCLA в Торрансе, Калифорния, и его коллеги проверяли ответы чат-ботов на вопросы, связанные со здоровьем, которые могут содержать дезинформацию. В феврале 2025 года десять вопросов из пяти категорий (рак, вакцины, стволовые клетки, питание и спортивные результаты) использовались в качестве подсказок в пяти популярных чат-ботах: Gemini (Google), DeepSeek (High-Flyer), Meta AI (Meta), ChatGPT (OpenAI) и Grok (xAI).

Исследователи обнаружили, что почти половина (49,6 процентов) ответов были проблематичными (30 процентов - несколько проблематичными и 19,6 процента - очень проблематичными). Качество ответов среди чат-ботов было одинаковым (P = 0,566), хотя Грок генерировал значительно больше крайне проблематичных ответов, чем можно было бы ожидать при случайном распределении (z-показатель +2,07). В отношении вакцин (средний z-показатель –2,57) и рака (–2,12) показатели были самыми высокими, а самыми слабыми – в отношении стволовых клеток (+1,25), спортивных результатов (+3,74) и питания (+4,35). Качество ссылок было плохим, средний показатель полноты составил 40 процентов. Ни один чат-бот не предоставил полностью точный список литературы из-за галлюцинаций и сфабрикованных цитат. Читабельность ответов была оценена как «сложная», что соответствует уровню второкурсника–старшего уровня колледжа.

«По умолчанию чат-боты не получают доступ к данным в реальном времени, а вместо этого генерируют выходные данные, выявляя статистические закономерности на основе своих обучающих данных и предсказывая вероятные последовательности слов», — пишут авторы. «Они не рассуждают и не взвешивают доказательства, а также не способны выносить этические или ценностные суждения. Это поведенческое ограничение означает, что чат-боты могут воспроизводить авторитетно звучащие, но потенциально ошибочные ответы».

Аннотация/Полный текст

Отказ от ответственности: Статистические данные в медицинские статьи отражают общие тенденции и не касаются отдельных лиц. Индивидуальные факторы могут сильно различаться. Всегда обращайтесь за индивидуальной медицинской консультацией для принятия индивидуальных медицинских решений.

Источник: HealthDay

Опубликовано : 2026-04-18 01:55

Читать далее

Отказ от ответственности

Мы приложили все усилия, чтобы гарантировать, что информация, предоставляемая Drugslib.com, является точной и соответствует -дата и полная информация, но никаких гарантий на этот счет не предоставляется. Содержащаяся здесь информация о препарате может меняться с течением времени. Информация Drugslib.com была собрана для использования медицинскими работниками и потребителями в Соединенных Штатах, и поэтому Drugslib.com не гарантирует, что использование за пределами Соединенных Штатов является целесообразным, если специально не указано иное. Информация о лекарствах на сайте Drugslib.com не рекламирует лекарства, не диагностирует пациентов и не рекомендует терапию. Информация о лекарствах на сайте Drugslib.com — это информационный ресурс, предназначенный для помощи лицензированным практикующим врачам в уходе за своими пациентами и/или для обслуживания потребителей, рассматривающих эту услугу как дополнение, а не замену опыта, навыков, знаний и суждений в области здравоохранения. практики.

Отсутствие предупреждения для данного препарата или комбинации препаратов никоим образом не должно быть истолковано как указание на то, что препарат или комбинация препаратов безопасны, эффективны или подходят для конкретного пациента. Drugslib.com не несет никакой ответственности за какой-либо аспект здравоохранения, администрируемый с помощью информации, предоставляемой Drugslib.com. Информация, содержащаяся в настоящем документе, не предназначена для охвата всех возможных вариантов использования, направлений, мер предосторожности, предупреждений, взаимодействия лекарств, аллергических реакций или побочных эффектов. Если у вас есть вопросы о лекарствах, которые вы принимаете, проконсультируйтесь со своим врачом, медсестрой или фармацевтом.

Популярные ключевые слова