AIチャットボットは、偽の医療情報に簡単に誤解されています

ドラッグスリブをフォローしてください

by dennis thompson healthdayレポーター

drugs.comによって医学的にレビューされた

2025年8月8日金曜日 - キャスパールー症候群またはヘルカンド病のことを聞いたことがありますか？黒血球または腎嵐血液リバウンドエコーはどうですか？

そうでない場合、心配はありません。これらはすべて偽の健康状態またはメイクアップ医学用語です。

しかし、人工知能（AI）チャットボットはそれらを事実として扱い、さらには薄い空気からそれらの詳細な説明を作成しました、と新しい研究は言います。 href = "https://www.nature.com/articles/s43856-025-01021-3.epdf?sharing_token=jayp-cummw6fj42nbvslktrgn0jajwel9jnr3zotv0meso8zrtgih1is9 Mjz7ucurr5v6mfbsbhsoda69kzku2hzri7k2qdalv9e7iqmz-dxk20ujsa8rua9trccipu69xowguwe_cniswkgcsgnzciwbpxcfyzjeczniywptm％communicas薬。

「私たちが全面的に見たのは、AIチャットボットは、これらのエラーが意図的であろうと偶発的であるかどうかにかかわらず、誤った医療の詳細によって簡単に誤解される可能性があるということです」とリード研究者 dr。 Eyal Klang はニュースリリースで言った。クランは、ニューヨーク市のシナイ山にあるICAHN医学部の生成AIのチーフです。

しかし、研究者は質問に1行の注意を払って、提供された情報が不正確である可能性があることを思い出させました。

「本質的に、このプロンプトは、モデルに臨床的に検証された情報のみを使用し、さらに推測するのではなく不確実性を認めるように指示しました」と研究者は書いています。 「これらの制約を課すことにより、目的は、サポートされていないコンテンツを生成するのではなく、モデルに疑わしい要素を識別してフラグを立てることを奨励することでした。」

その注意により、幻覚率が約45％に低下しました。

最高のパフォーマンスのAI、ChatGpt-4oの幻覚率は約50％であり、プロンプトに注意が追加されたときに25％未満に低下しました。 「これは、これらのツールをより安全にすることができることを示していますが、迅速な設計と組み込みの保護手段を真剣に受け止めた場合のみです。」

チームは、実際の患者記録を使用して研究を継続する予定で、より高度な安全性のプロンプトをテストします。

研究者は、「偽期」の方法が、医師が彼らに依存する前にAIプログラムをストレステストするための簡単なツールを証明できると言います。

「私たちの研究は、現在のAIツールが特にヘルスケアにおいて誤った情報をどのように処理するかについて、死角に光を当てています」と、上級研究者 dr。マウントシナイヘルスシステムの最高AI責任者であるGirish Nadkarni は、ニュースリリースで述べています。 「それは、今日のAIシステムが健康環境での誤った情報にどのように対処するかについての重大な脆弱性を強調しています。」

単一の誤解を招くフレーズは、「自信がありながら完全に間違った答え」を促すことができます。

解決策は、医学のAIを放棄することではなく、疑わしい入力を見つけ、注意を払って応答し、人間の監視が中心になるようにすることができるツールをエンジニアリングすることです」とナドカルニは言いました。 「私たちはまだそこにいませんが、意図的な安全対策で、それは達成可能な目標です。」

ソース

  • マウントシナイヘルスシステム、ニュースリリース、2025年8月6日
  • コミュニケーションメディシン、8月6日、2025年8月6日
    • 記事は一般的な傾向を提供し、個人に関係しません。個々の要因は大きく異なる場合があります。個々のヘルスケアの決定については、常にパーソナライズされた医学的アドバイスを求めてください。

    出典：HealthDay

    投稿しました : 2025-08-09 00:00

    続きを読む

    免責事項

    Drugslib.com によって提供される情報が正確であることを保証するためにあらゆる努力が払われています。 -日付、および完全ですが、その旨については保証されません。ここに含まれる医薬品情報は時間に敏感な場合があります。 Drugslib.com の情報は、米国の医療従事者および消費者による使用を目的として編集されているため、特に明記されていない限り、Drugslib.com は米国外での使用が適切であることを保証しません。 Drugslib.com の医薬品情報は、医薬品を推奨したり、患者を診断したり、治療法を推奨したりするものではありません。 Drugslib.com の医薬品情報は、認可を受けた医療従事者による患者のケアを支援すること、および/または医療の専門知識、スキル、知識、判断の代替ではなく補足としてこのサービスを閲覧している消費者にサービスを提供することを目的とした情報リソースです。

    特定の薬物または薬物の組み合わせに対する警告がないことは、その薬物または薬物の組み合わせが特定の患者にとって安全、有効、または適切であることを示すものと決して解釈されるべきではありません。 Drugslib.com は、Drugslib.com が提供する情報を利用して管理される医療のいかなる側面についても責任を負いません。ここに含まれる情報は、考えられるすべての使用法、使用法、注意事項、警告、薬物相互作用、アレルギー反応、または副作用を網羅することを意図したものではありません。服用している薬について質問がある場合は、医師、看護師、または薬剤師に問い合わせてください。

    人気のあるキーワード