タイプミス、Slang Trip Up AI Medical Assessments

ドラッグスリブをフォローしてください

by dennis thompson healthdayレポーター

今週は、ギリシャのアテネで開催されたコンピューティング機械会議協会で報告しました。

性別の参照の欠落またはスラングの使用もAIの治療の推奨事項をファウルすることができる、と研究者は指摘します。

これらの人間の間違いまたは言語の選択は、AIが患者が予約を求めるのではなく健康上の問題を自己管理することを推奨する可能性を高めました。

彼らはまた、女性に対するAIの治療勧告を変更する可能性が高く、その結果、医療を求めないように誤ってアドバイスされたより高い割合になります。研究者は付け加えます。

「これらのモデルは、よく訓練されてテストされますが、それからかなり遠いタスクで使用されますが、臨床的症例を評価するようなタスクで使用されます。 href = "https://scholar.google.com/citations？uubfq6aaaaj&hl=en"> abinitha gourabathina 。彼女はマサチューセッツ州ケンブリッジにあるMIT電気工学およびコンピューターサイエンスの学部学生です。

増え続ける研究体は、AIが人間の医師にセカンドオピニオンを提供する能力を調査している、と研究者はバックグラウンドノートで述べた。このプログラムは、医師が臨床ノートとトリアージの患者メッセージを作成するのを支援するためにすでに使用されています。

この研究は、Gourabathinaが患者ノートに性別のキューを交換し、AIに供給した実験を実行したときに始まりました。彼女は、単純なフォーマットエラーがAI応答の意味のある変化を引き起こしたことに驚いた。

この問題をさらに調査するために、研究者は性別の参照を交換または削除したり、余分なスペースや患者のメッセージを挿入したり、カラフルな言語や不確実な言語を追加したりすることで記録を変更しました。不確実な言語の例には、「一種の」、「並べ替え」、「おそらく」、「想定」などの生け垣の言葉が含まれます。

患者は、処方薬や以前の診断などのすべての臨床データが保存され、人々がどのようにタイプして話すかをより正確に反映する言語を追加しました。 「これらの非常に現実的なテキストの変更が、ダウンストリームユースケースにどのように影響するかを見たかったのです。」

チームは、これらの記録を4つの異なるAISを超えて実行し、患者が自宅で症状を管理するか、診療所の訪問に参加するか、ラボテストを受けるために自分の状態をよりよく評価する必要があるかどうかを尋ねました。

スラングやドラマチックな表現のようなカラフルな言語の使用は、最大の影響を与えたと研究者は言いました。

AIモデルは、女性患者に約7％の誤りをもたらし、研究者が記録からすべての性別の手がかりを削除した場合でも、自宅で女性を自己管理することを推奨する可能性が高くなりました。現在レビュー中のフォローアップ研究は、同じ変化が人間の医師の精度に影響しないことを発見しました。彼らはまた、AIプログラムが臨床検査から性別をどのように推測するかを研究する予定です。

研究者は、会議での発見を報告しました。医療会議で提示された調査結果は、ピアレビューされたジャーナルに掲載されるまで予備的なものと見なされるべきです。個々の要因は大きく異なる場合があります。個々のヘルスケアの決定については、常にパーソナライズされた医学的アドバイスを求めてください。

出典：HealthDay

投稿しました : 2025-06-27 00:00

続きを読む

免責事項

Drugslib.com によって提供される情報が正確であることを保証するためにあらゆる努力が払われています。 -日付、および完全ですが、その旨については保証されません。ここに含まれる医薬品情報は時間に敏感な場合があります。 Drugslib.com の情報は、米国の医療従事者および消費者による使用を目的として編集されているため、特に明記されていない限り、Drugslib.com は米国外での使用が適切であることを保証しません。 Drugslib.com の医薬品情報は、医薬品を推奨したり、患者を診断したり、治療法を推奨したりするものではありません。 Drugslib.com の医薬品情報は、認可を受けた医療従事者による患者のケアを支援すること、および/または医療の専門知識、スキル、知識、判断の代替ではなく補足としてこのサービスを閲覧している消費者にサービスを提供することを目的とした情報リソースです。

特定の薬物または薬物の組み合わせに対する警告がないことは、その薬物または薬物の組み合わせが特定の患者にとって安全、有効、または適切であることを示すものと決して解釈されるべきではありません。 Drugslib.com は、Drugslib.com が提供する情報を利用して管理される医療のいかなる側面についても責任を負いません。ここに含まれる情報は、考えられるすべての使用法、使用法、注意事項、警告、薬物相互作用、アレルギー反応、または副作用を網羅することを意図したものではありません。服用している薬について質問がある場合は、医師、看護師、または薬剤師に問い合わせてください。

人気のあるキーワード