Kesalahan ketik, slang trip up penilaian medis AI

Ikuti Drugslib di

oleh Dennis Thompson Healthday Reporter

"" ""

Kamis, 26 Juni 2025 - Kesalahan pengetikan manusia yang umum dapat menaikkan program kecerdasan buatan (AI) yang dirancang untuk membantu pekerja perawatan kesehatan dengan meninjau catatan kesehatan, sebuah studi MIT baru mengatakan.

Ketik kesalahan dan ruang putih ekstra dapat mengganggu kemampuan AI untuk menganalisis catatan pasien dengan benar, peneliti Dilaporkan Minggu ini di Konferensi Asosiasi untuk Komputasi Mesin di Athena, Yunani.

Referensi gender yang hilang atau penggunaan bahasa gaul juga dapat merusak rekomendasi pengobatan AI, peneliti menunjukkan.

Kesalahan manusia atau pilihan bahasa ini meningkatkan kemungkinan bahwa AI akan merekomendasikan agar seorang pasien mengatur masalah kesehatan mereka daripada mencari janji temu, hasilnya menunjukkan.

Mereka juga lebih cenderung mengubah rekomendasi pengobatan AI untuk wanita, menghasilkan persentase yang lebih tinggi yang secara keliru disarankan untuk tidak mencari perawatan medis, para peneliti menambahkan.

"Model -model ini sering dilatih dan diuji pada pertanyaan ujian medis tetapi kemudian digunakan dalam tugas -tugas yang cukup jauh dari itu, seperti mengevaluasi keparahan kasus klinis," kata a. " href = "https://scholar.google.com/citations?user=aubfq6aaaaJ&hl=en"> abinitha gourabathina . Dia adalah mahasiswa pascasarjana dengan Departemen Teknik Elektro dan Ilmu Komputer di Cambridge, Mass.

Semakin banyak penelitian sedang mengeksplorasi kemampuan AI untuk memberikan pendapat kedua bagi dokter manusia, kata para peneliti dalam catatan latar belakang. Program -program yang sudah digunakan untuk membantu dokter menyusun catatan klinis dan triase pesan pasien.

Studi ini dimulai ketika gourabathina menjalankan eksperimen di mana ia bertukar isyarat gender dalam catatan pasien, kemudian memasukkannya ke dalam AI. Dia terkejut menemukan bahwa kesalahan pemformatan sederhana menyebabkan perubahan yang berarti dalam respons AI.

Untuk mengeksplorasi lebih lanjut masalah ini, para peneliti mengubah catatan dengan bertukar atau menghapus referensi gender, memasukkan ruang ekstra atau kesalahan ketik ke dalam pesan pasien, atau menambahkan bahasa yang penuh warna atau tidak pasti.

Bahasa berwarna -warni mungkin termasuk seru seperti "wow," atau kata keterangan seperti "benar -benar" atau "sangat," kata para peneliti. Contoh bahasa yang tidak pasti termasuk kata -kata lindung nilai seperti "semacam," "semacam," "mungkin" atau "misalkan."

Catatan pasien melestarikan semua data klinis, seperti obat resep dan diagnosis sebelumnya, sambil menambahkan bahasa yang lebih akurat mencerminkan bagaimana orang mengetik dan berbicara.

"Dataset medis model ini dilatih pada biasanya dibersihkan dan terstruktur, dan bukan refleksi yang sangat realistis dari populasi pasien," kata Gourabathina. “Kami ingin melihat bagaimana perubahan teks yang sangat realistis ini dapat memengaruhi kasus penggunaan hilir.”

Tim menjalankan catatan ini melewati empat AI yang berbeda, menanyakan apakah pasien harus mengelola gejala mereka di rumah, datang untuk kunjungan klinik, atau mendapatkan tes laboratorium untuk mengevaluasi kondisi mereka dengan lebih baik.

Ketika AIS diberi makan data yang diubah atau "terganggu", mereka 7% hingga 9% lebih mungkin untuk merekomendasikan bahwa pasien yang merawat diri sendiri, hasilnya.

Penggunaan bahasa berwarna-warni seperti bahasa gaul atau ekspresi dramatis memiliki dampak terbesar, kata para peneliti.

Model AI juga membuat sekitar 7% lebih banyak kesalahan untuk pasien wanita dan lebih cenderung merekomendasikan agar wanita mengelola diri di rumah-bahkan ketika para peneliti menghapus semua isyarat gender dari catatan.

Penelitian tindak lanjut yang saat ini sedang ditinjau menemukan bahwa perubahan yang sama tidak mempengaruhi keakuratan dokter manusia, peneliti menambahkan.

Peneliti berencana untuk melanjutkan pekerjaan mereka dengan menguji catatan yang lebih baik meniru pesan nyata dari pasien. Mereka juga berencana untuk mempelajari bagaimana program AI menyimpulkan jenis kelamin dari tes klinis.

Peneliti melaporkan temuan mereka pada pertemuan itu, yang berakhir hari ini. Temuan yang disajikan pada pertemuan medis harus dianggap sebagai pendahuluan sampai diterbitkan dalam jurnal peer-review.

Sumber

  • MIT, rilis berita, 23 Juni 2025

    • Disclaimer:

    Sumber: Healthday

    Diposting : 2025-06-27 00:00

    Baca selengkapnya

    Penafian

    Segala upaya telah dilakukan untuk memastikan bahwa informasi yang diberikan oleh Drugslib.com akurat, terkini -tanggal, dan lengkap, namun tidak ada jaminan mengenai hal tersebut. Informasi obat yang terkandung di sini mungkin sensitif terhadap waktu. Informasi Drugslib.com telah dikumpulkan untuk digunakan oleh praktisi kesehatan dan konsumen di Amerika Serikat dan oleh karena itu Drugslib.com tidak menjamin bahwa penggunaan di luar Amerika Serikat adalah tepat, kecuali dinyatakan sebaliknya. Informasi obat Drugslib.com tidak mendukung obat, mendiagnosis pasien, atau merekomendasikan terapi. Informasi obat Drugslib.com adalah sumber informasi yang dirancang untuk membantu praktisi layanan kesehatan berlisensi dalam merawat pasien mereka dan/atau untuk melayani konsumen yang memandang layanan ini sebagai pelengkap, dan bukan pengganti, keahlian, keterampilan, pengetahuan, dan penilaian layanan kesehatan. praktisi.

    Tidak adanya peringatan untuk suatu obat atau kombinasi obat sama sekali tidak boleh ditafsirkan sebagai indikasi bahwa obat atau kombinasi obat tersebut aman, efektif, atau sesuai untuk pasien tertentu. Drugslib.com tidak bertanggung jawab atas segala aspek layanan kesehatan yang diberikan dengan bantuan informasi yang disediakan Drugslib.com. Informasi yang terkandung di sini tidak dimaksudkan untuk mencakup semua kemungkinan penggunaan, petunjuk, tindakan pencegahan, peringatan, interaksi obat, reaksi alergi, atau efek samping. Jika Anda memiliki pertanyaan tentang obat yang Anda konsumsi, tanyakan kepada dokter, perawat, atau apoteker Anda.

    Kata kunci populer