Studi Ungkap Saran Kesehatan Chatbot AI Tak Selalu Akurat, Ini Faktanya

Foto: freepik

Teknologi.id - Perkembangan teknologi kecerdasan buatan atau AI membawa banyak kemudahan, termasuk dalam hal mencari informasi kesehatan. Kini, banyak orang mengandalkan chatbot berbasis AI untuk memahami gejala penyakit, menentukan langkah penanganan awal, hingga mencari saran medis secara cepat. Namun, di balik kemudahannya, muncul peringatan serius: saran kesehatan dari AI tidak selalu akurat dan berpotensi menyesatkan.

Sebuah studi yang dipublikasikan dalam jurnal Nature Medicine mengungkap bahwa rekomendasi kesehatan dari chatbot AI sangat bergantung pada bagaimana pengguna menyusun pertanyaan. Hal ini bisa menjadi masalah besar, terutama bagi masyarakat umum yang tidak memiliki latar belakang medis.

Baca juga: OpenAI Akuisisi Startup Medis Torch, Siap Bawa AI Masuk ke Dunia Kesehatan!

Hasil Studi: Banyak Kesalahan dalam Pengambilan Keputusan

Penelitian itu melibatkan sekitar 1.200 orang dewasa di Inggris untuk menguji bagaimana mereka menggunakan chatbot AI dalam situasi kesehatan yang disimulasikan. Setiap peserta diberikan gambaran kasus medis yang sudah disusun peneliti, lengkap dengan keluhan fisik, riwayat penyakit, serta informasi gaya hidup. Setelah itu, mereka diminta berkonsultasi dengan AI guna menentukan langkah yang sebaiknya diambil.

Dari pengujian tersebut, terlihat bahwa kemampuan peserta dalam mengambil keputusan yang sesuai standar medis masih rendah. Kurang dari 50 persen responden memilih tindakan yang dianggap tepat oleh panel dokter. Tingkat keberhasilan dalam menebak kondisi penyakit secara akurat bahkan hanya sekitar sepertiga kasus.

Angka-angka ini memperlihatkan bahwa meskipun AI dapat menghasilkan jawaban dengan cepat, proses memahami dan menerapkan saran tersebut dalam konteks nyata bukanlah hal yang sederhana. Banyak pengguna belum mampu memanfaatkan informasi dari chatbot secara optimal untuk mengambil keputusan kesehatan yang benar.

Kesalahan Tidak Hanya dari AI

Menariknya, penelitian juga menemukan bahwa kesalahan bukan sepenuhnya berasal dari AI, melainkan dari pengguna itu sendiri. Banyak peserta tidak memasukkan informasi penting atau tidak menyebutkan gejala secara lengkap saat berinteraksi dengan chatbot. Akibatnya, AI hanya bekerja dengan data yang terbatas, sehingga rekomendasi yang dihasilkan menjadi kurang akurat. Ini menunjukkan bahwa kualitas jawaban AI sangat dipengaruhi oleh kualitas pertanyaan yang diajukan. Namun, ketika para peneliti memasukkan data medis yang lengkap dan jelas langsung ke dalam sistem, tingkat akurasi diagnosis AI meningkat drastis hingga nyaris sempurna. Artinya, teknologi ini sebenarnya memiliki potensi tinggi tetapi sangat bergantung pada input yang diberikan.

Kompleksitas Dunia Medis Sulit Ditiru AI

Menurut Adam Mahdi dari Oxford Internet Institute, dunia medis tidak sesederhana pertanyaan dan jawaban yang rapi. Ia menekankan bahwa kondisi kesehatan sering kali kompleks, tidak lengkap, dan penuh ketidakpastian. Pendapat ini diperkuat oleh Robert Wachter dari University of California, San Francisco yang menyebut bahwa diagnosis medis membutuhkan kemampuan untuk memilah informasi penting dari berbagai detail yang ada. Hal ini tidak mudah dilakukan, bahkan bagi manusia sekalipun. Dengan kata lain, AI masih belum sepenuhnya mampu meniru proses berpikir klinis yang dimiliki tenaga medis berpengalaman.

Chatbot Seharusnya Aktif Menggali Informasi

Peneliti utama studi tersebut, Andrew Bean, menilai bahwa kesalahan tidak bisa sepenuhnya dibebankan kepada pengguna. Menurutnya, sistem AI juga perlu dirancang agar mampu mengambil peran lebih aktif dalam percakapan, bukan sekadar menunggu pertanyaan lalu memberikan jawaban.

Dalam praktik medis nyata, dokter tidak langsung menyimpulkan hanya dari satu keluhan. Mereka biasanya mengajukan serangkaian pertanyaan tambahan untuk memperjelas kondisi pasien, memastikan detail penting tidak terlewat, serta memahami konteks keseluruhan. Pendekatan semacam ini, kata Bean, seharusnya diadopsi oleh chatbot kesehatan.

Jika AI hanya merespons berdasarkan informasi terbatas tanpa mencoba memperdalam atau mengklarifikasi, maka risiko kekeliruan akan semakin besar. Rekomendasi yang muncul bisa menjadi terlalu luas, terlalu defensif, atau justru meremehkan tanda bahaya yang sebenarnya memerlukan penanganan segera.

Baca juga: Krisis 2028 Menghantui, Apa Jadinya Jika AI Mengambil Alih Pekerjaan Kita?

Risiko Nyata bagi Pengguna

Para ahli juga mengingatkan bahwa penggunaan AI dalam konteks kesehatan bisa menimbulkan risiko. Dalam beberapa kasus, AI cenderung memberikan rekomendasi yang terlalu aman, seperti langsung menyarankan ke rumah sakit untuk kondisi ringan. Namun di sisi lain, ada juga kemungkinan AI justru meremehkan gejala berbahaya. Kondisi ini tentu bisa berdampak serius, terutama jika pengguna menjadikan AI sebagai satu-satunya sumber informasi tanpa berkonsultasi dengan tenaga medis profesiona

AI memang menawarkan kemudahan dalam mengakses informasi kesehatan, tetapi belum bisa menggantikan peran dokter sepenuhnya. Studi terbaru menunjukkan bahwa akurasi saran kesehatan dari AI masih sangat bergantung pada cara pengguna menyampaikan informasi.

Oleh karena itu, penting bagi masyarakat untuk tetap berhati-hati. Gunakan AI sebagai alat bantu awal, bukan sebagai penentu diagnosis. Jika mengalami gejala yang mengkhawatirkan, langkah terbaik tetap berkonsultasi langsung dengan tenaga medis agar mendapatkan penanganan yang tepat dan aman.

Baca Berita dan Artikel lainnya di Google News

(ir/sa)