Tidak Akurat, Jangan Gunakan ChatGPT untuk Nasihat Medis

JAKARTA- Di saat banyak yang bersemangat tentang potensi ChatGPT, dokter medis tidak ikut-ikutan. Terutama ketika menggunakan chatbot AI (artificial intelligence) untuk nasihat kesehatan. 

Menurut sebuah laporan, ChatGPT tidak dapat diandalkan dan cenderung mengarang informasi palsu. Penelitian mengungkapkan  ChatGPT memalsukan statistik kesehatan ketika dimintai informasi tentang kanker, sehingga dokter menyarankan agar tidak menggunakannya untuk saran medis.

Penelitian yang dipublikasikan di jurnal Radiology itu menyebutkan AI chatbot hanya mendapat satu jawaban yang benar dari 10 pertanyaan tentang skrining kanker payudara. Selain itu, tanggapan yang benar tidak "lengkap" seperti yang diperoleh dari pencarian cepat Google.

“Kami telah melihat dalam pengalaman kami bahwa ChatGPT terkadang membuat artikel jurnal palsu atau konsorsium kesehatan untuk mendukung klaimnya,” kata co penulis studi Dr Paul Yi dikutip Daily Mail Selasa 4 April 2023.

• Program Gojek Swadaya Bantu Ratusan Ribu Mitra Driver Hemat 15 Persen Biaya Operasional
• Produk Tembakau Alternatif, Solusi Turunkan Prevalensi Merokok
• Telkom Teken Perjanjian Rencana Merger Telkomsel dan Indihome

Dia menambahkan pengguna harus berhati-hati saat menggunakan perangkat lunak karena memiliki kecenderungan untuk berhalusinasi, atau mengarang-ngarang

ChatGPT diminta untuk menanggapi 25 pertanyaan oleh para peneliti dari Fakultas Kedokteran Universitas Maryland mengenai rekomendasi untuk skrining kanker payudara.

Setiap pertanyaan diajukan tiga kali karena chatbot diketahui mengubah tanggapannya. Tiga ahli radiologi dengan pelatihan mamografi kemudian memeriksa hasilnya.

Sebanyak 80 % jawaban cocok dan mudah dipahami. Namun, mereka memperingatkan bahwa beberapa tanggapan tidak akurat atau palsu.

Sebagai ilustrasi, satu tanggapan didasarkan pada pengetahuan yang ketinggalan zaman. Disarankan untuk menunda mammogram yang diperlukan empat hingga enam minggu setelah menerima imunisasi Covid-19. “Rekomendasi itu diubah setahun lalu, mendorong perempuan untuk tidak menunggu,” .

Penghentian darurat baru-baru ini untuk "perlombaan senjata"  berbahaya untuk memperkenalkan AI terbaru diminta oleh lebih dari seribu akademisi, profesional, dan eksekutif sektor teknologi.

Mereka memperingatkan bahwa persaingan di antara perusahaan teknologi untuk menciptakan pikiran digital yang semakin kuat telah "di luar kendali". Dan ini menimbulkan bahaya besar bagi masyarakat dan kemanusiaan.

Menurut  Paul Yi, konsumen harus menyadari bahwa ini adalah teknologi baru yang belum terbukti dan harus tetap mengandalkan dokter mereka.