Mayoritas alat kecerdasan buatan (AI) medis yang telah mendapatkan izin edar dari Food and Drug Administration (FDA) Amerika Serikat tidak melalui pengujian ketat terkait dampak langsung pada hasil klinis pasien. Data terbaru menunjukkan, dari lebih dari 1.300 perangkat AI medis yang disetujui, hanya tiga yang benar-benar diuji untuk mengukur luaran yang berpusat pada pasien, seperti angka kematian dan morbiditas.
Integrasi teknologi AI dalam sektor kesehatan terus berkembang pesat. Perkembangan ini memicu kekhawatiran di kalangan profesional medis. Organisasi seperti American Medical Association (AMA) telah menyerukan regulasi yang lebih ketat. Kekhawatiran tersebut terutama berakar pada potensi bias dan kurangnya transparansi dalam pengambilan keputusan di klinik maupun dalam proses penetapan keputusan oleh perusahaan asuransi kesehatan.
Menurut Rawan Abulibdeh, seorang peneliti pascadoktoral di University Health Network, Kanada, dan timnya, FDA telah memberikan persetujuan untuk setidaknya 1.357 perangkat medis berbasis AI. Temuan ini mengindikasikan adanya kesenjangan antara kemajuan teknologi AI dan evaluasi dampaknya terhadap kesehatan pasien.
“Keputusan klinis semakin bergantung pada keluaran algoritma,” tulis Abulibdeh dan rekan-rekannya dalam sebuah publikasi. Meskipun alat-alat ini digunakan dalam praktik medis sehari-hari, studi yang dilakukan oleh tim Abulibdeh menemukan bahwa sebagian besar dari mereka tidak diuji untuk mengukur efektivitasnya dalam mencegah kematian atau mengurangi tingkat kesakitan pasien. Hal ini menimbulkan pertanyaan serius mengenai sejauh mana keamanan dan manfaat nyata alat-alat AI ini bagi pasien.
