Meskipun meningkatnya diagnosis medis yang dibantu AI memberikan kemudahan, hal ini juga menimbulkan kekhawatiran di kalangan badan pengatur. Ketika dokter menggunakan alat AI yang tidak diatur secara ketat untuk membantu diagnosis pasien, potensi risikonya tidak dapat diabaikan. Mekanisme kerja model AI ini seringkali sulit dijelaskan, sehingga mempersulit pengawasan dan meningkatkan risiko litigasi malpraktik medis. Bagaimana cara mengawasi penerapan AI secara efektif di bidang medis telah menjadi masalah mendesak yang perlu dipecahkan.
Dokter menggunakan alat AI yang tidak diatur untuk membantu diagnosis pasien, sehingga menimbulkan kekhawatiran di kalangan regulator. Model kecerdasan buatan sulit dijelaskan prinsip kerjanya, sehingga pengawasan menjadi lebih sulit. Alat AI yang belum teruji dapat menimbulkan risiko tuntutan malpraktik medis. Sekolah kedokteran dan pusat akademik mungkin merupakan pilihan yang memungkinkan untuk mengatur alat medis AI.
Penyelesaian masalah regulasi peralatan medis AI merupakan hal yang mendesak untuk dilakukan. Departemen pemerintah, institusi medis, dan perusahaan teknologi perlu bekerja sama untuk menetapkan kerangka peraturan dan standar yang lengkap untuk memastikan penerapan teknologi AI di bidang medis aman dan andal. dan pada akhirnya menguntungkan pasien.