Mantan pengacara Trump Michael Cohen baru-baru ini mengaku mengutip kasus-kasus palsu yang dihasilkan oleh AI dalam dokumen pengadilannya. Dia salah mengira Bard Google sebagai “mesin pencari super” dan mengutip konten yang dihasilkan AI tanpa verifikasi saat menggunakan Bard untuk penelitian hukum. Cohen mengaku tidak sengaja menyesatkan pengadilan, namun kurang memahami teknologi hukum AI. Insiden ini bukanlah kasus yang terisolasi. Referensi palsu serupa yang dihasilkan oleh AI telah muncul dalam dokumen pengadilan sebelumnya, sehingga memicu kontroversi yang luas dan menyoroti risiko dan tantangan penerapan teknologi AI di bidang hukum.
Mantan pengacara Trump, Michael Cohen, mengakui dalam dokumen pengadilan bahwa ia mengutip kasus-kasus palsu yang dihasilkan oleh AI, yaitu penggunaan Bard Google untuk melakukan penelitian hukum, padahal secara keliru memperlakukannya sebagai "mesin pencari super". Cohen mengaku tidak sengaja menyesatkan pengadilan dan kurang memahami teknologi hukum AI. Kutipan palsu serupa yang dihasilkan oleh AI telah muncul di dokumen pengadilan sebelumnya, sehingga menimbulkan beberapa kontroversi.
Insiden Cohen sekali lagi mengingatkan kita bahwa ketika menerapkan teknologi AI di bidang hukum, kita perlu mengevaluasi keandalan dan keakuratannya secara cermat, serta memperkuat etika dan pengawasan alat AI. Ketergantungan pada teknologi AI perlu didasarkan pada pemahaman penuh akan keterbatasannya untuk menghindari konsekuensi serius akibat penyalahgunaan. Di masa depan, bagaimana memanfaatkan AI dengan lebih baik untuk membantu penelitian hukum sambil menghindari potensi risikonya akan menjadi topik penting.