Model kecerdasan buatan terbaru Google PaliGemma2 memiliki kemampuan menganalisis gambar dan menghasilkan keterangan, serta dapat menjawab pertanyaan tentang emosi dan perilaku orang-orang di dalam foto. Model ini didasarkan pada keluarga model terbuka Gemma dan memberikan deskripsi gambar yang lebih dalam dibandingkan pengenalan objek tradisional, mampu mengidentifikasi emosi dan menghasilkan deskripsi detail yang sesuai dengan konteks. Namun, implikasi etika dan sosial dari teknologi ini telah menimbulkan kekhawatiran di kalangan para ahli, dengan keandalan kemampuan pengenalan emosi dan potensi penyalahgunaan yang menjadi fokusnya. Artikel ini akan mempelajari fitur teknis, kontroversi etika, dan pengembangan PaliGemma2 di masa depan.
Google baru-baru ini merilis model kecerdasan buatan generasi baru - PaliGemma2, yang dapat menganalisis gambar dan menghasilkan keterangan, sekaligus menjawab pertanyaan tentang emosi dan tindakan orang-orang di dalam foto. PaliGemma2 didasarkan pada seri model terbuka Gemma Google, memberikan deskripsi gambar yang lebih dalam daripada pengenalan objek tradisional, mampu mengidentifikasi emosi dan menghasilkan deskripsi detail yang sesuai dengan konteks. Namun, meskipun teknologi ini tampaknya merupakan inovasi yang inovatif, para ahli telah memberikan peringatan serius mengenai potensi implikasi etika dan sosialnya.
Pengenalan emosi bukanlah fitur standar PaliGemma2, namun dicapai melalui penyesuaian. Meskipun Google mengatakan telah melakukan "pengujian ekstensif" dan mengungguli tolok ukur industri dalam hal bias demografis, para ahli telah menyatakan kekhawatirannya mengenai keandalan teknologi tersebut. Profesor Sandra Wachter dari Universitas Oxford percaya bahwa "ada masalah besar dalam 'membaca' emosi manusia melalui kecerdasan buatan" dan prosesnya terlalu bergantung pada asumsi, sehingga dapat menyebabkan salah penilaian dan bias.
Teknologi pengenalan emosi telah lama menjadi fokus kontroversi dalam komunitas teknologi. Meskipun penelitian awal seperti teori emosi Paul Ekman mengusulkan enam emosi dasar, penelitian selanjutnya menunjukkan bahwa ekspresi emosi sangat bervariasi antar budaya dan konteks. Peneliti Mike Cook dari Queen Mary University di Inggris menunjukkan bahwa "kompleksitas pengalaman emosional membuat deteksi emosi yang akurat hampir tidak mungkin dilakukan." Selain itu, penelitian menunjukkan bahwa sistem analisis ekspresi wajah yang ada sering kali memiliki bias terhadap emosi tertentu, seperti senyuman atau perbedaan ekspresi wajah antar kelompok ras.
Seiring dengan semakin komersialnya teknologi pengenalan emosi, risiko penyalahgunaan yang mungkin ditimbulkannya telah menarik perhatian semua pihak. Beberapa ahli khawatir bahwa jenis teknologi ini dapat digunakan dalam penegakan hukum, perekrutan, dan bidang lainnya, sehingga semakin memperburuk kesenjangan sosial. RUU Kecerdasan Buatan Uni Eropa telah memberlakukan pembatasan ketat terhadap teknologi pengenalan emosi, terutama bila digunakan di lingkungan berisiko tinggi.
Google menegaskan bahwa PaliGemma2 telah sepenuhnya mempertimbangkan masalah etika dan keamanan selama tahap pengujian, terutama keamanan anak-anak dan konten. Namun, kecukupan jaminan ini masih harus diteliti. Heidy Khlaaf dari AI Now Institute mengatakan bahwa pengenalan emosi tidak hanya masalah visual, tetapi juga melibatkan latar belakang sosial dan budaya yang mendalam. "Emosi tidak dapat disimpulkan secara akurat hanya dari fitur wajah."
Dengan dirilisnya teknologi ini ke publik, PaliGemma2 tidak hanya akan mempromosikan penerapan kecerdasan buatan di bidang pemahaman gambar, namun juga menimbulkan tantangan baru terhadap etika sosial dan privasi data, yang sangat membutuhkan perhatian dan intervensi dari badan pengatur terkait.
Kemunculan PaliGemma2 tidak diragukan lagi telah mendorong pengembangan teknologi pemahaman gambar dengan kecerdasan buatan, namun juga mengungkap keterbatasan dan potensi risiko teknologi pengenalan emosi. Ke depan, penerapan teknologi perlu menemukan keseimbangan antara inovasi dan etika, serta memperkuat pengawasan untuk memastikan tidak disalahgunakan agar dapat memberikan pelayanan yang lebih baik kepada masyarakat.