Google baru-baru ini mengumumkan bahwa mulai minggu depan, aplikasi Google Foto akan menambahkan logo pengeditan AI ke foto yang diedit dengan fitur AI seperti Magic Editor, Magic Eraser, dan Zoom Enhance. Pembaruan ini dimaksudkan untuk meningkatkan transparansi tetapi memicu kontroversi. Karena logo hanya ditampilkan pada detail foto, bukan pada foto itu sendiri, sulit bagi pengguna untuk secara intuitif mengidentifikasi jejak pengeditan AI dalam penggunaan sehari-hari. Editor Downcodes akan menafsirkan hal ini secara rinci, menganalisis pro dan kontra, dan mendiskusikan dampaknya terhadap perkembangan teknologi gambar AI di masa depan.
Di saat teknologi pencitraan kecerdasan buatan semakin populer, Google mengumumkan akan memperkenalkan fungsi pengeditan logo AI baru ke aplikasi Google Foto mulai minggu depan. Semua foto yang diedit menggunakan fitur AI seperti Magic Editor, Magic Eraser, dan Zoom Enhance akan memiliki anotasi yang diedit menggunakan Google AI yang ditampilkan di bagian bawah bagian Detail aplikasi.
Pembaruan ini terjadi lebih dari dua bulan setelah Google merilis ponsel Pixel 9 yang dilengkapi beberapa fitur pengeditan foto AI. Namun, metode pelabelan ini menimbulkan beberapa kontroversi. Meskipun Google mengklaim bahwa langkah ini adalah untuk lebih meningkatkan transparansi, efek sebenarnya masih dipertanyakan: foto itu sendiri tidak menambahkan tanda air visual apa pun, yang berarti bahwa pengguna tidak dapat mengidentifikasinya secara intuitif saat menjelajahi foto di media sosial, pesan instan, atau aktivitas sehari-hari foto-foto ini telah diproses oleh AI.
Untuk fitur pengeditan foto seperti Best Take dan Add Me yang tidak menggunakan AI generatif, Google Foto juga akan memberi anotasi pada informasi pengeditan di metadata, namun tidak akan ditampilkan di tab detail. Fungsi-fungsi ini terutama digunakan untuk menggabungkan beberapa foto menjadi satu gambar lengkap.
Michael Marconi, manajer komunikasi untuk Google Foto, mengatakan kepada TechCrunch: Pekerjaannya belum selesai. Kami akan terus mengumpulkan masukan, memperkuat dan meningkatkan perlindungan keselamatan, dan mengevaluasi solusi lain untuk meningkatkan transparansi pengeditan AI generatif. Meskipun perusahaan belum menjelaskan apakah mereka akan menambahkan tanda air visual di masa depan, namun mereka tidak sepenuhnya mengesampingkan kemungkinan tersebut.
Perlu dicatat bahwa semua foto yang saat ini diedit oleh Google AI sudah berisi informasi pengeditan AI dalam metadatanya. Fitur baru ini hanya memindahkan informasi ini ke tab Detail, yang lebih mudah ditemukan. Namun, dampak sebenarnya dari pendekatan ini mengkhawatirkan, karena sebagian besar pengguna tidak secara khusus mencari metadata atau informasi detail saat menjelajahi gambar di Internet.
Tentu saja, menambahkan tanda air yang terlihat di dalam bingkai foto juga bukan solusi yang tepat. Tanda air ini dapat dengan mudah dipotong atau diedit, dan masalahnya tetap ada. Seiring dengan semakin populernya alat pencitraan AI Google, konten sintetis kemungkinan akan menjamur di Internet, sehingga semakin sulit bagi pengguna untuk membedakan konten asli dan palsu.
Metode watermarking metadata yang saat ini diadopsi oleh Google sangat bergantung pada setiap platform untuk mengidentifikasi konten yang dihasilkan AI kepada pengguna. Meta telah menerapkan praktik ini di Facebook dan Instagram, dan Google berencana mengidentifikasi gambar AI dalam hasil pencarian akhir tahun ini. Namun, langkah-langkah yang relevan pada platform lain mengalami kemajuan yang lebih lambat.
Kontroversi ini menyoroti isu penting dalam pengembangan teknologi AI: bagaimana memastikan keaslian konten dan hak pengguna untuk mengetahui sambil mempromosikan inovasi teknologi. Meskipun Google telah mengambil langkah pertama untuk meningkatkan transparansi, jelas bahwa diperlukan lebih banyak upaya dan perbaikan untuk mencegah konten sintetis menyesatkan pengguna.
Meskipun langkah Google dimaksudkan untuk meningkatkan transparansi, dampaknya masih harus dilihat. Bagaimana mencapai keseimbangan antara perkembangan teknologi AI dan keaslian konten merupakan masalah sulit yang dihadapi semua perusahaan teknologi. Di masa depan, metode identifikasi konten yang dihasilkan AI yang lebih efektif sangat penting untuk melindungi hak dan kepentingan pengguna dengan lebih baik.