Dengan pesatnya perkembangan teknologi AI, identifikasi keaslian konten yang dihasilkan AI telah menjadi isu penting. Penyebaran informasi palsu menimbulkan ancaman serius terhadap stabilitas sosial dan kepercayaan masyarakat. Untuk menjawab tantangan ini dan secara efektif memerangi informasi palsu yang dihasilkan AI, Tencent telah meluncurkan alat pendeteksi konten baru yang dihasilkan AI, yang bertujuan untuk menggunakan teknologi AI untuk mengidentifikasi teks dan gambar yang dihasilkan AI serta menjaga kesehatan dan keselamatan pengguna. lingkungan daring.
Dengan pesatnya perkembangan teknologi kecerdasan buatan, penerapan teks, gambar, dan video yang dihasilkan AI di berbagai bidang semakin matang. Namun hal ini juga dibarengi dengan munculnya krisis kepercayaan, dan penyebaran informasi palsu yang berpotensi menimbulkan ancaman bagi masyarakat. Untuk mengatasi tantangan ini, Tencent baru-baru ini meluncurkan alat pendeteksi konten baru yang dihasilkan oleh AI, yang bertujuan untuk "melawan AI palsu" melalui teknologi AI.
Alat ini dikembangkan oleh Zhuque Lab Tencent dan dibagi menjadi dua sistem: deteksi teks yang dihasilkan AI dan deteksi gambar yang dihasilkan AI. Pejabat Tencent menunjukkan bahwa meskipun gambar yang dihasilkan oleh AI menjadi lebih realistis, masih ada tingkat tertentu yang dapat dikenali. Melalui verifikasi cepat atas gambar yang diunggah dalam beberapa detik, pengguna dapat mengetahui apakah gambar tersebut dihasilkan oleh AI.
Dalam hal logika pendeteksian, sistem ini terutama membedakannya dengan menangkap perbedaan halus antara gambar nyata dan gambar yang dihasilkan AI. Misalnya, gambar yang dihasilkan AI terkadang bertentangan dengan logika akal sehat atau mungkin memerlukan penambahan tanda air dalam beberapa kasus. Selain itu, gambar yang dihasilkan AI juga mungkin berisi fitur lapisan tersembunyi tertentu. Untuk memastikan keakuratan pendeteksian, Tencent menggunakan 1,4 juta sampel positif dan negatif dalam pelatihan model, yang mencakup berbagai pemandangan seperti tubuh manusia, pemandangan, orang, bangunan terkenal, dll. Tingkat deteksi pengujian akhir mencapai lebih dari 95%, dan sistem juga Dalam optimasi berkelanjutan.
Dalam hal deteksi teks, sistem deteksi Tencent juga mengandalkan sejumlah besar sampel positif dan negatif untuk pelatihan, dan dapat mencakup beragam gaya sastra seperti berita, dokumen resmi, novel, dan esai. Dengan membandingkan teks yang terdeteksi dengan konten prediksi model besar, sistem dapat menyimpulkan kemungkinan pembuatan teks oleh AI, sehingga meningkatkan kemampuan deteksi data yang tidak terlihat. Ke depannya, Tencent juga berencana memperluas sistem deteksi teks ke genre lain seperti puisi untuk lebih meningkatkan akurasi pengenalan.
Melalui langkah inovatif ini, Tencent berharap dapat menyediakan lingkungan online yang lebih aman dan tepercaya bagi pengguna, secara efektif menolak penyebaran informasi palsu, dan berkontribusi pada pembangunan masyarakat yang sehat.
Alat deteksi konten yang dihasilkan oleh AI dari Tencent, dengan akurasi tinggi dan kemampuan pengoptimalan berkelanjutan, memberikan cara yang efektif untuk menangani informasi palsu yang dihasilkan oleh AI dan berkontribusi dalam membangun dunia maya yang lebih jelas. Perkembangan dan penerapannya di masa depan patut dinantikan.