Proyek AI Google, Gemini, baru-baru ini menimbulkan kontroversi karena peraturan internalnya yang baru. Menurut laporan, personel outsourcing yang bertanggung jawab untuk mengevaluasi konten yang dihasilkan oleh Gemini diminta untuk mengevaluasi bidang-bidang di mana mereka tidak memiliki keahlian, terutama di bidang sensitif seperti layanan kesehatan, sehingga menimbulkan kekhawatiran tentang keakuratan informasi Gemini. Penyesuaian kebijakan ini secara langsung mempengaruhi pekerjaan personel outsourcing dan secara tidak langsung mempengaruhi kualitas penilaian Gemini.
Baru-baru ini, proyek AI Google, Gemini, menyuarakan kekhawatiran tentang keakuratan informasi karena peraturan internal barunya. Menurut laporan, personel outsourcing yang bertugas mengevaluasi konten yang dihasilkan AI diminta untuk menilai bidang-bidang yang tidak mereka kuasai, terutama pada topik sensitif seperti layanan kesehatan.
Personil yang dialihdayakan ini berasal dari GlobalLogic, sebuah perusahaan layanan teknologi global. Google mengharuskan mereka mengevaluasi respons yang dihasilkan oleh AI, terutama dengan mempertimbangkan faktor-faktor seperti "keaslian". Sebelumnya, agen outsourcing dapat memilih untuk melewatkan pertanyaan yang mereka tidak punya keahlian relevan. Misalnya, mereka dapat memilih untuk tidak mengevaluasi pertanyaan khusus tentang kardiologi. Hal ini dilakukan untuk memastikan keakuratan penilaian dan hanya orang-orang dengan latar belakang relevan yang dapat melakukan penilaian secara efektif.
Namun, minggu lalu GlobalLogic mengumumkan persyaratan terbaru Google, yang mana agen outsourcing kini tidak lagi diizinkan untuk melewatkan pertanyaan di bidang keahlian tersebut, namun diwajibkan untuk menilai bagian-bagian yang mereka pahami dan menjelaskan kurangnya pengetahuan mereka di bidang yang relevan. Perubahan tersebut memicu kekhawatiran luas di kalangan agen outsourcing bahwa praktik tersebut dapat memengaruhi keakuratan Gemini pada beberapa topik kompleks.
Misalnya, beberapa agen outsourcing menyebutkan dalam komunikasi internal bahwa opsi melewatkan sebelumnya adalah untuk meningkatkan keakuratan penilaian, namun penerapan aturan baru memaksa mereka untuk mengevaluasi beberapa masalah yang tidak mereka alami, seperti penyakit langka. Email internal menunjukkan bahwa aturan aslinya adalah: "Jika Anda tidak memiliki keahlian yang diperlukan untuk tugas ini, silakan lewati saja." Aturan barunya adalah: "Permintaan yang memerlukan keahlian tidak boleh dilewati." Perubahan kebijakan ini, Buat agen outsourcing tidak nyaman.
Berdasarkan peraturan baru, agen outsourcing hanya dapat melewatkan tugas penilaian dalam dua situasi: situasi pertama adalah ketika informasi benar-benar hilang, seperti perintah atau tanggapan yang lengkap; situasi lainnya adalah ketika konten mungkin berbahaya dan memerlukan persetujuan khusus untuk melakukan penilaian. Meskipun peraturan baru ini dimaksudkan untuk meningkatkan kinerja Gemini, peraturan ini mungkin memengaruhi pemahaman dan masukan mengenai topik kompleks dalam operasi sebenarnya.
Google tidak menanggapi masalah ini, dan kekhawatiran pihak outsourcing juga secara bertahap meningkat.
Menyorot:
Personil yang dialihdayakan diminta untuk mengevaluasi respons yang dihasilkan oleh AI di mana mereka tidak mempunyai keahlian, terutama di bidang sensitif seperti layanan kesehatan.
Peraturan baru ini menghilangkan opsi "lewati" dan mengharuskan agen outsourcing untuk tetap memberikan skor meskipun mereka tidak memiliki keahlian.
Kebijakan ini dapat mempengaruhi keakuratan Gemini dalam topik yang kompleks, sehingga menimbulkan kegelisahan dan kekhawatiran di kalangan personel outsourcing.
Respons Google terhadap peraturan baru Gemini telah tertunda, dan kekhawatiran di kalangan personel outsourcing terus meningkat, membuat pengembangan Gemini di masa depan menghadapi tantangan baru. Metode evaluasi akurasi model AI perlu lebih ditingkatkan untuk memastikan keandalan dan keamanan teknologi AI.