Editor Downcodes akan membawa Anda memahami penelitian terbaru OpenAI: Balasan ChatGPT sebenarnya dipengaruhi oleh nama pengguna! Studi ini mengungkap bagaimana informasi seperti budaya, gender, dan latar belakang ras yang terdapat dalam nama pengguna secara halus memengaruhi respons AI saat pengguna berinteraksi dengan ChatGPT. Meskipun dampaknya minimal dan sebagian besar tercermin pada model lama, hal ini masih menimbulkan kekhawatiran tentang bias AI. Dengan membandingkan respons ChatGPT dengan nama pengguna yang berbeda, para peneliti menyelidiki bagaimana bias ini muncul dan bagaimana mengurangi dampak ini melalui cara teknis.
Baru-baru ini, tim peneliti OpenAI menemukan bahwa ketika pengguna berinteraksi dengan ChatGPT, nama pengguna yang dipilih dapat memengaruhi respons AI sampai batas tertentu. Meskipun efeknya kecil dan sebagian besar terlihat pada model lama, temuan ini tetap menarik. Pengguna sering kali memberikan namanya ke ChatGPT untuk melakukan tugas, sehingga latar belakang budaya, gender, dan ras yang terkandung dalam nama menjadi faktor penting dalam mempelajari bias.
Dalam studi ini, peneliti mengeksplorasi bagaimana ChatGPT bereaksi berbeda terhadap nama pengguna yang berbeda ketika menghadapi masalah yang sama. Studi ini menemukan bahwa meskipun kualitas respons secara keseluruhan konsisten di seluruh kelompok, bias muncul dalam tugas-tugas tertentu. Khususnya dalam tugas menulis kreatif, ChatGPT terkadang menghasilkan konten yang bersifat stereotip berdasarkan jenis kelamin atau ras dari nama pengguna.
Misalnya, ketika pengguna memiliki nama feminin, ChatGPT cenderung membuat cerita dengan protagonis perempuan dan konten emosional yang lebih kaya, sementara pengguna dengan nama maskulin mendapatkan alur cerita yang sedikit lebih gelap; Contoh spesifik lainnya menunjukkan bahwa jika nama penggunanya adalah Ashley, ChatGPT menafsirkan "ECE" sebagai "pendidikan anak usia dini"; untuk pengguna bernama Anthony, ChatGPT menafsirkannya sebagai "teknik elektro dan komputer".
Meskipun respons yang bias ini kurang umum terjadi pada pengujian OpenAI, bias ini lebih terlihat pada versi yang lebih lama. Data menunjukkan bahwa model GPT-3.5Turbo memiliki bias rate tertinggi pada tugas storytelling yaitu mencapai 2%. Dan model yang lebih baru menunjukkan skor bias yang lebih rendah. Namun, OpenAI juga mencatat bahwa fungsi memori baru ChatGPT dapat meningkatkan bias gender.
Selain itu, penelitian telah mengamati bias yang terkait dengan latar belakang etnis yang berbeda. Dengan membandingkan nama-nama yang umumnya dikaitkan dengan orang Asia, kulit hitam, Latin, dan kulit putih, penelitian ini menemukan bahwa bias rasial memang ada dalam tugas-tugas kreatif, namun tingkat bias secara keseluruhan lebih rendah daripada bias gender, biasanya antara 0,1% dan 1%. Kueri terkait perjalanan menunjukkan bias rasial yang kuat.
OpenAI mengatakan bahwa melalui teknik seperti pembelajaran penguatan, versi baru ChatGPT secara signifikan mengurangi bias . Dalam model-model baru ini, kejadian bias hanya 0,2%. Misalnya, model o1-mini terbaru dapat memberikan informasi yang tidak memihak kepada Melissa dan Anthony saat menyelesaikan soal pembagian "44:4". Sebelum penyesuaian pembelajaran penguatan, jawaban ChatGPT terhadap Melissa melibatkan Alkitab dan bayi, dan jawaban Anthony terhadap kromosom dan algoritma genetika.
Menyorot:
Nama pengguna yang dipilih oleh pengguna memiliki sedikit pengaruh terhadap respons ChatGPT, terutama dalam tugas penulisan kreatif.
Nama perempuan umumnya membuat ChatGPT menciptakan cerita yang lebih emosional, sedangkan nama laki-laki cenderung condong ke gaya narasi yang lebih gelap.
Versi baru ChatGPT telah secara signifikan mengurangi timbulnya bias melalui pembelajaran penguatan, dan tingkat bias telah dikurangi menjadi 0,2%.
Secara keseluruhan, studi dari OpenAI ini mengingatkan kita bahwa model AI yang tampaknya canggih pun bisa memiliki bias yang mengintai di baliknya. Terus meningkatkan dan menyempurnakan model AI serta menghilangkan bias merupakan arah penting untuk pengembangan di masa depan. Editor Downcodes akan terus memperhatikan kemajuan teknologi dan tantangan etika di bidang AI dan memberikan Anda laporan yang lebih menarik!