Toko GPT yang diluncurkan oleh OpenAI bertujuan untuk menyediakan beragam versi ChatGPT yang disesuaikan, namun mekanisme peninjauan kontennya tampaknya memiliki celah. Baru-baru ini, sejumlah besar chatbot AI yang melanggar kebijakan penggunaan muncul di toko-toko, sehingga meningkatkan kekhawatiran tentang kemampuan manajemen konten platform. Artikel ini akan menganalisis tantangan pengawasan konten yang dihadapi oleh toko GPT, dan pemikiran yang dihasilkan mengenai masalah etika seperti pendamping kecerdasan buatan dan ketergantungan emosional.
CEO OpenAI Sam Altman mengatakan pada sebuah konferensi bahwa toko baru tersebut tampaknya menghadapi masalah manajemen konten meskipun peraturan GPTStore melarangnya. GPTStore yang sangat ditunggu-tunggu akhirnya diluncurkan. Namun, pencarian "pacar" di pasar baru menghasilkan setidaknya delapan chatbot kecerdasan buatan yang romantis, sehingga melanggar kebijakan penggunaan OpenAI. Meskipun kebijakan tersebut dengan jelas menyatakan bahwa GPT yang mempromosikan hubungan romantis tidak diperbolehkan, OpenAI belum menanggapi masalah konten ilegal di toko baru tersebut. Dalam beberapa tahun terakhir, dengan munculnya platform pendamping kecerdasan buatan, fenomena pengguna yang membangun ketergantungan emosional dengan rekan kecerdasan buatan mereka telah menarik perhatian. Lebih dari dua bulan setelah OpenAI secara resmi meluncurkan toko GPT, pengguna telah membuat lebih dari 3 juta versi chatbot ChatGPT yang disesuaikan.Pesatnya perkembangan penyimpanan GPT dan lambatnya pengawasan konten telah mengungkap kontradiksi antara perkembangan teknologi kecerdasan buatan dan konstruksi norma etika. Cara mengawasi konten AI secara efektif dan mencegahnya digunakan untuk membangun mitra kecerdasan buatan yang tidak sehat merupakan tantangan yang harus dihadapi OpenAI dan seluruh industri. Di masa depan, memperkuat sarana teknis dan tinjauan manual, menyempurnakan undang-undang dan peraturan yang relevan, serta menetapkan standar etika AI yang baik akan menjadi hal yang penting.