Baru-baru ini, beberapa pengguna melaporkan bahwa ChatGPT mengambil inisiatif untuk menghubungi mereka, sehingga memicu diskusi hangat. Editor Downcodes akan memberikan interpretasi rinci atas kejadian ini dan membantu Anda memahami awal dan akhir kejadian serta alasan teknis di baliknya. Banyak pengguna membagikan tangkapan layar ChatGPT di media sosial yang secara aktif menanyakan kehidupan sekolah menengah mereka atau perkembangan penyakit mereka. Orang-orang sempat panik, bertanya-tanya apakah ini adalah ujian fitur OpenAI baru, dan beberapa bahkan meragukan keasliannya.
Baru-baru ini, ChatGPT OpenAI sebenarnya "aktif" mengirim pesan ke pengguna, yang membuat banyak orang khawatir.
Pada tanggal 15 September, seorang pengguna bernama SentuBill membagikan tangkapan layar ke komunitas ChatGPT Reddit yang menunjukkan chatbot menanyakan kepadanya tentang minggu pertama sekolah menengahnya. Dalam percakapan berikutnya, ChatGPT bahkan menyatakan ingin “peduli” terhadap pengguna secara rutin dan menanyakan apakah mereka ingin memulai percakapan sendiri. Pengguna lain mengalami situasi serupa, dengan AI menanyakan perkembangan gejalanya setelah dia masuk sakit seminggu yang lalu.
Banyak orang yang penasaran, bahkan sedikit resah, dengan interaksi mendadak ini. Pada awalnya, semua orang mengira ini mungkin fitur baru dari model o1-preview dan o1-mini OpenAI yang baru diluncurkan.
Kedua model tersebut disebut “Project Strawberry,” dan perusahaan mengatakan bahwa teknologi tersebut memungkinkan AI untuk memikirkan pertanyaan sebelum merespons seperti manusia. Oleh karena itu, sebagian orang menganggap "ucapan aktif" ChatGPT kali ini mungkin merupakan manifestasi dari perilaku baru, bahkan ada pula yang menduga bahwa perilaku tersebut palsu.
Pengembang AI Benjamin de Kraker mendemonstrasikan di X (sebelumnya Twitter) bagaimana AI dapat diinstruksikan untuk meminta sebelum memulai percakapan dan menghapus masukan awal.
Namun, setelah dikonfirmasi lebih lanjut, ini sebenarnya adalah sebuah kerentanan. Situs berita teknologi Futurism menghubungi OpenAI dan diberi tahu bahwa dalam kasus ini ChatGPT mencoba merespons permintaan yang tidak terkirim dengan benar atau tampak kosong. Hasilnya, model AI memberikan jawaban yang “umum”, atau mengandalkan memorinya sendiri untuk menjawab.
Jadi yakinlah bahwa ChatGPT belum sadar dan tidak akan terlibat aktif dalam percakapan dengan pengguna. Namun, mengingat pesatnya perkembangan teknologi AI, kami tidak terkejut jika kerentanan ini dapat menjadi fitur di masa depan.
Bagaimanapun, ChatGPT telah membuat kemajuan besar dalam waktu singkat, dan setelah beberapa penyesuaian, ChatGPT terkadang secara proaktif mengirim pesan ke pengguna di masa mendatang.
Menyorot:
ChatGPT secara tidak sengaja mengirim pesan kepada pengguna karena kerentanan teknis, menyebabkan beberapa pengguna panik.
OpenAI telah mengonfirmasi bahwa perilaku ini merupakan kerentanan karena petunjuk yang dikirimkan secara tidak benar.
Teknologi AI berkembang pesat, dan fungsi pengiriman pesan proaktif mungkin akan muncul di masa depan.
Secara keseluruhan, insiden ChatGPT yang secara aktif menghubungi pengguna ini disebabkan oleh kerentanan teknis dan bukan merupakan kebangkitan AI. Namun hal ini mengingatkan kita bahwa teknologi AI berkembang pesat, dan lebih banyak fungsi tak terduga mungkin muncul di masa depan. Editor Downcodes akan terus memperhatikan perkembangan teknologi AI dan memberikan laporan yang lebih menarik kepada Anda.