Dalam beberapa tahun terakhir, teknologi AI generatif telah berkembang pesat, memberikan banyak kemudahan bagi kehidupan masyarakat, namun juga membawa risiko keamanan baru. Baru-baru ini, peneliti IBM mengungkapkan metode penipuan baru yang menggunakan alat AI generatif untuk membajak panggilan suara, yang telah menarik perhatian luas. Jenis penipuan baru ini menggunakan alat AI berbiaya rendah untuk meniru suara orang lain dengan ketelitian yang sangat tinggi, sehingga dengan mudah menipu kepercayaan korban dan melakukan penipuan. Langkah ini menimbulkan ancaman serius bagi lembaga keuangan dan organisasi lain yang mengandalkan verifikasi identitas melalui telepon dan memerlukan perhatian serius.
Baru-baru ini, peneliti IBM menemukan cara yang relatif sederhana untuk menggunakan alat AI generatif untuk membajak panggilan suara, sehingga menimbulkan ancaman baru. Dengan memanfaatkan alat AI berbiaya rendah, penipu kini dapat dengan mudah meniru suara orang lain dan membajak percakapan yang sedang berlangsung untuk mencuri dana dan informasi sensitif lainnya. Akibatnya, organisasi yang menggunakan panggilan telepon untuk memverifikasi identitas, seperti lembaga keuangan, merasa prihatin. Laporan tersebut menyarankan siapa pun yang menerima panggilan mencurigakan untuk memparafrasekannya dengan kata-kata mereka sendiri dan mengulangi apa yang dikatakan untuk memverifikasi keakuratannya.
Menghadapi tantangan baru yang dibawa oleh teknologi AI, kita perlu lebih waspada dan memperkuat tindakan pencegahan keselamatan. Masyarakat harus meningkatkan kesadaran keamanan mereka, berhati-hati terhadap panggilan mencurigakan, dan secara aktif mempelajari cara mengidentifikasi dan mencegah penipuan jenis baru ini. Pada saat yang sama, institusi terkait juga harus secara aktif mengeksplorasi dan mengadopsi teknologi keamanan yang lebih canggih untuk menghadapi risiko keamanan yang ditimbulkan oleh teknologi AI dan memastikan keamanan informasi pengguna. Hanya dengan cara ini kita dapat memanfaatkan teknologi AI dengan lebih baik sekaligus menghindari potensi risikonya secara efektif.