Dokumen permohonan IPO ServiceTitan yang akan datang jarang merinci potensi risiko yang ditimbulkan oleh model bahasa besar (LLM). Dokumen ini tidak hanya menunjukkan bahwa lebih banyak peringatan mengenai risiko AI mungkin akan muncul dalam dokumen IPO di masa depan, namun juga mencerminkan bahwa meskipun perusahaan-perusahaan mulai menggunakan teknologi AI, mereka harus menghadapi dan mengatasi berbagai tantangan yang ditimbulkannya. Peringatan risiko sepanjang 1.150 kata ini mencakup banyak aspek seperti keamanan data, hak kekayaan intelektual, etika dan rekrutmen bakat, serta mencerminkan sikap hati-hati dan kesadaran risiko perusahaan terhadap penerapan teknologi AI.
Saat ServiceTitan mengajukan penawaran umum perdana (IPO) ke Komisi Sekuritas dan Bursa AS, perusahaan tersebut secara khusus menyebutkan potensi risiko yang ditimbulkan oleh model bahasa besar (LLM) di bagian faktor risiko. Peringatan tersebut mungkin menandai standar baru dalam dokumen IPO di masa depan: penggunaan teknologi AI juga memiliki risiko.
Dalam dokumen aplikasi ServiceTitan, terdapat peringatan risiko sepanjang 1.150 kata yang merinci kemungkinan dampak negatif dari penggunaan AI generatif. Perusahaan memperingatkan bahwa LLM mungkin menghasilkan informasi yang "salah" dan mungkin menunjukkan perilaku "diskriminatif". Selain itu, penggunaan model ini mungkin melibatkan pelanggaran hak cipta atau hak kekayaan intelektual pihak lain, dan dalam penggunaan data, jika data yang memadai tidak dapat diperoleh, hal ini dapat memengaruhi pengembangan dan penyediaan produk AI.
ServiceTitan juga khawatir bahwa karyawan atau kontraktor dapat secara keliru membagikan data pribadi pelanggan dengan sistem pihak ketiga, sehingga mengakibatkan pelanggaran keamanan. Perusahaan mengatakan mereka mungkin menghadapi tantangan dari masalah sosial dan etika di masa depan, serta potensi kerugian ekonomi akibat tindakan regulasi.
Selain itu, ServiceTitan juga menyatakan keprihatinannya mengenai perekrutan ahli AI yang dibutuhkan, karena percaya bahwa meskipun talenta yang tepat dapat ditemukan, biayanya akan sangat tinggi. Yang lebih penting lagi, layanan pihak ketiga yang diandalkan perusahaan, termasuk Microsoft dan OpenAI, akan menimbulkan ancaman bagi bisnisnya jika ada masalah atau tidak tersedia.
Perlu dicatat bahwa produk AI ServiceTitan, seperti Titan Intelligence, telah tersedia selama beberapa waktu, dan perusahaan terus memperluas penerapan agen AI untuk meningkatkan efisiensi penjualan dan layanan pelanggan. Dengan meluasnya penerapan teknologi AI, khususnya agen AI berbasis LLM, di bidang pemasaran dan manajemen hubungan pelanggan, sangat penting bagi ServiceTitan untuk mengeluarkan peringatan mengenai latar belakang ini.
Meskipun masalah keandalan LLM dalam aplikasi komersial diperkirakan akan teratasi seiring berjalannya waktu, perkembangan teknologi AI saat ini membawa serta potensi masalah dan solusi, sesuatu yang secara blak-blakan dinyatakan oleh ServiceTitan dalam sudut pandang pengajuan hukumnya.
Menyorot:
ServiceTitan menyebutkan dalam permohonan IPO-nya bahwa penggunaan teknologi AI dapat menimbulkan informasi palsu dan risiko keamanan.
Perusahaan khawatir tidak dapat merekrut talenta AI tingkat tinggi, dan ketergantungan pada layanan terkait meningkatkan risiko.
Penerapan LLM secara luas masih dalam tahap awal, dan potensi masalah serta solusinya mungkin ada.
Kasus ServiceTitan mengingatkan kita bahwa penerapan teknologi AI bukannya tanpa risiko. Meskipun perusahaan menikmati kemudahan yang diberikan oleh AI, mereka juga harus memperhatikan dan secara aktif merespons potensi risiko dan tantangan. Hal ini memberikan referensi berharga bagi perusahaan lain dalam penerapan AI dan penilaian risiko.