Para peneliti di University of Michigan telah mengembangkan alat perangkat lunak yang disebut Perseus yang secara signifikan mengurangi konsumsi energi dari pelatihan model bahasa besar. Studi terobosan ini menunjukkan bahwa dengan mengoptimalkan alokasi sumber daya selama pelatihan, konsumsi energi dapat dikurangi sebesar 30% tanpa mempengaruhi kecepatan pelatihan. Teknologi ini tidak hanya memiliki manfaat ekonomi yang penting, tetapi juga dapat memberikan kontribusi besar terhadap penyebab perlindungan lingkungan.
Sebuah studi baru oleh University of Michigan menemukan bahwa metode penghematan tenaga kerja untuk melatih model bahasa besar dapat diselesaikan dalam waktu yang sama, tetapi konsumsi energi dapat dikurangi sebesar 30%. Pendekatan ini dapat menghemat energi yang cukup untuk memberi daya 1,1 juta rumah AS pada tahun 2026.
Para peneliti telah mengembangkan alat perangkat lunak yang disebut Perseus yang mengidentifikasi jalur kritis, serangkaian subtugas yang membutuhkan waktu terpanjang untuk diselesaikan. Perseus kemudian memperlambat kecepatan prosesor pada jalur non-kritis sehingga mereka semua melakukan pekerjaan pada saat yang sama, menghilangkan konsumsi daya yang tidak perlu.
Tim menguji Perseus dengan melatih GPT-3, tiga model bahasa besar lainnya dan model visi komputer. Hasilnya menunjukkan bahwa Perseus dapat mengurangi konsumsi energi pelatihan AI sambil mempertahankan kecepatan pelatihan yang sama.
Para peneliti mengatakan pendekatan penghematan tenaga kerja ini sangat penting untuk penggunaan kecerdasan buatan yang adil. Jika suatu negara tidak memiliki kekuatan yang cukup untuk menjalankan model besar, mereka mungkin perlu menggunakan layanan jarak jauh atau hanya dapat menjalankan model yang lebih kecil dan kurang akurat. Kesenjangan ini selanjutnya dapat memperburuk kesenjangan antara komunitas yang berbeda.
Studi ini menunjukkan bahwa dengan mengoptimalkan metode pelatihan AI, konsumsi energi dapat dikurangi sambil mempertahankan kecepatan pelatihan yang sama. Ini sangat penting untuk menghemat energi dan mengurangi jejak karbon.
Studi ini memberikan solusi yang efektif untuk masalah efisiensi energi di bidang kecerdasan buatan, membuka jalan bagi pengembangan kecerdasan buatan yang lebih berkelanjutan, dan memberikan jaminan penting untuk keadilan dan inklusivitas kecerdasan buatan di masa depan. Perseus memiliki prospek aplikasi yang luas dan diharapkan untuk mempromosikan kemajuan teknologi kecerdasan buatan dan aplikasi yang lebih luas.