Proyek LLM360 telah merilis dua model bahasa besar parameter 7B AMBER dan CRYSTALCODER sebagai open source. Langkah ini menyoroti pentingnya LLM open source di bidang kecerdasan buatan. Inisiatif ini bertujuan untuk mempromosikan transparansi model bahasa besar open source global dan mempromosikan penerapannya secara luas di dunia akademis dan industri. Kinerja pra-pelatihan model AMBER pada empat kumpulan data juga ditunjukkan, sehingga memberikan dasar yang andal untuk evaluasi kinerjanya. Hal ini akan membantu peneliti lebih memahami dan meningkatkan teknologi model bahasa besar open source.
LLM360 berencana untuk sepenuhnya open source dan merilis dua LLM parameter 7B, AMBER dan CRYSTALCODER. Studi ini menekankan pentingnya LLM sumber terbuka, menunjukkan kinerja pra-pelatihan model AMBER pada empat kumpulan data, dan mempromosikan inisiatif transparan untuk model bahasa besar sumber terbuka global.
Inisiatif sumber terbuka dari program LLM360 menyediakan sumber daya berharga bagi para peneliti kecerdasan buatan di seluruh dunia dan kondusif untuk mempromosikan pengembangan dan penerapan teknologi model bahasa besar. Hal ini juga mencerminkan komitmennya untuk mendorong kerja sama terbuka di bidang kecerdasan buatan. Kami berharap dapat melihat lebih banyak aplikasi inovatif berdasarkan hal ini di masa depan.