CodeT5

KodeT5 dan KodeT5+

Rilis penelitian resmi untuk model CodeT5 dan CodeT5+ untuk Pemahaman dan Pembuatan Kode dari Salesforce Research, yang diperkenalkan oleh makalah berikut:

Judul : CodeT5+: Model Bahasa Besar Kode Terbuka untuk Pemahaman dan Pembuatan Kode

Penulis : Yue Wang*, Hung Le*, Akhilesh Deepak Gotmare, Nghi DQ Bui, Junnan Li, Steven CH Hoi (* menunjukkan kontribusi yang setara)

Judul : CodeT5: Model Encoder-Decoder Terpadu yang Sadar Pengidentifikasi untuk Pemahaman dan Pembuatan Kode

Penulis : Yue Wang, Weishi Wang , Shafiq Joty, Steven CH Hoi

Dalam praktiknya, model CodeT5 dan CodeT5+ dapat diterapkan sebagai asisten pengkodean yang didukung AI untuk meningkatkan produktivitas pengembang perangkat lunak. Di Salesforce, kami membuat demo asisten pengkodean AI menggunakan CodeT5 sebagai plugin VS Code untuk menyediakan tiga kemampuan:

• Pembuatan teks-ke-kode : menghasilkan kode berdasarkan deskripsi bahasa alami.
• Pelengkapan otomatis kode : menyelesaikan seluruh fungsi kode dengan nama fungsi target.
• Peringkasan kode : menghasilkan ringkasan fungsi dalam deskripsi bahasa alami.

Apa yang Baru:?

Mei 2023

Kertas dan model CodeT5+ dirilis!
kertas | kode | model | blog

September 2022

Makalah CodeRL kami telah diterima di NeurIPS 2022!
kertas | kode | blog

Juli 2022

Kami merilis dua pos pemeriksaan CodeT5 berukuran besar di HuggingFace: Salesforce/codet5-large dan Salesforce/codet5-large-ntp-py, yang diperkenalkan oleh makalah CodeRL.

Oktober 2021

Kami merilis pos pemeriksaan yang telah disesuaikan untuk semua tugas hilir yang tercakup dalam makalah ini. Selain itu, kami merilis pos pemeriksaan berbasis CodeT5 yang disempurnakan (Salesforce/codet5-base-multi-sum) untuk ringkasan kode multibahasa.

September 2021

Makalah CodeT5 diterima di EMNLP 2021 dan modelnya dirilis!
kertas | kode | model | kartu model | blog

Kutipan

Jika Anda merasa kode ini berguna untuk penelitian Anda, mohon pertimbangkan untuk mengutip:

 @inproceedings{
    wang2021codet5,
    title={CodeT5: Identifier-aware Unified Pre-trained Encoder-Decoder Models for Code Understanding and Generation}, 
    author={Yue Wang, Weishi Wang, Shafiq Joty, Steven C.H. Hoi},
    booktitle={EMNLP},
    year={2021},
}

@inproceedings{
    le2022coderl,
    title={CodeRL: Mastering Code Generation through Pretrained Models and Deep Reinforcement Learning},
    author={Le, Hung and Wang, Yue and Gotmare, Akhilesh Deepak and Savarese, Silvio and Hoi, Steven C. H.},
    booktitle={NeurIPS},
    year={2022}
}

@article{
    wang2023codet5plus,
    title={CodeT5+: Open Code Large Language Models for Code Understanding and Generation},
    author={Wang, Yue and Le, Hung and Gotmare, Akhilesh Deepak and Bui, Nghi D.Q. and Li, Junnan and Hoi, Steven C. H.},
    journal={arXiv preprint},
    year={2023}
}

Lisensi

Kode ini dirilis di bawah Lisensi BSD-3 (lihat LICENSE.txt untuk rinciannya), namun kami juga meminta pengguna menghormati hal-hal berikut:

Perangkat lunak ini tidak boleh digunakan untuk mempromosikan atau mengambil keuntungan dari:

kekerasan, kebencian, dan perpecahan,

kerusakan lingkungan hidup,

pelanggaran hak asasi manusia, atau

rusaknya kesehatan fisik dan mental masyarakat.

Kami mendorong pengguna perangkat lunak ini untuk memberi tahu kami tentang aplikasi yang mereka gunakan dengan mengirim email ke [email protected], dan menggunakan dokumentasi yang sesuai saat mengembangkan aplikasi berisiko tinggi dari model ini.

Terlibat

Silakan buat masalah GitHub jika Anda memiliki pertanyaan, saran, permintaan, atau laporan bug. Kami menyambut PR!