CodeT5 と CodeT5+

Salesforce Research からのコードの理解と生成のためのCodeT5およびCodeT5+モデルの公式研究リリース。以下の論文で紹介されています。

タイトル: CodeT5+: コードの理解と生成のためのオープンコード大規模言語モデル

著者: Yue Wang*、Hung Le*、Akhilesh Deepak Gotmare、Nghi DQ Bui、Junnan Li、Steven CH Hoi (* は同等の貢献を示します)

タイトル: CodeT5: コードの理解と生成のための、識別子を意識した統合された事前トレーニング済みエンコーダー/デコーダーモデル

著者：Yue Wang、Weishi Wang、Shafiq Joty、Steven CH Hoi

実際には、CodeT5 および CodeT5+ モデルを AI を活用したコーディングアシスタントとして導入して、ソフトウェア開発者の生産性を向上させることができます。 Salesforce では、CodeT5 を VS Code プラグインとして使用して AI コーディングアシスタントのデモを構築し、次の 3 つの機能を提供します。

テキストからコードへの生成: 自然言語記述に基づいてコードを生成します。
コードの自動補完: ターゲット関数名を指定してコードの関数全体を完了します。
コードの要約: 関数の要約を自然言語記述で生成します。

CodeT5 デモ

引用

このコードが研究に役立つと思われる場合は、引用することを検討してください。

 @inproceedings{
    wang2021codet5,
    title={CodeT5: Identifier-aware Unified Pre-trained Encoder-Decoder Models for Code Understanding and Generation}, 
    author={Yue Wang, Weishi Wang, Shafiq Joty, Steven C.H. Hoi},
    booktitle={EMNLP},
    year={2021},
}

@inproceedings{
    le2022coderl,
    title={CodeRL: Mastering Code Generation through Pretrained Models and Deep Reinforcement Learning},
    author={Le, Hung and Wang, Yue and Gotmare, Akhilesh Deepak and Savarese, Silvio and Hoi, Steven C. H.},
    booktitle={NeurIPS},
    year={2022}
}

@article{
    wang2023codet5plus,
    title={CodeT5+: Open Code Large Language Models for Code Understanding and Generation},
    author={Wang, Yue and Le, Hung and Gotmare, Akhilesh Deepak and Bui, Nghi D.Q. and Li, Junnan and Hoi, Steven C. H.},
    journal={arXiv preprint},
    year={2023}
}