CodeT5 และ CodeT5+

การเผยแพร่การวิจัยอย่างเป็นทางการสำหรับโมเดล CodeT5 และ CodeT5+ สำหรับ การทำความเข้าใจและการสร้างโค้ด จากการวิจัยของ Salesforce ซึ่งได้รับการแนะนำโดยเอกสารต่อไปนี้:

หัวข้อ : CodeT5+: โมเดลภาษาขนาดใหญ่แบบ Open Code สำหรับการทำความเข้าใจและสร้างโค้ด

ผู้แต่ง : Yue Wang*, Hung Le*, Akhilesh Deepak Gotmare, Nghi DQ Bui, Junnan Li, Steven CH Hoi (* หมายถึงการมีส่วนร่วมที่เท่าเทียมกัน)

หัวข้อ : CodeT5: โมเดลตัวเข้ารหัส-ตัวถอดรหัสแบบรวมที่ได้รับการฝึกอบรมล่วงหน้าแบบรวมที่รับรู้ตัวระบุ สำหรับการทำความเข้าใจและสร้างโค้ด

ผู้แต่ง : Yue Wang, Weishi Wang, Shafiq Joty, Steven CH Hoi

ในทางปฏิบัติ โมเดล CodeT5 และ CodeT5+ สามารถนำไปใช้เป็นตัวช่วยเขียนโค้ดที่ขับเคลื่อนด้วย AI เพื่อเพิ่มประสิทธิภาพการทำงานของนักพัฒนาซอฟต์แวร์ ที่ Salesforce เราสร้างการสาธิตผู้ช่วยเขียนโค้ด AI โดยใช้ CodeT5 เป็นปลั๊กอิน VS Code เพื่อให้ความสามารถสามประการ:

การสร้างข้อความเป็นโค้ด : สร้างโค้ดตามคำอธิบายภาษาธรรมชาติ
การเติมโค้ดอัตโนมัติ : ทำหน้าที่ทั้งหมดของโค้ดให้สมบูรณ์ตามชื่อฟังก์ชันเป้าหมาย
การสรุปโค้ด : สร้างการสรุปของฟังก์ชันในคำอธิบายภาษาธรรมชาติ

การสาธิต CodeT5

มีอะไรใหม่: ?

พฤษภาคม 2023

กระดาษและรุ่น CodeT5+ ออกวางจำหน่ายแล้ว！
กระดาษ | รหัส | รุ่น | บล็อก

ก.ย. 2022

กระดาษ CodeRL ของเราได้รับการยอมรับให้เข้าร่วม NeurIPS 2022 แล้ว!
กระดาษ | รหัส | บล็อก

กรกฎาคม 2022

เราเปิดตัวจุดตรวจสอบ CodeT5 ขนาดใหญ่สองจุดที่ HuggingFace: Salesforce/codet5-large และ Salesforce/codet5-large-ntp-py ซึ่งนำมาใช้ในเอกสาร CodeRL

ต.ค. 2021

เราเผยแพร่จุดตรวจที่ได้รับการปรับแต่งสำหรับงานปลายน้ำทั้งหมดที่กล่าวถึงในรายงาน นอกจากนี้ เรายังเผยแพร่จุดตรวจสอบที่ปรับแต่งตาม CodeT5 (Salesforce/codet5-base-multi-sum) สำหรับการสรุปโค้ดหลายภาษา

ก.ย. 2021

กระดาษ CodeT5 ได้รับการยอมรับจาก EMNLP 2021 และโมเดลออกวางจำหน่ายแล้ว!
กระดาษ | รหัส | รุ่น | การ์ดโมเดล | บล็อก

การอ้างอิง

หากคุณพบว่าโค้ดนี้มีประโยชน์สำหรับการวิจัยของคุณ โปรดพิจารณาการอ้างอิง:

 @inproceedings{
    wang2021codet5,
    title={CodeT5: Identifier-aware Unified Pre-trained Encoder-Decoder Models for Code Understanding and Generation}, 
    author={Yue Wang, Weishi Wang, Shafiq Joty, Steven C.H. Hoi},
    booktitle={EMNLP},
    year={2021},
}

@inproceedings{
    le2022coderl,
    title={CodeRL: Mastering Code Generation through Pretrained Models and Deep Reinforcement Learning},
    author={Le, Hung and Wang, Yue and Gotmare, Akhilesh Deepak and Savarese, Silvio and Hoi, Steven C. H.},
    booktitle={NeurIPS},
    year={2022}
}

@article{
    wang2023codet5plus,
    title={CodeT5+: Open Code Large Language Models for Code Understanding and Generation},
    author={Wang, Yue and Le, Hung and Gotmare, Akhilesh Deepak and Bui, Nghi D.Q. and Li, Junnan and Hoi, Steven C. H.},
    journal={arXiv preprint},
    year={2023}
}

ใบอนุญาต

รหัสนี้เผยแพร่ภายใต้ใบอนุญาต BSD-3 (ดูรายละเอียด LICENSE.txt ) แต่เรายังขอให้ผู้ใช้เคารพสิ่งต่อไปนี้:

ไม่ควรใช้ซอฟต์แวร์นี้เพื่อส่งเสริมหรือทำกำไรจาก:

ความรุนแรง ความเกลียดชัง และการแบ่งแยก

การทำลายสิ่งแวดล้อม

การละเมิดสิทธิมนุษยชนหรือ

การทำลายสุขภาพกายและสุขภาพจิตของผู้คน

เราขอแนะนำให้ผู้ใช้ซอฟต์แวร์นี้แจ้งให้เราทราบเกี่ยวกับแอปพลิเคชันที่พวกเขานำไปใช้โดยส่งอีเมลไปที่ [email protected] และใช้เอกสารประกอบที่เหมาะสมเมื่อพัฒนาแอปพลิเคชันที่มีเดิมพันสูงของรุ่นนี้