fairseq2 ดาวน์โหลด - ดาวน์โหลด fairseq2 ซอร์สโค้ด

fairseq2

โค้ดแหล่งที่มา AI

v0.2.0

ดาวน์โหลด

เอกสารประกอบ: เสถียร ทุกคืน | ติดตั้ง: Linux, macOS, Windows, จากแหล่งที่มา | มีส่วนร่วม: แนวทาง

fairseq2 เป็นชุดเครื่องมือการสร้างแบบจำลองลำดับที่ช่วยให้นักวิจัยและนักพัฒนาสามารถฝึกอบรมแบบจำลองที่กำหนดเองสำหรับการแปล การสรุป การสร้างแบบจำลองภาษา และงานการสร้างเนื้อหาอื่น ๆ นอกจากนี้ยังเป็นผู้สืบทอดของ fairseq

เริ่มต้นใช้งาน

เยี่ยมชมเว็บไซต์เอกสารของเรา

สำหรับการเปลี่ยนแปลงล่าสุด คุณสามารถดูบันทึกการเปลี่ยนแปลงของเราได้

โมเดล

ณ วันนี้ Fairseq2 มีโมเดลต่อไปนี้:

LLaMA 1 ถึง 3.3
มิสทรัล 7B
NLLB-200
S2T หม้อแปลงไฟฟ้า + คอนฟอร์เมอร์
วี-เจปา
w2v-BERT
wav2vec 2.0
wav2vec 2.0 ASR

fairseq2 ยังถูกใช้โดยโครงการภายนอกต่างๆ เช่น:

การสื่อสารที่ไร้รอยต่อ
โมเดลแนวคิดขนาดใหญ่
โซนาร์

การติดตั้งบน Linux

การพึ่งพาระบบ

fairseq2 ขึ้นอยู่กับ libsndfile ซึ่งสามารถติดตั้งผ่านตัวจัดการแพ็คเกจระบบบน Linux ส่วนใหญ่ สำหรับระบบที่ใช้ Ubuntu ให้รัน:

sudo apt install libsndfile1

ในทำนองเดียวกันบน Fedora ให้รัน:

sudo dnf install libsndfile

สำหรับลีนุกซ์รุ่นอื่นๆ โปรดดูเอกสารเกี่ยวกับวิธีการติดตั้งแพ็คเกจ

ปิ๊ป

หากต้องการติดตั้ง fairseq2 บน Linux x86-64 ให้รัน:

pip install fairseq2

คำสั่งนี้จะติดตั้งเวอร์ชันของ fairseq2 ที่เข้ากันได้กับ PyTorch ที่โฮสต์บน PyPI

ในขณะนี้ เราไม่มีแพ็คเกจที่สร้างไว้ล่วงหน้าสำหรับระบบที่ใช้ ARM เช่น Raspberry PI หรือ NVIDIA Jetson โปรดดูที่การติดตั้งจากแหล่งที่มาเพื่อเรียนรู้วิธีสร้างและติดตั้ง fairseq2 บนระบบเหล่านั้น

หลากหลาย

นอกจาก PyPI แล้ว fairseq2 ยังมีแพ็คเกจที่สร้างไว้ล่วงหน้าสำหรับ PyTorch และ CUDA เวอร์ชันต่างๆ ที่โฮสต์บนที่เก็บแพ็คเกจของ FAIR เมทริกซ์ต่อไปนี้แสดงชุดค่าผสมที่รองรับ

แฟร์คิว2	ไพทอร์ช	หลาม	รุ่น*	โค้ง
`HEAD`	`2.5.0` , `2.5.1`	`>=3.10` , `<=3.12`	`cpu` , `cu118` , `cu121` , `cu124`	`x86_64`
	`2.4.0` , `2.4.1`	`>=3.10` , `<=3.12`	`cpu` , `cu118` , `cu121` , `cu124`	`x86_64`
	`2.3.0` , `2.3.1`	`>=3.10` , `<=3.12`	`cpu` `cu118` `cu121`	`x86_64`
`0.3.0`	`2.5.0` , `2.5.1`	`>=3.10` , `<=3.12`	`cpu` , `cu118` , `cu121` , `cu124`	`x86_64`
	`2.4.0` , `2.4.1`	`>=3.10` , `<=3.12`	`cpu` , `cu118` , `cu121` , `cu124`	`x86_64`
	`2.3.0` , `2.3.1`	`>=3.10` , `<=3.12`	`cpu` `cu118` `cu121`	`x86_64`
`0.2.0`	`2.1.1`	`>=3.8` , `<=3.11`	`cpu` `cu118` `cu121`	`x86_64`
	`2.0.1`	`>=3.8` , `<=3.11`	`cpu` , `cu117` , `cu118`	`x86_64`
	`1.13.1`	`>=3.8` , `<=3.10`	`cpu` `cu116`	`x86_64`

* cuXYZ หมายถึง CUDA XY.Z (เช่น cu118 หมายถึง CUDA 11.8)

หากต้องการติดตั้งชุดค่าผสมเฉพาะ ให้ทำตามคำแนะนำการติดตั้งบน pytorch.org สำหรับเวอร์ชัน PyTorch ที่ต้องการ จากนั้นใช้คำสั่งต่อไปนี้ (แสดงสำหรับ PyTorch 2.5.1 และรุ่น cu124 ):

pip install fairseq2
  --extra-index-url https://fair.pkg.atmeta.com/fairseq2/whl/pt2.5.1/cu124

คำเตือน

fairseq2 อาศัย C++ API ของ PyTorch ซึ่งไม่มีความเข้ากันได้ของ API/ABI ระหว่างรุ่นต่างๆ ซึ่งหมายความว่า คุณต้องติดตั้งเวอร์ชัน fairseq2 ที่ตรงกับเวอร์ชัน PyTorch ของคุณทุกประการ มิฉะนั้น คุณอาจประสบปัญหา เช่น กระบวนการหยุดทำงานทันทีหรือ Segfault ปลอม ด้วยเหตุผลเดียวกัน หากคุณอัปเกรดเวอร์ชัน PyTorch คุณต้องอัปเกรดการติดตั้ง fairseq2 ของคุณด้วย

ชุดนอน

สำหรับ Linux เรายังโฮสต์บิลด์ทุกคืนบนพื้นที่เก็บข้อมูลแพ็คเกจของ FAIR รูปแบบที่รองรับจะเหมือนกันกับรูปแบบที่ระบุไว้ใน ตัวเลือก ด้านบน เมื่อคุณติดตั้ง PyTorch เวอร์ชันที่ต้องการแล้ว คุณสามารถใช้คำสั่งต่อไปนี้เพื่อติดตั้งแพ็คเกจกลางคืนที่เกี่ยวข้อง (แสดงสำหรับ PyTorch 2.5.1 และตัวแปร cu124 ):

pip install fairseq2
  --pre --extra-index-url https://fair.pkg.atmeta.com/fairseq2/whl/nightly/pt2.5.1/cu124

การติดตั้งบน macOS

การพึ่งพาระบบ

fairseq2 ขึ้นอยู่กับ libsndfile ซึ่งสามารถติดตั้งผ่าน Homebrew:

brew install libsndfile

ปิ๊ป

หากต้องการติดตั้ง fairseq2 บนคอมพิวเตอร์ Mac ที่ใช้ ARM64 (เช่น Apple Silicon) ให้รัน:

pip install fairseq2

คำสั่งนี้จะติดตั้งเวอร์ชันของ fairseq2 ที่เข้ากันได้กับ PyTorch ที่โฮสต์บน PyPI

ในขณะนี้ เราไม่มีแพ็คเกจที่สร้างไว้ล่วงหน้าสำหรับคอมพิวเตอร์ Mac ที่ใช้ Intel โปรดดูที่การติดตั้งจากแหล่งที่มาเพื่อเรียนรู้วิธีการสร้างและติดตั้ง fairseq2 บนเครื่อง Intel

หลากหลาย

นอกจาก PyPI แล้ว fairseq2 ยังมีแพ็คเกจที่สร้างไว้ล่วงหน้าสำหรับ PyTorch เวอร์ชันต่างๆ ที่โฮสต์บนที่เก็บแพ็คเกจของ FAIR เมทริกซ์ต่อไปนี้แสดงชุดค่าผสมที่รองรับ

แฟร์คิว2	ไพทอร์ช	หลาม	โค้ง
`0.3.0`	`2.5.1`	`>=3.10` , `<=3.12`	`arm64`

หากต้องการติดตั้งชุดค่าผสมเฉพาะ ให้ทำตามคำแนะนำการติดตั้งบน pytorch.org สำหรับเวอร์ชัน PyTorch ที่ต้องการ จากนั้นใช้คำสั่งต่อไปนี้ (แสดงสำหรับ PyTorch 2.5.1 ):

pip install fairseq2
  --extra-index-url https://fair.pkg.atmeta.com/fairseq2/whl/pt2.5.1/cpu

คำเตือน

fairseq2 อาศัย C++ API ของ PyTorch ซึ่งไม่มีความเข้ากันได้ของ API/ABI ระหว่างรุ่นต่างๆ ซึ่งหมายความว่า คุณต้องติดตั้งเวอร์ชัน fairseq2 ที่ตรงกับเวอร์ชัน PyTorch ของคุณทุกประการ มิฉะนั้น คุณอาจประสบปัญหา เช่น กระบวนการหยุดทำงานทันทีหรือ Segfault ปลอม ด้วยเหตุผลเดียวกัน หากคุณอัปเกรดเวอร์ชัน PyTorch คุณต้องอัปเกรดการติดตั้ง fairseq2 ของคุณด้วย

ชุดนอน

สำหรับ macOS เรายังโฮสต์บิลด์ทุกคืนบนพื้นที่เก็บข้อมูลแพ็คเกจของ FAIR อีกด้วย รูปแบบที่รองรับจะเหมือนกันกับรูปแบบที่ระบุไว้ใน ตัวเลือก ด้านบน เมื่อคุณติดตั้ง PyTorch เวอร์ชันที่ต้องการแล้ว คุณสามารถใช้คำสั่งต่อไปนี้เพื่อติดตั้งแพ็คเกจรายคืนที่เกี่ยวข้อง (แสดงสำหรับ PyTorch 2.5.1 ):

pip install fairseq2
  --pre --extra-index-url https://fair.pkg.atmeta.com/fairseq2/whl/nightly/pt2.5.1/cpu

การติดตั้งบน Windows

fairseq2 ไม่มีการรองรับ Windows และไม่มีแผนที่จะรองรับในอนาคตอันใกล้ อย่างไรก็ตาม คุณสามารถใช้ fairseq2 ผ่านระบบย่อย Windows สำหรับ Linux (หรือที่เรียกว่า WSL) พร้อมกับการรองรับ CUDA เต็มรูปแบบที่นำมาใช้ใน WSL 2 โปรดปฏิบัติตามคำแนะนำในส่วนการติดตั้งบน Linux สำหรับการติดตั้งแบบ WSL

การติดตั้งจากแหล่งที่มา

ดูที่นี่

มีส่วนร่วม

เรายินดีรับการมีส่วนร่วมกับ fairseq2 เสมอ! โปรดดูแนวทางการบริจาคเพื่อเรียนรู้วิธีจัดรูปแบบ ทดสอบ และส่งงานของคุณ

อ้างถึง fairseq2

หากคุณใช้ fairseq2 ในการวิจัยของคุณและต้องการอ้างอิง โปรดใช้รายการ BibTeX ต่อไปนี้

 @software{balioglu2023fairseq2,
  author = {Can Balioglu},
  title = {fairseq2},
  url = {http://github.com/facebookresearch/fairseq2},
  year = {2023},
}