unduhan fairseq2 - pengunduhan kode sumber fairseq2

fairseq2

Kode Sumber AI

v0.2.0

Unduh

Dokumentasi: Stabil, Setiap Malam | Instal: Linux, macOS, Windows, Dari Sumber | Berkontribusi: Pedoman

fairseq2 adalah perangkat pemodelan urutan yang memungkinkan peneliti dan pengembang melatih model khusus untuk terjemahan, peringkasan, pemodelan bahasa, dan tugas pembuatan konten lainnya. Itu juga merupakan penerus fairseq.

Memulai

Kunjungi situs dokumentasi kami.

Untuk perubahan terkini, Anda dapat melihat log perubahan kami.

Model

Saat ini, model berikut tersedia di fairseq2:

LLaMA 1 hingga 3.3
Mistral 7B
NLLB-200
Trafo + Konformer S2T
V-JEPA
w2v-BERT
wav2vec 2.0
wav2vec 2.0 ASR

fairseq2 juga digunakan oleh berbagai proyek eksternal seperti:

Komunikasi yang Mulus
Model Konsep Besar
SONAR

Menginstal di Linux

Ketergantungan Sistem

fairseq2 bergantung pada libsndfile, yang dapat diinstal melalui manajer paket sistem di sebagian besar distribusi Linux. Untuk sistem berbasis Ubuntu, jalankan:

sudo apt install libsndfile1

Demikian pula, di Fedora, jalankan:

sudo dnf install libsndfile

Untuk distribusi Linux lainnya, silakan lihat dokumentasinya tentang cara menginstal paket.

pip

Untuk menginstal fairseq2 di Linux x86-64, jalankan:

pip install fairseq2

Perintah ini akan menginstal versi fairseq2 yang kompatibel dengan PyTorch yang dihosting di PyPI.

Saat ini, kami tidak menawarkan paket siap pakai untuk sistem berbasis ARM seperti Raspberry PI atau NVIDIA Jetson. Silakan merujuk ke Instal Dari Sumber untuk mempelajari cara membangun dan menginstal fairseq2 pada sistem tersebut.

Varian

Selain PyPI, fairseq2 juga memiliki paket siap pakai yang tersedia untuk berbagai versi PyTorch dan CUDA yang dihosting di repositori paket FAIR. Matriks berikut menunjukkan kombinasi yang didukung.

fairseq2	PyTorch	ular piton	Variasi*	Lengkungan
`HEAD`	`2.5.0` , `2.5.1`	`>=3.10` , `<=3.12`	`cpu` , `cu118` , `cu121` , `cu124`	`x86_64`
	`2.4.0` , `2.4.1`	`>=3.10` , `<=3.12`	`cpu` , `cu118` , `cu121` , `cu124`	`x86_64`
	`2.3.0` , `2.3.1`	`>=3.10` , `<=3.12`	`cpu` , `cu118` , `cu121`	`x86_64`
`0.3.0`	`2.5.0` , `2.5.1`	`>=3.10` , `<=3.12`	`cpu` , `cu118` , `cu121` , `cu124`	`x86_64`
	`2.4.0` , `2.4.1`	`>=3.10` , `<=3.12`	`cpu` , `cu118` , `cu121` , `cu124`	`x86_64`
	`2.3.0` , `2.3.1`	`>=3.10` , `<=3.12`	`cpu` , `cu118` , `cu121`	`x86_64`
`0.2.0`	`2.1.1`	`>=3.8` , `<=3.11`	`cpu` , `cu118` , `cu121`	`x86_64`
	`2.0.1`	`>=3.8` , `<=3.11`	`cpu` , `cu117` , `cu118`	`x86_64`
	`1.13.1`	`>=3.8` , `<=3.10`	`cpu` , `cu116`	`x86_64`

* cuXYZ mengacu pada CUDA XY.Z (misal cu118 berarti CUDA 11.8)

Untuk menginstal kombinasi tertentu, pertama-tama ikuti petunjuk instalasi di pytorch.org untuk versi PyTorch yang diinginkan, lalu gunakan perintah berikut (ditampilkan untuk PyTorch 2.5.1 dan varian cu124 ):

pip install fairseq2
  --extra-index-url https://fair.pkg.atmeta.com/fairseq2/whl/pt2.5.1/cu124

Peringatan

fairseq2 mengandalkan C++ API dari PyTorch yang tidak memiliki kompatibilitas API/ABI antar rilis. Ini berarti Anda harus menginstal varian fairseq2 yang sama persis dengan versi PyTorch Anda . Jika tidak, Anda mungkin mengalami masalah seperti proses langsung terhenti atau kesalahan segfault palsu. Untuk alasan yang sama, jika Anda mengupgrade versi PyTorch, Anda juga harus mengupgrade instalasi fairseq2 Anda.

Malam hari

Untuk Linux, kami juga menghosting nightly build di repositori paket FAIR. Varian yang didukung sama dengan varian yang tercantum dalam Varian di atas. Setelah Anda menginstal versi PyTorch yang diinginkan, Anda dapat menggunakan perintah berikut untuk menginstal paket nightly yang sesuai (ditampilkan untuk PyTorch 2.5.1 dan varian cu124 ):

pip install fairseq2
  --pre --extra-index-url https://fair.pkg.atmeta.com/fairseq2/whl/nightly/pt2.5.1/cu124

Menginstal di macOS

Ketergantungan Sistem

fairseq2 bergantung pada libsndfile, yang dapat diinstal melalui Homebrew:

brew install libsndfile

pip

Untuk menginstal fairseq2 di komputer Mac berbasis ARM64 (yaitu silikon Apple), jalankan:

pip install fairseq2

Perintah ini akan menginstal versi fairseq2 yang kompatibel dengan PyTorch yang dihosting di PyPI.

Saat ini, kami tidak menawarkan paket bawaan untuk komputer Mac berbasis Intel. Silakan merujuk ke Instal Dari Sumber untuk mempelajari cara membuat dan menginstal fairseq2 di mesin Intel.

Varian

Selain PyPI, fairseq2 juga memiliki paket siap pakai yang tersedia untuk berbagai versi PyTorch yang dihosting di repositori paket FAIR. Matriks berikut menunjukkan kombinasi yang didukung.

fairseq2	PyTorch	ular piton	Lengkungan
`0.3.0`	`2.5.1`	`>=3.10` , `<=3.12`	`arm64`

Untuk menginstal kombinasi tertentu, pertama-tama ikuti petunjuk instalasi di pytorch.org untuk versi PyTorch yang diinginkan, lalu gunakan perintah berikut (ditampilkan untuk PyTorch 2.5.1 ):

pip install fairseq2
  --extra-index-url https://fair.pkg.atmeta.com/fairseq2/whl/pt2.5.1/cpu

Peringatan

fairseq2 mengandalkan C++ API dari PyTorch yang tidak memiliki kompatibilitas API/ABI antar rilis. Ini berarti Anda harus menginstal varian fairseq2 yang sama persis dengan versi PyTorch Anda . Jika tidak, Anda mungkin mengalami masalah seperti proses langsung terhenti atau kesalahan segfault palsu. Untuk alasan yang sama, jika Anda mengupgrade versi PyTorch, Anda juga harus mengupgrade instalasi fairseq2 Anda.

Malam hari

Untuk macOS, kami juga menyelenggarakan pembangunan malam di repositori paket FAIR. Varian yang didukung sama dengan varian yang tercantum dalam Varian di atas. Setelah Anda menginstal versi PyTorch yang diinginkan, Anda dapat menggunakan perintah berikut untuk menginstal paket nightly yang sesuai (ditampilkan untuk PyTorch 2.5.1 ):

pip install fairseq2
  --pre --extra-index-url https://fair.pkg.atmeta.com/fairseq2/whl/nightly/pt2.5.1/cpu

Menginstal di Windows

fairseq2 tidak memiliki dukungan asli untuk Windows dan tidak ada rencana untuk mendukungnya di masa mendatang. Namun, Anda dapat menggunakan fairseq2 melalui Subsistem Windows untuk Linux (alias WSL) bersama dengan dukungan penuh CUDA yang diperkenalkan di WSL 2. Silakan ikuti petunjuk di bagian Menginstal di Linux untuk instalasi berbasis WSL.

Menginstal dari Sumber

Lihat di sini.

Berkontribusi

Kami selalu menyambut kontribusi ke fairseq2! Silakan merujuk ke Pedoman Kontribusi untuk mempelajari cara memformat, menguji, dan mengirimkan karya Anda.

Mengutip fairseq2

Jika Anda menggunakan fairseq2 dalam penelitian Anda dan ingin merujuknya, silakan gunakan entri BibTeX berikut.

 @software{balioglu2023fairseq2,
  author = {Can Balioglu},
  title = {fairseq2},
  url = {http://github.com/facebookresearch/fairseq2},
  year = {2023},
}