rust bert

karat-bert

Model dan saluran Pemrosesan Bahasa Alami yang canggih dan asli. Pustaka Transformers Port of Hugging Face, menggunakan pengikatan tch-rs atau onnxruntime dan pra-pemrosesan dari tokenizer karat. Mendukung tokenisasi multi-thread dan inferensi GPU. Repositori ini memperlihatkan arsitektur basis model, kepala tugas khusus (lihat di bawah) dan saluran pipa yang siap digunakan. Tolok ukur tersedia di akhir dokumen ini.

Mulailah dengan tugas-tugas termasuk menjawab pertanyaan, pengenalan entitas bernama, terjemahan, ringkasan, pembuatan teks, agen percakapan, dan banyak lagi hanya dalam beberapa baris kode:

    let qa_model = QuestionAnsweringModel :: new ( Default :: default ( ) ) ? ;

let question = String :: from ( "Where does Amy live ?" ) ;
let context = String :: from ( "Amy lives in Amsterdam" ) ;

let answers = qa_model . predict ( & [ QaInput { question , context } ] , 1 , 32 ) ;

Keluaran:

 [Answer { score: 0.9976, start: 13, end: 21, answer: "Amsterdam" }]

Tugas yang saat ini didukung meliputi:

• Terjemahan
• Peringkasan
• Dialog multi-putaran
• Klasifikasi zero-shot
• Analisis Sentimen
• Pengakuan Entitas Bernama
• Penandaan Bagian dari Pidato
• Menjawab Pertanyaan
• Generasi Bahasa
• Model Bahasa Bertopeng
• Penyematan Kalimat
• Ekstraksi kata kunci

Perluas untuk menampilkan model/matriks tugas yang didukung

	Klasifikasi urutan	Klasifikasi token	Menjawab pertanyaan	Pembuatan Teks	Peringkasan	Terjemahan	LM bertopeng	Penyematan Kalimat
DistilBERT	✅	✅	✅				✅	✅
SelulerBERT	✅	✅	✅				✅
DeBERTa	✅	✅	✅				✅
DeBERTa (v2)	✅	✅	✅				✅
FNet	✅	✅	✅				✅
BERT	✅	✅	✅				✅	✅
RoBERTa	✅	✅	✅				✅	✅
GPT				✅
GPT2				✅
GPT-Neo				✅
GPT-J				✅
BART	✅			✅	✅
Marian						✅
MBart	✅			✅
M2M100				✅
NLLB				✅
listrik		✅					✅
ALBERT	✅	✅	✅				✅	✅
T5				✅	✅	✅		✅
PanjangT5				✅	✅
XLNet	✅	✅	✅	✅			✅
Pembaru	✅		✅	✅			✅
NabiNet				✅	✅
Mantan	✅	✅	✅				✅
pegasus					✅

Memulai

Pustaka ini bergantung pada peti tch untuk pengikatan ke C++ Libtorch API. Perpustakaan libtorch diperlukan dapat diunduh secara otomatis atau manual. Berikut ini referensi tentang cara mengatur lingkungan Anda untuk menggunakan pengikatan ini, silakan merujuk ke tch untuk informasi atau dukungan terperinci.

Selain itu, perpustakaan ini bergantung pada folder cache untuk mengunduh model terlatih. Lokasi cache ini defaultnya adalah ~/.cache/.rustbert , tetapi dapat diubah dengan mengatur variabel lingkungan RUSTBERT_CACHE . Perhatikan bahwa model bahasa yang digunakan oleh perpustakaan ini berkisar antara 100 MB hingga GB.

Instalasi manual (disarankan)

1. Unduh libtorch dari https://pytorch.org/get-started/locally/. Paket ini memerlukan v2.4 : jika versi ini tidak lagi tersedia di halaman "memulai", file harus dapat diakses dengan mengubah tautan target, misalnya https://download.pytorch.org/libtorch/cu124/libtorch-cxx11-abi-shared-with-deps-2.4.0%2Bcu124.zip untuk versi Linux dengan CUDA12. CATATAN: Saat menggunakan rust-bert sebagai ketergantungan dari crates.io, silakan periksa LIBTORCH yang diperlukan pada paket readme yang diterbitkan karena mungkin berbeda dari versi yang didokumentasikan di sini (berlaku untuk versi repositori saat ini).
2. Ekstrak perpustakaan ke lokasi pilihan Anda
3. Tetapkan variabel lingkungan berikut

Linux:

 export LIBTORCH=/path/to/libtorch
export LD_LIBRARY_PATH= ${LIBTORCH} /lib: $LD_LIBRARY_PATH 

jendela

 $ Env: LIBTORCH = " X:pathtolibtorch "
$ Env: Path += " ;X:pathtolibtorchlib " 

macOS + Homebrew

brew install pytorch jq
export LIBTORCH= $( brew --cellar pytorch ) / $( brew info --json pytorch | jq -r ' .[0].installed[0].version ' )
export LD_LIBRARY_PATH= ${LIBTORCH} /lib: $LD_LIBRARY_PATH

Instalasi otomatis

Alternatifnya, Anda dapat membiarkan skrip build secara otomatis mengunduh perpustakaan libtorch untuk Anda. Tanda fitur download-libtorch harus diaktifkan. Libtorch versi CPU akan diunduh secara default. Untuk mengunduh versi CUDA, atur variabel lingkungan TORCH_CUDA_VERSION ke cu124 . Perhatikan bahwa perpustakaan libtorch berukuran besar (urutan beberapa GB untuk versi yang mendukung CUDA) dan oleh karena itu pembangunan pertama mungkin memerlukan waktu beberapa menit untuk diselesaikan.

Memverifikasi instalasi

Verifikasi instalasi Anda (dan tautkan dengan libtorch) dengan menambahkan ketergantungan rust-bert ke Cargo.toml Anda atau dengan mengkloning sumber Rust-bert dan menjalankan contoh:

git clone [email protected]:guillaume-be/rust-bert.git
cd rust-bert
cargo run --example sentence_embeddings

Dukungan ONNX (Opsional)

Dukungan ONNX dapat diaktifkan melalui fitur onnx opsional. Peti ini kemudian memanfaatkan peti ort dengan pengikatan ke perpustakaan C++ onnxruntime. Kami merujuk pengguna ke proyek halaman ini untuk instruksi/dukungan instalasi lebih lanjut.

1. Aktifkan fitur onnx opsional. Peti rust-bert tidak menyertakan dependensi opsional apa pun untuk ort , pengguna akhir harus memilih serangkaian fitur yang memadai untuk menarik pustaka C++ onnxruntime yang diperlukan.
2. Instalasi yang disarankan saat ini adalah menggunakan tautan dinamis dengan menunjuk ke lokasi perpustakaan yang ada. Gunakan fitur kargo load-dynamic untuk ort .
3. atur ORT_DYLIB_PATH agar menunjuk ke lokasi perpustakaan onnxruntime yang diunduh ( onnxruntime.dll / libonnxruntime.so / libonnxruntime.dylib tergantung pada sistem operasi). Ini dapat diunduh dari halaman rilis proyek onnxruntime

Sebagian besar arsitektur (termasuk encoder, decoder, dan encoder-decoder) didukung. perpustakaan bertujuan untuk menjaga kompatibilitas dengan model yang diekspor menggunakan perpustakaan Optimum. Panduan terperinci tentang cara mengekspor model Transformer ke ONNX menggunakan Optimum tersedia di https://huggingface.co/docs/optimum/main/en/exporters/onnx/usage_guides/export_a_model Sumber daya yang digunakan untuk membuat model ONNX serupa dengan yang berdasarkan Pytorch, menggantikan pytorch dengan model ONNX. Karena model ONNX kurang fleksibel dibandingkan model Pytorch dalam menangani argumen opsional, mengekspor model decoder atau encoder-decoder ke ONNX biasanya akan menghasilkan banyak file. File-file ini diharapkan (tetapi tidak semuanya diperlukan) untuk digunakan di perpustakaan ini sesuai tabel di bawah:

Arsitektur	File pembuat enkode	Decoder tanpa file sebelumnya	Decoder dengan file sebelumnya
Pembuat enkode (misalnya BERT)	diperlukan	tidak digunakan	tidak digunakan
Dekoder (misalnya GPT2)	tidak digunakan	diperlukan	opsional
Encoder-decoder (misalnya BART)	diperlukan	diperlukan	opsional

Perhatikan bahwa efisiensi komputasi akan turun ketika decoder with past bersifat opsional tetapi tidak disediakan karena model tidak akan menggunakan kunci dan nilai masa lalu yang di-cache untuk mekanisme perhatian, sehingga menyebabkan tingginya jumlah komputasi yang berlebihan. Pustaka Optimum menawarkan opsi ekspor untuk memastikan decoder with past dibuat. Arsitektur model encoder dan decoder dasar tersedia (dan diekspos untuk kenyamanan) masing-masing di modul encoder dan decoder .

Model generasi (arsitektur decoder atau encoder/decoder murni) tersedia di modul models . ost pipeline tersedia untuk pos pemeriksaan model ONNX, termasuk klasifikasi urutan, klasifikasi zero-shot, klasifikasi token (termasuk pengenalan entitas bernama dan penandaan part-of-speech), menjawab pertanyaan, pembuatan teks, ringkasan, dan terjemahan. Model ini menggunakan file konfigurasi dan tokenizer yang sama dengan model Pytorch saat digunakan dalam pipeline. Contoh pemanfaatan model ONNX diberikan di direktori ./examples

Saluran pipa siap pakai

Berdasarkan pipeline Hugging Face, pipeline NLP end-to-end siap pakai tersedia sebagai bagian dari peti ini. Kemampuan berikut saat ini tersedia:

Penafian Para kontributor repositori ini tidak bertanggung jawab atas generasi apa pun dari pemanfaatan pihak ketiga atas sistem terlatih yang diusulkan di sini.

1. Menjawab Pertanyaan

Menjawab pertanyaan ekstraktif dari pertanyaan dan konteks tertentu. Model DistilBERT disempurnakan pada SQuAD (Stanford Question Answering Dataset)

    let qa_model = QuestionAnsweringModel :: new ( Default :: default ( ) ) ? ;

let question = String :: from ( "Where does Amy live ?" ) ;
let context = String :: from ( "Amy lives in Amsterdam" ) ;

let answers = qa_model . predict ( & [ QaInput { question , context } ] , 1 , 32 ) ;

Keluaran:

 [Answer { score: 0.9976, start: 13, end: 21, answer: "Amsterdam" }]

2. Terjemahan

Saluran terjemahan mendukung berbagai bahasa sumber dan target. Memanfaatkan dua arsitektur utama untuk tugas penerjemahan:

• Model berbasis Marian, untuk kombinasi sumber/target tertentu
• Model M2M100 memungkinkan terjemahan langsung antara 100 bahasa (dengan biaya komputasi lebih tinggi dan performa lebih rendah untuk beberapa bahasa tertentu)

Model terlatih berbasis Marian untuk pasangan bahasa berikut sudah tersedia di perpustakaan - tetapi pengguna dapat mengimpor model berbasis Pytorch apa pun untuk prediksi

• Bahasa Inggris <-> Perancis
• Inggris <-> Spanyol
• Inggris <-> Portugis
• Inggris <-> Italia
• Bahasa Inggris <-> Katalan
• Inggris <-> Jerman
• Inggris <-> Rusia
• Inggris <-> Cina
• Inggris <-> Belanda
• Bahasa Inggris <-> Bahasa Swedia
• Inggris <-> Arab
• Bahasa Inggris <-> Bahasa Ibrani
• Bahasa Inggris <-> Bahasa Hindi
• Perancis <-> Jerman

Untuk bahasa yang tidak didukung oleh model Maria terlatih yang diusulkan, pengguna dapat memanfaatkan model M2M100 yang mendukung terjemahan langsung antara 100 bahasa (tanpa terjemahan bahasa Inggris perantara) Daftar lengkap bahasa yang didukung tersedia dalam dokumentasi peti

 use rust_bert :: pipelines :: translation :: { Language , TranslationModelBuilder } ;
fn main ( ) -> anyhow :: Result < ( ) > {
    let model = TranslationModelBuilder :: new ( )
        . with_source_languages ( vec ! [ Language :: English ] )
        . with_target_languages ( vec ! [ Language :: Spanish , Language :: French , Language :: Italian ] )
        . create_model ( ) ? ;
    let input_text = "This is a sentence to be translated" ;
    let output = model . translate ( & [ input_text ] , None , Language :: French ) ? ;
    for sentence in output {
        println ! ( "{}" , sentence ) ;
    }
    Ok ( ( ) )
}

Keluaran:

 Il s'agit d'une phrase à traduire

3. Ringkasan

Peringkasan abstrak menggunakan model BART yang telah dilatih sebelumnya.

    let summarization_model = SummarizationModel :: new ( Default :: default ( ) ) ? ;

let input = [ "In findings published Tuesday in Cornell University's arXiv by a team of scientists 
from the University of Montreal and a separate report published Wednesday in Nature Astronomy by a team 
from University College London (UCL), the presence of water vapour was confirmed in the atmosphere of K2-18b, 
a planet circling a star in the constellation Leo. This is the first such discovery in a planet in its star's 
habitable zone — not too hot and not too cold for liquid water to exist. The Montreal team, led by Björn Benneke, 
used data from the NASA's Hubble telescope to assess changes in the light coming from K2-18b's star as the planet 
passed between it and Earth. They found that certain wavelengths of light, which are usually absorbed by water, 
weakened when the planet was in the way, indicating not only does K2-18b have an atmosphere, but the atmosphere 
contains water in vapour form. The team from UCL then analyzed the Montreal team's data using their own software 
and confirmed their conclusion. This was not the first time scientists have found signs of water on an exoplanet, 
but previous discoveries were made on planets with high temperatures or other pronounced differences from Earth. 
" This is the first potentially habitable planet where the temperature is right and where we now know there is water, " 
said UCL astronomer Angelos Tsiaras. " It's the best candidate for habitability right now. " " It's a good sign " , 
said Ryan Cloutier of the Harvard–Smithsonian Center for Astrophysics, who was not one of either study's authors. 
" Overall, " he continued, " the presence of water in its atmosphere certainly improves the prospect of K2-18b being 
a potentially habitable planet, but further observations will be required to say for sure. "
K2-18b was first identified in 2015 by the Kepler space telescope. It is about 110 light-years from Earth and larger 
but less dense. Its star, a red dwarf, is cooler than the Sun, but the planet's orbit is much closer, such that a year 
on K2-18b lasts 33 Earth days. According to The Guardian, astronomers were optimistic that NASA's James Webb space 
telescope — scheduled for launch in 2021 — and the European Space Agency's 2028 ARIEL program, could reveal more 
about exoplanets like K2-18b." ] ;

let output = summarization_model . summarize ( & input ) ;

(contoh dari: WikiNews)

Keluaran:

 "Scientists have found water vapour on K2-18b, a planet 110 light-years from Earth. 
This is the first such discovery in a planet in its star's habitable zone. 
The planet is not too hot and not too cold for liquid water to exist."

4. Model Dialog

Model percakapan berdasarkan DialoGPT Microsoft. Saluran pipa ini memungkinkan terjadinya percakapan tunggal atau multi-putaran antara manusia dan model. Halaman DialoGPT menyatakan bahwa

Hasil evaluasi manusia menunjukkan bahwa respons yang dihasilkan dari DialoGPT sebanding dengan kualitas respons manusia dalam uji Turing percakapan satu putaran. (Repositori DialoGPT)

Model ini menggunakan ConversationManager untuk melacak percakapan aktif dan menghasilkan respons terhadap percakapan tersebut.

 use rust_bert :: pipelines :: conversation :: { ConversationModel , ConversationManager } ;

let conversation_model = ConversationModel :: new ( Default :: default ( ) ) ;
let mut conversation_manager = ConversationManager :: new ( ) ;

let conversation_id = conversation_manager . create ( "Going to the movies tonight - any suggestions?" ) ;
let output = conversation_model . generate_responses ( & mut conversation_manager ) ;

Contoh keluaran:

 "The Big Lebowski."

5. Generasi Bahasa Alami

Hasilkan bahasa berdasarkan prompt. GPT2 dan GPT tersedia sebagai model dasar. Meliputi teknik seperti pencarian sinar, pengambilan sampel top-k dan inti, pengaturan suhu dan penalti pengulangan. Mendukung pembuatan kalimat secara batch dari beberapa perintah. Urutan akan diisi dengan token padding model jika ada, dan token yang tidak diketahui jika tidak. Hal ini mungkin berdampak pada hasil, disarankan untuk mengirimkan petunjuk dengan panjang yang sama untuk hasil terbaik

    let model = GPT2Generator :: new ( Default :: default ( ) ) ? ;

let input_context_1 = "The dog" ;
let input_context_2 = "The cat was" ;

let generate_options = GenerateOptions {
max_length : 30 ,
.. Default :: default ( )
} ;

let output = model . generate ( Some ( & [ input_context_1 , input_context_2 ] ) , generate_options ) ;

Contoh keluaran:

 [
    "The dog's owners, however, did not want to be named. According to the lawsuit, the animal's owner, a 29-year"
    "The dog has always been part of the family. "He was always going to be my dog and he was always looking out for me"
    "The dog has been able to stay in the home for more than three months now. "It's a very good dog. She's"
    "The cat was discovered earlier this month in the home of a relative of the deceased. The cat's owner, who wished to remain anonymous,"
    "The cat was pulled from the street by two-year-old Jazmine."I didn't know what to do," she said"
    "The cat was attacked by two stray dogs and was taken to a hospital. Two other cats were also injured in the attack and are being treated."
]

6. Klasifikasi zero-shot

Melakukan klasifikasi zero-shot pada kalimat masukan dengan label yang disediakan menggunakan model yang disesuaikan untuk Inferensi Bahasa Alami.

    let sequence_classification_model = ZeroShotClassificationModel :: new ( Default :: default ( ) ) ? ;

let input_sentence = "Who are you voting for in 2020?" ;
let input_sequence_2 = "The prime minister has announced a stimulus package which was widely criticized by the opposition." ;
let candidate_labels = & [ "politics" , "public health" , "economics" , "sports" ] ;

let output = sequence_classification_model . predict_multilabel (
& [ input_sentence , input_sequence_2 ] ,
candidate_labels ,
None ,
128 ,
) ;

Keluaran:

 [
  [ Label { "politics", score: 0.972 }, Label { "public health", score: 0.032 }, Label {"economics", score: 0.006 }, Label {"sports", score: 0.004 } ],
  [ Label { "politics", score: 0.975 }, Label { "public health", score: 0.0818 }, Label {"economics", score: 0.852 }, Label {"sports", score: 0.001 } ],
]

7. Analisis sentimen

Memprediksi sentimen biner untuk sebuah kalimat. Model DistilBERT disempurnakan pada SST-2.

    let sentiment_classifier = SentimentModel :: new ( Default :: default ( ) ) ? ;

let input = [
"Probably my all-time favorite movie, a story of selflessness, sacrifice and dedication to a noble cause, but it's not preachy or boring." ,
"This film tried to be too many things all at once: stinging political satire, Hollywood blockbuster, sappy romantic comedy, family values promo..." ,
"If you like original gut wrenching laughter you will like this movie. If you are young or old then you will love this movie, hell even my mom liked it." ,
] ;

let output = sentiment_classifier . predict ( & input ) ;

(Contoh milik IMDb)

Keluaran:

 [
    Sentiment { polarity: Positive, score: 0.9981985493795946 },
    Sentiment { polarity: Negative, score: 0.9927982091903687 },
    Sentiment { polarity: Positive, score: 0.9997248985164333 }
]

8. Pengakuan Entitas Bernama

Mengekstrak entitas (Orang, Lokasi, Organisasi, Lain-lain) dari teks. BERT membuat model besar yang disempurnakan pada CoNNL03, yang disumbangkan oleh tim Perpustakaan Digital MDZ di Perpustakaan Negara Bagian Bavaria. Model saat ini tersedia dalam bahasa Inggris, Jerman, Spanyol, dan Belanda.

    let ner_model = NERModel :: new ( default :: default ( ) ) ? ;

let input = [
"My name is Amy. I live in Paris." ,
"Paris is a city in France."
] ;

let output = ner_model . predict ( & input ) ;

Keluaran:

 [
  [
    Entity { word: "Amy", score: 0.9986, label: "I-PER" }
    Entity { word: "Paris", score: 0.9985, label: "I-LOC" }
  ],
  [
    Entity { word: "Paris", score: 0.9988, label: "I-LOC" }
    Entity { word: "France", score: 0.9993, label: "I-LOC" }
  ]
]

9. Ekstraksi kata kunci/frasa kunci

Ekstrak ekstraksi kata kunci dan frasa kunci dari dokumen masukan

 fn main ( ) -> anyhow :: Result < ( ) > {
    let keyword_extraction_model = KeywordExtractionModel :: new ( Default :: default ( ) ) ? ;

    let input = "Rust is a multi-paradigm, general-purpose programming language. 
       Rust emphasizes performance, type safety, and concurrency. Rust enforces memory safety—that is, 
       that all references point to valid memory—without requiring the use of a garbage collector or 
       reference counting present in other memory-safe languages. To simultaneously enforce 
       memory safety and prevent concurrent data races, Rust's borrow checker tracks the object lifetime 
       and variable scope of all references in a program during compilation. Rust is popular for 
       systems programming but also offers high-level features including functional programming constructs." ;

    let output = keyword_extraction_model . predict ( & [ input ] ) ? ;
}

Keluaran:

 "rust" - 0.50910604
"programming" - 0.35731024
"concurrency" - 0.33825397
"concurrent" - 0.31229728
"program" - 0.29115444

10. Penandaan Bagian dari Pidato

Mengekstrak tag Part of Speech (Kata Benda, Kata Kerja, Kata Sifat...) dari teks.

    let pos_model = POSModel :: new ( default :: default ( ) ) ? ;

let input = [ "My name is Bob" ] ;

let output = pos_model . predict ( & input ) ;

Keluaran:

 [
    Entity { word: "My", score: 0.1560, label: "PRP" }
    Entity { word: "name", score: 0.6565, label: "NN" }
    Entity { word: "is", score: 0.3697, label: "VBZ" }
    Entity { word: "Bob", score: 0.7460, label: "NNP" }
]

11. Penyematan kalimat

Hasilkan penyematan kalimat (representasi vektor). Ini dapat digunakan untuk aplikasi termasuk pengambilan informasi padat.

    let model = SentenceEmbeddingsBuilder :: remote (
SentenceEmbeddingsModelType :: AllMiniLmL12V2
) . create_model ( ) ? ;

let sentences = [
"this is an example sentence" ,
"each sentence is converted"
] ;

let output = model . encode ( & sentences ) ? ;

Keluaran:

 [
    [-0.000202666, 0.08148022, 0.03136178, 0.002920636 ...],
    [0.064757116, 0.048519745, -0.01786038, -0.0479775 ...]
]

12. Model Bahasa Bertopeng

Memprediksi kata-kata bertopeng dalam kalimat masukan.

    let model = MaskedLanguageModel :: new ( Default :: default ( ) ) ? ;

let sentences = [
"Hello I am a <mask> student" ,
"Paris is the <mask> of France. It is <mask> in Europe." ,
] ;

let output = model . predict ( & sentences ) ;

Keluaran:

 [
    [MaskedToken { text: "college", id: 2267, score: 8.091}],
    [
        MaskedToken { text: "capital", id: 3007, score: 16.7249}, 
        MaskedToken { text: "located", id: 2284, score: 9.0452}
    ]
]

Tolok ukur

Untuk pipeline sederhana (klasifikasi urutan, klasifikasi token, menjawab pertanyaan) kinerja antara Python dan Rust diharapkan sebanding. Hal ini karena bagian yang paling mahal dari pipeline ini adalah model bahasa itu sendiri, yang berbagi implementasi umum di backend Torch. Saluran Pipa NLP End-to-end di Rust menyediakan bagian tolok ukur yang mencakup semua saluran pipa.

Untuk tugas pembuatan teks (peringkasan, terjemahan, percakapan, pembuatan teks bebas), manfaat yang signifikan dapat diharapkan (pemrosesan hingga 2 hingga 4 kali lebih cepat tergantung pada input dan aplikasi). Artikel Mempercepat pembuatan teks dengan Rust berfokus pada aplikasi pembuatan teks ini dan memberikan detail lebih lanjut tentang perbandingan kinerja dengan Python.

Memuat bobot model yang telah dilatih sebelumnya dan kustom

Model dasar dan kepala tugas khusus juga tersedia bagi pengguna yang ingin mengekspos model berbasis transformator mereka sendiri. Contoh cara menyiapkan tanggal menggunakan pustaka Rust tokenizer asli tersedia di ./examples untuk BERT, DistilBERT, RoBERTa, GPT, GPT2, dan BART. Perhatikan bahwa saat mengimpor model dari Pytorch, konvensi penamaan parameter harus diselaraskan dengan skema Rust. Pemuatan bobot yang telah dilatih sebelumnya akan gagal jika salah satu bobot parameter model tidak dapat ditemukan di file bobot. Jika pemeriksaan kualitas ini dilewati, metode alternatif load_partial dapat dipanggil dari penyimpanan variabel.

Model yang telah dilatih sebelumnya tersedia di hub model wajah Hugging dan dapat dimuat menggunakan RemoteResources yang ditentukan di perpustakaan ini.

Skrip utilitas konversi disertakan dalam ./utils untuk mengonversi bobot Pytorch menjadi sekumpulan bobot yang kompatibel dengan pustaka ini. Skrip ini memerlukan pengaturan Python dan torch