HomebrewNLP

홈브루NLP

개요

상용 하드웨어를 사용한 대규모 언어 모델의 효율적인 훈련에 대한 사례 연구.

예제 명령

python3 main.py train --config_path configs/small.yaml

---

| 불화 | 완드B

데이터세트

• 도서 데이터세트
• ThePile의 200MB 조각

인용

BibTeX

 @misc { nestler2021homebrewnlp ,
  title = { {HomebrewNLP} } ,
  author = { Nestler, Lucas and Gill, David } ,
  year = { 2021 } ,
  publisher = { GitHub } ,
  journal = { GitHub repository } ,
  doi = { 10.5281/zenodo.5553247 } ,
  howpublished = { url{https://github.com/HomebrewNLP/HomebrewNLP} }
}

최신 DOI