ML Notebooks

? 머신러닝 노트북

이 저장소에는 다양한 작업과 애플리케이션을 위한 기계 학습 노트북이 포함되어 있습니다. 노트북은 최소화되고 재사용이 용이하며 확장이 가능하도록 만들어졌습니다. 교육 및 연구 목적으로 자유롭게 사용하실 수 있습니다.

이 저장소는 Codespaces를 지원합니다!

• 녹색 "<> Code" 버튼과 "Configure and create codespace" 옵션을 차례로 클릭하여 새 인스턴스를 실행합니다. 이 리포지토리와 함께 제공되는 개발 컨테이너 구성을 선택하세요. 그러면 모든 종속성이 설치되어 사용할 준비가 된 환경이 설정됩니다.
• codespace가 완전히 실행되면 노트북을 실행하는 데 필요한 모든 라이브러리를 /notebooks 폴더 아래에 설치할 수 있습니다. 터미널을 열고 간단히 conda create --name myenv --file spec-file.txt 실행하여 PyTorch를 포함한 모든 Python 라이브러리를 설치하세요.
• 환경을 활성화하십시오. conda activate myenv . conda init zsh 또는 사용 중인 쉘을 실행한 다음 터미널을 닫고 다시 열어야 할 수도 있습니다.
• 마지막으로 /notebooks/bow.ipynb 와 같은 노트북을 열어 모든 것이 작동하는지 시험해 볼 수 있습니다.

---

시작하기

이름	설명	공책
계산 그래프 소개	계산 그래프를 배우기 위한 기본 튜토리얼
PyTorch 헬로 월드!	간단한 신경망 구축 및 훈련
PyTorch에 대한 부드러운 소개	PyTorch 개념을 소개하는 자세한 설명
반사실적 설명	explainable AI에 대한 반사실적 설명을 배우기 위한 기본 튜토리얼
처음부터 선형 회귀	확률적 경사하강법을 사용하여 처음부터 선형 회귀를 구현합니다.
처음부터 로지스틱 회귀	처음부터 로지스틱 회귀 구현
간결한 로지스틱 회귀	이진 이미지 분류를 위한 로지스틱 회귀 모델의 간결한 구현입니다.
첫 번째 신경망 - 이미지 분류기	MNIST를 사용하여 최소 이미지 분류기 구축
처음부터 신경망	간단한 신경망을 처음부터 구현
GNN 소개	그래프 신경망 소개. 노드 분류를 위해 기본 GCN을 Cora 데이터세트에 적용합니다.

NLP

이름	설명	공책
Bag of Words 텍스트 분류기	간단한 단어 가방 텍스트 분류기를 구축합니다.
CBOW(Continuous Bag of Words) 텍스트 분류기	연속 단어 가방 텍스트 분류기를 구축합니다.
Deep Continuous Bag of Words(Deep CBOW) 텍스트 분류기	깊은 연속 단어집 텍스트 분류기를 구축합니다.
텍스트 데이터 확대	텍스트에 가장 일반적으로 사용되는 데이터 증대 기술과 그 구현에 대한 소개
미세 조정된 BERT를 통한 감정 분류	미세 조정된 BERT 모델을 사용한 감정 분류

트랜스포머

이름	설명	공책
Transformer를 사용한 텍스트 분류	텍스트 분류 작업에 대한 주의 메커니즘 및 위치 임베딩 구현
Transformer를 사용한 신경 기계 번역	사람이 읽을 수 있는 모든 형식의 날짜를 YYYY-MM-DD 형식으로 변환하는 Transformer 구현입니다.
기능 토크나이저 변환기	분류 작업에 대한 Feature Tokenizer Transformer 구현
Transformer를 사용한 명명된 엔터티 인식	PubMed 초록에서 토큰 분류를 수행하고 종을 식별하기 위한 Transformer 구현
Transformer를 사용한 추출적 질문 답변	추출적인 질문 답변을 수행하기 위한 Transformer 구현

컴퓨터 비전

이름	설명	공책
샴 네트워크	이미지 유사성을 찾기 위한 Siamese Network 구현
변이 자동 인코더	MNIST 필기 숫자에 대한 증강을 생성하기 위한 Variational Auto Encoder 구현
슬라이딩 윈도우와 이미지 피라미드를 이용한 객체 감지	이미지 분류기 위에 슬라이딩 윈도우와 이미지 피라미드를 사용한 기본 객체 감지 구현
선택적 검색을 이용한 객체 감지	이미지 분류기 위에 선택적 검색을 사용한 기본 객체 감지 구현

생성적 적대 신경망

이름	설명	공책
심층 컨벌루션 GAN	MNIST 숫자를 생성하기 위한 Deep Convolutional GAN의 구현
그라데이션 페널티를 적용한 Wasserstein GAN	MNIST 숫자를 생성하기 위해 그라데이션 페널티를 사용하는 Wasserstein GAN 구현
조건부 GAN	MNIST 숫자를 생성하기 위한 조건부 GAN 구현

매개변수 효율적인 미세 조정

이름	설명	공책
로라 버트	LoRA를 이용한 BERT Finetuning 구현
로라 버트 네르	토큰 분류 작업을 위해 LoRA를 사용한 BERT Finetuning 구현
LoRA T5	LoRA를 이용한 T5 Finetuning 구현
LoRA 타이니라마 1.1B	LoRA를 이용한 TinyLlama 1.1B 미세 조정 구현
QLoRA 타이니라마 1.1B	QLoRA를 사용한 TinyLlama 1.1B 미세 조정 구현
QLoRA 미스트랄 7B	QLoRA를 사용한 Mistral 7B 미세 조정 구현

---

이 노트북에 관한 버그나 질문이 있는 경우 이슈를 열어주세요. 최대한 빨리 해결해 드리겠습니다.

궁금한 점이 있으면 Twitter에 문의하세요.

연구에 코드 예제를 사용하는 경우 다음을 인용하십시오.

 @misc{saravia2022ml,
  title={ML Notebooks},
  author={Saravia, Elvis and Rastogi, Ritvik},
  journal={https://github.com/dair-ai/ML-Notebooks},
  year={2022}
}