ML Notebooks

? Ноутбуки для машинного обучения

В этом репозитории содержатся блокноты машинного обучения для различных задач и приложений. Блокноты должны быть минималистичными, легко пригодными для повторного использования и расширяемыми. Вы можете использовать их в образовательных и исследовательских целях.

Этот репозиторий поддерживает кодовые пространства!

• Создайте новый экземпляр, нажав зеленую кнопку "<> Code" а затем опцию "Configure and create codespace" . Обязательно выберите конфигурацию контейнера разработки, предоставленную в этом репозитории. Это настраивает среду со всеми установленными и готовыми к работе зависимостями.
• Как только пространство кода будет полностью запущено, вы сможете установить все библиотеки, необходимые для запуска блокнотов, в папке /notebooks . Откройте терминал и просто запустите conda create --name myenv --file spec-file.txt чтобы установить все библиотеки Python, включая PyTorch.
• Активируйте свою среду conda activate myenv . Возможно, вам придется запустить conda init zsh или любую другую оболочку, которую вы используете... а затем закрыть + снова открыть терминал.
• Наконец, вы можете проверить, все ли работает, открыв блокнот, например /notebooks/bow.ipynb .

---

Начиная

Имя	Описание	Блокнот
Введение в вычислительные графики	Базовое руководство по изучению вычислительных графиков
PyTorch Привет, мир!	Создайте простую нейронную сеть и обучите ее.
Нежное введение в PyTorch	Подробное объяснение, знакомящее с концепциями PyTorch.
Контрфактические объяснения	Базовое руководство по изучению контрфактических объяснений объяснимого ИИ.
Линейная регрессия с нуля	Реализация линейной регрессии с нуля с использованием стохастического градиентного спуска.
Логистическая регрессия с нуля	Реализация логистической регрессии с нуля
Краткая логистическая регрессия	Краткая реализация модели логистической регрессии для классификации двоичных изображений.
Первая нейронная сеть — классификатор изображений	Создайте минимальный классификатор изображений, используя MNIST.
Нейронная сеть с нуля	Реализация простой нейронной сети с нуля.
Введение в GNN	Введение в графовые нейронные сети. Применяет базовый GCN к набору данных Cora для классификации узлов.

НЛП

Имя	Описание	Блокнот
Классификатор текстов «Мешок слов»	Создайте простой классификатор текста «мешок слов».
Классификатор текстов Continuous Bag of Words (CBOW)	Создайте непрерывный классификатор текста из набора слов.
Классификатор текстов Deep Continuous Bag of Words (Deep CBOW)	Создайте глубокий непрерывный классификатор текста из набора слов.
Увеличение текстовых данных	Введение в наиболее часто используемые методы увеличения данных для текста и их реализацию.
Классификация эмоций с точно настроенным BERT	Классификация эмоций с использованием точно настроенной модели BERT

Трансформеры

Имя	Описание	Блокнот
Классификация текста с использованием преобразователя	Реализация механизма внимания и позиционных вложений в задаче классификации текста.
Нейронный машинный перевод с использованием Transformer	Реализация Transformer для перевода удобочитаемых дат из любого формата в формат ГГГГ-ММ-ДД.
Функция трансформатора токенизатора	Реализация Feature Tokenizer Transformer для задачи классификации.
Распознавание именованных объектов с использованием преобразователя	Реализация Transformer для классификации токенов и идентификации видов в рефератах PubMed.
Экстрактивный ответ на вопросы с использованием Transformer	Реализация Transformer для извлечения ответов на вопросы.

Компьютерное зрение

Имя	Описание	Блокнот
Сиамская сеть	Реализация сиамской сети для поиска сходства изображений.
Вариационный автоматический кодер	Реализация вариационного автоматического кодировщика для создания дополнений к рукописным цифрам MNIST.
Обнаружение объектов с использованием скользящего окна и пирамиды изображений	Базовая реализация обнаружения объектов с использованием скользящего окна и пирамиды изображений поверх классификатора изображений.
Обнаружение объектов с помощью выборочного поиска	Базовая реализация обнаружения объектов с использованием выборочного поиска поверх классификатора изображений.

Генеративно-состязательная сеть

Имя	Описание	Блокнот
Глубокий сверточный GAN	Реализация Deep Convolutional GAN ​​для генерации цифр MNIST
Вассерштейн ГАН с градиентным штрафом	Реализация Wasserstein GAN с градиентным штрафом для генерации цифр MNIST
Условный ГАН	Реализация условного GAN для генерации цифр MNIST

Параметр Эффективная точная настройка

Имя	Описание	Блокнот
ЛОРА БЕРТ	Реализация точной настройки BERT с использованием LoRA
ЛОРА БЕРТ НЕР	Реализация точной настройки BERT с использованием LoRA для задачи классификации токенов.
ЛоРА Т5	Реализация точной настройки T5 с использованием LoRA
ЛоРА TinyLlama 1.1B	Реализация точной настройки TinyLlama 1.1B с использованием LoRA
QLoRA TinyLlama 1.1B	Реализация точной настройки TinyLlama 1.1B с использованием QLoRA
QLoRA Мистраль 7Б	Реализация точной настройки Mistral 7B с использованием QLoRA

---

Если вы обнаружите какие-либо ошибки или у вас возникнут вопросы относительно этих ноутбуков, откройте проблему. Мы решим эту проблему, как только сможем.

Если у вас есть вопросы, свяжитесь с нами в Твиттере.

Если вы используете примеры кода в своем исследовании, укажите следующее:

 @misc{saravia2022ml,
  title={ML Notebooks},
  author={Saravia, Elvis and Rastogi, Ritvik},
  journal={https://github.com/dair-ai/ML-Notebooks},
  year={2022}
}