gpt j

GPT-J и GPT-J-6B на IPU

GPT-J — это альтернатива EleutherAI с открытым исходным кодом GPT-3 OpenAI. Доступный для загрузки любой желающий, GPT-J может быть успешно настроен для работы наравне с большими моделями при решении ряда задач НЛП, включая ответы на вопросы, анализ настроений и распознавание именованных объектов.

Попробуйте запустить GPT-J самостоятельно на Paperspace с помощью Graphcore IPU (Intelligence Processing Unit), совершенно нового типа процессора с массовым параллелизмом для ускорения машинного интеллекта. Получите доступ к передовым и экономичным вычислениям IPU по требованию в облаке Paperspace для создания, точной настройки и развертывания моделей искусственного интеллекта, таких как GPT-J.

Ноутбуки GPT-J на базе IPU

Блокнот	Рамки	Тип	Попробуйте бесплатно
Текстовое взаимодействие на IPU с использованием GPT-J — точная настройка	Обнимающее лицо	Тонкая настройка
Генерация текста с помощью GPT-J 6B	Обнимающее лицо	Вывод
Ускоренная генерация текста с помощью GPT-J с использованием 4-битного весового квантования на IPU	Обнимающее лицо	Вывод

В разделе «Текстовое взаимодействие с IPU с использованием GPT-J — блокнот тонкой настройки» мы показываем, как точно настроить предварительно обученную модель GPT-J, работающую в системе с 16 IPU в Paperspace. Мы объясним, как можно точно настроить GPT-J для обработки текста в наборе данных GLUE MNLI, чтобы достичь производительности SOTA, при этом будучи гораздо более экономичным, чем его более крупные собратья.

В разделе « Генерация текста с помощью ноутбука GPT-J 6B» мы демонстрируем, насколько легко запустить GPT-J на графическом процессоре Graphcore, используя эту реализацию модели и ? Контрольные точки концентратора весов модели.

В разделе «Быстрая генерация текста с помощью GPT-J с использованием 4-битного весового квантования на блокноте IPU» мы показываем, как использовать групповое квантование для сжатия параметров модели до 4 бит без тонкой настройки, используя в 4 раза меньше памяти и ускоряя вывод в GPT- J примерно в 1,5 раза.

Ресурсы GPT-J

• Модель с обнимающим лицом
• Блог
• Блог с инструкциями по прохождению
• Оригинальная бумага

Чтобы продолжить использование GPT-J на IPU или поговорить с экспертом, свяжитесь с нами.

сообщество МПС

Присоединяйтесь к нашему растущему сообществу и общайтесь с экспертами в области искусственного интеллекта, разработчиками и исследователями IPU. Послушайте последние новости IPU и получите доступ к нашим новейшим моделям.

Лицензия

Содержимое этого репозитория доступно в соответствии с условиями лицензии MIT. Подробности смотрите в прилагаемом файле ЛИЦЕНЗИИ.