Finetuning Suite
1.0.0
Настройте любую модель с непревзойденной производительностью, скоростью и надежностью с помощью Qlora, BNB, Lora, Peft менее чем за 30 секунд, просто нажмите GO.
Запишитесь на сессию один на один с Каем, Создателем, чтобы обсудить любые проблемы, оставить отзыв или узнать, как мы можем улучшить Zeta для вас.
$ pip3 установить ft-suite
из fts import FineTuner# Инициализируйте точный тюнерmodel_id="google/flan-t5-xxl"dataset_name = "samsung"tuner = FineTuner( model_id=model_id, dataset_name=dataset_name, max_length=150, lora_r=16, lora_alpha=32, quantize= True)# Generate contentprompt_text = "Обобщите эту идею для меня."print(tuner(prompt_text))
из fts import Inferencemodel = Inference( model_id="georgesung/llama2_7b_chat_uncensored", quantized=True)model.run("Как вас зовут")из fts import GPTQInferencemodel_id = "facebook/opt-125m"model = GPTQInference(model_id=model_id, max_length=400)prompt = "в далекой стране"result = model.run(prompt)print(result)
Квантование мирового класса . Получите максимальную отдачу от своих моделей благодаря высочайшей производительности и сохранению точности! ?️♂️
Автоматизированный PEFT : упростите свой рабочий процесс! Позвольте нашему набору инструментов заняться оптимизацией.
Конфигурация LoRA : погрузитесь в потенциал гибких конфигураций LoRA, которые изменят правила игры в производительности! ?
Бесшовная интеграция : разработан для бесперебойной работы с популярными моделями, такими как LLAMA, Falcon и другими! ?
Вот краткий обзор нашей амбициозной дорожной карты! Мы постоянно развиваемся, и ваши отзывы и вклад могут повлиять на наше путешествие!
Еще примеры скриптов :
Использование моделей GPT
Примеры трансферного обучения
Примеры реальных приложений
Функция полиморфной предварительной обработки :
Разработайте функцию для обработки различных наборов данных.
Интеграция с известными структурами наборов данных из популярных источников.
Пользовательский план набора данных для пользовательских структур
Расширенная поддержка моделей :
Интеграция с Lama, Falcon и т.д.
Поддержка неанглоязычных моделей
Комплексная документация :
Подробное руководство по использованию
Рекомендации по тонкой настройке
Тесты для квантования и функций LoRA
Интерактивный веб-интерфейс :
Графический интерфейс для легкой тонкой настройки
Инструменты визуализации для анализа модели
Расширенные возможности :
Интеграция с другими методами квантования
Поддержка большего количества типов задач, помимо генерации текста.
Инструменты отладки и самоанализа моделей
Интегрируйте TRLX от Carper
... И многое другое впереди!
Мы с нетерпением ждем предстоящего путешествия и будем рады видеть вас с нами! Чтобы получить отзывы, предложения или вклад, смело открывайте проблему или запрос на включение. Давайте вместе формировать будущее тонкой настройки! ?
Массачусетский технологический институт
Распространяйте информацию о Finetuning-Suite, это основополагающий инструмент, помогающий каждому квантовать и точно настраивать современные модели.
Распространение проекта помогает нам охватить больше людей, которым он может быть полезен, и мотивирует нас продолжать разработку и улучшение пакета.
Нажмите кнопки ниже, чтобы поделиться Finetuning-Suite в ваших любимых социальных сетях:
Поделиться в Твиттере
Поделиться на Facebook
Поделиться в LinkedIn
Поделиться на Reddit
Кроме того, нам бы хотелось посмотреть, как вы используете Finetuning-Suite! Поделитесь с нами своими проектами и опытом, отметив нас в Твиттере @finetuning-suite.
И наконец, не забудьте добавить ️ репозиторий, если он вам полезен. Ваша поддержка очень много значит для нас! Спасибо! ?
