Indian LawyerGPT

Индийский закон AI: точная настройка языковых моделей Falcon-7B и LLAMA 2

Добро пожаловать в наш увлекательный проект, в котором мы адаптируем две передовые языковые модели, Falcon-7B и LLAMA 2, чтобы овладеть индийским законодательством.

Обзор

Наше приключение началось со скромных 150 вопросов и ответов по индийскому законодательству. Теперь мы движемся вперед с впечатляющим набором данных из 3300 инструкций! Этот юридический проект ИИ сочетает в себе:

• Falcon-7B и LLAMA 2 : современные языковые модели, подготовленные и готовые к юридическому обучению.
• PEFT и QLoRA : дуэт мечты для точной настройки моделей с эффективным использованием памяти и высокой производительностью.
• Наш набор данных : комплексные знания индийского законодательства, включая конституционное право, гражданские права и многое другое!

Исследовательская статья

Создание набора данных

Погрузитесь в наш набор данных

Наш набор данных разработан с четырьмя ключевыми функциями: instruction , input , output и prompt . Создан для того, чтобы превратить наши модели в экспертов по праву в области искусственного интеллекта! Набор данных об обнимающем лице: https://huggingface.co/datasets/nisaar/Constitution_Of_India_Instruction_Set https://huggingface.co/datasets/nisaar/Articles_Constitution_3300_Instruction_Set https://huggingface.co/datasets/nisaar/LLAMA2_Legal_Dataset_4.4k_Instructions

Процесс тонкой настройки

Отслеживайте прогресс

Получите место в первом ряду, чтобы следить за ходом обучения с помощью TensorBoard. Запустите его, перейдите по предоставленной ссылке на локальный хост и станьте свидетелем того, как модели учатся: