Indian LawyerGPT

Indian Law AI : Affiner les modèles linguistiques Falcon-7B et LAMA 2

Bienvenue dans notre projet passionnant dans lequel nous adaptons deux modèles linguistiques de pointe, Falcon-7B et LAMA 2, pour maîtriser le droit indien.

Aperçu

Notre aventure a commencé avec quelques 150 modestes questions-réponses sur le droit indien. Maintenant, nous allons de l'avant avec un ensemble de données impressionnant de 3 300 instructions ! Ce projet juridique IA combine :

• Falcon-7B & LAMA 2 : Modèles linguistiques de pointe, préparés et prêts pour la formation juridique.
• PEFT & QLoRA : Le duo de rêve pour un réglage fin des modèles économe en mémoire et hautes performances.
• Notre ensemble de données : une connaissance complète du droit indien, couvrant le droit constitutionnel, les droits civils et plus encore !

Document de recherche

Création d'un ensemble de données

Plongez dans notre ensemble de données

Notre ensemble de données est conçu avec quatre fonctionnalités clés : instruction , input , output et prompt . Conçu pour transformer nos modèles en experts en droit de l'IA ! Ensemble de données sur Huggingface.co/datasets/nisaar/Constitution_Of_India_Instruction_Set https://huggingface.co/datasets/nisaar/Articles_Constitution_3300_Instruction_Set https://huggingface.co/datasets/nisaar/LLAMA2_Legal_Dataset_4.4k_Instructions

Processus de réglage fin

Suivez les progrès

Soyez aux premières loges pour suivre la progression de l'entraînement avec TensorBoard. Lancez-le, accédez au lien localhost fourni et voyez les modèles apprendre :