Indian LawyerGPT

印度法律人工智能：微调 Falcon-7B 和 LLAMA 2 语言模型

欢迎来到我们激动人心的项目，我们正在调整两种尖端语言模型 Falcon-7B 和 LLAMA 2，以精通印度法律。

概述

我们的冒险之旅从 150 个有关印度法律的问答开始。现在，我们正在利用包含 3300 条指令的令人印象深刻的数据集向前推进！该人工智能法律项目结合了：

• Falcon-7B 和 LLAMA 2 ：最先进的语言模型，为法律培训做好准备。
• PEFT 和 QLoRA ：内存效率和高性能模型微调的梦想组合。
• 我们的数据集：全面的印度法律知识，涵盖宪法、公民权利等等！

研究论文

数据集创建

深入研究我们的数据集

我们的数据集设计有四个关键特征： instruction 、 input 、 output和prompt 。精心打造我们的模型，使其成为人工智能法律专家！拥抱脸部数据集： https://huggingface.co/datasets/nisaar/Constitution_Of_India_Instruction_Set https://huggingface.co/datasets/nisaar/Articles_Constitution_3300_Instruction_Set https://huggingface.co/datasets/nisaar/LLAMA2_Legal_Dataset_4.4k_Instructions

微调过程

追踪进度

使用 TensorBoard 抢先了解训练进度。启动它，导航到提供的本地主机链接，并见证模型学习：