RAG using Llama3 Langchain and ChromaDB
1.0.0
RAG с использованием Llama3, Langchain и ChromaDB
В этом проекте используются Llama3 Langchain и ChromaDB для создания системы поисковой дополненной генерации (RAG). Эта система позволяет вам задавать вопросы о ваших документах, даже если информация не была включена в данные обучения для модели большого языка (LLM). Поисковая расширенная генерация работает, сначала выполняя этап поиска при задании вопроса. На этом этапе соответствующие документы извлекаются из специальной векторной базы данных, где документы были проиндексированы.
Предварительно обученная модель Llama3 настроена на более чем 15 триллионов токенов и может похвастаться от 8 до 70 миллиардов параметров, что делает ее одной из самых мощных доступных моделей с открытым исходным кодом. Он предлагает значительные улучшения по сравнению с предыдущей моделью Llama2.
В этом проекте успешно реализовано решение поисковой дополненной генерации (RAG), используя Langchain, ChromaDB и Llama3 в качестве LLM. Для оценки производительности системы мы использовали Закон ЕС об искусственном интеллекте от 2023 года. Результаты показали, что модель RAG дает точные ответы на вопросы, заданные в отношении Закона.
Будущая работа ⚡
Для дальнейшего улучшения решения мы сосредоточимся на доработке реализации RAG. Это потребует оптимизации встраивания документов и изучения использования более сложных архитектур RAG.
??META LLAMA3 GENAI Реальные примеры использования Комплексные руководства по внедрению⚡
Эффективная настройка Llama 3 с помощью PyTorch FSDP и Q-Lora: Руководство по внедрению
Развертывание Llama 3 на Amazon SageMaker: Руководство по внедрению
RAG с использованием Llama3, Langchain и ChromaDB: Руководство по внедрению 1
Предлагаю Llama 3 как профессионал: Руководство по внедрению
Тестирование Llama3 с некоторыми математическими вопросами: Руководство по реализации
Llama3, пожалуйста, напишите мне код: Руководство по реализации
Запустите LLAMA-3 70B LLM с конечными точками NVIDIA в пользовательском интерфейсе Amazing Streamlit: Руководство по внедрению
Тонкая настройка Llama 3 ORPO: Руководство по внедрению
Квантование LLaMA3 от Meta: Руководство по внедрению
Точная настройка Llama3 с помощью QLoRA: Руководство по внедрению
Вывод Llama3 Qlora: Руководство по внедрению
Beam_Llama3-8B-finetune_task: Руководство по внедрению
Llama-3 Точная настройка пользовательского набора данных с помощью Unsloth: Руководство по внедрению
RAG с использованием Llama3, Ollama и ChromaDB: Руководство по внедрению
Варианты использования Llama3: Руководство по внедрению
RAG с использованием Ro-LLM, Langchain и ChromaDB: Руководство по внедрению
