Document Question Answering GenAI

Вопрос о документе ответа на LLMS

Этот проект создает приложение, отвечающее на вопрос о документе, работающий на крупных языковых моделях (LLMS), таких как Falcon-7b и Dolly-V2-3b, используя Langchain, векторную базу данных ChromADB. Это развернуто на потоковой линии.

Ссылка на приложение: https://document-question-answering-kedarghule.streamlit.app/

Примечание. Из -за проблем с памятью с потоковой личкой приложение может иногда не работать и не дать ошибку. Это связано с ограничением памяти 1 ГБ с помощью потока. Вот видео, которое показывает, как работает приложение: https://drive.google.com/file/d/1nkvdqdx1emwtzqhkyzu_2ijzgog-us8o/view?usp=sharing

Document.question.answeing.by.kedar.ghule .-. Adde.with.clipchamp.1.1.mp4

Запись о проблеме

В сегодняшнюю эпоху информационной перегрузки отдельные лица и организации сталкиваются с проблемой эффективного извлечения соответствующей информации из огромных объемов текстовых данных. Традиционные поисковые системы часто не хватают в предоставлении точных и контекстных ответов на конкретные вопросы, заданные пользователями. В результате растет растущая потребность в методах передовой обработки естественного языка (NLP) для обеспечения точных систем ответа на вопрос о документах (DQA).

Цель этого проекта-разработка вопроса о документе, отвечающем на приложение, основанное на крупных языковых моделях (LLMS), таких как Falcon-7B и Dolly-V2-3B, используя платформу Langchain и базу данных вектора ChromADB. Используя возможности LLMS, это приложение направлено на то, чтобы предоставить пользователям точные и всеобъемлющие ответы на свои вопросы в данном корпусе документа.

Методология

• Загрузка документа : приложение поддерживает загрузку файлов .txt и файлов .docx . После загрузки файл .docx преобразуется в файл .txt . Используя Langchain, документ загружается с помощью Textloader.
• Текстовое разделение : Далее мы рекурсивно разделим текст по характеру. Для этого мы используем рекурсивчарактертексаплтер. Этот текстовый сплиттер является рекомендуемым для общего текста. Указан размер куски, а также список разделителей.
• Генерирующие встроенные вкладки : класс HuggingFaceembeddings () в Langchain использует модели встраивания предложений_transformers, в частности, модель MPnet-Base-V2.
• Векторная база данных : векторный хранилище с использованием ChromADB используется для хранения встроенных данных и для выполнения операций по поиску вектора.
• Поиск контекста : в зависимости от вопроса пользователя, поиск сходства проводится в векторной базе данных, чтобы получить наиболее подходящий контекст для ответа на вопрос.
• Обратная техника : приведенный выше контекст, наряду с подсказкой, и возникает вопрос пользователя.
• Вывод с использованием LLMS : в зависимости от выбора пользователя, мы либо используем Falcon-7b, либо Dolly-V2-3b для нашего вывода. Мы передаем инженерную подсказку на модель AD отображают ответ модели.