Document Question Answering GenAI

เอกสารตอบคำถามโดยใช้ LLMS

โครงการนี้สร้างแอพตอบคำถามที่ใช้งานโดยโมเดลภาษาขนาดใหญ่ (LLMS) เช่น Falcon-7b และ Dolly-V2-3B โดยใช้ Langchain ฐานข้อมูลเวกเตอร์ Chromadb มันถูกปรับใช้กับ Streamlit

ลิงก์ไปยังแอพ: https://document-question-answering-kedarghule.streamlit.app/

หมายเหตุ: เนื่องจากปัญหาหน่วยความจำกับ Streamlit แอปอาจไม่ทำงานในบางครั้งและให้ข้อผิดพลาด นี่เป็นเพราะขีด จำกัด หน่วยความจำ 1GB โดย Streamlit นี่คือวิดีโอที่แสดงวิธีการทำงานของแอพ: https://drive.google.com/file/d/1nkvdqdx1emwtzqhkyzu_2ijzgog-us8o/view?usp=sharing

document.question.answeing.by.kedar.ghule .-. made.with.clipchamp.1.1.mp4

คำสั่งปัญหา

ในยุคของข้อมูลมากเกินไปบุคคลและองค์กรต้องเผชิญกับความท้าทายในการดึงข้อมูลที่เกี่ยวข้องอย่างมีประสิทธิภาพจากข้อมูลข้อความจำนวนมาก เครื่องมือค้นหาแบบดั้งเดิมมักจะสั้นในการให้คำตอบที่แม่นยำและตระหนักถึงบริบทสำหรับคำถามเฉพาะที่ผู้ใช้โพสต์ เป็นผลให้มีความต้องการที่เพิ่มขึ้นสำหรับเทคนิคการประมวลผลภาษาธรรมชาติขั้นสูง (NLP) เพื่อเปิดใช้งานระบบคำถามการตอบคำถามเอกสารที่ถูกต้อง (DQA)

เป้าหมายของโครงการนี้คือการพัฒนาแอพตอบคำถามที่ขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่ (LLMS) เช่น Falcon-7b และ Dolly-V2-3B โดยใช้แพลตฟอร์ม Langchain และฐานข้อมูลเวกเตอร์ Chromadb ด้วยการใช้ประโยชน์จากความสามารถของ LLMS แอพนี้มีจุดมุ่งหมายเพื่อให้ผู้ใช้ได้รับคำตอบที่ถูกต้องและครอบคลุมสำหรับคำถามของพวกเขาภายในคลังเอกสารที่กำหนด

วิธีการ

• การโหลดเอกสาร : แอปรองรับการอัปโหลดไฟล์ .txt และไฟล์ .docx เมื่ออัปโหลดไฟล์ .docx จะถูกแปลงเป็นไฟล์. .txt เมื่อใช้ Langchain เอกสารจะถูกโหลดโดยใช้ textloader
• การแยกข้อความ : ต่อไปเราจะแยกข้อความซ้ำโดยอักขระ สำหรับสิ่งนี้เราใช้ RecursiveCharacterTextSplitter ตัวแยกข้อความนี้เป็นข้อความที่แนะนำสำหรับข้อความทั่วไป มีการระบุขนาดก้อนรวมถึงรายการของตัวคั่น
• การสร้าง Embeddings : คลาส HuggingFaceembeddings () ใน Langchain ใช้แบบจำลองการฝัง SENTENCE_TRANSFORMERS โดยเฉพาะอย่างยิ่งโมเดล MPNET-BASE-V2
• ฐานข้อมูล Vector : ร้านค้าเวกเตอร์ที่ใช้ Chromadb ใช้เพื่อจัดเก็บข้อมูลที่ฝังตัวและดำเนินการค้นหาเวกเตอร์
• การค้นหาบริบท : ขึ้นอยู่กับคำถามของผู้ใช้การค้นหาความคล้ายคลึงกันจะดำเนินการในฐานข้อมูลเวกเตอร์เพื่อรับบริบทที่เหมาะสมที่สุดในการตอบคำถาม
• วิศวกรรมพรอมต์ : บริบทข้างต้นพร้อมด้วยพรอมต์ Appropiate และคำถามของผู้ใช้ถูกสร้างขึ้น
• การอนุมานโดยใช้ LLMS : ขึ้นอยู่กับทางเลือกของผู้ใช้เราอาจใช้ Falcon-7B หรือ Dolly-V2-3B สำหรับการอนุมานของเรา เราผ่านพรอมต์ทางวิศวกรรมไปยังโฆษณารุ่นแสดงการตอบสนองของรุ่น