RAG using Llama3 Langchain and ChromaDB
1.0.0
使用 Llama3、Langchain 和 ChromaDB 的 RAG
本計畫利用Llama3 Langchain和ChromaDB建立檢索增強生成（RAG）系統。該系統使您能夠提出有關文件的問題，即使該資訊未包含在大型語言模型 (LLM) 的培訓資料中。檢索增強生成的工作原理是在提出問題時首先執行檢索步驟。此步驟從特殊的向量資料庫中取得相關文檔，文檔已在該資料庫中建立索引。
預先訓練的 Llama3 模型使用超過 15 兆個代幣進行了微調，並擁有 8 至 700 億個參數，使其成為最強大的開源模型之一。與之前的 Llama2 型號相比，它具有顯著的進步。
該計畫利用 Langchain、ChromaDB 和 Llama3 作為法學碩士，成功實施了檢索增強生成 (RAG) 解決方案。為了評估系統的性能，我們利用了 2023 年起的歐盟人工智慧法案。
未來的工作⚡
為了進一步增強此解決方案，我們將專注於改善 RAG 實施。這將涉及優化文件嵌入並探索更複雜的 RAG 架構的使用。
??META LLAMA3 GENAI 真實世界用例端到端實作指南⚡
使用 PyTorch FSDP 和 Q-Lora 有效微調 Llama 3：實施指南
在 Amazon SageMaker 上部署 Llama 3：實施指南
使用 Llama3、Langchain 和 ChromaDB 的 RAG：實施指南 1
像專業人士一樣提示 Llama 3：實施指南
用一些數學問題測驗 Llama3：實作指南
Llama3 請為我編寫程式碼：實作指南
在 Amazing Streamlit UI 上使用 NVIDIA 端點執行 LLAMA-3 70B LLM：實作指南
Llama 3 ORPO 微調：實施指南
Meta 的 LLaMA3-量化：實施指南
使用 QLoRA 微調 Llama3：實施指南
Llama3 Qlora 推理：實施指南
Beam_Llama3-8B-finetune_task：實作指南
使用 Unsloth 對自訂資料集進行 Llama-3 微調：實作指南
使用 Llama3、Ollama 和 ChromaDB 的 RAG：實作指南
Llama3 用例：實施指南
使用 Ro-LLM、Langchain 和 ChromaDB 的 RAG：實作指南
