RAG using Llama3 Langchain and ChromaDB
1.0.0
Llama3、Langchain、ChromaDB を使用した RAG
このプロジェクトでは、Llama3 Langchain と ChromaDB を利用して、検索拡張生成 (RAG) システムを確立します。このシステムを使用すると、情報が大規模言語モデル (LLM) のトレーニング データに含まれていない場合でも、ドキュメントについて質問することができます。検索拡張生成は、質問が提示されたときに最初に検索ステップを実行することによって機能します。このステップでは、ドキュメントにインデックスが付けられている特別なベクトル データベースから関連ドキュメントをフェッチします。
事前トレーニングされた Llama3 モデルは、15 兆を超えるトークンで微調整され、80 億から 700 億のパラメーターを誇り、利用可能な最も強力なオープンソース モデルの 1 つとなっています。以前の Llama2 モデルに比べて大幅な進歩を遂げています。
このプロジェクトは、LLM として Langchain、ChromaDB、および Llama3 を活用することにより、検索拡張生成 (RAG) ソリューションの実装に成功しました。システムのパフォーマンスを評価するために、2023 年からの EU AI 法を利用しました。その結果、RAG モデルがこの法に関して提起された質問に正確な回答を提供することが実証されました。
今後の取り組み⚡
ソリューションをさらに強化するために、RAG 実装の改良に重点を置きます。これには、ドキュメントの埋め込みの最適化と、より複雑な RAG アーキテクチャの使用の検討が含まれます。
??META LLAMA3 GENAI 現実世界のユースケースのエンドツーエンド実装ガイド⚡
PyTorch FSDP と Q-Lora を使用して Llama 3 を効率的に微調整する : 実装ガイド
Amazon SageMaker に Llama 3 をデプロイする : 実装ガイド
Llama3、Langchain、ChromaDB を使用した RAG : 実装ガイド 1
Llama 3 をプロのようにプロンプトする : 実装ガイド
いくつかの数学の質問で Llama3 をテストする : 実装ガイド
Llama3 のコードを書いてください: 実装ガイド
Amazing Streamlit UI で NVIDIA エンドポイントを使用して LLAMA-3 70B LLM を実行する: 実装ガイド
Llama 3 ORPO 微調整: 実装ガイド
Meta の LLaMA3 量子化 : 実装ガイド
QLoRA を使用した Llama3 の Finetune : 実装ガイド
Llama3 Qlora 推論 : 実装ガイド
Beam_Llama3-8B-finetune_task : 実装ガイド
Unsloth を使用したカスタム データセットの Llama-3 微調整 : 実装ガイド
Llama3、Ollama、ChromaDB を使用した RAG : 実装ガイド
Llama3 の使用例: 実装ガイド
Ro-LLM、Langchain、ChromaDB を使用した RAG : 実装ガイド
