nvidia NIM RAGダウンロード - nvidia NIM RAGソースコードのダウンロード

nvidia NIM RAG

AI ソースコード

1.0.0

ダウンロード

LangChain で NVIDIA NIM を使用する RAG

概要

このプロジェクトは、検索拡張生成 (RAG) パイプラインを設定して実行することにより、最適化されたクラウドネイティブマイクロサービススイートである NVIDIA NIM (NVIDIA 推論モデル) のパワーとシンプルさを実証します。 NVIDIA NIM は、クラウドプラットフォーム、データセンター、GPU アクセラレーションワークステーションなど、さまざまな環境にわたる生成 AI モデルの導入と市場投入までの時間を合理化するように設計されています。 AI モデル開発の複雑さを抽象化し、業界標準 API を活用することで、NIM は高度な AI テクノロジーをより幅広い開発者が利用できるようにします。

はじめる

前提条件

Python 3.8以降
pip と virtualenv
https://build.nvidia.com/mistralai/mixtral-8x7b-instruct の API キー

インストール

リポジトリのクローンを作成する

 git clone https://github.com/mickymultani/nvidia-NIM-RAG.git
cd nvidia-NIM-RAG

仮想環境をセットアップする
nvidiaという名前の仮想環境を作成します。
```
 python -m venv nvidia
```
仮想環境をアクティブ化します。
- Windows の場合:
```
nvidia S cripts a ctivate
```
- macOS/Linux の場合:
```
 source nvidia/bin/activate
```
依存関係をインストールする
pip を使用して必要なパッケージをインストールします。
```
 pip install -r requirements.txt
```
環境変数
プロジェクトのルートディレクトリに.envファイルを作成し、NVIDIA API キーを追加します。
```
 NVIDIA_API_KEY=your_nvidia_api_key_here
```
your_nvidia_api_key_hereを実際の NVIDIA API キーに置き換えます。