Updated Langchain for GenAI Pet project v2ダウンロード - Updated Langchain for GenAI Pet project v2ソースコードのダウンロード

Updated Langchain for GenAI Pet project v2

その他のソースコード

1.0.0

ダウンロード

Langchain と Ollama を使用した有料およびオープンソース LLM を使用したチャットボットの構築

このエンドツーエンドのプロジェクトは、開発、実稼働化、展開を含む大規模言語モデル (LLM) アプリケーションのライフサイクルを簡素化します。リポジトリには、エージェント、API、チェーン、チャットボット、GROQ (クエリ言語)、Hugging Face モデル、ObjectBox (組み込みデータベース)、OpenAI モデル、検索拡張生成 (RAG) など、プロジェクトのコンポーネントとしてフォルダーとファイルが含まれています。）。このプロジェクトは、データ処理、チャットボット開発、さまざまなツールやフレームワークとの統合をカバーする、LLM を操作するための包括的なソリューションを提供することを目的としています。

ラングチェーンプロジェクト

チャットボットのテスト実行

文字列出力パーサーの例

Langchain と Ollama を使用した有料およびオープンソース LLM を使用したチャットボットの構築

プロジェクト概要

このプロジェクトでは、Langchain と Ollama を介して有料およびオープンソースの大規模言語モデル (LLM) の両方を使用したチャットボットの作成を示します。開発、実稼働、展開を含む、LLM アプリケーションのライフサイクル全体をカバーします。

情報セキュリティ:

うん。すべての API は秘密であり、ユーザーアクセスが制限され、匿名化された .gitignore と Github Secret 環境による別のセキュリティ層を備えています (申し訳ありませんが、独自の環境を使用する必要があります!)

プロジェクトの最小コンポーネント

エージェント
API / FastAPI
チェーン
チャットボット
GROQ (クエリ言語)
Face22 モデルを抱き締める
ObjectBox (組み込みデータベース)
OpenAI モデル
Meta Llama2 モデル (オープンソース)
リカバリ拡張生成 (RAG) モデル

構成とインストール

1. 環境設定

conda create -p venv python==3.10 -y
venv S cripts a ctivate
pip install -r requirements.txt

2. 構成

app.pyファイルで必要な API キーと設定を構成します。

使用

1. チャットボットの実行

python app.py

2. Web インターフェースへのアクセス

Web ブラウザを開いて、(またはコンピュータに割り当てられたプログレッシブポート) に移動します。私のものは次のとおりです:

http://localhost:8502

app.pyを設定してローカルホストでセッションを実行しましょう

基本チャットボットの 3 つの主要な連鎖関数を呼び出してファイルを作成します。
モジュールとライブラリの要件をロードします。
app.py を実行します
app.pyの構成を完了して実行します
ルートを返し、テストブラウザでホストを開きます。
```
Local URL: http://localhost:8502
Network URL: http://192.168.100.30:8502
```
ページを確認してみましょう:
Langchain フレームワークでプロジェクトを確認してみましょう。
定義した出力の構造を見てみましょう。
StrOutputParser を詳しく見ていきます。
「2 つの値を交換する Python コードの提供」について質問し、コスト、トークン化、遅延時間を評価して質問を解決します。

*proveeme de un código python que swapee 2 valores.* :

代替テキスト

 # Definir los dos valores a intercambiar
a = 5
b = 10

print ( "Valores originales:" )
print ( "a =" , a )
print ( "b =" , b )

# Intercambiar los valores
temp = a
a = b
b = temp

print ( " n Valores intercambiados:" )
print ( "a =" , a )
print ( "b =" , b )

最後に、一般的なクエリを生成します。
"question": "子犬の歯磨きはいつから始めますか?"

Ollama でローカルバージョンを設定しましょう

特に、Llama2 をコンピューターにダウンロードしてローカル環境から実行することで、Llamama をロードします。
- コマンドを開きます
```
ollama run llama2
```
- llama2をダウンロードします
- 同じ最後の 2 つの質問を参照して、 gpt3.5 turboで生成されたものと比較したLlama2の応答、一貫性、一貫性のレベルを評価します。
- テストブラウザで応答を確認します。
- Langchain の langsmith を確認して、クエリトレース、レイテンシー、トークン化、プロセス全体を確認してみましょう。
- 「2 つの数字を交換するための Python コードを提供してください」
- 処理時間と応答の生成をどのように確認するか
- それははるかに多く、トークン化はすぐに 388 トークンに急増しました。
- 回答のサイズと長さは質問によって決まりますが、それ以上のものです。また、情報と完全性のレベルも同様です。つまり、OpenAI モデルは、モデルが動作している間はセマンティックな詳細に立ち入ることなく、簡潔さと正確さで応答するよう努めています。
- Lama 2 ははるかに口頭または冗長であり、モデルが実行されているコンピューターと、モデル自体によって生成される応答の背後にあるインテリジェンスに依存するローカル処理時間に関連する影響がありました。