Updated Langchain for GenAI Pet project v2下載 - Updated Langchain for GenAI Pet project v2原始碼下載

Updated Langchain for GenAI Pet project v2

其他源碼

1.0.0

下載

使用 Langchain 和 Ollama 使用付費和開源法學碩士建立聊天機器人

這個端到端專案簡化了大型語言模型 (LLM) 應用程式的生命週期，包括開發、生產和部署。該儲存庫包含作為專案元件的資料夾和文件，例如代理、API、鏈、聊天機器人、GROQ（查詢語言）、Hugging Face 模型、ObjectBox（嵌入式資料庫）、OpenAI 模型和檢索增強生成（RAG）））。該計畫旨在提供與法學碩士合作的全面解決方案，涵蓋數據處理、聊天機器人開發以及與各種工具和框架的整合。

浪鏈項目

聊天機器人測試運行

字串輸出解析器範例

使用付費和開源法學碩士以及 Langchain 和 Ollama 建立聊天機器人

項目概況

該專案演示了透過 Langchain 和 Ollama 使用付費和開源大規模語言模型 (LLM) 創建聊天機器人。它涵蓋了LLM應用程式的整個生命週期，包括開發、生產和部署。

資訊安全：

是的。所有 API 都是秘密的，具有受限的使用者存取權限和匿名 .gitignore，以及透過 Github 秘密環境提供的另一層安全性（抱歉！您必須使用自己的！）

最小項目組成部分

代理商
API / FastAPI
鏈條
聊天機器人
GROQ（查詢語言）
擁抱 Face22 模型
ObjectBox（嵌入式資料庫）
OpenAI 模型
Meta Llama2 模型（開源）
恢復增強世代 (RAG) 模型

配置與安裝

1. 環境配置

conda create -p venv python==3.10 -y
venv S cripts a ctivate
pip install -r requirements.txt

2. 配置

在app.py檔案中配置必要的 API 金鑰和設定。

使用

1. 聊天機器人執行

python app.py

2. 存取Web介面

開啟網頁瀏覽器並導航至（或電腦上指派的漸進連接埠）。我的是：

http://localhost:8502

讓我們配置 app.py 並在本地主機上運行會話

我們透過呼叫基礎聊天機器人的 3 個主要鍊式函數來建立檔案。
我們載入模組和函式庫的需求：
我們運行我們的app.py
我們完成app.py配置並運行

它會返迴路由並在測試瀏覽器中打開主機替代文字

Local URL: http://localhost:8502
Network URL: http://192.168.100.30:8502

我們來檢查一下頁面：
讓我們回顧一下Langchain框架中的項目：
讓我們看看我們定義的輸出結構：
我們詳細看一下StrOutputParser：
我們將詢問您「提供交換兩個值的Python程式碼」來評估成本、標記化和延遲時間來解決問題：

*proveeme de un código python que swapee 2 valores.*

替代文字

 # Definir los dos valores a intercambiar
a = 5
b = 10

print ( "Valores originales:" )
print ( "a =" , a )
print ( "b =" , b )

# Intercambiar los valores
temp = a
a = b
b = temp

print ( " n Valores intercambiados:" )
print ( "a =" , a )
print ( "b =" , b )

最後我們產生一個公共查詢：
“問題”：“什麼時候開始給小狗刷牙？”

讓我們使用 Ollama 來配置本地版本

我們將透過將 Llama2 下載到我們的電腦上來從我的本地環境中運行它來專門加載 Llamama
- 我打開一個cmd
```
ollama run llama2
```
- 我們下載llama2
- 我們將參考同樣的最後 2 個問題來評估Llama2與gpt3.5 turbo產生的反應水準、連貫性和一致性
- 我們查看測試瀏覽器中的回應：
- 讓我們回顧一下 Langchain 上的 langsmith，回顧一下查詢追蹤、延遲、代幣化和整個流程。
- “給我一個Python程式碼來交換2個數字”
- 我們如何看待回應的處理時間和生成
- 這個數字要高得多，代幣化迅速飆升至 388 個代幣。
- 答案的大小和長度是由問題產生的，但還有更多。而且資訊和完整性的程度也是如此，這意味著 OpenAI 模型我嘗試以簡潔和精確的方式做出回應，而在模型工作時不涉及語義細節。
- Lama 2 更口頭或更冗長，與本地處理時間相關的影響取決於運行模型的計算機以及模型本身生成的響應背後的智慧。