Updated Langchain for GenAI Pet project v2下载 - Updated Langchain for GenAI Pet project v2源代码下载

Updated Langchain for GenAI Pet project v2

其他源码

1.0.0

下载

使用 Langchain 和 Ollama 使用付费和开源法学硕士构建聊天机器人

这个端到端项目简化了大型语言模型 (LLM) 应用程序的生命周期，包括开发、生产和部署。该存储库包含作为项目组件的文件夹和文件，例如代理、API、链、聊天机器人、GROQ（查询语言）、Hugging Face 模型、ObjectBox（嵌入式数据库）、OpenAI 模型和检索增强生成（RAG）））。该项目旨在提供与法学硕士合作的全面解决方案，涵盖数据处理、聊天机器人开发以及与各种工具和框架的集成。

浪链项目

聊天机器人测试运行

字符串输出解析器示例

使用付费和开源法学硕士以及 Langchain 和 Ollama 构建聊天机器人

项目概况

该项目演示了通过 Langchain 和 Ollama 使用付费和开源大规模语言模型 (LLM) 创建聊天机器人。它涵盖了LLM应用程序的整个生命周期，包括开发、生产和部署。

信息安全：

是的。所有 API 都是秘密的，具有受限的用户访问权限和匿名 .gitignore，以及通过 Github 秘密环境提供的另一层安全性（抱歉！您必须使用自己的！）

最小项目组成部分

代理商
API / FastAPI
链条
聊天机器人
GROQ（查询语言）
拥抱 Face22 模型
ObjectBox（嵌入式数据库）
OpenAI 模型
Meta Llama2 模型（开源）
恢复增强一代 (RAG) 模型

配置与安装

1. 环境配置

conda create -p venv python==3.10 -y
venv S cripts a ctivate
pip install -r requirements.txt

2. 配置

在app.py文件中配置必要的 API 密钥和设置。

使用

1. 聊天机器人执行

python app.py

2. 访问Web界面

打开网络浏览器并导航到（或计算机上分配的渐进端口）。我的是：

http://localhost:8502

让我们配置 app.py 并在本地主机上运行会话

我们通过调用基础聊天机器人的 3 个主要链式函数来创建文件。
我们加载模块和库的需求：
我们运行我们的app.py
我们完成app.py配置并运行

它返回路由并在测试浏览器中打开主机替代文本

Local URL: http://localhost:8502
Network URL: http://192.168.100.30:8502

我们来检查一下页面：
我们回顾一下Langchain框架中的项目：
让我们看看我们定义的输出结构：
我们详细看一下StrOutputParser：
我们将询问您“提供交换两个值的Python代码”来评估成本、标记化和延迟时间来解决问题：

*proveeme de un código python que swapee 2 valores.* ：

替代文本

 # Definir los dos valores a intercambiar
a = 5
b = 10

print ( "Valores originales:" )
print ( "a =" , a )
print ( "b =" , b )

# Intercambiar los valores
temp = a
a = b
b = temp

print ( " n Valores intercambiados:" )
print ( "a =" , a )
print ( "b =" , b )

最后我们生成一个公共查询：
“问题”：“什么时候开始给小狗刷牙？”

让我们使用 Ollama 配置本地版本

我们将通过将 Llama2 下载到我们的计算机上来从我的本地环境中运行它来专门加载 Llamama
- 我打开一个cmd
```
ollama run llama2
```
- 我们下载llama2
- 我们将参考同样的最后 2 个问题来评估Llama2与gpt3.5 turbo生成的响应水平、连贯性和一致性
- 我们查看测试浏览器中的响应：
- 让我们回顾一下 Langchain 上的 langsmith，回顾一下查询追踪、延迟、代币化和整个流程。
- “给我一个Python代码来交换2个数字”
- 我们如何看待响应的处理时间和生成
- 这个数字要高得多，代币化迅速飙升至 388 个代币。
- 答案的大小和长度是由问题生成的，但还有更多。而且信息和完整性的水平也是如此，这意味着 OpenAI 模型我尝试以简洁和精确的方式做出响应，而在模型工作时不涉及语义细节。
- Lama 2 更加口头或更冗长，并且与本地处理时间相关的影响取决于运行模型的计算机以及模型本身生成的响应背后的智能。