chat llm pro

ChatLLM

从2022年下半年到2023，Chatgpt显得低调且惊艳，本项目主要基于各类语言模型coding NLP相关应用。

流程图

run env

# pipreqs --force
# python>=3.8
virtualenv -p python venv
source venv/bin/activate

编译镜像

$ docker-compose -f chat_docker-compose build

Web UI

日志

局限

1. 调参能力有限。响应结果的干预手段有限
2. 需要走第三方网络请求，稳定性不强，如何内网部署使用

进度

• 实现了docker化服务器部署
• 基于gradio的UI DEMO交互体验
• 支持摘要生成，问答，情感分类的场景
• 支持选择模型
• 支持类chatpdf功能
• 引入langchain工具，加速应用构建
• 基于langchain工具进行文档抽取server开发。可通过服务实现文本抽取。
• 引入text2vect模型，进行词向量计算。
• web v3版本引入vue3，实现文档级别的问答。（长远计划）

参考文档

1. gpt-3 https://platform.openai.com/docs/models/gpt-3
2. web界面 https://gradio.app/
3. gpt3.5-api https://platform.openai.com/docs/guides/chat/instructing-chat-models

---

获取体验key或文因金融语言模型可联系[email protected]