TaskingAI 是一个 BaaS(后端即服务)平台,用于基于 LLM 的代理开发和部署。它统一集成了数百个LLM模型,并提供直观的用户界面来管理您的LLM应用程序的功能模块,包括工具、RAG系统、助手、对话历史记录等。
模型:TaskingAI 与来自不同提供商的数百名法学硕士连接,包括 OpenAI、Anthropic 等。我们还允许用户通过 Ollama、LM Studio 和 Local AI 集成本地主机模型。
插件:TaskingAI 支持多种内置插件,可为您的 AI 代理提供支持,包括 Google 搜索、网站阅读器、股票市场检索等。用户还可以创建自定义工具来满足他们的特定需求。
LangChain是一个LLM应用开发的工具框架,但它面临着实际的局限性:
OpenAI 的 Assistant API擅长提供类似 GPT 的功能,但也有其自身的限制:
请给我们一颗免费的星星?如果您觉得有帮助?
启动自托管 TaskingAI 社区版的一个简单方法是通过 Docker。
首先,从 GitHub 克隆 TaskingAI(社区版)存储库。
git clone https://github.com/taskingai/taskingai.git
cd taskingai
在克隆的存储库中,转到 docker 目录。
cd docker
将.env.example
复制到.env
:
cp .env.example .env
编辑.env
文件:在您喜欢的文本编辑器中打开.env
文件并更新必要的配置。确保正确设置所有必需的环境变量。
启动 Docker Compose :运行以下命令启动所有服务:
docker-compose -p taskingai --env-file .env up -d
服务启动后,通过浏览器使用 URL http://localhost:8080 访问 TaskingAI 控制台。默认用户名和密码是admin
和TaskingAI321
。
如果您已经安装了先前版本的TaskingAI并想要升级到最新版本,请首先更新存储库。
git pull origin master
然后停止当前的docker服务,通过拉取最新镜像升级到最新版本,最后重启服务。
cd docker
docker-compose -p taskingai down
docker-compose -p taskingai pull
docker-compose -p taskingai --env-file .env up -d
不用担心数据丢失;如果需要,您的数据将自动迁移到最新版本架构。
单击上图观看 TaskingAI 控制台演示视频。
控制台启动后,您可以使用 TaskingAI 客户端 SDK 以编程方式与 TaskingAI 服务器进行交互。
确保安装了 Python 3.8 或更高版本,并设置虚拟环境(可选但推荐)。使用 pip 安装 TaskingAI Python 客户端 SDK。
pip install taskingai
这是一个客户端代码示例:
import taskingai
taskingai . init ( api_key = 'YOUR_API_KEY' , host = 'http://localhost:8080' )
# Create a new assistant
assistant = taskingai . assistant . create_assistant (
model_id = "YOUR_MODEL_ID" ,
memory = "naive" ,
)
# Create a new chat
chat = taskingai . assistant . create_chat (
assistant_id = assistant . assistant_id ,
)
# Send a user message
taskingai . assistant . create_message (
assistant_id = assistant . assistant_id ,
chat_id = chat . chat_id ,
text = "Hello!" ,
)
# generate assistant response
assistant_message = taskingai . assistant . generate_message (
assistant_id = assistant . assistant_id ,
chat_id = chat . chat_id ,
)
print ( assistant_message )
请注意, YOUR_API_KEY
和YOUR_MODEL_ID
应替换为您在控制台中创建的实际 API 密钥和聊天完成模型 ID。
您可以在文档中了解更多信息。
请参阅我们的贡献指南,了解如何为该项目做出贡献。
此外,我们很高兴地宣布 TaskingAI 现在拥有官方 Discord 社区! ?
加入我们的 Discord 服务器可以:
• Engage in discussions about TaskingAI, share ideas, and provide feedback.
• Get support, tips, and best practices from other users and our team.
• Stay updated on the latest news, updates, and feature releases.
• ? Network with like-minded individuals who are passionate about AI and task automation.
TaskingAI 是根据特定的 TaskingAI 开源许可证发布的。通过为该项目做出贡献,您同意遵守其条款。
如需支持,请参阅我们的文档或通过 [email protected] 联系我们。