openai autogen dev studio
1.0.0
使用OpenAI代理生成游戏和程序。建在Microsoft Autogen之上。
配x 正在进行中
当前代码有效,但:
- 有,并且会有破裂的变化:
- 始终检查您隐藏的
.env.jsonc
文件是否匹配了最后一个env.sample.jsonc
结构。- 始终通过
poetry install
更新您的依赖关系。- 为了大大减少令牌使用:缓存,逐步的过程,对话分裂,更好的提示,需要优化很多事情。
- 该代码需要清理一些。
- Microsoft Autogen仍处于早期阶段,并包含一些错误。
- 许多硬编码的东西可以通过配置文件自定义。
- 首先,我只专注于几种编程语言。
有一些令人惊叹的项目做类似的事情,但我希望找到一种解决雄心勃勃的计划生成的方法。
您要么需要OpenAI API键或Azure OpenAI API键。
不仅仅是“示例”程序,不要依靠GPT-3.5
(无论是turbo
还是标准)。如果您的目标是更复杂的应用程序, GPT-4
是必须的,甚至是GPT-4-32k
。
使用OpenAI API可能会迅速耗尽您的令牌限制。对于更广泛的项目,建议使用Azure OpenAI API。
如果您有雄心勃勃的目标,请注意成本!始终监视令牌的使用以及您的代理商在做什么。虽然AI可以是一种强大的工具,但它不一定比雇用真正的开发人员便宜。
conda create -n autogen python=3.10
conda activate autogen
pip install poetry
poetry install
cp env.sample.jsonc env.jsonc
编辑您的env.json
以添加API键并自定义安装。
只是:
make run
OADS将在./project
Directory中自动生成程序源代码。
您可以通过:
make clean
重要的是:功能将行不通。
根据我的测试,Autogen似乎与文本生成Web UI支持的任何开源LLM一起使用。
您只需要在Web UI的“会话”选项卡中启用openai
扩展:
确保您的5001
端口打开或搭接是远程服务器,因为这是露出类似OpenAi的API的地方。
我亲自将当前模型部署在RunPod(不关联)上,并使用thebloke/cuda11.8.0-ubuntu22.04-oneclick:latest
图像,即使我认为对于llama.cpp&co似乎有些过时。
"models" : [
// Custom deployment of (for example) `Open-Orca/Mistral-7B-OpenOrca`
// using "Text generation web UI" with `OpenAI` extension enabled:
// https://github.com/oobabooga/text-generation-webui/tree/main/extensions/openai#an-openedai-api-openai-like
// This can be any inference endpoint compatible following OpenAI API specs,
// regardless of the model you use behind it.
{
"model" : "Open-Orca/LlongOrca-13B-16k" ,
"api_base" : "http://localhost:5001" , // Or your remote server URL
"api_key" : "sk-111111111111111111111111111111111111111111111111" ,
"api_type" : "open_ai"
}
] ,