DeveloperGPT 是一款由 LLM 支持的命令行工具,可使用自然语言来进行终端命令和终端内聊天。 DeveloperGPT 默认由 Google Gemini 1.5 Flash 提供支持,但也支持 Google Gemini 1.0 Pro、OpenAI GPT-3.5 和 GPT-4、Anthropic Claude 3 Haiku 和 Sonnet、托管在 Hugging Face 上的开放法学硕士(Zephyr、Gemma、Mistral)以及量化Mistral-7B-指示在设备上离线运行。
截至 2024 年 6 月,当使用 Google Gemini 1.5 Pro(默认使用)或 Google Gemini 1.0 Pro 时,DeveloperGPT 完全免费,每分钟最多 15 个请求。
使用--model
标志在不同的 LLM 之间切换: developergpt --model [llm_name] [cmd, chat]
型号 | 来源 | 细节 |
---|---|---|
Gemini Pro 、 Gemini Flash (默认) | 谷歌 Gemini 1.0 Pro、Gemini 1.5 Flash | 免费(最多 15 个请求/分钟),需要 Google AI API 密钥 |
GPT35、GPT4 | 开放人工智能 | 按使用量付费,需要 OpenAI API 密钥 |
俳句、十四行诗 | 人择(克劳德 3) | 按使用量付费,需要 Anthropic API 密钥 |
和风 | Zephyr7B-测试版 | 免费、开放的法学硕士、拥抱人脸推理 API |
杰玛,杰玛基地 | Gemma-1.1-7B-指令,Gemma-基础 | 免费、开放的法学硕士、拥抱人脸推理 API |
米斯特拉尔-Q6、米斯特拉尔-Q4 | 量化 GGUF Mistral-7B-指令 | 免费、开放式法学硕士、离线、设备上 |
米斯特拉尔 | Mistral-7B-指令 | 免费、开放的法学硕士、拥抱人脸推理 API |
mistral-q6
和mistral-q4
是使用 llama.cpp 在设备上本地运行的量化 GGUF Mistral-7B-Instruct LLM(分别为 Q6_K 量化模型和 Q4_K 量化模型)。这些 LLM 可以在没有专用 GPU 的机器上运行 - 有关更多详细信息,请参阅 llama.cpp。DeveloperGPT 有 2 个主要功能。
用法: developergpt cmd [your natural language command request]
# Example
$ developergpt cmd list all git commits that contain the word llm
使用developergpt cmd --fast
可以更快地获取命令,无需任何解释(使用--fast
平均约 1.6 秒,而使用常规命令平均约 3.2 秒)。 DeveloperGPT 在--fast
模式下提供的命令可能不太准确 - 有关更多详细信息,请参阅 DeveloperGPT 自然语言到终端命令的准确性。
# Fast Mode: Commands are given without explanation for faster response
$ developergpt cmd --fast [your natural language command request]
使用developergpt --model [model_name] cmd
来使用不同的LLM而不是Gemini Flash(默认使用)。
# Example: Natural Language to Terminal Commands using the GPT-3.5 instead of Gemini Flash
$ developergpt --model gpt35 cmd [your natural language command request]
用法: developergpt chat
# Chat with DeveloperGPT using Gemini 1.5 Flash (default)
$ developergpt chat
使用developergpt --model [model_name] chat
来使用不同的LLM。
# Example
$ developergpt --model mistral chat
未实施聊天审核 - 您的所有聊天消息均应遵循所用法学硕士的使用条款。
DeveloperGPT不得用于所用法学硕士使用条款禁止的任何目的。此外,DeveloperGPT 本身(除了法学硕士)是一个概念验证工具,并不打算用于任何严肃或商业工作。
pip install -U developergpt
# see available commands
$ developergpt
DeveloperGPT 的准确性根据所使用的 LLM 以及模式( --fast
与常规)而有所不同。下面显示的是不同 LLM 在一组 85 个自然语言命令请求上的 Top@1 准确率(这不是严格的评估,但它给出了粗略的准确度)。 CLI v1.0.1 中的 Github CoPilot 也包含在内以进行比较。
默认情况下,DeveloperGPT 使用 Google Gemini 1.5 Flash。要使用 Gemini 1.0 Pro 或 Gemini 1.5 Flash,您需要一个 API 密钥(每分钟最多可免费使用 15 次查询)。
GOOGLE_API_KEY
环境变量。您只需执行一次此操作。 # set Google API Key (using zsh for example)
$ echo ' export GOOGLE_API_KEY=[your_key_here] ' >> ~ /.zshenv
# reload the environment (or just quit and open a new terminal)
$ source ~ /.zshenv
要使用 Hugging Face 上托管的开放式 LLM(例如 Gemma 或 Mistral),您可以选择将 Hugging Face Inference API 令牌设置为HUGGING_FACE_API_KEY
环境变量。有关更多详细信息,请参阅 https://huggingface.co/docs/api-inference/index。
要使用量化的 Mistral-7B-Instruct,只需使用--offline
标志运行 DeveloperGPT。这将在首次运行时下载模型,并在以后的任何运行中在本地使用它(首次使用后不需要互联网连接)。无需特殊设置。
developergpt --offline chat
要使用 GPT-3.5 或 GPT-4,您将需要 OpenAI API 密钥。
OPENAI_API_KEY
环境变量。您只需执行一次此操作。 要使用 Anthropic Claude 3 Sonnet 或 Haiku,您将需要 Anthropic API 密钥。
ANTHROPIC_API_KEY
环境变量。您只需执行一次此操作。截至 2024 年 6 月,Google Gemini 1.0 Pro 和 Gemini 1.5 Flash 可免费使用每分钟最多 15 个查询。欲了解更多信息,请参阅:https://ai.google.dev/pricing
截至 2024 年 6 月,使用 Hugging Face Inference API 托管的法学硕士是免费的,但费率有限。有关更多详细信息,请参阅 https://huggingface.co/docs/api-inference/index。
Mistral-7B-Instruct 可免费使用并在设备上本地运行。
您可以在此处监控您的 OpenAI API 使用情况:https://platform.openai.com/account/usage。使用 GPT-3.5 的每个查询的平均成本 < 0.1 美分。不建议使用 GPT-4,因为 GPT-3.5 更具成本效益,并且对于大多数命令都可以实现非常高的准确度。
您可以在此处监控您的 Anthropic API 使用情况:https://console.anthropic.com/settings/plans。使用 Claude 3 Haiku 的每次查询的平均成本 < 0.1 美分。有关定价详细信息,请参阅 https://www.anthropic.com/api。
阅读 CONTRIBUTING.md 文件。