DeveloperGPT 是一款由 LLM 支援的命令列工具,可使用自然語言來進行終端命令和終端內聊天。 DeveloperGPT 預設由Google Gemini 1.5 Flash 提供支持,但也支援Google Gemini 1.0 Pro、OpenAI GPT-3.5 和GPT-4、Anthropic Claude 3 Haiku 和Sonnet、託管在Hugging Face 上的開放法學碩士(Zephyr、Gemma、Mistral)以及量化Mistral-7B-指示在設備上離線運作。
截至 2024 年 6 月,當使用 Google Gemini 1.5 Pro(預設使用)或 Google Gemini 1.0 Pro 時,DeveloperGPT 完全免費,每分鐘最多 15 個請求。
使用--model
標誌在不同的 LLM 之間切換: developergpt --model [llm_name] [cmd, chat]
型號 | 來源 | 細節 |
---|---|---|
Gemini Pro 、 Gemini Flash (預設) | Google Gemini 1.0 Pro、Gemini 1.5 Flash | 免費(最多 15 個請求/分鐘),需要 Google AI API 金鑰 |
GPT35、GPT4 | 開放人工智慧 | 按使用量付費,需要 OpenAI API 金鑰 |
俳句、十四行詩 | 人擇(克勞德 3) | 按使用量付費,需要 Anthropic API 金鑰 |
和風 | Zephyr7B-測試版 | 免費、開放的法學碩士、擁抱人臉推理 API |
傑瑪,傑瑪基地 | Gemma-1.1-7B-指令,Gemma-基礎 | 免費、開放的法學碩士、擁抱人臉推理 API |
米斯特拉爾-Q6、米斯特拉爾-Q4 | 量化 GGUF Mistral-7B-指令 | 免費、開放式法學碩士、離線、設備上 |
米斯特拉爾 | Mistral-7B-指令 | 免費、開放的法學碩士、擁抱人臉推理 API |
mistral-q6
和mistral-q4
是使用 llama.cpp 在裝置上本地運行的量化 GGUF Mistral-7B-Instruct LLM(分別為 Q6_K 量化模型和 Q4_K 量化模型)。這些 LLM 可以在沒有專用 GPU 的機器上運行 - 有關更多詳細信息,請參閱 llama.cpp。DeveloperGPT 有 2 個主要功能。
用法: developergpt cmd [your natural language command request]
# Example
$ developergpt cmd list all git commits that contain the word llm
使用developergpt cmd --fast
可以更快地取得指令,無需任何解釋(使用--fast
平均約 1.6 秒,而使用常規指令平均約 3.2 秒)。 DeveloperGPT 在--fast
模式下提供的命令可能不太準確 - 有關更多詳細信息,請參閱 DeveloperGPT 自然語言到終端命令的準確性。
# Fast Mode: Commands are given without explanation for faster response
$ developergpt cmd --fast [your natural language command request]
使用developergpt --model [model_name] cmd
來使用不同的LLM而不是Gemini Flash(預設使用)。
# Example: Natural Language to Terminal Commands using the GPT-3.5 instead of Gemini Flash
$ developergpt --model gpt35 cmd [your natural language command request]
用法: developergpt chat
# Chat with DeveloperGPT using Gemini 1.5 Flash (default)
$ developergpt chat
使用developergpt --model [model_name] chat
來使用不同的LLM。
# Example
$ developergpt --model mistral chat
未實施聊天審核 - 您的所有聊天訊息均應遵循所用法學碩士的使用條款。
DeveloperGPT不得用於所用法學碩士使用條款禁止的任何目的。此外,DeveloperGPT 本身(除了法學碩士)是一個概念驗證工具,並不打算用於任何嚴肅或商業工作。
pip install -U developergpt
# see available commands
$ developergpt
DeveloperGPT 的準確性會根據所使用的 LLM 以及模式( --fast
與常規)而有所不同。下面顯示的是不同 LLM 在一組 85 個自然語言命令請求上的 Top@1 準確率(這不是嚴格的評估,但它給出了粗略的準確度)。 CLI v1.0.1 中的 Github CoPilot 也包含在內以進行比較。
預設情況下,DeveloperGPT 使用 Google Gemini 1.5 Flash。要使用 Gemini 1.0 Pro 或 Gemini 1.5 Flash,您需要一個 API 金鑰(每分鐘最多可免費使用 15 次查詢)。
GOOGLE_API_KEY
環境變數。您只需執行一次此操作。 # set Google API Key (using zsh for example)
$ echo ' export GOOGLE_API_KEY=[your_key_here] ' >> ~ /.zshenv
# reload the environment (or just quit and open a new terminal)
$ source ~ /.zshenv
若要使用 Hugging Face 上託管的開放式 LLM(例如 Gemma 或 Mistral),您可以選擇將 Hugging Face Inference API 令牌設定為HUGGING_FACE_API_KEY
環境變數。有關更多詳細信息,請參閱 https://huggingface.co/docs/api-inference/index。
要使用量化的 Mistral-7B-Instruct,只需使用--offline
標誌來執行 DeveloperGPT。這將在首次運行時下載模型,並在以後的任何運行中在本地使用它(首次使用後不需要互聯網連接)。無需特殊設定。
developergpt --offline chat
要使用 GPT-3.5 或 GPT-4,您將需要 OpenAI API 金鑰。
OPENAI_API_KEY
環境變數。您只需執行一次此操作。 要使用 Anthropic Claude 3 Sonnet 或 Haiku,您將需要 Anthropic API 金鑰。
ANTHROPIC_API_KEY
環境變數。您只需執行一次此操作。截至 2024 年 6 月,Google Gemini 1.0 Pro 和 Gemini 1.5 Flash 可免費使用每分鐘最多 15 個查詢。欲了解更多信息,請參閱:https://ai.google.dev/pricing
截至 2024 年 6 月,使用 Hugging Face Inference API 託管的法學碩士是免費的,但費率有限。有關更多詳細信息,請參閱 https://huggingface.co/docs/api-inference/index。
Mistral-7B-Instruct 可免費使用並在裝置上本地運行。
您可以在此處監控您的 OpenAI API 使用情況:https://platform.openai.com/account/usage。使用 GPT-3.5 的每個查詢的平均成本 < 0.1 美分。不建議使用 GPT-4,因為 GPT-3.5 更具成本效益,並且對於大多數命令都可以實現非常高的準確度。
您可以在此處監控您的 Anthropic API 使用情況:https://console.anthropic.com/settings/plans。使用 Claude 3 Haiku 的每次查詢的平均成本 < 0.1 美分。有關定價詳細信息,請參閱 https://www.anthropic.com/api。
閱讀 CONTRIBUTING.md 檔案。