DeveloperGPT
v0.7.5
DeveloperGPT는 터미널 명령 및 터미널 내 채팅에 자연어를 사용할 수 있는 LLM 기반 명령줄 도구입니다. DeveloperGPT는 기본적으로 Google Gemini 1.5 Flash로 구동되지만 Google Gemini 1.0 Pro, OpenAI GPT-3.5 및 GPT-4, Anthropic Claude 3 Haiku 및 Sonnet, Hugging Face에서 호스팅되는 개방형 LLM(Zephyr, Gemma, Mistral) 및 양자화도 지원합니다. Mistral-7B-Instruct가 기기에서 오프라인으로 실행됩니다.
2024년 6월 현재 Google Gemini 1.5 Pro(기본적으로 사용됨) 또는 Google Gemini 1.0 Pro를 분당 최대 15개 요청으로 사용하는 경우 DeveloperGPT를 완전히 무료로 사용할 수 있습니다.
--model 플래그를 사용하여 다른 LLM 간 전환: developergpt --model [llm_name] [cmd, chat]
| 모델 | 원천 | 세부 |
|---|---|---|
| Gemini Pro , Gemini 플래시 (기본값) | 구글 제미니 1.0 프로, 제미니 1.5 플래시 | 무료(분당 최대 15개 요청), Google AI API 키 필요 |
| GPT35, GPT4 | 오픈AI | 종량제 결제, OpenAI API 키 필요 |
| 하이쿠, 소네트 | 인류학(클로드 3) | 종량제 결제, Anthropic API 키 필요 |
| 미풍 | Zephyr7B-베타 | 무료 개방형 LLM, 포옹 얼굴 추론 API |
| 젬마, 젬마베이스 | Gemma-1.1-7B-지시, Gemma-Base | 무료 개방형 LLM, 포옹 얼굴 추론 API |
| 미스트랄-Q6, 미스트랄-Q4 | 양자화된 GGUF Mistral-7B-Instruct | 무료, 개방형 LLM, 오프라인, 온디바이스 |
| 미스트랄 | 미스트랄-7B-지시 | 무료 개방형 LLM, 포옹 얼굴 추론 API |
mistral-q6 및 mistral-q4 는 llama.cpp(각각 Q6_K 양자화 모델 및 Q4_K 양자화 모델)를 사용하여 장치에서 로컬로 실행되는 양자화된 GGUF Mistral-7B-Instruct LLM입니다. 이러한 LLM은 전용 GPU가 없는 컴퓨터에서 실행될 수 있습니다. 자세한 내용은 llama.cpp를 참조하세요.DeveloperGPT에는 2가지 주요 기능이 있습니다.
사용법: developergpt cmd [your natural language command request]
# Example
$ developergpt cmd list all git commits that contain the word llm
설명 없이 더 빠르게 명령을 받으려면 developergpt cmd --fast 사용하세요(평균적으로 --fast 의 경우 ~1.6초 대 일반의 경우 ~3.2초). --fast 모드에서 DeveloperGPT가 제공하는 명령은 정확도가 떨어질 수 있습니다. 자세한 내용은 터미널 명령 정확도에 대한 DeveloperGPT 자연어를 참조하세요.
# Fast Mode: Commands are given without explanation for faster response
$ developergpt cmd --fast [your natural language command request] Gemini Flash(기본적으로 사용됨) 대신 다른 LLM을 사용하려면 developergpt --model [model_name] cmd 사용하세요.
# Example: Natural Language to Terminal Commands using the GPT-3.5 instead of Gemini Flash
$ developergpt --model gpt35 cmd [your natural language command request] 사용법: developergpt chat
# Chat with DeveloperGPT using Gemini 1.5 Flash (default)
$ developergpt chat
다른 LLM을 사용하려면 developergpt --model [model_name] chat 사용하세요.
# Example
$ developergpt --model mistral chat채팅 중재는 구현되지 않습니다 . 모든 채팅 메시지는 사용된 LLM의 이용 약관을 따라야 합니다.
DeveloperGPT는 사용된 LLM의 이용 약관에 의해 금지된 목적으로 사용되어서는 안 됩니다 . 또한 DeveloperGPT 자체(LLM 제외)는 개념 증명 도구이며 진지하거나 상업적인 작업에 사용하기 위한 것이 아닙니다.
pip install -U developergpt # see available commands
$ developergpt DeveloperGPT의 정확도는 사용된 LLM과 모드( --fast 대 일반)에 따라 다릅니다. 아래에는 85개 자연어 명령 요청 세트에 대한 다양한 LLM의 Top@1 정확도가 나와 있습니다(엄격한 평가는 아니지만 대략적인 정확성을 제공합니다). 비교를 위해 CLI v1.0.1의 Github CoPilot도 포함되어 있습니다.
기본적으로 DeveloperGPT는 Google Gemini 1.5 Flash를 사용합니다. Gemini 1.0 Pro 또는 Gemini 1.5 Flash를 사용하려면 API 키가 필요합니다(분당 최대 15개의 쿼리를 무료로 사용할 수 있음).
GOOGLE_API_KEY 환경 변수로 설정하세요. 이 작업은 한 번만 수행하면 됩니다. # set Google API Key (using zsh for example)
$ echo ' export GOOGLE_API_KEY=[your_key_here] ' >> ~ /.zshenv
# reload the environment (or just quit and open a new terminal)
$ source ~ /.zshenv Hugging Face에서 호스팅되는 Gemma 또는 Mistral과 같은 개방형 LLM을 사용하려면 선택적으로 Hugging Face Inference API 토큰을 HUGGING_FACE_API_KEY 환경 변수로 설정할 수 있습니다. 자세한 내용은 https://huggingface.co/docs/api-inference/index를 참조하세요.
양자화된 Mistral-7B-Instruct를 사용하려면 --offline 플래그를 사용하여 DeveloperGPT를 실행하면 됩니다. 그러면 처음 실행 시 모델이 다운로드되고 이후 실행 시 로컬로 사용됩니다(처음 사용 후에는 인터넷 연결이 필요하지 않습니다). 특별한 설정은 필요하지 않습니다.
developergpt --offline chatGPT-3.5 또는 GPT-4를 사용하려면 OpenAI API 키가 필요합니다.
OPENAI_API_KEY 환경 변수로 설정하세요. 이 작업은 한 번만 수행하면 됩니다. Anthropic Claude 3 Sonnet 또는 Haiku를 사용하려면 Anthropic API 키가 필요합니다.
ANTHROPIC_API_KEY 환경 변수로 설정하세요. 이 작업은 한 번만 수행하면 됩니다.2024년 6월 현재 Google Gemini 1.0 Pro 및 Gemini 1.5 Flash는 분당 최대 15개의 쿼리를 무료로 사용할 수 있습니다. 자세한 내용은 https://ai.google.dev/pricing을 참조하세요.
2024년 6월부터 Hugging Face Inference API 호스팅 LLM을 사용하는 것은 무료이지만 요금이 제한되어 있습니다. 자세한 내용은 https://huggingface.co/docs/api-inference/index를 참조하세요.
Mistral-7B-Instruct는 무료로 사용할 수 있으며 장치에서 로컬로 실행됩니다.
여기(https://platform.openai.com/account/usage)에서 OpenAI API 사용량을 모니터링할 수 있습니다. GPT-3.5를 사용하는 쿼리당 평균 비용은 0.1센트 미만입니다. GPT-3.5는 훨씬 더 비용 효율적이고 대부분의 명령에 대해 매우 높은 정확도를 달성하므로 GPT-4 사용은 권장되지 않습니다.
https://console.anthropic.com/settings/plans에서 Anthropic API 사용을 모니터링할 수 있습니다. Claude 3 Haiku를 사용한 쿼리당 평균 비용은 0.1센트 미만입니다. 가격에 대한 자세한 내용은 https://www.anthropic.com/api를 참조하세요.
CONTRIBUTING.md 파일을 읽어보세요.
