DeveloperGPT

PengembangGPT

DeveloperGPT adalah alat baris perintah bertenaga LLM yang memungkinkan bahasa alami untuk perintah terminal dan obrolan antar terminal. DeveloperGPT didukung oleh Google Gemini 1.5 Flash secara default tetapi juga mendukung Google Gemini 1.0 Pro, OpenAI GPT-3.5 & GPT-4, Anthropic Claude 3 Haiku & Sonnet, LLM terbuka (Zephyr, Gemma, Mistral) yang dihosting di Hugging Face, dan terkuantisasi Mistral-7B-Instruksikan berjalan offline di perangkat.

Mulai Juni 2024, DeveloperGPT sepenuhnya gratis untuk digunakan saat menggunakan Google Gemini 1.5 Pro (digunakan secara default) atau Google Gemini 1.0 Pro dengan kecepatan hingga 15 permintaan per menit.

LLM yang didukung

Beralih di antara LLM yang berbeda menggunakan tanda --model : developergpt --model [llm_name] [cmd, chat]

Model	Sumber	Detail
Gemini Pro , Gemini Flash (bawaan)	Google Gemini 1.0 Pro, Gemini 1.5 Flash	Gratis (hingga 15 permintaan/mnt), Diperlukan Kunci API Google AI
GPT35, GPT4	OpenAI	Bayar Per Penggunaan, Diperlukan Kunci API OpenAI
Haiku, Soneta	Antropis (Claude 3)	Bayar Per Penggunaan, Diperlukan Kunci API Antropis
Angin barat	Zephyr7B-Beta	Gratis, Buka LLM, API Inferensi Memeluk Wajah
Gemma, Pangkalan Gemma	Gemma-1.1-7B-Instruksikan, Basis Gemma	Gratis, Buka LLM, API Inferensi Memeluk Wajah
Mistral-Q6, Mistral-Q4	Instruksi Mistral-7B GGUF Terkuantisasi	Gratis, Buka LLM, OFFLINE, DI PERANGKAT
Mistral	Mistral-7B-Instruksikan	Gratis, Buka LLM, API Inferensi Memeluk Wajah

• mistral-q6 dan mistral-q4 adalah LLM Mistral-7B-Instruct Terkuantisasi yang berjalan secara lokal di perangkat menggunakan llama.cpp (masing-masing model terkuantisasi Q6_K dan model terkuantisasi Q4_K). LLM ini dapat berjalan pada mesin tanpa GPU khusus - lihat llama.cpp untuk lebih jelasnya.

Fitur

DeveloperGPT memiliki 2 fitur utama.

1. Bahasa Alami pada Perintah Terminal

Penggunaan: developergpt cmd [your natural language command request]

 # Example
$ developergpt cmd list all git commits that contain the word llm

Gunakan developergpt cmd --fast untuk mendapatkan perintah lebih cepat tanpa penjelasan apa pun (~1,6 detik dengan --fast vs. ~3,2 detik dengan rata-rata reguler). Perintah yang diberikan oleh DeveloperGPT dalam mode --fast mungkin kurang akurat - lihat Bahasa Alami DeveloperGPT ke Akurasi Perintah Terminal untuk detail selengkapnya.

 # Fast Mode: Commands are given without explanation for faster response
$ developergpt cmd --fast [your natural language command request]

Gunakan developergpt --model [model_name] cmd untuk menggunakan LLM yang berbeda, bukan Gemini Flash (digunakan secara default).

 # Example: Natural Language to Terminal Commands using the GPT-3.5 instead of Gemini Flash
$ developergpt --model gpt35 cmd [your natural language command request]

2. Ngobrol di dalam Terminal

Penggunaan: developergpt chat

 # Chat with DeveloperGPT using Gemini 1.5 Flash (default)
$ developergpt chat

Gunakan developergpt --model [model_name] chat untuk menggunakan LLM yang berbeda.

 # Example
$ developergpt --model mistral chat

Moderasi obrolan TIDAK diterapkan - semua pesan obrolan Anda harus mengikuti ketentuan penggunaan LLM yang digunakan.

Penggunaan

DeveloperGPT TIDAK boleh digunakan untuk tujuan apa pun yang dilarang oleh ketentuan penggunaan LLM yang digunakan. Selain itu, DeveloperGPT sendiri (selain LLM) adalah alat bukti konsep dan tidak dimaksudkan untuk digunakan untuk pekerjaan serius atau komersial.

Instal DeveloperGPT dari PyPI

pip install -U developergpt

Penggunaan Dasar

 # see available commands
$ developergpt 

Bahasa Alami DeveloperGPT untuk Akurasi Perintah Terminal

Akurasi DeveloperGPT bervariasi tergantung pada LLM yang digunakan serta modenya ( --fast vs. regular). Di bawah ini ditampilkan Akurasi Top@1 dari berbagai LLM pada kumpulan 85 permintaan perintah bahasa alami (ini bukan evaluasi yang ketat, namun memberikan gambaran kasar tentang akurasi). Github CoPilot di CLI v1.0.1 juga disertakan untuk perbandingan.

Pengaturan

Menggunakan Google Gemini (Bawaan)

Secara default, DeveloperGPT menggunakan Google Gemini 1.5 Flash. Untuk menggunakan Gemini 1.0 Pro atau Gemini 1.5 Flash, Anda memerlukan kunci API (gratis untuk menggunakan hingga 15 kueri per menit).

1. Dapatkan Kunci API Google AI Studio Anda sendiri: https://makersuite.google.com/app/apikey
2. Tetapkan Kunci Google API Anda sebagai variabel lingkungan GOOGLE_API_KEY . Anda hanya perlu melakukan ini sekali saja.

 # set Google API Key (using zsh for example)
$ echo ' export GOOGLE_API_KEY=[your_key_here] ' >> ~ /.zshenv

# reload the environment (or just quit and open a new terminal)
$ source ~ /.zshenv

Menggunakan API Inferensi Wajah Memeluk Buka LLM

Untuk menggunakan LLM terbuka seperti Gemma atau Mistral yang dihosting di Hugging Face, Anda dapat secara opsional menyiapkan token API Inferensi Wajah Hugging sebagai variabel lingkungan HUGGING_FACE_API_KEY . Lihat https://huggingface.co/docs/api-inference/index untuk detail selengkapnya.

Menggunakan Quantized Mistral-7B-Instruct Offline Pada Perangkat

Untuk menggunakan Mistral-7B-Instruct yang terkuantisasi, jalankan DeveloperGPT dengan tanda --offline . Ini akan mengunduh model saat pertama kali dijalankan dan menggunakannya secara lokal pada proses berikutnya (tidak diperlukan koneksi internet setelah penggunaan pertama). Tidak diperlukan pengaturan khusus.

developergpt --offline chat

Menggunakan OpenAI GPT LLM

Untuk menggunakan GPT-3.5 atau GPT-4, Anda memerlukan kunci API OpenAI.

1. Dapatkan Kunci API OpenAI Anda sendiri dan siapkan penagihan: https://platform.openai.com/account/api-keys
2. Tetapkan Kunci API OpenAI Anda sebagai variabel lingkungan OPENAI_API_KEY . Anda hanya perlu melakukan ini sekali saja.

Menggunakan LLM Antropik

Untuk menggunakan Anthropic Claude 3 Sonnet atau Haiku, Anda memerlukan kunci API Anthropic.

1. Dapatkan Kunci API Antropik Anda sendiri: https://www.anthropic.com/api
2. Tetapkan Kunci API Antropik Anda sebagai variabel lingkungan ANTHROPIC_API_KEY . Anda hanya perlu melakukan ini sekali saja.

Biaya LLM

LLM Google Gemini

Mulai Juni 2024, Google Gemini 1.0 Pro dan Gemini 1.5 Flash bebas menggunakan hingga 15 kueri per menit. Untuk informasi lebih lanjut, lihat: https://ai.google.dev/pricing

Memeluk Wajah yang Dihosting LLM Terbuka

Mulai Juni 2024, penggunaan LLM yang dihosting Hugging Face Inference API gratis tetapi tarifnya terbatas. Lihat https://huggingface.co/docs/api-inference/index untuk detail selengkapnya.

Mistral-7B-Instruksikan (llama.cpp)

Mistral-7B-Instruct gratis untuk digunakan dan dijalankan secara lokal di perangkat.

OpenAI GPT

Anda dapat memantau penggunaan OpenAI API Anda di sini: https://platform.openai.com/account/usage. Biaya rata-rata per kueri yang menggunakan GPT-3.5 adalah <0,1 sen. Penggunaan GPT-4 tidak disarankan karena GPT-3.5 jauh lebih hemat biaya dan mencapai akurasi yang sangat tinggi untuk sebagian besar perintah.

LLM Claude Antropik

Anda dapat memantau penggunaan API Anthropic Anda di sini: https://console.anthropic.com/settings/plans. Biaya rata-rata per kueri menggunakan Claude 3 Haiku adalah <0,1 sen. Lihat https://www.anthropic.com/api untuk detail harga.

Berkontribusi

Baca file CONTRIBUTING.md.

Kredit

• Terima kasih kepada Hugging Face dan komunitas NLP/LLM untuk LLM terbuka, API inferensi yang dihosting gratis, alat, kuantisasi, dan sumber daya lainnya!
• Terima kasih kepada Google untuk tingkat gratis Gemini API yang murah hati.
• Proyek ini menggunakan templat proyek Python dari https://github.com/rochacbruno/python-project-template