Alat CLI untuk berinteraksi dengan LLM. Berikan kunci API Anda dalam format ini: <completer>_API_KEY>
Penyempurna yang didukung adalah:
ANTHROPIC
MISTRAL
OPENAI
PERPLEXITY
Saat ini, Anda dapat membangun dari sumber dan menggunakan biner yang dihasilkan. Kloning repositori dan jalankan perintah berikut:
make
Ini akan membuat biner bernama llm
di direktori bin
.
Semua interaksi disimpan secara lokal di sistem file Anda. Pengaturan ini memungkinkan beberapa perintah dikirim ke LLM, dengan konteks dipertahankan di berbagai percakapan.
Riwayat percakapan Anda dapat dibagikan ke semua LLM yang didukung. Hal ini memungkinkan Anda memanfaatkan kekuatan masing-masing model, menggabungkan kemampuannya untuk menciptakan pengalaman percakapan yang hebat.
Mengawali perintah apa pun dengan llm memberikan penjelasan yang jelas dan ringkas tentang perintah tersebut, bersama dengan contoh yang menunjukkan penggunaannya.
Anda dapat mengadakan beberapa sesi, masing-masing dengan konteks dan sejarahnya sendiri. Hal ini memungkinkan Anda beralih di antara percakapan yang berbeda dan mempertahankan pengalaman percakapan yang konsisten.
Untuk menggunakan CLI, Anda perlu menyediakan kunci API sebagai variabel lingkungan. Anda dapat mengatur variabel-variabel ini di file konfigurasi shell Anda (misalnya, .zshrc
) atau langsung di terminal.
Setelah Anda mengatur variabel lingkungan, Anda dapat menggunakan perintah berikut (dari root repo) untuk meminta LLM:
bin/llm < llm-name > [flags] < prompt >
Untuk ngobrol, cukup gunakan subperintah chat
:
bin/llm < llm-name > chat
Dan tentu saja, tambahkan /path/to/repo/bin
ke $PATH
Anda untuk menggunakan CLI dari mana saja.
Buat variabel lingkungan DEFAULT_COMPLETER
dengan nama pelengkap yang ingin Anda gunakan. Mereka adalah:
claude
mistral
gpt
Kemudian, Anda dapat mengawali perintah apa pun yang ingin Anda pahami dengan llm
untuk memahami cara kerjanya dengan contoh.