llm cli
1.0.0
與 LLM 互動的 CLI 工具。以以下格式提供您的 API 金鑰: <completer>_API_KEY>
支援的完成器有:
ANTHROPIC
MISTRAL
OPENAI
PERPLEXITY
目前,您可以從原始程式碼建置並使用生成的二進位檔案。克隆儲存庫並執行以下命令:
make
這將在bin
目錄中建立一個名為llm
的二進位。
所有互動都儲存在本機檔案系統上。此設定允許向法學碩士發送多個提示,並在不同的對話中維護上下文。
您的對話歷史記錄可以在所有受支援的法學碩士之間共用。這使您可以利用每個模型的優勢,結合它們的功能來創建強大的對話體驗。
在任何命令前加上 llm 前綴可以提供該命令的清晰簡潔的解釋,以及演示其用法的範例。
您可以舉行多個會話,每個會話都有自己的背景和歷史。這使您可以在不同的對話之間切換並保持一致的對話體驗。
要使用 CLI,您需要提供 API 金鑰作為環境變數。您可以在 shell 設定檔(例如.zshrc
)中或直接在終端機中設定這些變數。
設定環境變數後,您可以使用以下命令(從儲存庫根目錄)來提示 LLM:
bin/llm < llm-name > [flags] < prompt >
要聊天,只需使用chat
命令:
bin/llm < llm-name > chat
當然,將/path/to/repo/bin
添加到$PATH
即可從任何地方使用 CLI。
使用您要使用的完成程式的名稱建立一個環境變數DEFAULT_COMPLETER
。他們是:
claude
mistral
gpt
然後,您可以在任何您想要理解的命令前加上llm
前綴,以透過範例了解它是如何運作的。