llm cli

法学硕士CLI

与 LLM 交互的 CLI 工具。按以下格式提供您的 API 密钥： <completer>_API_KEY>

支持的完成器有：

• ANTHROPIC
• MISTRAL
• OPENAI
• PERPLEXITY

安装

目前，您可以从源代码构建并使用生成的二进制文件。克隆存储库并运行以下命令：

make

这将在bin目录中创建一个名为llm的二进制文件。

特征 ？

1. 上下文持久化

所有交互都存储在本地文件系统上。此设置允许向法学硕士发送多个提示，并在不同的对话中维护上下文。

2. 共享对话历史

您的对话历史记录可以在所有受支持的法学硕士之间共享。这使您可以利用每个模型的优势，结合它们的功能来创建强大的对话体验。

3. 终端协助

在任何命令前加上 llm 前缀可以提供该命令的清晰简洁的解释，以及演示其用法的示例。

4. 多次会议

您可以举行多个会话，每个会话都有自己的背景和历史。这使您可以在不同的对话之间切换并保持一致的对话体验。

即将推出 ？

• 每个变体的默认模型
• 精心打造的系统提示终端协助
• 多次会议
• 使用 tview 的 UI

用法

1. CLI

要使用 CLI，您需要提供 API 密钥作为环境变量。您可以在 shell 配置文件（例如.zshrc ）中或直接在终端中设置这些变量。

设置环境变量后，您可以使用以下命令（从存储库根目录）来提示 LLM：

bin/llm < llm-name > [flags] < prompt >

要聊天，只需使用chat命令：

bin/llm < llm-name > chat

当然，将/path/to/repo/bin添加到$PATH即可从任何地方使用 CLI。

2.指令辅助

使用您要使用的完成程序的名称创建一个环境变量DEFAULT_COMPLETER 。他们是：

• claude
• mistral
• gpt

然后，您可以在任何您想要理解的命令前加上llm前缀，以通过示例了解它是如何工作的。