llm cli
1.0.0
Ein CLI-Tool zur Interaktion mit LLMs. Geben Sie Ihre API-Schlüssel in diesem Format an: <completer>_API_KEY>
Die unterstützten Vervollständiger sind:
ANTHROPICMISTRALOPENAIPERPLEXITYDerzeit können Sie aus dem Quellcode erstellen und die generierte Binärdatei verwenden. Klonen Sie das Repository und führen Sie den folgenden Befehl aus:
make Dadurch wird eine Binärdatei namens llm im bin -Verzeichnis erstellt.
Alle Interaktionen werden lokal in Ihrem Dateisystem gespeichert. Dieses Setup ermöglicht das Senden mehrerer Eingabeaufforderungen an LLMs, wobei der Kontext über verschiedene Konversationen hinweg beibehalten wird.
Ihr Gesprächsverlauf kann von allen unterstützten LLMs gemeinsam genutzt werden. Dadurch können Sie die Stärken jedes Modells nutzen und ihre Fähigkeiten kombinieren, um ein beeindruckendes Gesprächserlebnis zu schaffen.
Wenn Sie einem Befehl llm voranstellen, erhalten Sie eine klare und prägnante Erklärung dieses Befehls sowie Beispiele, die seine Verwendung veranschaulichen.
Sie können mehrere Sitzungen durchführen, jede mit ihrem eigenen Kontext und Verlauf. Dadurch können Sie zwischen verschiedenen Gesprächen wechseln und ein einheitliches Gesprächserlebnis aufrechterhalten.
Um die CLI verwenden zu können, müssen Sie Ihre API-Schlüssel als Umgebungsvariablen bereitstellen. Sie können diese Variablen in Ihrer Shell-Konfigurationsdatei (z. B. .zshrc ) oder direkt im Terminal festlegen.
Sobald Sie die Umgebungsvariablen festgelegt haben, können Sie den folgenden Befehl (vom Repo-Root) verwenden, um das LLM aufzufordern:
bin/llm < llm-name > [flags] < prompt > Um zu chatten, verwenden Sie einfach den chat Unterbefehl:
bin/llm < llm-name > chat Und natürlich fügen Sie /path/to/repo/bin zu Ihrem $PATH hinzu, um die CLI von überall aus zu verwenden.
Erstellen Sie eine Umgebungsvariable DEFAULT_COMPLETER mit dem Namen des Vervollständigers, den Sie verwenden möchten. Sie sind:
claudemistralgpt Anschließend können Sie jedem Befehl, den Sie verstehen möchten, llm voranstellen, um anhand von Beispielen zu verstehen, wie er funktioniert.
