llm cli

LLM CLI

เครื่องมือ CLI เพื่อโต้ตอบกับ LLM ระบุคีย์ API ของคุณในรูปแบบนี้: <completer>_API_KEY>

ตัวเติมเต็มที่รองรับคือ:

• ANTHROPIC
• MISTRAL
• OPENAI
• PERPLEXITY

การติดตั้ง

ขณะนี้คุณสามารถสร้างจากแหล่งที่มาและใช้ไบนารีที่สร้างขึ้นได้ โคลนที่เก็บและรันคำสั่งต่อไปนี้:

make

สิ่งนี้จะสร้างไบนารีชื่อ llm ในไดเร็กทอรี bin

คุณสมบัติ ?

1. ความคงอยู่ของบริบท

การโต้ตอบทั้งหมดจะถูกจัดเก็บไว้ในระบบไฟล์ของคุณ การตั้งค่านี้ช่วยให้สามารถส่งข้อความแจ้งหลายรายการไปยัง LLM โดยมีการรักษาบริบทในการสนทนาต่างๆ

2. ประวัติการสนทนาที่แชร์

ประวัติการสนทนาของคุณสามารถแชร์กับ LLM ที่รองรับทั้งหมดได้ ซึ่งช่วยให้คุณใช้ประโยชน์จากจุดแข็งของแต่ละรุ่น โดยรวมความสามารถเพื่อสร้างประสบการณ์การสนทนาที่ทรงพลัง

3. ความช่วยเหลือเทอร์มินัล

การขึ้นต้นคำสั่งใดๆ ด้วย llm จะให้คำอธิบายที่ชัดเจนและกระชับของคำสั่งนั้น พร้อมด้วยตัวอย่างที่สาธิตการใช้งาน

4. หลายเซสชัน

คุณสามารถมีได้หลายเซสชัน โดยแต่ละเซสชันมีบริบทและประวัติของตัวเอง วิธีนี้ช่วยให้คุณสามารถสลับระหว่างการสนทนาต่างๆ และรักษาประสบการณ์การสนทนาที่สอดคล้องกัน

เร็วๆ นี้ ?

• โมเดลเริ่มต้นสำหรับแต่ละตัวแปร
• ระบบที่สร้างขึ้นมาอย่างพิถีพิถันจะแจ้งขอความช่วยเหลือจากเทอร์มินัล
• หลายเซสชัน
• UI โดยใช้ tvview

การใช้งาน

1. CLI

หากต้องการใช้ CLI คุณต้องระบุคีย์ API ของคุณเป็นตัวแปรสภาพแวดล้อม คุณสามารถตั้งค่าตัวแปรเหล่านี้ในไฟล์การกำหนดค่าเชลล์ของคุณ (เช่น . .zshrc ) หรือในเทอร์มินัลโดยตรง

เมื่อคุณตั้งค่าตัวแปรสภาพแวดล้อมแล้ว คุณสามารถใช้คำสั่งต่อไปนี้ (จากรูท repo) เพื่อแจ้ง LLM:

bin/llm < llm-name > [flags] < prompt >

หากต้องการสนทนา เพียงใช้คำสั่งย่อย chat :

bin/llm < llm-name > chat

และแน่นอน เพิ่ม /path/to/repo/bin ให้กับ $PATH ของคุณเพื่อใช้ CLI จากทุกที่

2.ช่วยสั่งการ

สร้างตัวแปรสภาพแวดล้อม DEFAULT_COMPLETER ด้วยชื่อของตัวสมบูรณ์ที่คุณต้องการใช้ พวกเขาคือ:

• claude
• mistral
• gpt

จากนั้น คุณสามารถเติมคำสั่งใดๆ ที่คุณต้องการเข้าใจด้วย llm เพื่อทำความเข้าใจวิธีการทำงานด้วยตัวอย่าง