أداة CLI للتفاعل مع LLMs. قم بتوفير مفاتيح API الخاصة بك بهذا التنسيق: <completer>_API_KEY>
المكملون المعتمدون هم:
ANTHROPIC
MISTRAL
OPENAI
PERPLEXITY
حاليًا، يمكنك البناء من المصدر واستخدام الملف الثنائي الذي تم إنشاؤه. انسخ المستودع وقم بتشغيل الأمر التالي:
make
سيؤدي هذا إلى إنشاء ملف ثنائي يسمى llm
في دليل bin
.
يتم تخزين جميع التفاعلات محليًا على نظام الملفات الخاص بك. يسمح هذا الإعداد بإرسال مطالبات متعددة إلى LLMs، مع الحفاظ على السياق عبر محادثات مختلفة.
يمكن مشاركة سجل المحادثات الخاص بك بين جميع حاملي شهادات LLM المدعومة. يتيح لك ذلك الاستفادة من نقاط القوة في كل نموذج، والجمع بين قدراته لإنشاء تجربة محادثة قوية.
توفر إضافة أي أمر بـ llm شرحًا واضحًا وموجزًا لهذا الأمر، بالإضافة إلى أمثلة توضح استخدامه.
يمكن أن يكون لديك جلسات متعددة، لكل منها سياقها وتاريخها الخاص. يتيح لك هذا التبديل بين المحادثات المختلفة والحفاظ على تجربة محادثة متسقة.
لاستخدام واجهة سطر الأوامر (CLI)، يتعين عليك توفير مفاتيح API الخاصة بك كمتغيرات بيئة. يمكنك ضبط هذه المتغيرات في ملف تكوين Shell الخاص بك (على سبيل المثال، .zshrc
) أو مباشرة في الوحدة الطرفية.
بمجرد تعيين متغيرات البيئة، يمكنك استخدام الأمر التالي (من جذر الريبو) لمطالبة LLM:
bin/llm < llm-name > [flags] < prompt >
للدردشة، ما عليك سوى استخدام الأمر الفرعي chat
:
bin/llm < llm-name > chat
وبالطبع، أضف /path/to/repo/bin
إلى $PATH
الخاص بك لاستخدام واجهة سطر الأوامر (CLI) من أي مكان.
قم بإنشاء متغير بيئة DEFAULT_COMPLETER
باسم المكمل الذي تريد استخدامه. هم:
claude
mistral
gpt
بعد ذلك، يمكنك إضافة بادئة لأي أمر تريد فهمه باستخدام llm
لفهم كيفية عمله مع الأمثلة.