دردشة العبث

دردشة العبث

يدعم تطبيق الدردشة هذا GPT من OpenAI أو LLM المحلي الخاص بك.

GPT من OpenAI

لاستخدام GPT من OpenAI، قم بتعيين متغير البيئة OPENAI_API_KEY على مفتاح API الخاص بك.

ماجستير في القانون المحلي

لاستخدام llama.cpp محليًا مع محرك الاستدلال الخاص به، قم أولاً بتحميل نموذج كمي مثل Phi-3 Mini، على سبيل المثال:

/path/to/llama.cpp/server -m Phi-3-mini-4k-instruct-q4.gguf

قبل إطلاق العرض التوضيحي، قم بتعيين متغير البيئة OPENAI_API_BASE :

 export OPENAI_API_BASE=http://127.0.0.1:8080

تجريبي

باستخدام Node.js >= الإصدار 18:

 npm install
npm start

وافتح localhost:5000 باستخدام متصفح الويب.