المطلوب: Node.js 18 أو الأحدث.
يمكن تشغيل العرض التوضيحي التالي باستخدام GPT من OpenAI أو LLM محلي.
الطريقة الأولى : للوصول إلى واجهة برمجة التطبيقات من OpenAI، تحتاج إلى مفتاح API من OpenAI والذي يتم تخزينه في متغير بيئة يسمى OPENAI_API_KEY
. يرجى قراءة كيفية إنشاء مفتاح API ولا تنس استخدام مفتاح API هذا بأمان!
الطريقة رقم 2 : قم بتشغيل LocalAI أولاً واتخاذ النموذج المناسب، على سبيل المثال LLama 2 7B، بتنسيق GGML. ثم قم بتعيين متغيري البيئة OPENAI_API_BASE
للإشارة إلى عنوان خادم LocalAI و CHAT_MODEL
لتحديد اسم النموذج المراد استخدامه.
$ curl -OL https://github.com/go-skynet/LocalAI/releases/download/v1.23.2/local-ai-avx-Linux-x86_64
$ chmod +x ./local-ai-avx-Linux-x86_64
$ curl -OL https://huggingface.co/TheBloke/Llama-2-7B-Chat-GGML/resolve/main/llama-2-7b-chat.ggmlv3.q4_0.bin
$ mv llama-2-7b-chat.ggmlv3.q4_0.bin models/
$ ./local-ai-avx-Linux-x86_64
$ export CHAT_MODEL= ' llama-2-7b-chat.ggmlv3.q4_0.bin '
$ export OPENAI_API_BASE= ' http://127.0.0.1:8080 '
مثال لتشغيل العرض التوضيحي لإكمال الجملة ( الإكمال ):
$ node complete.js "Sukarno dan Hatta pada tahun 1945"
مثال على تشغيل العرض التوضيحي لطرح السؤال:
$ node ask.js "Berapa jumlah penduduk Bandung?"
مثال لتشغيل العرض التوضيحي للعثور على معلومات مفصلة:
$ node query.js "Berapa koordinat geografis dari Bandung?"
مخطط تسلسل
العميل المشارك
مشارك في ماجستير الحقوق
المشفر الجغرافي المشارك
العميل->>+LLM: "ما هي الإحداثيات الجغرافية لمدينة باندونج؟"
LLM-->>+المشفر الجغرافي: الرمز الجغرافي("باندونج")
المشفر الجغرافي-->>+LLM: {"lat":-6.9,"long":107.6}
LLM->>+العميل: "تقع باندونج عند خط العرض -6.9 وخط الطول 107.6."
$ node query.js "Bagaimana suhu di ibukota Jawa Timur?"
مخطط تسلسل
العميل المشارك
مشارك في ماجستير الحقوق
المشفر الجغرافي المشارك
محطة الطقس المشاركة
العميل->>+LLM: "كيف هي درجة الحرارة في عاصمة جاوة الشرقية؟"
لاحظ حق LLM: عاصمة جاوة الشرقية = سورابايا
LLM-->>+المشفر الجغرافي: الرمز الجغرافي ("سورابايا")
المشفر الجغرافي-->>+LLM: {"lat":-7.3,"long":112.7}
LLM-->>+WeatherStation: WeatherStation(-7.3, 112.7)
WeatherStation-->>+LLM: {"main": {"temp": 27}}
LLM->>+العميل: "درجة الحرارة في سورابايا حوالي 27 درجة مئوية"
يمكن تشغيل الإصدار التجريبي من Clojure مباشرة عبر الجهاز كما هو موضح أدناه، ولكن من الأفضل فهمه وتجربته باستخدام REPL (على سبيل المثال مع Visual Studio Code + Calva أو Vim/NeoVim + vim-iced plugin).
أولاً، تأكد من تثبيت الوحدات المطلوبة:
$ npm install
مثال لتشغيل العرض التوضيحي لإكمال الجملة ( الإكمال ):
$ npm run nbb complete.cljs "Ibukota Indonesia adalah"
مثال على تشغيل العرض التوضيحي لطرح السؤال:
$ npm run nbb ask.cljs "Apa ibukota Jawa Timur?"
مثال لتشغيل العرض التوضيحي للعثور على معلومات مفصلة:
$ npm run nbb probe.cljs "Kapan saya terakhir ke Bandung?"