تعريف Watsonx CustomLLM للمتابعة

تعريف CustomLLM بسيط للاستفادة من IBM watsonx LLMs في امتدادات المتابعة.

ملاحظة : أصبح Watsonx متاحًا الآن محليًا كمزود قيد المتابعة!

Watsonx مع متابعة GIF

سمات

دعم watsonx.ai SaaS.
دعم تدفق الاستجابة.
دعم granite-34b-code-instruct .
دوران الرمز المميز.
قالب موجه مخصص للجرانيت.
دعم برنامج watsonx.ai.
دعم LLMs غير الجرانيت.
قم بإنشاء نماذج منفصلة للدردشة والإكمال.

البدء (~ 2 دقيقة)

تثبيت ملحق متابعة (تم اختباره باستخدام ملحق VSCode).

انسخ هذا المستودع في الدليل ~/.continue/ الخاص بك

 cd ~ /.continue/
git clone https://github.com/NoeSamaille/continue-watsonx.git

قم بعمل نسخة محلية من تكوين المتابعة المحلي الخاص بك:
```
mv ~ /.continue/config.ts ~ /.continue/config-backup.ts
```

انسخ ملف config-sample.ts المقدم ليحل محل ~/.continue/config.ts :

cp ~ /.continue/continue-watsonx/src/config-sample.ts ~ /.continue/config.ts

أو، إذا قمت بتخصيص config.ts ، فقم بإضافة التعليمات البرمجية يدويًا لتحميل وحدة Watsonx واستخدام Watsonx.addConfig() :

 import { watsonx_modifyConfig } from "./continue-watsonx/src/watsonx" ; 
export function modifyConfig ( config : Config ) : Config {
    return watsonx_modifyConfig ( config ) ;
}

انسخ src/watsonxenv.ts.sample إلى src/watsonxenv.ts وقم بتحديث WatsonxEnv بالتكوين المستهدف:
```
cp ~ /.continue/continue-watsonx/src/watsonxenv.ts.sample ~ /.continue/continue-watsonx/src/watsonxenv.ts
```
1. في حالة استخدام Watsonx SaaS:
  - استبدل YOUR_WATSONX_URL بنقطة نهاية watsonx SaaS، على سبيل المثال https://us-south.ml.cloud.ibm.com لمنطقة جنوب الولايات المتحدة.
  - استبدل YOUR_WATSONX_APIKEY بمفتاح Watsonx API الخاص بك.
  - استبدل YOUR_WATSONX_PROJECT_ID بمعرف مشروع Watsonx الخاص بك.
2. في حالة استخدام برنامج Watsonx:
  1. الخيار 1 : استخدام مصادقة اسم المستخدم/كلمة المرور:
    - استبدل YOUR_WATSONX_URL بنقطة نهاية برنامج watsonx، على سبيل المثال https://cpd-watsonx.apps.example.com .
    - استبدل YOUR_WATSONX_USERNAME باسم مستخدم watsonx الخاص بك، على سبيل المثال cpadmin .
    - استبدل YOUR_WATSONX_PASSWORD بكلمة مرور Watsonx الخاصة بك.
    - استبدل YOUR_WATSONX_PROJECT_ID بمعرف مشروع Watsonx الخاص بك.
  2. الخيار 2 : استخدام مصادقة مفتاح API:
    - استبدل YOUR_WATSONX_URL بنقطة نهاية برنامج watsonx، على سبيل المثال https://cpd-watsonx.apps.example.com .
    - استبدل YOUR_WATSONX_ZENAPIKEY بمفتاح Watsonx Zen API الخاص بك. لتوليدها:
      1. قم بتسجيل الدخول إلى عميل الويب CPD.
      2. من شريط الأدوات، انقر فوق الصورة الرمزية الخاصة بك.
      3. انقر فوق الملف الشخصي والإعدادات .
      4. انقر فوق مفتاح API > إنشاء مفتاح جديد .
      5. انقر فوق إنشاء .
      6. انقر فوق "نسخ" واحفظ مفتاحك في مكان آمن. لا يمكنك استعادة هذا المفتاح إذا فقدته.
      7. قم بإنشاء ZenApiKey الخاص بك عن طريق تشغيل الأمر التالي: echo ":" | base64 ، مع استبدال باسم مستخدم CPD الخاص بك و بمفتاح API الذي أنشأته للتو.
    - استبدل YOUR_WATSONX_PROJECT_ID بمعرف مشروع Watsonx الخاص بك.
- - ملاحظة : في حالة استخدام نسخة برنامج watsonx مع شهادات TLS موقعة ذاتيًا/غير موثوقة، قم بإلغاء تعليق الأسطر التالية في ~/.continue/continue-watsonx/src/watsonx.ts لتجاوز التحقق من شهادة SSL:
```
 declare var process : {
    env : {
        NODE_TLS_REJECT_UNAUTHORIZED : any
    }
}
process . env [ "NODE_TLS_REJECT_UNAUTHORIZED" ] = 0 ;
```
1. اختياريًا ، قم بتحديث models للتعليق/إلغاء التعليق/تحرير قائمة النماذج بناءً على LLMs المنشورة في مثيل Watsonx الخاص بك.
يتمتع!