الصفحة الرئيسية>المتعلقة بالبرمجة>شفرة المصدر الأخرى
تنزيل

OADS - Openai Autogen Development Studio

إنشاء الألعاب والبرامج باستخدام وكلاء Openai. بنيت على قمة Microsoft Autogen.

️ العمل قيد التقدم
الرمز الحالي يعمل ولكن:

  • هناك ، وسيكون هناك تغييرات كسر:
    • تحقق دائمًا من أن ملفك .env.jsonc env.sample.jsonc
    • قم دائمًا بتحديث تبعياتك عبر poetry install .
  • يجب أن يتم تحسين الكثير من الأشياء من أجل تقليل استخدام الرموز الرمزية بشكل كبير: التخزين المؤقت ، وعملية خطوة على حدة ، وتقسيم المحادثة ، ومطالبات أفضل.
  • الرمز يحتاج إلى بعض التنظيف.
  • لا يزال Microsoft Autogen في المرحلة المبكرة ويحتوي على بعض الأخطاء.
  • يمكن تخصيص الكثير من الأشياء المرمزة من خلال ملفات التكوين.
  • سأركز فقط على بعض لغات البرمجة في البداية.
  • لماذا هذا المشروع؟
  • ابدء
    • المتطلبات المسبقة
    • أناكوندا
      • 1/3 التثبيت
      • تكوين 2/3
      • 3/3 تشغيل
  • مفتوح المصدر LLMS
    • 1/2 تشغيل توليد النص واجهة مستخدم ويب
    • 2/2 إعداد OADS

لماذا هذا المشروع؟

هناك بعض المشاريع المذهلة التي تقوم بأشياء مماثلة ، لكنني آمل أن أجد طريقة لحل توليد البرامج الطموحة.

ابدء

المتطلبات المسبقة

تحتاج إما إلى مفتاح Openai API أو مفتاح Azure Openai API.

لا تعتمد على GPT-3.5 ، سواء كانت turbo أو قياسية ، لأكثر من مجرد برامج "عينة". إذا كنت تهدف إلى تطبيقات أكثر تعقيدًا ، فإن GPT-4 أمر لا بد منه ، ويفضل حتى GPT-4-32k .

قد يؤدي استخدام API Openai إلى استنفاد حد الرمز المميز بسرعة. لمزيد من المشاريع واسعة النطاق ، يوصى Azure Openai API.

كن على دراية بالتكاليف إذا كان لديك أهداف طموحة! راقب دائمًا استخدام الرموز وما يفعله وكلاءك. على الرغم من أن الذكاء الاصطناعي يمكن أن يكون أداة قوية ، إلا أنها ليست بالضرورة أرخص من توظيف مطورين حقيقيين - حتى الآن؟

أناكوندا

1/3 التثبيت 

conda create -n autogen python=3.10
conda activate autogen
pip install poetry
poetry install
cp env.sample.jsonc env.jsonc

تكوين 2/3

قم بتحرير env.json لإضافة مفاتيح API وتخصيص التثبيت.

3/3 تشغيل

فقط: 

make run

ستقوم OADS بإنشاء رمز مصدر البرنامج تلقائيًا في دليل ./project .

يمكنك تنظيفه عبر: 

make clean

مفتوح المصدر LLMS

هام: الوظائف لن تعمل.

1/2 تشغيل توليد النص واجهة مستخدم ويب

من ما قمت باختباره ، يبدو أن Autogen يعمل مع أي LLM مفتوح المصدر مدعوم من قبل توليد النص ويب واجهة المستخدم.

عليك فقط تمكين تمديد openai في علامة التبويب "Session" من واجهة المستخدم على الويب:

توليد النص لقطة شاشة واجهة المستخدم

تأكد من فتح منفذ 5001 الخاص بك أو الازدحام إذا كان خادمًا عن بُعد لأن هذا هو المكان الذي سيتم فيه كشف واجهة برمجة التطبيقات الشبيهة بـ Openai.

أنا شخصياً نشر نماذجاتي الحالية على Runpod (غير تابعة) وأستخدم thebloke/cuda11.8.0-ubuntu22.04-oneclick:latest صورة على الرغم من أنني أعتقد أنها تبدو قديمة بعض الشيء فيما يتعلق llama.cpp & co.

2/2 إعداد OADS 

  "models" : [
    // Custom deployment of (for example) `Open-Orca/Mistral-7B-OpenOrca`
    // using "Text generation web UI" with `OpenAI` extension enabled:
    // https://github.com/oobabooga/text-generation-webui/tree/main/extensions/openai#an-openedai-api-openai-like
    // This can be any inference endpoint compatible following OpenAI API specs,
    // regardless of the model you use behind it.
    {
      "model" : "Open-Orca/LlongOrca-13B-16k" ,
      "api_base" : "http://localhost:5001" , // Or your remote server URL
      "api_key" : "sk-111111111111111111111111111111111111111111111111" ,
      "api_type" : "open_ai"
    }
  ] ,
يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل