تحذير
شبكة الذكاء الاصطناعي في مرحلتها التجريبية وعلى الرغم من أنها جاهزة للإنتاج إلا أنها لا تزال قيد التطوير. يرجى الإبلاغ عن أي مشكلات تواجهها في Livepeer Discord.
يستضيف هذا المستودع عامل الذكاء الاصطناعي والمشغل لمعالجة طلبات الاستدلال على شبكة Livepeer AI الفرعية.
يتضمن مستودع عامل الذكاء الاصطناعي ما يلي:
Runner : يقوم AI runner، وهو تطبيق Python المعبأ في حاوية، بمعالجة طلبات الاستدلال على خطوط أنابيب ونماذج Livepeer AI، مما يوفر REST API لتفاعل النموذج.
العامل : يسمح عامل الذكاء الاصطناعي لفرع فيديو الذكاء الاصطناعي في go-livepeer بالتفاعل مع عداء الذكاء الاصطناعي. يتضمن روابط golang API، وعاملًا لتوجيه طلبات الاستدلال، ومدير Docker لحاويات تشغيل AI.
رمز عداء الذكاء الاصطناعي موجود في دليل العداء. لمزيد من التفاصيل، راجع الملف README لمشغل الذكاء الاصطناعي.
رمز عامل الذكاء الاصطناعي موجود في دليل العامل. ويشمل:
روابط Golang API : تم إنشاؤها من مواصفات OpenAPI الخاصة بمشغل الذكاء الاصطناعي باستخدام make codegen
.
العامل : يستمع لطلبات الاستدلال من الشبكة الفرعية Livepeer AI ويوجهها إلى مشغل AI.
Docker Manager : يدير حاويات تشغيل الذكاء الاصطناعي.
تم تصميم عامل وعداء الذكاء الاصطناعي للعمل مع فرع فيديو الذكاء الاصطناعي التابع لـ go-livepeer. يمكنك تشغيل كليهما بشكل مستقل للاختبار. لإنشاء عامل الذكاء الاصطناعي محليًا وتشغيل الأمثلة، اتبع الخطوات التالية:
اتبع تعليمات README الموجودة في دليل العداء لتنزيل نقاط التحقق النموذجية وإنشاء صورة العداء.
قم بإنشاء روابط Go لمواصفات OpenAPI الخاصة بالعداء باستخدام make codegen
.
قم بتشغيل أي أمثلة في الدليل cmd/examples
، على سبيل المثال، go run cmd/examples/text-to-image/main.go <RUNS> <PROMPT>
.
لمزيد من المعلومات حول تطوير وتصحيح مشغل AI، راجع وثائق التطوير.