الصفحة الرئيسية>المتعلقة بالبرمجة>كود الذكاء الاصطناعي
تنزيل

ComfyUI على أمازون SageMaker

يوضح هذا المشروع كيفية إنشاء الصور باستخدام Stable Diffusion من خلال استضافة ComfyUI على Amazon SageMaker Inference. إنه نمط تصميم يسمح بإضافة إمكانية إنشاء صور GenAI إلى تطبيقك.

تعد ComfyUI واحدة من واجهات المستخدم الرسومية والواجهة الخلفية الأكثر شيوعًا والتي تتيح لك إنشاء صور باستخدام Stable Diffusion. بعض الميزات الرئيسية:

  • يدعم سير عمل إنشاء الصور المعقدة باستخدام واجهة المستخدم الرسومية دون الحاجة إلى ترميز أي شيء
  • يدعم الانتشار المستقر - SD1.x، SD2.x، SDXL، SDXL Turbo وSD3
  • يدعم نماذج Flux.1 من Black Forest Labs
  • يمكن تحميل نماذج ckpt وsafetensors والناشرين
  • يدعم التضمينات، والشبكات الفائقة، ونماذج LCM، ولوراس، وإصلاح الإيجارات

من خلال استضافة ComfyUI باستخدام Amazon SageMaker Inference، يمكن أن يكون مناسبًا بشكل خاص عندما تريد:

  • نماذج ذاتية الاستضافة واحتفظ بجميع بياناتك داخل حسابك ومنطقتك في AWS
  • دمج النص إلى الصورة أو الصورة إلى الصورة في التطبيق الخاص بك باستخدام Stable Diffusion ولكن بدون تشفير على PyTorch (فقط قم بدمج هذا النمط في تطبيقك)
  • استخدام أحدث النماذج (نقاط التفتيش، والتضمين، والشبكة الفائقة، وLoRA، وControlnet) من المجتمع، مثل Hugging Face أو Civitai، ولكن بدون أي تشفير
  • الاستفادة من الخدمة المُدارة بالكامل دون الاهتمام بإعداد الحالات وإدارتها وتوافق إصدارات البرامج وإصدارات التصحيح
  • استخدم القياس التلقائي لإيقاف تشغيل المثيلات عندما لا يكون هناك استخدام لمنع سعة الخمول وتقليل تكلفة الاستدلال

بنيان

توجد وظيفة Lambda لاستدعاء نقطة نهاية استنتاج SageMaker (التي تقوم بتشغيل ComfyUI) لإنشاء الصور. على سبيل المثال، تم تكوين عنوان URL لوظيفة Lambda بحيث يمكنك اختبار إنشاء الصورة عن طريق الاتصال بنقطة نهاية HTTPS المخصصة هذه. حل

دليل النشر

البيئات

أسهل طريقة هي إطلاق مثيل EC2 لـ g5.xlarge الذي يقوم بتشغيل AMI Deep Learning OSS Nvidia Driver AMI GPU PyTorch 2.3.0 (Amazon Linux 2) . اتصل بـ instane باستخدام Session Manager ، ثم قم بإضافة مستخدم إلى مجموعة docker عن طريق تشغيل الأمر التالي. 

sudo usermod -a -G docker $( whoami )

قم بقطع الاتصال والاتصال مرة أخرى لتفعيل عضوية المجموعة المحدثة.

  • إذا لم تقم بتشغيل ComfyUI محليًا، فإن المثيل الذي لا يحتوي على GPU مثل t3.small يعمل أيضًا.
  • إذا كنت تريد تشغيل طراز FLUX.1، فاستخدم g5.2xlarge على الأقل أو أعلى لإصدار fp8. استخدم g5.4xlarge على الأقل لإصدار fp16.

يعمل AWS Cloud9 أو الجهاز المحلي أيضًا ولكن تأكد من تثبيت ما يلي بشكل صحيح.

  • com.awscli
  • عامل ميناء
  • Pigz

ملاحظات: Apple M1/M2/M3 لا يعمل لأن إنشاء الحاوية عبر البنية غير مدعوم حتى الآن. يجب عليك البناء على x86_64 الذي يطابق نقطة نهاية SageMaker.

بداية سريعة

الخطوة 1 - استنساخ المشروع: 

git clone https://github.com/aws-samples/comfyui-on-amazon-sagemaker.git

الخطوة 2 - تخصيص الملفات التالية (اختياري):

  • Deploy.sh - تكوينات النشر
  • model/build.sh - النماذج المطلوب تضمينها (يتم تنزيل SDXL 1.0 افتراضيًا)
  • lambda/workflow/ - مجلد API لسير العمل لـ ComfyUI

FLUX.1 - إذا كنت ترغب في تجربة نماذج FLUX.1:

  • قم بإلغاء التعليق هنا أو هنا لتحميل النماذج.
  • قم بالتحديث هنا لتغيير SAGEMAKER_INSTANCE_TYPE إلى ml.g5.2xlarge على الأقل.
  • استخدم ملف المطالبة المقابل flux1-dev-fp8-ckpt.json أو flux1-schnell-fp8-ckpt.json في طلب API.

الخطوة 3 – تشغيل Deploy.sh. عادة ما يستغرق الأمر أقل من ساعة واحدة لإكماله. 

./deploy.sh

نقطة نهاية HTTPS للاختبار

للتوضيح، تم تمكين عنوان URL لوظيفة Lambda حتى تتمكن من اختبار إنشاء الصورة عن طريق الاتصال بنقطة نهاية HTTPS المخصصة هذه. يمكن العثور على عنوان URL لنقطة النهاية على ComfyUIFunctionUrl من مخرجات المكدس. إخراج CloudFormation

يتم تكوين مصادقة AWS_IAM بشكل افتراضي لاستدعاء عنوان URL لوظيفة lambda، لذا يجب عليك التوقيع على كل طلب HTTP باستخدام AWS Signature الإصدار 4 (SigV4). توفر أدوات مثل awscurl وPostman وAWS SigV4 Proxy طرقًا مدمجة لتوقيع طلباتك باستخدام SigV4. يمكنك تعطيل المصادقة عن طريق تعيين LAMBDA_URL_AUTH_TYPE على NONE في Deploy.sh ولكنه أمر خطير لأن عنوان URL للوظيفة مفتوح للجميع.

مثال على ترخيص AWS Signature باستخدام Postman: تكوين مصادقة ساعي البريد

وهنا مثال على نص الطلب: 

{
  "positive_prompt" : " hill happy dog " ,
  "negative_prompt" : " hill " ,
  "prompt_file" : " workflow_api.json " ,
  "seed" : 11245
}

استدعاء ناجح لرؤية الصورة التي تم إنشاؤها: ساعي البريد

تنظيف

احذف الموارد التالية التي تم نشرها بواسطة Deploy.sh.

  1. مكدس CloudFormation (الافتراضي: comfyui )
  2. مجموعة S3 (الافتراضي: comfyui-sagemaker-<AWS_ACCOUNT_ID>-<AWS_REGION> )
  3. مستودع ECR (الافتراضي: comfyui-sagemaker )

دليل التطوير

انظر التنمية

حماية

انظر المساهمة لمزيد من المعلومات.

رخصة

هذه المكتبة مرخصة بموجب ترخيص MIT-0. انظر ملف الترخيص.

يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل