تنزيل تعلم llms وgenai لـ dev sec ops - تنزيل كود المصدر لتعلم llms وgenai لـ dev sec ops

learning llms and genai for dev sec ops

كود الذكاء الاصطناعي

1.0.0

تنزيل

تعلم المواد والجينات لـ Dev,Sec,Ops

ما هو هذا الريبو عنه؟

يهدف هذا الريبو إلى تنظيم معلومات متنوعة حول LLMs وGenAi في سرد درس يسهل فهمه بواسطة هندسة البرمجيات التقليدية. فهو يسلط الضوء على الجوانب التي تحتاج إلى فهمها من منظور التطوير والعمليات والأمن. على الرغم من وجود الكثير من المواد المتاحة، إلا أنني وجدت نفسي أشرح نفس الأشياء مرارًا وتكرارًا وقمت بتطوير السرد.

تعتمد الدروس بشكل أساسي على إطار عمل Langchain وتتوقع القليل من الإلمام بلغة برمجة Python. تم استعارة العديد من الأمثلة من صفحات التوثيق وتم ذكر الإسناد حيثما أمكن ذلك. مجد إلى Langchain لجمع الكثير من المواد!

نظرة عامة على الدروس

المطور

استدعاء LLM بسيط باستخدام OpenAI
النظر في التصحيح في Langchain
الدردشة مع OpenAI كنموذج
استخدام القوالب السريعة
استخدم Docloader لقراءة ملفاتك المحلية وإعدادها لـ LLM
شرح حساب واستخدام التضمينات
فهم مدى أهمية التقسيم والتقطيع
تحميل التضمينات والمستندات في قاعدة بيانات المتجهات
استخدم سلسلة للأسئلة والأجوبة لتنفيذ نمط RAG (الجيل المعزز للاسترجاع)
اعرض استخدام وثائق OpenAI ليتمكن الطالب من إنشاء مكالمات للعثور على معلومات في الوقت الفعلي
قم بتنفيذ وكيل وتزويده بالأدوات اللازمة للحصول على مزيد من المعلومات في الوقت الفعلي

العمليات

تعرف على عدد الرموز المميزة التي تستخدمها والتكلفة
كيفية تخزين مكالماتك مؤقتًا إلى LLM باستخدام المطابقة التامة أو التضمينات
كيفية تخزين حساب التضمين مؤقتًا وتشغيل الحساب محليًا
قم بتشغيل LLM المحلي الخاص بك (باستخدام Ollama)
تتبع مكالماتك وتسجيلها في ملف (باستخدام معالج رد الاتصال)
افرض بنية الإخراج (مثل JSON) واطلب من LLM إعادة المحاولة إذا لم تكن صحيحة

حماية

شرح أفضل 10 OWASP لـ LLMS
أظهر كيفية عمل الحقن الفوري البسيط وبعض استراتيجيات التخفيف
كيفية اكتشاف الحقن الفوري باستخدام نموذج جهة خارجية من Hugginface
كشف حقن المشروع باستخدام موجه
تحقق من الإجابات التي توفرها llms وفكر فيما إذا كانت على ما يرام
استخدم نموذج الوجه المعانق لاكتشاف ما إذا كان مخرجات LLM سامة
اعرض مطالبة بسيطة لطرح رأي الطالب حول ثغرات Kubernetes وTrivy

انتقل مباشرة إلى https://github.com/jedi4ever/learning-llms-and-genai-for-dev-sec-ops/tree/main/lessons المزيد في المستقبل!

تاريخ هذا الريبو

تم تشكيل بنية الدروس الأولية خلال hackaton GenAI الذي استضافته Techstrong/MediaOps
تم تنقيح الدروس لتقديمها في مجموعة London Devops Meetup.
ويضع آخرون خططًا لتشغيل نسختهم الخاصة منه

كيف يمكنك المساعدة؟

أخبرنا ما هو الموضوع الذي ترغب في مشاهدة درس عنه؟ افتح مشكلة جيثب لطرحها
أرسل دروسًا جديدة وأرسل لنا تصحيحات وما إلى ذلك لتحسينها.
قم بإجراء لقاء/هاكاتون خاص بك باستخدام هذا الريبو كقاعدة وقم بتقديم تقرير! نحن نحب أن نسمع تلك القصص، ونرسل لنا الصور أو مقاطع الفيديو!
أرسل تغريدة شكر إلى @patrickdebois

متطلبات تشغيل هذا الريبو (يحتاج إلى مزيد من الحب)

قم بتشغيله باستخدام حاوية التطوير

يحتوي هذا المشروع على حاوية تطوير لتشغيل الريبو محليًا. أو يمكنك استخدام Google Collab أو نحو ذلك لتشغيل دفاتر الملاحظات

تشغيله محليا

استخدمنا Microsoft VSCode لتشغيل العرض التوضيحي
نقوم بتشغيل دفاتر ملاحظات python & jupyter محليًا
نحن نستخدم الشعر كمدير افتراضي لبيثون

الشعر هو مدير الحزم الجديد في الكتلة. على غرار Conda أو Pip مع venv.

poetry init
poetry install --no-root

قم بتكوين vscode لاستخدام الشعر

قم بتثبيت python 3.11 (على الرغم من أن معظم الأمثلة تعمل مع 3.12) باستخدام pyenv
الحصول على المسار pyenv pyenv which python
قم بتعيين إصدار Poetry pyton poetry env use
العثور على مسار env الشعر poetry env info --path
في view -> command pallete -> python: select interpreter -> enter interpreter path
أضف المسار /Users/patrick.debois/Library/Caches/pypoetry/virtualenvs/london-devops-VW7lFx7f-py3.11 + أضف /bin/python to it
poetry add ipykernel