self learn llms

التعلم الذاتي LLMs

يشكل هذا المستودع بعض الموارد التي سأستخدمها للتعرف على نماذج اللغات الكبيرة. سأحاول أيضًا التوصل إلى خريطة طريق بينما أمضي قدمًا في رحلة التعلم الذاتي هذه، نظرًا لأن خريطة الطريق الواضحة مع المعالم ستكون واحدة من أفضل الطرق للتعرف على ماجستير إدارة الأعمال بطريقة مناسبة.

ولهذا سأقوم بتضمين مزيج من الموارد العملية النظرية والعملية للتعلم.

ملاحظة: بحاجة إلى جعل هذا أكثر وضوحا

تحرير: 6 نوفمبر 2024

• تحتاج إلى إعادة هيكلة المستودع بشكل كبير.

• قم بإزالة المقررات الدراسية أو الموارد غير ذات الصلة.

• في سباق النماذج، لا يمكننا الاستمرار في إدراج النماذج في المستودع لأنه من الصعب تتبع النماذج والتحديثات ستجعل النماذج السابقة عديمة الفائدة. بحاجة إلى التفكير في طريقة أفضل لتنظيم حديقة الحيوان النموذجية.

• ربما تضيف 1-2 مساهمين أو تفتح المستودع للمساهمات للمساعدة.

• كيف يمكننا أن نجعلها تجربة تعليمية رائعة، واستضافة الملاحظات والبرامج التعليمية، والمناقشات المفتوحة، وصفحة الويب؟

الدورات

أساسيات البرمجة اللغوية العصبية

1. CS224N معالجة اللغات الطبيعية مع التعلم العميق، جامعة ستانفورد

2. تخصص معالجة اللغات الطبيعية، كورسيرا

محولات

1. دورة HuggingFace NLP + Transformers

2. CS25: ترانسفورمرز يونايتد V2، ستانفورد CS25، إصدار خريف 2021

نماذج اللغات الكبيرة

الدورات الصناعية ومفتوحة المصدر

1. تعلم Activeloop، توفر هذه المبادرة GenAI360 3 دورات مجانية حول RAGs وLLMs الضبط الدقيق وLangChain وVectorDBs.

2. دورة LLM من ماكسيم لابون، دورة للوصول إلى نماذج اللغات الكبيرة (LLMs) باستخدام خرائط الطريق ودفاتر Colab.

3. التدريب العملي على دورة LLM، تعرف على LLMs وLLMOps وVector DBs مجانًا من خلال تصميم وتدريب ونشر كود مصدر نظام LLM للمستشار المالي في الوقت الفعلي + مواد الفيديو والقراءة.

4. بدأ Full Stack Deep Learning كمعسكر تدريبي للتعلم العميق وتطور إلى معسكر تدريب LLM في أبريل 2023 تقريبًا، وهو الآن مجاني للمشاركة.

5. LLM University بواسطة Cohere، تتكون هذه الدورة من 8 وحدات يدرسها لويس سيرانو الشهير، المعروف بتدريس المفاهيم بطريقة سهلة وجذابة بصريًا. تحتوي الدورة على موضوعات مثل الأساسيات والنشر والبحث الدلالي وRAG.

6. دورات Deeplearning.ai القصيرة، دورات قصيرة بواسطة DL.AI في مجالات مختلفة من LLMs والذكاء الاصطناعي التوليدي. هذه الدورات القصيرة مفيدة حقًا لأنها تحتوي على مزيج مثالي من الجلسات النظرية والعملية. يتم إجراء الدورات عادةً بالتعاون مع شركات مثل Hugging Face وMistral وOpenAI وMicrosoft وMeta وGoogle وغيرها.

7. LLM Zoomcamp من DataTalksClub، LLM Zoomcamp - دورة مجانية عبر الإنترنت حول بناء نظام الأسئلة والأجوبة.

8. دورة LLMs Mastery 2024 التطبيقية من Aishwarya N Reganti، دورة مجانية مدتها 10 أسابيع مع خريطة طريق محددة تتراوح من أساسيات LLM والأدوات والتقنيات والنشر والتقييم إلى التحديات والاتجاهات المستقبلية.

9. دورات الأوزان والتحيزات، توفر دورات مختلفة حول MLOps وتطبيقات LLM المدعومة وما إلى ذلك.

10. دورة نماذج LLM، DataBricks x ed، الشهادة المهنية من DataBricks.

11. يقدم Deeplearning.ai العديد من الدورات القصيرة حول LLMs مثل LangChain for LLM App Development، وServerless LLMs مع AWS Bedrock، وFine-tuning LLMs، وLLMs مع البحث الدلالي وما إلى ذلك.

12. مقدمة إلى مسار تعلم الذكاء الاصطناعي التوليدي، Google Cloud.

13. تستضيف جامعة Arize دورات مثل تقييم LLM وأدوات وسلاسل وكلاء LLM وقابلية مراقبة LLM وما إلى ذلك.

الدورات الجامعية

1. [CS 324، ستانفورد](https://stanford-cs324.github.io/winter2022/) 2. [COMP790-101: نماذج اللغات الكبيرة، UNC Chapel Hill](https://github.com/craffel/ ندوة ماجستير) 3. [نماذج اللغات الكبيرة S-23، ETH زيوريخ](https://rycolab.io/classes/llm-s23/) 4. [أسس النماذج اللغوية الكبيرة، جامعة واترلو](https://uwaterloo.ca/watspeed/programs-and-courses/foundations- نماذج اللغات الكبيرة)

كتب

1. معالجة اللغات الطبيعية باستخدام كتاب المحولات

2. 
   

المدونات والأدلة

مدونات لانجشين

1. مدونة AIMultiple حول نماذج اللغات الكبيرة: الدليل الكامل في عام 2023

2. مستندات كوهير

3. مدونة FutureSmart AI حول إنشاء روبوتات الدردشة باستخدام LangChain وChatGPT

4. وكيل مستقل قائم على المهام يستخدم GPT-4 وPinecone وLangChain لتطبيقات متنوعة

أوراق مهمة

1. مسح لنماذج اللغات الكبيرة راجع أيضًا هذا الريبو: https://github.com/RUCAIBox/LLMSurvey

2. فهم نماذج اللغات الكبيرة - قائمة قراءة تحويلية، سيباستيان راشكا

3. 
   

مجموعات القراءة

1. Wiki CLSP، مجموعة قراءة البرمجة اللغوية العصبية، قائمة بمجموعات القراءة المتعلقة بالبرمجة اللغوية العصبية والتي يتم تحديثها بشكل متكرر.

دروس ومحادثات

محادثات تيد

1. القصة الداخلية للإمكانات المذهلة لـ ChatGPT | جريج بروكمان | تيد

2. لماذا يعتبر الذكاء الاصطناعي ذكيًا بشكل لا يصدق - وغبيًا بشكل صادم | يجين تشوي | تيد

المحادثات القادمة

1. 25 أبريل 2023، أريزو: لاحظ

2. 27 أبريل 2023، ماجستير إدارة الأعمال في الضبط الدقيق باستخدام PyTorch 2.0 وChatGPT

مجموعات البيانات والدفاتر والمساحات

مجموعات البيانات

دفاتر الملاحظات

المساحات

1. منظمة H2O، Huggingfaces

2. منظمة OpenAssistant، HuggingFaces

3. منظمة DataBricks، HuggingFaces

4. منظمة BigScience، Huggingfaces

5. منظمة EleutherAI، HuggingFaces

6. منظمة NomicAI، HuggingFaces

7. منظمة سيريبراس، HuggingFaces

المكتبات والأطر ومجموعات الأدوات

1. LLMStudio، H2O AI

2. LLamaIndex

3. NeMo Guardrails، NVIDIA، لمنع الهلوسة وإضافة حواجز حماية قابلة للبرمجة

4. MLC LLM، تطوير وتحسين ونشر LLMs أصلاً على أجهزة الجميع)

5. لاميني إل إل إم

نماذج اللغة

1. ChatGPT وOpenAI، تم إصدارهما في 30 نوفمبر 2022

2. Google Bard، تم إصداره في 21 مارس 2023

3. Tongyi Qianwen AI، علي بابا، تم إصداره في 11 أبريل 2023

4. StableLM، الذكاء الاصطناعي المستقر، تم إصداره في 20 أبريل 2023

5. أمازون تيتان

6. HuggingChat، Huggingfaces، تم إصداره في 25 أبريل 2023

7. H2OGPT

8. نموذج Bloom، الاستخدام التجاري مسموح به مع RAIL

9. جي بي تي-جي، إليوثير آي، أباتشي 2.0

10. جي بي تي-نيوكس، إليوثير آي، أباتشي 2.0

11. GPT4All، NomicAI، رخصة معهد ماساتشوستس للتكنولوجيا

12. GPT4All-J، NomicAI، رخصة معهد ماساتشوستس للتكنولوجيا

13. بيثيا، إليوثيراي، رخصة معهد ماساتشوستس للتكنولوجيا

14. جي إل إم-130ب

15. بالم، جوجل

16. الأرض الفلسطينية المحتلة، ميتا

17. فلان-T5

18. لاما، ميتا

19. الألبكة، ستانفورد

20. فيكونا، lm-sys

المجتمعات

حالات الاستخدام

1. مشاركةGPT

المشاريع والأفكار

قواعد بيانات المتجهات

1. كوز الصنوبر

2. ويفيات

3. ميلفوس

4. ChromaDB

الوكلاء المستقلون

1. BabyAGI

2. أوتو جي بي تي

المؤثرون LLM

الأشخاص الذين يجب عليك متابعتهم بالتأكيد لتبقى على اطلاع دائم ببرامج LLM. الباحثون / المؤسسون / المطورون / منشئو محتوى الذكاء الاصطناعي المشاركون في إنتاج / بحث / تطوير LLM

1. سيباستيان راشكا، إنه أسطورة وسوف يفجر فقاعة LLM المفعمة بالحيوية من خلال تغريداته ومدوناته وبرامجه التعليمية المذهلة. اشترك في نشرته الإخبارية Ahead of AI

2. أندريه كارباثي، هذا الأسطورة الذي عمل في شركة Tesla، أخذ استراحة، وبدأ قناته على YouTube لتعليم الأساسيات وأذهلنا جميعًا بمقطع الفيديو المذهل الخاص به حول تنفيذ GPT من الصفر وانضم أخيرًا إلى OpenAI. أعتقد أنك لا يمكن أن تفقد أسطورة :D

3. جاي العمار، نعم، إذا كنت لا تعرف شيئًا عن مدونته ELI على Transformers، فاقرأ ذلك أولاً وتأكد من متابعته للحصول على التحديثات.

4. توماز براتانيك، هو مؤلف الكتاب الشهير خوارزميات الرسم البياني لعلوم البيانات، ويكتب حاليًا مدونات رائعة على الوسائط المتعلقة بـ GPT وLangchain وما إلى ذلك.