الصفحة الرئيسية>المتعلقة بالبرمجة>شفرة المصدر الأخرى
تنزيل

مسح AGI رائع
أوراق يجب قراءتها حول الذكاء العام الاصطناعي

صورة مجردة

؟ أخبار

  • [2024-10] ؟ تم قبول ورقتنا بواسطة TMLR 2024.
  • [2024-05] ؟ نحن ننظم ورشة عمل حول الذكاء الاصطناعي العام في ICLR 2024 وأصدرنا ورقة موقفنا بعنوان "إلى أي مدى نحن بعيدون عن الذكاء الاصطناعي العام؟".

مشروعنا عبارة عن مبادرة مستمرة ومفتوحة ستتطور بالتوازي مع التطورات في الذكاء الاصطناعي العام. نحن نرحب ترحيبًا حارًا بالتعليقات والطلبات الواردة من المجتمع ونخطط لتحديث ورقتنا سنويًا. سيتم الاعتراف بالمساهمين على موقع المشروع بامتنان في المراجعات المستقبلية.

اقتباس BibTex إذا وجدت عملنا/مواردنا مفيدة: 

 @article { feng2024far ,
  title = { How Far Are We From AGI } ,
  author = { Feng, Tao and Jin, Chuanyang and Liu, Jingyu and Zhu, Kunlun and Tu, Haoqin and Cheng, Zirui and Lin, Guanyu and You, Jiaxuan } ,
  journal = { arXiv preprint arXiv:2405.10313 } ,
  year = { 2024 }
}

محتوى

  • محتوى
    • 1. مقدمة
    • 2. الذكاء الاصطناعي العام الداخلي: الكشف عن عقل الذكاء الاصطناعي العام
      • 2.1 إدراك الذكاء الاصطناعي
      • 2.2 استدلال الذكاء الاصطناعي
      • 2.3 ذاكرة الذكاء الاصطناعي
      • 2.4 الذكاء الاصطناعي ما وراء المعرفة
    • 3. واجهة AGI: ربط العالم بالذكاء الاصطناعي العام
      • 3.1 واجهات الذكاء الاصطناعي للعالم الرقمي
      • 3.2 واجهات الذكاء الاصطناعي للعالم المادي
      • 3.3 واجهات الذكاء الاصطناعي للذكاء
        • 3.3.1 واجهات الذكاء الاصطناعي لوكلاء الذكاء الاصطناعي
        • 3.3.2 واجهات الذكاء الاصطناعي للإنسان
    • 4. أنظمة الذكاء الاصطناعي العام: تنفيذ آلية الذكاء الاصطناعي العام
      • 4.2 بنيات النماذج القابلة للتطوير
      • 4.3 التدريب على نطاق واسع
      • 4.4 تقنيات الاستدلال
      • 4.5 التكلفة والكفاءة
      • 4.6 منصات الحوسبة
    • 5. محاذاة الذكاء الاصطناعي العام: ضمان تلبية الذكاء الاصطناعي العام للاحتياجات المختلفة
      • 5.1 توقعات محاذاة AGI
      • 5.2 تقنيات المحاذاة الحالية
      • 5.3 كيفية التعامل مع محاذاة AGI
    • 6. خارطة طريق الذكاء الاصطناعي العام: التعامل بشكل مسؤول مع الذكاء الاصطناعي العام
      • 6.1 مستويات الذكاء الاصطناعي: رسم تطور الذكاء الاصطناعي
      • 6.2 تقييم الذكاء الاصطناعي العام
        • 6.2.1 التوقعات لتقييم الذكاء الاصطناعي العام
        • 6.2.2 التقييمات الحالية وقيودها
      • 6.5 اعتبارات إضافية أثناء تطوير الذكاء الاصطناعي العام
    • 7. دراسات الحالة
      • 7.1 الذكاء الاصطناعي لاكتشاف العلوم والبحث
      • 7.2 الذكاء البصري التوليدي
      • 7.3 النماذج العالمية
      • 7.4 ماجستير في القانون اللامركزي
      • 7.5 الذكاء الاصطناعي للترميز
      • 7.6 الذكاء الاصطناعي للروبوتات في تطبيقات العالم الحقيقي
      • 7.7 التعاون بين الإنسان والذكاء الاصطناعي

مقدمة

-> تصميم الإطار لورقتنا. <-

1. مقدمة

-> نسبة الأنشطة البشرية التي تجاوزها الذكاء الاصطناعي. <-

2. الذكاء الاصطناعي العام الداخلي: الكشف عن عقل الذكاء الاصطناعي العام

2.1 إدراك الذكاء الاصطناعي

  1. فلامنغو: نموذج لغة مرئي للتعلم قليلًا . جان بابتيست ألايراك وآخرون. نيوربيس 2022. [ورقة]
  2. BLIP-2: التدريب المسبق على تمهيد اللغة والصور باستخدام برامج تشفير الصور المجمدة ونماذج اللغات الكبيرة . جوننان لي وآخرون. ICML 2023. [ورقة]
  3. أبو الهول: المزج المشترك بين الأوزان والمهام والتضمينات المرئية لنماذج اللغات الكبيرة متعددة الوسائط . زيي لين وآخرون. EMNLP 2023. [ورقة]
  4. ضبط التعليمات البصرية . هاوتيان ليو وآخرون. نيوربيس 2023. [ورقة]
  5. GPT4Tools: تدريس نموذج لغة كبير لاستخدام الأدوات عبر التعليم الذاتي . روي يانغ وآخرون. نيوربيس 2023. [ورقة]
  6. قضاعة: نموذج متعدد الوسائط مع ضبط التعليمات في السياق . بو لي وآخرون. أرخايف 2023. [ورقة]
  7. VideoChat: فهم الفيديو المتمحور حول الدردشة . كونتشانغ لي وآخرون. أرخايف 2023. [ورقة]
  8. mPLUG-Owl: تعمل الوحدة النمطية على تمكين نماذج اللغات الكبيرة باستخدام الوسائط المتعددة . تشينغهاو يي وآخرون. أرخايف 2023. [ورقة]
  9. دراسة استقصائية عن نماذج اللغات الكبيرة متعددة الوسائط . شوكانغ يين وآخرون. أرخايف 2023. [ورقة]
  10. PandaGPT: نموذج واحد للتعليمات - اتبعها جميعًا . ييشوان سو وآخرون. أرخايف 2023. [ورقة]
  11. LLaMA-Adapter: الضبط الدقيق الفعال لنماذج اللغة مع الاهتمام الصفري . رينروي تشانغ وآخرون. أرشيف 2023. [ورقة]
  12. الجوزاء: عائلة من النماذج المتعددة الوسائط ذات القدرة العالية . روهان أنيل وآخرون. أرخايف 2023. [ورقة]
  13. شكرة: إطلاق العنان لسحر الحوار المرجعي متعدد الوسائط في LLM . كيكين تشن وآخرون. أرخايف 2023. [ورقة]
  14. ImageBind: مساحة واحدة للتضمين لربطهم جميعًا . روهيت جيردار وآخرون. CVPR 2023. [ورقة]
  15. MobileVLM: مساعد لغة سريع وقوي ومفتوح للأجهزة المحمولة . شيانغكسيانغ تشو وآخرون. أرخايف 2023. [ورقة]
  16. ما الذي يجعل الرموز المرئية جيدة لنماذج اللغات الكبيرة؟ . قوانغزي وانغ وآخرون. أرخايف 2023. [ورقة]
  17. MiniGPT-4: تعزيز فهم الرؤية واللغة باستخدام نماذج اللغات الكبيرة المتقدمة . دياو تشو وآخرون. ICLR 2024. [ورقة]
  18. LanguageBind: توسيع التدريب المسبق للغة الفيديو إلى طريقة N عن طريق المحاذاة الدلالية القائمة على اللغة . بن تشو وآخرون. ICLR 2024. [ورقة]

2.2 استدلال الذكاء الاصطناعي

  1. سلسلة الأفكار تثير التفكير في نماذج اللغة الكبيرة . جيسون وي وآخرون. نيوربيس 2022. [ورقة]
  2. النظرية العصبية للعقل؟ حول حدود الذكاء الاجتماعي في LMs الكبيرة . مارتن ساب وآخرون. EMNLP 2022. [ورقة]
  3. المونولوج الداخلي: التفكير المتجسد من خلال التخطيط باستخدام نماذج اللغة . ونلونغ هوانغ وآخرون . كورل 2022. [ورقة]
  4. مسح الهلوسة في توليد اللغة الطبيعية . زيوي جي وآخرون. مسوحات الحوسبة ACM لعام 2022. [ورقة]
  5. رد الفعل: التآزر بين التفكير والتصرف في نماذج اللغة . شونيو ياو وآخرون. ICLR 2023. [ورقة]
  6. المطالبة المتحللة: نهج معياري لحل المهام المعقدة . توشار خوت وآخرون. ICLR 2023. [ورقة]
  7. المطالبة القائمة على التعقيد للاستدلال متعدد الخطوات . ياو فو وآخرون. ICLR 2023. [ورقة]
  8. يتيح مبدأ "الأقل إلى الأكثر تحفيزًا" التفكير المعقد في نماذج اللغات الكبيرة . ديني تشو وآخرون. ICLR 2023. [ورقة]
  9. نحو التفكير في نماذج اللغة الكبيرة: دراسة استقصائية . جي هوانغ وآخرون. نتائج الرباط الصليبي الأمامي 2023. [ورقة]
  10. ProgPrompt: إنشاء خطط مهام الروبوت باستخدام نماذج اللغة الكبيرة . إيشيكا سينغ وآخرون. إكرا 2023. [ورقة]
  11. الاستدلال باستخدام نموذج اللغة هو التخطيط باستخدام النموذج العالمي . شيبو هاو وآخرون. EMNLP 2023. [ورقة]
  12. تقييم هلوسة الأشياء في نماذج لغة الرؤية الكبيرة . ييفان لي وآخرون. EMNLP 2023. [ورقة]
  13. شجرة الأفكار: حل متعمد للمشكلات باستخدام نماذج لغوية كبيرة . شونيو ياو وآخرون. نيوربيس 2023. [ورقة]
  14. الصقل الذاتي: الصقل التكراري مع ردود الفعل الذاتية . أمان مادان وآخرون. نيوربيس 2023. [ورقة]
  15. الانعكاس: وكلاء اللغة مع تعلم التعزيز اللفظي . نوح شين وآخرون. نيوربيس 2023. [ورقة]
  16. الوصف والشرح والتخطيط والاختيار: التخطيط التفاعلي باستخدام نماذج اللغة الكبيرة يمكّن الوكلاء متعددي المهام في العالم المفتوح . زيهاو وانغ وآخرون. نيوربيس 2023. [ورقة]
  17. LLM+P: تمكين نماذج اللغات الكبيرة بكفاءة التخطيط الأمثل . بو ليو وآخرون. أرخايف 2023. [ورقة]
  18. نماذج اللغة، ونماذج الوكلاء، والنماذج العالمية: قانون التفكير والتخطيط الآلي . زيتينج هو وآخرون. أرخايف 2023. [ورقة]
  19. MMToM-QA: الإجابة على أسئلة نظرية العقل المتعددة الوسائط . تشوانيانغ جين وآخرون. أرخايف 2024. [ورقة]
  20. الرسم البياني للأفكار: حل المشكلات المتقنة باستخدام نماذج اللغة الكبيرة . ماسيج بيستا وآخرون. AAAI 2024. [ورقة]
  21. تحقيق أكثر من 97% على GSM8K: الفهم العميق للمشكلات يجعل حاملي ماجستير إدارة الأعمال (LLM) مفكرين مثاليين . تشيهوانغ تشونغ وآخرون. أرخايف 2024. [ورقة] معلقة

2.3 ذاكرة الذكاء الاصطناعي

  1. استرجاع الممر الكثيف للإجابة على أسئلة المجال المفتوح . فلاديمير كاربوخين وآخرون. EMNLP 2020. [ورقة]
  2. توليد الاسترجاع المعزز لمهام البرمجة اللغوية العصبية كثيفة المعرفة . باتريك لويس وآخرون. نيوربيس 2020. [ورقة]
  3. المجال: التدريب المسبق على نموذج اللغة المعزز للاسترجاع . كلفن قوه وآخرون. ICML 2020. [ورقة]
  4. زيادة الاسترجاع تقلل من الهلوسة في المحادثة . كورت شوستر وآخرون. نتائج EMNLP لعام 2021. [ورقة]
  5. تحسين نماذج اللغة من خلال استرجاع تريليونات من الرموز . سيباستيان بورغود وآخرون. ICML 2022. [ورقة]
  6. الوكلاء المولدون: محاكاة تفاعلية للسلوك البشري . جون سونغ بارك وآخرون. UIST 2023. [ورقة]
  7. البنى المعرفية لوكلاء اللغة . ثيودور ر. سومرز وآخرون. TMLR 2024. [ورقة]
  8. فوييجر: وكيل متجسد مفتوح العضوية مع نماذج لغوية كبيرة . جوانزي وانغ وآخرون. أرخايف 2023. [ورقة]
  9. مسح حول آلية الذاكرة للوكلاء المعتمدين على نماذج اللغة الكبيرة . زيو تشانغ وآخرون. أرخايف 2024. [ورقة]
  10. التلخيص بشكل متكرر يمكّن ذاكرة الحوار طويلة المدى في نماذج اللغات الكبيرة . تشينغيو وانغ وآخرون. أرخايف 2023. [ورقة] معلقة

2.4 الذكاء الاصطناعي ما وراء المعرفة

  1. النظر في القدرات الفوقية في إضفاء الطابع الخارجي على المعرفة الضمنية والتعلم التنظيمي . جيوتي تشودري وآخرون. HICSS 2006. [ورقة]
  2. تطور الذكاء الذاتي للشبكات العصبية الخاضعة للإشراف الذاتي من التعليم الذاتي المتطور . نام لو . أرخايف 2019. [ورقة]
  3. جعل نماذج اللغة المدربة مسبقًا أفضل للمتعلمين القلائل . تيانيو جاو وآخرون. دوري أبطال آسيا 2021. [ورقة]
  4. تحديد ومعالجة السمات الشخصية لنماذج اللغة . جراهام كارون وآخرون. أركايف 2022. [ورقة]
  5. Brainish: إضفاء الطابع الرسمي على لغة متعددة الوسائط للذكاء والوعي . بول ليانغ وآخرون. أركايف 2022. [ورقة]
  6. نظرية الوعي من منظور علوم الكمبيوتر النظري: رؤى من آلة تورينج الواعية . لينور بلوم وآخرون. PNAS 2022. [ورقة]
  7. WizardLM: تمكين نماذج اللغات الكبيرة من اتباع التعليمات المعقدة . يمكن شو وآخرون. أرخايف 2023. [ورقة]
  8. التعليم الذاتي: محاذاة نماذج اللغة مع التعليمات التي يتم إنشاؤها ذاتيًا . ييتشونغ وانغ وآخرون. دوري أبطال آسيا 2023. [ورقة]
  9. تجتمع ReST مع ReAct: التحسين الذاتي لوكيل LLM للاستدلال متعدد الخطوات . رينات اكسيتوف وآخرون. أرخايف 2023. [ورقة]
  10. علم النفس الثقافي لنماذج اللغات الكبيرة: هل ChatGPT مفكر شمولي أم تحليلي؟ . تشوانيانغ جين وآخرون. أرخايف 2023. [ورقة]
  11. الوعي في الذكاء الاصطناعي: رؤى من علم الوعي . باتريك بوتلين وآخرون. أرخايف 2023. [ورقة]
  12. إعادة النظر في موثوقية المقاييس النفسية في نماذج اللغات الكبيرة . جين تسي هوانغ وآخرون. أرخايف 2023. [ورقة]
  13. تقييم وتحفيز الشخصية في نماذج اللغة المدربة مسبقًا . قوانغيوان جيانغ وآخرون. نيوربيس 2024. [ورقة]
  14. مستويات الذكاء الاصطناعي العام: تفعيل التقدم على الطريق نحو الذكاء الاصطناعي العام . ميريديث رينجل موريس وآخرون. أرخايف 2024. [ورقة] معلقة
  15. التحقيق في الاستغلال: استراتيجية عامة للتطور الذاتي للوكيل بين المهام . تشنغ تشيان وآخرون. أرخايف 2024. [ورقة] معلقة

3. واجهة AGI: ربط العالم بالذكاء الاصطناعي العام

3.1 واجهات الذكاء الاصطناعي للعالم الرقمي

  1. مبادئ واجهات المستخدم المختلطة . إريك هورفيتز. سيجتشي 1999. [ورقة]
  2. صعود وإمكانات الوكلاء المعتمدين على نماذج اللغة الكبيرة: دراسة استقصائية . زيهينج شي وآخرون. أرخايف 2023. [ورقة]
  3. أداة التعلم مع نماذج الأساس يوجيا تشين وآخرون. أرخايف 2023. [ورقة]
  4. المنشئ: تفكيك الأسباب المجردة والمحددة لنماذج اللغة الكبيرة من خلال إنشاء الأدوات . تشنغ تشيان وآخرون. أرخايف 2023. [ورقة]
  5. AppAgent: وكلاء الوسائط المتعددة كمستخدمي الهواتف الذكية . تشاو يانغ وآخرون. أرخايف 2023. [ورقة]
  6. Mind2Web: نحو وكيل عام للويب . شيانغ دينغ وآخرون. معيار NeurIPS 2023. [ورقة]
  7. ToolQA: مجموعة بيانات للإجابة على أسئلة LLM باستخدام أدوات خارجية . يوشين تشوانغ وآخرون. أرخايف 2023. [ورقة]
  8. العوامل التوليدية: محاكاة تفاعلية للسلوك البشري . جون سونغ بارك وآخرون. أرخايف 2023. [ورقة]
  9. Toolformer: يمكن لنماذج اللغة أن تعلم نفسها كيفية استخدام الأدوات . تيمو شيك وآخرون. أرشيف 2023. [ورقة]
  10. الغوريلا: نموذج لغة كبير متصل بواجهات برمجة التطبيقات الضخمة . شيشير جي باتيل وآخرون. أرخايف 2023. [ورقة]
  11. فوييجر: وكيل متجسد ذو نهاية مفتوحة مع نماذج لغوية كبيرة . جوانزي وانغ وآخرون. أرخايف 2023. [ورقة]
  12. OS-Copilot: نحو وكلاء كمبيوتر متخصصين في مجال التحسين الذاتي . زيونغ وو وآخرون. أرخايف 2024. [ورقة]
  13. WebArena: بيئة ويب واقعية لبناء وكلاء مستقلين . شويان تشو وآخرون. ICLR 2024. [ورقة]
  14. نماذج اللغات الكبيرة كصانعي الأدوات . تيانلي كاي وآخرون. ICLR 2024. [ورقة]

3.2 واجهات الذكاء الاصطناعي للعالم المادي

  1. الدروس المستفادة من تحدي اختيار الأمازون: أربعة جوانب لبناء الأنظمة الآلية كليمنس إيبنر وآخرون. آر إس إس 2016. [ورقة]
  2. الممثل المدرك: محول متعدد المهام للتلاعب الآلي . موهيت شريدهار وآخرون. أركايف 2022. [ورقة]
  3. فيما: معالجة عامة للروبوت باستخدام المطالبات متعددة الوسائط . يونفان جيانغ وآخرون. أركايف 2022. [ورقة]
  4. أفعل ما أستطيع، وليس كما أقول: ترسيخ اللغة في الإمكانيات الروبوتية مايكل آهن وآخرون. أركايف 2022. [ورقة]
  5. Voxposer: خرائط قيمة ثلاثية الأبعاد قابلة للتركيب للتلاعب الآلي بنماذج اللغة . ونلونغ هوانغ وآخرون . أرخايف 2023. [ورقة]
  6. MotionGPT: الحركة البشرية كلغة أجنبية . بياو جيانغ وآخرون. أرخايف 2023. [ورقة]
  7. Rt-2: نماذج الرؤية واللغة والعمل تنقل معرفة الويب إلى التحكم الآلي . أنتوني بروهان وآخرون. أرخايف 2023. [ورقة]
  8. التنقل إلى الأشياء في العالم الحقيقي . ثيوفيل جيرفيت وآخرون. علوم الروبوتات 2023. [ورقة]
  9. Lm-nav: التنقل الآلي مع نماذج كبيرة مدربة مسبقًا للغة والرؤية والعمل . دروف شاه وآخرون. CRL 2023. [ورقة]
  10. Palm-e: نموذج لغة متعدد الوسائط متجسد . داني دريس وآخرون. أرخايف 2023. [ورقة]
  11. LLM-Planner: تخطيط مرتكز على لقطات قليلة للوكلاء المتجسدين بنماذج لغوية كبيرة . تشان هي سونغ وآخرون. ICCV 2023. [ورقة]
  12. Instruct2Act: تعيين تعليمات متعددة الأساليب للإجراءات الروبوتية باستخدام نموذج لغة كبير . سيوان هوانغ وآخرون. أرخايف 2023. [ورقة]
  13. DROID: مجموعة بيانات واسعة النطاق لمعالجة الروبوتات . الكسندر خازاتسكي وآخرون. أرخايف 2024. [ورقة]
  14. BEHAVIOR-1K: معيار الذكاء الاصطناعي المتجسد والمتمحور حول الإنسان مع 1000 نشاط يومي ومحاكاة واقعية . تشنغشو لي وآخرون. أرخايف 2024. [ورقة]

3.3 واجهات الذكاء الاصطناعي للذكاء

3.3.1 واجهات الذكاء الاصطناعي لوكلاء الذكاء الاصطناعي

  1. تدرجات سياسة متعددة الوكلاء مضادة للواقع . جاكوب فورستر وآخرون. AAAI 2018. [ورقة]
  2. إن التفسيرات المستمدة من نماذج اللغة الكبيرة تجعل المفكرين الصغار أفضل . شيانغ لي وآخرون. أركايف 2022. [ورقة]
  3. تقطير التعلم في السياق: نقل القدرة التعليمية القليلة لنماذج اللغة المدربة مسبقًا . يوكون هوانغ وآخرون. أرشيف 2022. [ورقة]
  4. الوكلاء التلقائيون: إطار عمل لإنشاء الوكيل التلقائي . قوانغياو تشن وآخرون. أرخايف 2023. [ورقة]
  5. الاستدلال المطفأ العصبي للاستدلال المتداخل متعدد العوامل . كونال جها وآخرون. أرخايف 2023. [ورقة]
  6. تقطير المعرفة لنماذج اللغات الكبيرة . يوشيان قو وآخرون. أرخايف 2023. [ورقة]
  7. Metagpt: برمجة ميتا لإطار تعاوني متعدد الوكلاء . سيروي هونغ وآخرون. أرخايف 2023. [ورقة]
  8. الوصف والشرح والتخطيط والاختيار: يتيح التخطيط التفاعلي باستخدام النماذج اللغوية الكبيرة للوكلاء متعددي المهام في العالم المفتوح . زيهاو وانغ وآخرون. أرخايف 2023. [ورقة]
  9. Agentverse: تسهيل التعاون بين الوكلاء المتعددين واستكشاف السلوكيات الناشئة لدى الوكلاء . وييز تشن وآخرون. أرخايف 2023. [ورقة]
  10. العواصف الذهنية في المجتمعات العقلية القائمة على اللغة الطبيعية . مينجشن تشو قه وآخرون. أرخايف 2023. [ورقة]
  11. جارفيس-1: وكلاء متعددو المهام في العالم المفتوح مع نماذج لغة متعددة الوسائط معززة بالذاكرة . زيهاو وانغ وآخرون. أرشيف 2023. [ورقة]
  12. التقطير الرمزي لسلسلة الأفكار: يمكن للنماذج الصغيرة أيضًا "التفكير" خطوة بخطوة . ليونيان هارولد لي وآخرون. دوري أبطال آسيا 2023. [ورقة]
  13. التقطير خطوة بخطوة! التفوق على نماذج اللغات الأكبر ببيانات تدريب أقل وأحجام نماذج أصغر . تشنغ يو هسيه وآخرون. أرخايف 2023. [ورقة]
  14. التعميم من الضعيف إلى القوي: استنباط قدرات قوية بإشراف ضعيف . كولين بيرنز وآخرون. أرخايف 2023. [ورقة]
  15. تعزيز نماذج لغة الدردشة من خلال توسيع نطاق المحادثات التعليمية عالية الجودة . نينغ دينغ وآخرون. أرخايف 2023. [ورقة]
  16. GAIA: معيار لمساعدي الذكاء الاصطناعي العام . غريغوار ميالون وآخرون. ICLR 2024. [ورقة]
  17. فوييجر: وكيل متجسد ذو نهاية مفتوحة مع نماذج لغوية كبيرة . جوانزي وانغ وآخرون. أرخايف 2023. [ورقة]
  18. الجمل: وكلاء التواصل لاستكشاف "العقل" لمجتمع نموذج اللغة واسع النطاق . جوهاو لي وآخرون. أرخايف 2023. [ورقة]
  19. تصميم أدوات الترشيد الذاتي مع التقطير متعدد المكافآت . ساهانا رامناث وآخرون. أرخايف 2023. [ورقة]
  20. محاذاة الرؤية الفائقة: تعميم ضعيف إلى قوي لنماذج مؤسسة الرؤية . جيانيوان قوه وآخرون. أرخايف 2024. [ورقة]
  21. WebArena: بيئة ويب واقعية لبناء وكلاء مستقلين . شويان تشو وآخرون. ICLR 2024. [ورقة]
  22. المحاذاة الذاتية القائمة على المبادئ لنماذج اللغة من الصفر مع الحد الأدنى من الإشراف البشري . تشيكينج صن وآخرون. نيوربيس 2024. [ورقة]
  23. Mind2web: نحو وكيل عام للويب . شيانغ دينغ وآخرون. نيوربيس 2024. [ورقة]
  24. نحو التحكم العام في الكمبيوتر: وكيل متعدد الوسائط لاسترداد Red Dead II كدراسة حالة . ويهاو تان وآخرون. أرخايف 2024. [ورقة]

3.3.2 واجهات الذكاء الاصطناعي للإنسان

  1. المبادئ التوجيهية للتفاعل بين الإنسان والذكاء الاصطناعي . سليمة أميرشي وآخرون. تشي 2019. [ورقة]
  2. مبادئ التصميم لتطبيقات الذكاء الاصطناعي التوليدية . جوستين د. وايز وآخرون. مبادرة تشي 2024. [ورقة]
  3. Graphologue: استكشاف استجابات نماذج اللغة الكبيرة باستخدام المخططات التفاعلية . بيلينج جيانغ وآخرون. UIST 2023. [ورقة]
  4. Sensecape: تمكين الاستكشاف متعدد المستويات وصناعة المعنى باستخدام نماذج لغوية كبيرة . سانغو سوه وآخرون. UIST 2023. [ورقة]
  5. دعم عملية صنع المعنى لمخرجات نماذج اللغة الكبيرة على نطاق واسع . كاتي إيلونكا جيرو وآخرون. مبادرة تشي 2024. [ورقة]
  6. Luminate: الجيل المنظم واستكشاف مساحة التصميم باستخدام نماذج لغوية كبيرة للإبداع المشترك بين الإنسان والذكاء الاصطناعي . سانغو سوه وآخرون. تشي 2024. [ورقة]
  7. سلاسل الذكاء الاصطناعي: تفاعل شفاف ويمكن التحكم فيه بين الإنسان والذكاء الاصطناعي من خلال تسلسل مطالبات نماذج اللغة الكبيرة . تونجشوانج وو وآخرون. مبادرة تشي 2022. [ورقة]
  8. الحث: إنشاء تحويل النص إلى صورة من خلال الاستكشاف السريع التفاعلي باستخدام نماذج اللغات الكبيرة . ستيفن براد وآخرون. مبادرة تشي 2023. [ورقة]
  9. ChainForge: مجموعة أدوات مرئية للهندسة السريعة واختبار فرضيات LLM . إيان أراوجو وآخرون. مبادرة تشي 2024. [ورقة]
  10. CoPrompt: دعم المشاركة السريعة والإحالة في برمجة اللغات الطبيعية التعاونية . لي فنغ وآخرون. مبادرة تشي 2024. [ورقة]
  11. إنشاء تعليقات تلقائية على نماذج واجهة المستخدم بالحجم الطبيعي باستخدام نماذج اللغات الكبيرة . بيتونج دوان وآخرون. مبادرة تشي 2024. [ورقة]
  12. المتسكع: دعم الكتابة بالكلام من خلال التلاعب بالجوهر بمساعدة LLM . سوزان لين وآخرون. مبادرة تشي 2024. [ورقة]
  13. دمج نماذج اللغات الكبيرة في الواقع الممتد: الفرص والتحديات المتعلقة بالإدماج والمشاركة والخصوصية . إيفي بوزكير وآخرون. أرخايف 2024. [ورقة]
  14. GenAssist: جعل إنشاء الصور متاحًا . مينا هوه وآخرون. UIST 2023. [ورقة]
  15. "كلما كتبت أقل، كان ذلك أفضل": كيف يمكن لنماذج لغة الذكاء الاصطناعي أن تعزز أو تعيق التواصل لمستخدمي AAC . ستيفاني فالنسيا وآخرون. مبادرة تشي 2023. [ورقة]
  16. إعادة النظر فيما إذا كان التفاعل بين الإنسان والذكاء الاصطناعي صعب التصميم بشكل فريد ولماذا وكيف . تشيان يانغ وآخرون. تشي 2020. [ورقة]

4. أنظمة الذكاء الاصطناعي العام: تنفيذ آلية الذكاء الاصطناعي العام

4.2 بنيات النماذج القابلة للتطوير

  1. الشبكات العصبية الكبيرة بشكل شنيع: طبقة خليط الخبراء ذات البوابات المتناثرة . نعوم شازير وآخرون. أرخايف 2017. [ورقة]
  2. المحولات هي RNNs: محولات الانحدار الذاتي السريعة مع الاهتمام الخطي . أنجيلوس كاثاروبولوس وآخرون. أرخايف 2020. [ورقة]
  3. Longformer: محول الوثيقة الطويلة . عز البلتاجي وآخرون. أرخايف 2020. [ورقة]
  4. LightSeq: مكتبة استدلالية عالية الأداء للمحولات . شياو هوي وانغ وآخرون. أرشيف 2021. [ورقة]
  5. محولات التبديل: التوسع في نماذج المعلمات تريليون مع تناثر بسيط وفعال . وليام فيدوس وآخرون. أركايف 2022. [ورقة]
  6. نمذجة التسلسلات الطويلة بكفاءة باستخدام مساحات الحالة المنظمة . ألبرت جو وآخرون. أركايف 2022. [ورقة]
  7. MegaBlocks: تدريب متفرق فعال مع مزيج من الخبراء . تريفور غيل وآخرون. أركايف 2022. [ورقة]
  8. تدريب نماذج اللغات الكبيرة للحوسبة المثلى . الأردن هوفمان وآخرون. أركايف 2022. [ورقة]
  9. القياس الفعال طويل السياق لنماذج الأساس . وينهان شيونغ وآخرون. أرخايف 2023. [ورقة]
  10. التسلسل الهرمي للضبع: نحو نماذج لغة تلافيفية أكبر . مايكل بولي وآخرون. أرخايف 2023. [ورقة]
  11. ستانفورد ألباكا: نموذج LLaMA يتبع التعليمات . روهان تاوري وآخرون. جيثب 2023. [الكود]
  12. rwkv: إعادة اختراع rnns لعصر المحولات بو بنغ وآخرون. أرخايف 2023. [ورقة]
  13. Deja Vu: التباين السياقي للحصول على ماجستير إدارة أعمال فعال في وقت الاستدلال . زيتشانغ ليو وآخرون. أرخايف 2023. [ورقة]
  14. Flash-LLM: تمكين استدلال نموذج توليدي كبير فعال من حيث التكلفة وعالي الكفاءة مع تناثر غير منظم . هاوجون شيا وآخرون. أرخايف 2023. [ورقة]
  15. ByteTransformer: محول عالي الأداء معزز للمدخلات ذات الطول المتغير . يوجيا تشاي وآخرون. أرخايف 2023. [ورقة]
  16. Tutel: مزيج من الخبراء المتكيفين على نطاق واسع . تشانغهو هوانج وآخرون. أرخايف 2023. [ورقة]
  17. مامبا: نمذجة التسلسل الزمني الخطي مع مساحات الحالة الانتقائية . ألبرت جو، تري داو. أرشيف 2023. [ورقة]
  18. أفراس النهر الجائعة: نحو نمذجة اللغة باستخدام نماذج الفضاء الحكومية . دانيال Y. فو وآخرون. أرشيف 2023. [ورقة]
  19. شبكة Retentive: خليفة للمحول لنماذج اللغات الكبيرة . يووتاو صن وآخرون. آركايف، 2023.
  20. التصميم الميكانيكي وتوسيع نطاق البنى الهجينة . مايكل بولي وآخرون. أرخايف 2024. [ورقة]
  21. إعادة النظر في تقطير المعرفة لنماذج لغة الانحدار الذاتي . تشيهوانغ تشونغ وآخرون. أرخايف 2024. [ورقة]
  22. DB-LLM: ثنائية ثنائية دقيقة للحصول على ماجستير إدارة أعمال فعال . هونغ تشن وآخرون. أرخايف 2024. [ورقة]
  23. تقليل حجم ذاكرة التخزين المؤقت لقيمة مفتاح المحول مع الانتباه عبر الطبقات . وليام براندون وآخرون. أرخايف 2024.[ورقة]
  24. يمكنك التخزين المؤقت مرة واحدة فقط: بنيات وحدة فك التشفير لنماذج اللغة Yutao Sun et al. أرخايف 2024. [ورقة]

4.3 التدريب على نطاق واسع

  1. تدريب الشبكات العميقة بتكلفة الذاكرة الخطية . تيانكي تشن وآخرون. أرخايف 2016. [ورقة]
  2. ما وراء البيانات والتوازي النموذجي للشبكات العصبية العميقة . زيهاو جيا وآخرون. أرخايف 2018. [ورقة]
  3. GPipe: التدريب الفعال للشبكات العصبية العملاقة باستخدام توازي خطوط الأنابيب . يانبينغ هوانغ وآخرون. أرخايف 2019. [ورقة]
  4. تعلم نقل المعلمات بكفاءة في البرمجة اللغوية العصبية . نيل هولسبي وآخرون. ICML 2019. ورقة
  5. Megatron-LM: تدريب نماذج لغوية متعددة المليارات باستخدام نموذج التوازي . محمد الشعيبي وآخرون. أرخايف 2020. [ورقة]
  6. Alpa: أتمتة التوازي بين المشغلين وداخلهم من أجل التعلم العميق الموزع . ليانمين تشنغ وآخرون. أرشيف 2022. [ورقة]
  7. استنتاج DeepSpeed: تمكين الاستدلال الفعال لنماذج المحولات على نطاق غير مسبوق . رضا يزداني أمين آبادي وآخرون. أركايف 2022. [ورقة]
  8. الحفظ دون الإفراط في التجهيز: تحليل ديناميكيات التدريب لنماذج اللغات الكبيرة . كوشال تيرومالا وآخرون. أركايف 2022. [ورقة]
  9. SWARM Parallelism: تدريب النماذج الكبيرة يمكن أن يكون فعالاً في الاتصالات بشكل مدهش . ماكس ريابينين وآخرون. أرشيف 2023. [ورقة]
  10. مسارات التدريب على نماذج اللغة عبر المقاييس . منجزهو شيا وآخرون. أرشيف 2023. [ورقة]
  11. HexGen: الاستدلال التوليدي لنموذج الأساس على البيئة اللامركزية غير المتجانسة . يوهي جيانغ وآخرون. أرخايف 2023. [ورقة]
  12. FusionAI: التدريب اللامركزي ونشر LLMs باستخدام وحدات معالجة الرسومات الضخمة على مستوى المستهلك . تشنهينج تانغ وآخرون. أرخايف 2023. [ورقة]
  13. لفت الانتباه باستخدام محولات Blockwise للسياق شبه اللانهائي . هاو ليو وآخرون. أرخايف 2023. [ورقة]
  14. بيثيا: مجموعة لتحليل نماذج اللغات الكبيرة عبر التدريب والقياس . ستيلا بيدرمان وآخرون. أرخايف 2023. [ورقة]
  15. ضبط نماذج اللغة على الشبكات البطيئة باستخدام ضغط التنشيط مع الضمانات . جوي وانغ وآخرون. أرخايف 2023. [ورقة]
  16. LLaMA-Adapter: الضبط الدقيق الفعال لنماذج اللغة مع الاهتمام الصفري . رينروي تشانغ وآخرون. أرخايف 2023. [ورقة]
  17. QLoRA: الضبط الفعال لـ LLMs الكمية . تيم ديتميرز وآخرون. أرخايف 2023. [ورقة]
  18. إدارة فعالة للذاكرة لنماذج اللغات الكبيرة التي تعمل باستخدام PagedAttention . ووسوك كوون وآخرون. أرخايف 2023. [ورقة]
  19. Infinite-LLM: خدمة LLM فعالة للسياق الطويل مع DistAttention وKVCache الموزعة . بن لين وآخرون. أرخايف 2024. [ورقة]
  20. OLMo: تسريع علم نماذج اللغة . ديرك جروينفيلد وآخرون. أرخايف 2024. [ورقة]
  21. حول التدريب الفعال لنماذج التعلم العميق واسعة النطاق: مراجعة الأدبيات . لي شين وآخرون. أرخايف 2023. [ورقة] معلقة

4.4 تقنيات الاستدلال

  1. FlashAttention: انتباه دقيق سريع وفعال في الذاكرة مع وعي الإدخال والإخراج . تري داو وآخرون. نيوربيس 2022. [ورقة]
  2. المسودة والتحقق: تسريع نموذج اللغة الكبير بدون فقدان من خلال فك التشفير الذاتي . جون تشانغ وآخرون. أرشيف 2023. [ورقة]
  3. نحو تقديم نماذج لغوية كبيرة ومولدة تتسم بالكفاءة: دراسة استقصائية من الخوارزميات إلى الأنظمة . شوبينج مياو وآخرون. أرخايف 2023. [ورقة]
  4. FlashDecoding++: استنتاج أسرع لنموذج اللغة الكبير على وحدات معالجة الرسومات . كه هونغ وآخرون. أرشيف 2023. [ورقة]
  5. الاستدلال السريع من المحولات عبر فك التشفير التأملي . يانيف ليفياثان وآخرون. أرخايف 2023. [ورقة]
  6. خدمة الاستدلال الموزعة بسرعة لنماذج اللغات الكبيرة . بينغيانغ وو وآخرون. أرشيف 2023. [ورقة]
  7. S-LoRA: خدمة الآلاف من محولات LoRA المتزامنة . يينغ شنغ وآخرون. أرشيف 2023. [ورقة]
  8. TensorRT-LLM: مجموعة أدوات TensorRT لتحسين استدلال نموذج اللغة الكبير . نفيديا. جيثب 2023. [الكود]
  9. بونيكا: خدمة LoRA متعددة المستأجرين . ليكون تشن وآخرون. أرخايف 2023. [ورقة]
  10. S$^3: زيادة استخدام وحدة معالجة الرسومات أثناء الاستدلال التوليدي لزيادة الإنتاجية . يونهو جين وآخرون. أرخايف 2023. [ورقة]
  11. خادم استدلال Multi-LoRA الذي يتسع لآلاف من شهادات LLM المضبوطة بدقة . بريديباس. جيثب 2023. [الكود]
  12. فك تشفير البحث الفوري . أبورف ساكسينا. جيثب 2023. [الكود]
  13. محول أسرع . نفيديا. جيثب 2021. [ورقة]
  14. DeepSpeed-FastGen: إنشاء نص عالي الإنتاجية لـ LLMs عبر MII وDeepSpeed-Inference . كونور هولمز وآخرون. أرخايف 2024. [ورقة]
  15. SpecInfer: تسريع نموذج اللغة التوليدي الكبير الذي يخدم الاستدلال التأملي والتحقق القائم على الشجرة . شوبينج مياو وآخرون. أرخايف 2024. [ورقة]
  16. ميدوسا: إطار تسريع استدلال LLM بسيط مع رؤوس فك تشفير متعددة . تيانلي كاي وآخرون. أرخايف 2024. [ورقة]
  17. يخبرك النموذج بما يجب التخلص منه: ضغط ذاكرة التخزين المؤقت KV التكيفي لـ LLMs . سويو قه وآخرون. ICLR 2024. [ورقة]
  18. نماذج لغة التدفق الفعالة مع مصارف الانتباه . جوانجكسوان شياو وآخرون. ICLR 2024. [ورقة]
  19. DeFT: انتباه شجرة الفلاش من خلال وعي IO لاستدلال LLM الفعال القائم على البحث في الشجرة . جينوي ياو وآخرون. أرخايف 2024. [ورقة]
  20. برمجة نماذج اللغات الكبيرة بكفاءة باستخدام SGLang ليانمين تشنغ وآخرون. أرشيف 2023. [ورقة]
  21. السرعة: التنفيذ التأملي لفك التشفير بكفاءة . كولمان هوبر وآخرون. أرشيف 2023. [ورقة]
  22. سيكويا: فك تشفير تخميني قابل للتطوير، وقوي، ومدرك للأجهزة . تشومينغ تشن وآخرون. أرخايف 2024. [ورقة] معلقة

4.5 التكلفة والكفاءة

  1. العرض والبحث والتنبؤ: تأليف نماذج الاسترجاع واللغة للبرمجة اللغوية العصبية كثيفة المعرفة . عمر خطاب وآخرون. أرخايف 2023. [ورقة]
  2. التعلم الآلي الآلي: الأساليب والأنظمة والتحديات . فرانك هوتر وآخرون. شركة سبرينغر للنشر، إنكوربوريتد، 2019.
  3. حساء النماذج: يؤدي حساب متوسط ​​أوزان النماذج المتعددة المضبوطة بدقة إلى تحسين الدقة دون زيادة وقت الاستدلال . ميتشل ورتسمان وآخرون. أركايف 2022. [ورقة]
  4. تصحيح أخطاء البيانات مع أهمية شابلي عبر خطوط أنابيب التعلم الآلي الشاملة . بويان كارلاش وآخرون. أركايف 2022. [ورقة]
  5. تحسين المعلمات الفائقة بتكلفة فعالة لاستدلال إنشاء نماذج اللغة الكبيرة . تشي وانغ وآخرون. أرخايف 2023. [ورقة]
  6. نماذج اللغات الكبيرة هي مهندسون فوريون على المستوى البشري . يونغ تشاو تشو وآخرون. أرخايف 2023. [ورقة]
  7. الدمج عن طريق مطابقة النماذج في مساحات المهام الفرعية . ديريك تام وآخرون. أرخايف 2023. [ورقة]
  8. تحرير النماذج باستخدام المهام الحسابية . غابرييل إلهاركو وآخرون. أرخايف 2023. [ورقة]
  9. PriorBand: التحسين العملي للمعلمات الفائقة في عصر التعلم العميق . نيراتيوي ماليك وآخرون. أرخايف 2023. [ورقة]
  10. دراسة عملية لدمج النماذج المتعددة الوسائط . يي لين سونغ وآخرون. أرخايف 2023. [ورقة]
  11. DSPy: تجميع استدعاءات نموذج اللغة التعريفية في خطوط أنابيب ذاتية التحسين . عمر خطاب وآخرون. أرخايف 2023. [ورقة]
  12. FrugalGPT: كيفية استخدام نماذج اللغات الكبيرة مع تقليل التكلفة وتحسين الأداء . لينججياو تشن وآخرون. أرخايف 2023. [ورقة]
  13. المحولات الترادفية للحصول على درجة الماجستير في الاستدلال بكفاءة . ايشواريا بس وآخرون. أرخايف 2024. [ورقة]
  14. AIOS: نظام تشغيل وكيل LLM . كاي مي وآخرون. أرخايف 2024. [ورقة]
  15. LoraHub: تعميم فعال للمهام عبر تكوين LoRA الديناميكي . تشينغ سونغ هوانغ وآخرون. أرخايف 2024. [ورقة]
  16. AutoML في عصر نماذج اللغات الكبيرة: التحديات الحالية والفرص والمخاطر المستقبلية . الكسندر تورنيدي وآخرون. أرخايف 2024. [ورقة]
  17. دمج الخبراء في واحد: تحسين الكفاءة الحسابية لخليط الخبراء . شوي هو وآخرون. EMNLP 2023. [ورقة] معلقة

4.6 منصات الحوسبة

  1. TVM: مترجم آلي شامل ومتكامل للتعلم العميق . تيانكي تشن وآخرون. أرخايف 2018. [ورقة]
  2. TPU v4: كمبيوتر فائق السرعة قابل لإعادة التكوين بصريًا للتعلم الآلي مع دعم الأجهزة للتضمينات . نورمان ب. جوبي وآخرون. أرشيف 2023. [ورقة]

5. محاذاة الذكاء الاصطناعي العام: ضمان تلبية الذكاء الاصطناعي العام للاحتياجات المختلفة

5.1 توقعات محاذاة AGI

  1. التوافق البشري: الذكاء الاصطناعي ومشكلة التحكم . ستيوارت راسل . فايكنغ، 2019.
  2. الذكاء الاصطناعي والقيم والمواءمة . ايسون غابرييل . العقول والآلات، 2020. [ورقة]
  3. محاذاة وكلاء اللغة . زاكاري كينتون وآخرون. أرخايف، 2021. [ورقة]
  4. مشكلة تعلم القيمة . نيت سواريس . التقرير الفني لمعهد أبحاث الذكاء الآلي [ورقة]
  5. مشاكل ملموسة في سلامة الذكاء الاصطناعي . داريو أمودي وآخرون. أرخايف، 2016. [ورقة]
  6. المخاطر الأخلاقية والاجتماعية للضرر الناجم عن النماذج اللغوية . لورا ويدنجر وآخرون. أركايف، 2021. [ورقة]
  7. حول مخاطر الببغاوات العشوائية: هل يمكن أن تكون النماذج اللغوية كبيرة جدًا؟ . إميلي م. بندر وآخرون. حقيقة 2021. [ورقة]
  8. المشهد العالمي للمبادئ التوجيهية لأخلاقيات الذكاء الاصطناعي . آنا جوبين وآخرون. ذكاء آلة الطبيعة، 2019. [ورقة]
  9. التحيز المستمر ضد المسلمين في النماذج اللغوية الكبيرة . أبو بكر عابد وآخرون. AIES، 2021. [ورقة]
  10. نحو حل مرجعي شامل للنوع الاجتماعي . يانغ تريستا تساو وآخرون. الرباط الصليبي الأمامي، 2020. [ورقة]
  11. التأثير الاجتماعي لمعالجة اللغة الطبيعية . ديرك هوفي وآخرون. دوري أبطال آسيا 2016. [ورقة]
  12. TruthfulQA: قياس كيفية تقليد النماذج للأكاذيب البشرية . ستيفاني لين وآخرون. دوري أبطال آسيا 2022. [ورقة]
  13. مخاطر التطرف في GPT-3 ونماذج اللغة العصبية المتقدمة . كريس ماكجوفي وآخرون. أرخايف، 2020. [ورقة]
  14. شفافية الذكاء الاصطناعي في عصر ماجستير إدارة الأعمال: خارطة طريق بحثية تتمحور حول الإنسان . س: فيرا لياو وآخرون. أرشيف 2023. [ورقة]
  15. ما وراء الخبرة والأدوار: إطار لتوصيف أصحاب المصلحة في التعلم الآلي القابل للتفسير واحتياجاتهم . هاريني سوريش وآخرون. تشي 2021. [ورقة]
  16. تحديد وتخفيف المخاطر الأمنية للذكاء الاصطناعي التوليدي . كلارك باريت وآخرون. أرشيف، 2023. [ورقة]
  17. يمكن لوكلاء LLM اختراق مواقع الويب بشكل مستقل . ريتشارد فانغ وآخرون. أرخايف، 2024. [ورقة]
  18. التزييف العميق وعلم فراسة الدماغ والمراقبة والمزيد! تصنيف مخاطر خصوصية الذكاء الاصطناعي . هاو بينغ لي وآخرون. مبادرة تشي 2024. [ورقة]
  19. الخصوصية في عصر الذكاء الاصطناعي . سوفيك داس وآخرون. اتصالات ACM، 2023. [ورقة]

5.2 تقنيات المحاذاة الحالية

  1. تعلم التلخيص مع ردود الفعل البشرية . نيسان ستينون وآخرون. نيوربيس 2020. [ورقة]
  2. الأفكار الثانية هي الأفضل: تعلم إعادة التوافق مع القيم الإنسانية من خلال تعديلات النص . رويبو ليو وآخرون. نيوربيس 2022. [ورقة]
  3. تدريب النماذج اللغوية على اتباع التعليمات مع ردود الفعل البشرية . لونغ اويانغ وآخرون. نيوربيس 2022. [ورقة]
  4. تقييد الشياطين الداخلية: إزالة السموم الذاتية لنماذج اللغة . كانوين شو وآخرون. AAAI 2022. ورقة
  5. مواءمة نماذج اللغة التوليدية مع القيم الإنسانية . رويبو ليو وآخرون. NAACL 2022. [ورقة]
  6. تدريب مساعد مفيد وغير ضار من خلال التعلم المعزز من ردود الفعل البشرية . يونتاو باي وآخرون. أرشيف 2022. [ورقة]
  7. الذكاء الاصطناعي الدستوري: عدم الضرر من ردود فعل الذكاء الاصطناعي . يونتاو باي وآخرون. أرشيف 2022. [ورقة]
  8. الطوافة: الضبط الدقيق للمكافأة من أجل محاذاة نموذج الأساس التوليدي . هانز دونغ وآخرون. أرشيف 2023. [ورقة]
  9. تحسين نماذج اللغة باستخدام تدرجات السياسة غير المتصلة بالإنترنت القائمة على المزايا . أشوتوش باهيتي وآخرون. أرشيف 2023. [ورقة]
  10. تدريب نماذج اللغة مع ردود الفعل اللغوية على نطاق واسع . جيريمي شورير وآخرون. أرشيف 2023. [ورقة]
  11. نموذج نظري عام لفهم التعلم من التفضيلات البشرية . محمد قيشلاغي عازار وآخرون. أرشيف 2023. [ورقة]
  12. دعونا نتحقق خطوة بخطوة . هنتر لايتمان وآخرون. أرخايف 2023. [ورقة]
  13. المشاكل المفتوحة والقيود الأساسية للتعلم المعزز من ردود الفعل البشرية . ستيفن كاسبر وآخرون. أرخايف 2023. [ورقة]
  14. مواءمة نماذج اللغات الكبيرة من خلال ردود الفعل التركيبية . سونج دونج كيم وآخرون. أرخايف 2023. [ورقة]
  15. RLAIF: توسيع نطاق التعلم المعزز من الملاحظات البشرية باستخدام تعليقات الذكاء الاصطناعي . هاريسون لي وآخرون. أرخايف 2023. [ورقة]
  16. تحسين ترتيب التفضيلات للمواءمة البشرية . فيفان سونغ وآخرون. أرخايف 2023. [ورقة]
  17. تحسين الواقعية والاستدلال في نماذج اللغة من خلال المناقشات المتعددة الأطراف . ييلون دو وآخرون. أرخايف 2023. [ورقة]
  18. محاذاة نموذج اللغة الكبيرة: استطلاع . تيانهاو شين وآخرون. أرشيف 2023. [ورقة]
  19. تحسين التفضيل المباشر: نموذج اللغة الخاص بك هو سرًا نموذج مكافأة . رافائيل رافايلوف وآخرون. نيوربيس 2024. [ورقة]
  20. ليما: الأقل هو الأكثر للمواءمة . تشونتينج تشو وآخرون. نيوربيس 2024. [ورقة]

5.3 كيفية التعامل مع محاذاة AGI

  1. المخاطر الأخلاقية والاجتماعية للضرر من اللغة . ميلور ويدنجر وآخرون. أرشيف 2021. [ورقة]
  2. إجماع بكين الدولي للسلامة في مجال الذكاء الاصطناعي . أكاديمية بكين للذكاء الاصطناعي. 2024. [ورقة]
  3. تفسيرات مضادة دون فتح الصندوق الأسود: القرارات الآلية واللائحة العامة لحماية البيانات . ساندرا واشتر وآخرون. مجلة هارفارد للقانون والتكنولوجيا، 2017. [ورقة]
  4. محاذاة الوكيل القابلة للتطوير عبر نمذجة المكافآت: اتجاه البحث . جان ليك وآخرون. Arxiv 2018. [ورقة]
  5. بناء الأخلاق في الذكاء الاصطناعي . هان يو وآخرون. ijcai 2018. ورقة
  6. متوافق مع الإنسان: الذكاء الاصطناعي ومشكلة السيطرة . ستيوارت راسل . فايكنغ ، 2019. [ورقة]
  7. الذكاء الاصطناعي المسؤول: كيفية تطوير واستخدام الذكاء الاصطناعي بطريقة مسؤولة . فرجينيا ديجنيوم . Springer Nature ، 2019. [ورقة]
  8. أخلاقيات الماكينة: تصميم وحكم الذكاء الاصطناعي الأخلاقي والأنظمة المستقلة . آلان ف. وينفيلد وآخرون. وقائع IEEE ، 2019. [ورقة]
  9. مشاكل مفتوحة في منظمة العفو الدولية التعاونية . آلان دافو وآخرون. Arxiv 2020. [ورقة]
  10. الذكاء الاصطناعي والقيم والمحاذاة . إيسون غابرييل . العقول والآلات ، 2020. [ورقة]
  11. منظمة العفو الدولية التعاونية: يجب أن تتعلم الآلات إيجاد أرضية مشتركة . آلان دافو وآخرون. الطبيعة 2021. [ورقة]
  12. الأخلاق الآلية ، والتقدم الأخلاقي ، والكوارث البيئية التي تلوح في الأفق . بن كينوارد وآخرون. Arxiv 2021. [ورقة]
  13. تحليل مخاطر X لأبحاث الذكاء الاصطناعي . Dan Hendrycks et al. Arxiv 2022. [ورقة]
  14. تحلل المهمة للإشراف القابل للتطوير (التقطير agisf) . Charbel-Raphaël Segerie. مدونة 2023. [بلوق]
  15. تعميم ضعيف إلى قوي: استنباط قدرات قوية مع ضعف الإشراف . كولين بيرنز ، وآخرون. Arxiv 2023. [ورقة]
  16. من آرائهم تعكس نماذج اللغة؟ . شيباني سانتوركار وآخرون. ICML 2023. [ورقة]
  17. محاذاة الذكاء الاصطناعي: مسح شامل . جياجينغ جي وآخرون. Arxiv 2023. [ورقة]
  18. المشاكل المفتوحة والقيود الأساسية لتعزيز التعزيز من ردود الفعل البشرية . ستيفن كاسبر وآخرون. Arxiv 2023. [ورقة]
  19. تعويذة فتح على أساس الأساس: إعادة التفكير في التوافق عبر التعلم داخل السياق . بيل يوشن لين وآخرون. Arxiv 2023. [ورقة]
  20. محاذاة نموذج اللغة الكبيرة: مسح . Tianhao Shen et al. Arxiv 2023. [ورقة]

6.

6.1 مستويات الذكاء الاصطناعي: رسم تطور الذكاء الاصطناعي

  1. شرارات الذكاء العام الاصطناعي: التجارب المبكرة مع GPT-4 . Sébastien Bubeck et al. Arxiv 2023. [ورقة]
  2. مستويات AGI: تفعيل التقدم على الطريق إلى AGI . ميريديث رينيل موريس وآخرون. Arxiv 2024. [ورقة]

6.2 تقييم AGI

6.2.1 توقعات تقييم AGI

  1. نحو الإبلاغ المنهجي للطاقة وآثار أقدام الكربون للتعلم الآلي . بيتر هندرسون وآخرون. مجلة أبحاث التعلم الآلي ، 2020.
  2. منظمة العفو الدولية الخضراء . روي شوارتز الاتصالات من ACM ، 2020.
  3. تقييم نماذج اللغة الكبيرة المدربة على الكود . مارك تشن وآخرون. لا مجلة ، 2021.
  4. توثيق كبير WebText Corpora: دراسة حالة على مجموعة Clossal Clean Clean . جيسي دودج وآخرون. Arxiv 2021. [ورقة]
  5. على الفرص ومخاطر نماذج الأساس . ريشي بوماساني وآخرون. Arxiv 2021. [ورقة]
  6. تعميم منهجي يشبه الإنسان من خلال شبكة عصبية للتعلم التلوي . Brenden M Lake et al. الطبيعة ، 2023. [ورقة]
  7. يقوم Superbench بقياس LLMs في المفتوحة: تحليل نقدي . فريق Superbench. Arxiv 2023.
  8. التقييم الشامل لنماذج اللغة . بيرسي ليانغ وآخرون. Arxiv 2023. [ورقة]

6.2.2 التقييمات الحالية وقيودها

  1. فرقة: 100،000+ سؤال لفهم الجهاز للنص . Pranav Rajpurkar et al. Arxiv 2016. [ورقة]
  2. TriviaQa: مجموعة بيانات تحدي تحدي خاضعة للإشراف على نطاق واسع لفهم القراءة . ماندار جوشي وآخرون. Arxiv 2017. [ورقة]
  3. Coqa: تحدي سؤال محادثة . سيفا ريدي وآخرون. معاملات جمعية اللغويات الحسابية ، 2019.
  4. تقييم دقيق وموثوق وسريع . ويلاند بريندل وآخرون. Neupips 2019. [ورقة]
  5. قياس فهم لغة متعددة المهام الضخمة . Dan Hendrycks et al. Arxiv 2020. [ورقة]
  6. تقييم النموذج المتانة والاستقرار لتحويل مجموعة البيانات . Adarsh ​​Subbaswamy et al. قدم في المؤتمر الدولي للذكاء الاصطناعي والإحصاء ، 2021. ورقة
  7. MMDialog: مجموعة بيانات حوار متعددة النطاق متعددة المناطق نحو محادثة متعددة الوسائط مفتوحة المجال . Jiazhan Feng et al. Arxiv 2022. [ورقة]
  8. البنية الذاتية: محاذاة نماذج اللغة مع تعليمات تولد ذاتيا . Yizhong Wang et al. Arxiv 2022. [ورقة]
  9. Super-naturalinstructions: التعميم عبر التعليمات التعريفية على 1600+ مهمة NLP . Yizhong Wang et al. Arxiv 2022. [ورقة]
  10. التحليل الشامل للهلوسة في GPT-4V (ISION): تحديات التحيز والتدخل . Chenhang Cui et al. Arxiv 2023. [ورقة]
  11. تقييم المتانة على تعليمات نماذج اللغة الكبيرة . Yuansheng ni et al. Arxiv 2023. [ورقة]
  12. غايا: معيار لمساعدي الذكاء الاصطناعى العامين . Grégoire Mialon et al. Arxiv 2023. [ورقة]
  13. إطار تقييم شامل لقوة النموذج العميق . جون قوه وآخرون. التعرف على الأنماط ، 2023. [ورقة]
  14. Agieval: معيار يركز على الإنسان لتقييم نماذج الأساس . وانجون تشونغ وآخرون. Arxiv 2023. [ورقة]
  15. MMMU: معايير الفهم متعدد الوسائط الضخمة متعددة الوسائط ومعيار التفكير للخبراء AGI . شيانغ وآخرون. Arxiv 2023. [ورقة]
  16. تقييم إبداع نموذج اللغة الكبيرة من منظور أدبي . موراي شاناهان وآخرون. Arxiv 2023. [ورقة]
  17. AgentBench: تقييم LLM . شياو ليو وآخرون. ICLR 2024. [ورقة]
  18. تقييم وفهم الإبداع في نماذج اللغة الكبيرة . Yunpu Zhao et al. Arxiv 2024. [ورقة]
  19. الحكم LLM-AS-A-DE-DUCE مع MT-BENCEL و Chatbot Arena . Lianmin Zheng et al. Neups 2024. [ورقة]

6.5 اعتبارات أخرى خلال تنمية AGI

  1. التحديات التأسيسية في ضمان المحاذاة وسلامة نماذج اللغة الكبيرة . عثمان أنور وآخرون. Arxiv 2024. [ورقة]
  2. أفضل الممارسات والدروس المستفادة على البيانات الاصطناعية لنماذج اللغة . رويبو ليو وآخرون. Arxiv 2024. [ورقة]
  3. النهوض بالذكاء الاجتماعي في وكلاء الذكاء الاصطناعي: التحديات الفنية والأسئلة المفتوحة . لينا ماثور وآخرون. Arxiv 2024. [ورقة]

7. دراسات الحالة

7.1 منظمة العفو الدولية لاكتشاف العلوم والبحث

  1. التنبؤ ببنية البروتين دقيقة للغاية مع alphafold . الطائر ، جون وآخرون. الطبيعة ، 2021. [ورقة]
  2. الاكتشاف العلمي الآلي: من اكتشاف المعادلة إلى أنظمة الاكتشاف المستقل . كرامر ، ستيفان وآخرون. Arxiv 2023. [ورقة]
  3. التنبؤ بتأثيرات المتغيرات غير المشفرة مع نموذج التسلسل القائم على التعلم العميق . تشو ، جيان وآخرون. طرق الطبيعة ، 2015.
  4. تعلم رؤية الفيزياء عبر إزالة التشكيل البصري . وو ، جياجون وآخرون. Neups 2017. [ورقة]
  5. التعلم العميق للكشف عن موجة الجاذبية في الوقت الفعلي وتقدير المعلمات: النتائج مع بيانات LIGO المتقدمة . جورج ، دانيال وآخرون. رسائل الفيزياء ب ، 2018. [ورقة]
  6. تحديد انتقالات الطور الكمومي مع الشبكات العصبية العدائية . REM ، Bart-Jan et al. فيزياء الطبيعة ، 2019. [ورقة]
  7. Openagi: عندما تلتقي LLM خبراء المجال . GE ، Yingqiang et al. Neups ، 2023. [ورقة]
  8. من المادة المظلمة إلى المجرات مع الشبكات التلافيفية . Zhang ، Xinyue et al. Arxiv 2019. [ورقة]
  9. التحسين العالمي للديناميات الكمومية مع الاستكشاف العميق ألفازيرو . Dalgaard ، Mogens et al. معلومات الكم NPJ ، 2020. [ورقة]
  10. تعلم استغلال الهيكل الزمني لمعالجة اللغة الطبية الحيوية . Shruthi Bannur et al. CVPR ، 2023. [ورقة]
  11. Mathbert: نموذج لغة تم تدريبه مسبقًا لمهام NLP العامة في تعليم الرياضيات . شين ، جيا تريسي وآخرون. Arxiv 2021. [ورقة]
  12. التحسين الجزيئي باستخدام نماذج اللغة . Maziarz ، Krzysztof et al. Arxiv 2022. [ورقة]
  13. Retrotrae: ترجمة retrosynthetic للبيئات الذرية مع المحول . Ucak ، Umit Volkan et al. لا مجلة ، 2022. [ورقة]
  14. الباحث: الأكبر ليس أفضل دائمًا . هونغ ، زهي وآخرون. Arxiv 2022. [ورقة]
  15. Galactica: نموذج لغة كبير للعلوم . تايلور ، روس وآخرون. Arxiv 2022. [ورقة]
  16. بيان الرياضيات الرسمي تعلم المناهج الدراسية . بولو ، ستانيسلاس وآخرون. Arxiv 2022. [ورقة]
  17. إثبات القطع الأثرية المشترك للنظرية التي تثبت مع نماذج اللغة . جيسي مايكل هان وآخرون. ICLR 2022. [ورقة]
  18. حل مشاكل التفكير الكمي مع نماذج اللغة . Lewkowycz ، Aitor et al. Arxiv 2022. [ورقة]
  19. Biogpt: محول تدريبي قبل التدريب لتوليد النص الطبيب الحيوي والتعدين . لوو ، رينقيان وآخرون. إحاطات في المعلوماتية الحيوية ، 2022.
  20. Chemcrow: زيادة نماذج اللغة الكبيرة مع أدوات الكيمياء . Bran ، Andres M et al. Arxiv 2023. [ورقة]
  21. البحوث الكيميائية المستقلة مع نماذج اللغة الكبيرة . Boiko ، Daniil A et al. الطبيعة ، 2023. [ورقة]
  22. إمكانات البحث العلمي المستقل الناشئة لنماذج اللغة الكبيرة . Daniil A. Boiko et al. Arxiv 2023. [ورقة]
  23. MathPrompter: التفكير الرياضي باستخدام نماذج لغة كبيرة . إيماني ، شيما ، وآخرون. تم تقديمه في وقائع الاجتماع السنوي الـ 61 لجمعية اللغويات الحاسوبية (المجلد 5: مسار الصناعة) ، 2023. [ورقة]
  24. تعلم استغلال الهيكل الزمني لمعالجة اللغة الطبية الحيوية . Shruthi Bannur et al. Arxiv 2023. [ورقة]
  25. LLMS للعلوم: استخدام لتوليد الكود وتحليل البيانات . نجار ، محمد وآخرون. Arxiv 2023. [ورقة]
  26. Medagents: نماذج لغة كبيرة كمتعاونين للتفكير الطبي الصفري . شيانجرو تانغ وآخرون. Arxiv 2024. [ورقة]

7.2 الذكاء البصري التوليدي

  1. التعلم العميق غير الخاضع للإشراف باستخدام الديناميكا الحرارية nonequilibrium . Jascha Sohl-Dickstein et al. ICML 2015. [ورقة]
  2. النمذجة التوليدية عن طريق تقدير التدرجات لتوزيع البيانات . يانغ سونج وآخرون. Neupips 2019. [ورقة]
  3. نماذج الانتشار الاحتمالية . جوناثان هو وآخرون. Neups 2020. [ورقة]
  4. النمذجة التوليدية القائمة على النتيجة من خلال المعادلات التفاضلية العشوائية . يانغ سونج وآخرون. ICLR 2021. [ورقة]
  5. الانزلاق: نحو توليد الصور الواقعية والتحرير مع نماذج الانتشار الموجهة النص . أليكس نيكول وآخرون. ICML 2022. [ورقة]
  6. SDEDIT: تخليق الصور الموجهة والتحرير مع المعادلات التفاضلية العشوائية . تشنلين منغ وآخرون. ICLR 2022. [ورقة]
  7. نماذج نشر الفيديو . جوناثان هو وآخرون. Neups 2022. [ورقة]
  8. توليد الصور الهرمي للشروط مع مقطع . Aditya Ramesh et al. Arxiv 2022. [ورقة]
  9. إرشادات الانتشار الخالية من المصنف . جوناثان هو وآخرون. Arxiv 2022. [ورقة]
  10. لوحة: نماذج نشر صورة إلى صورة . شيتوان ساهاريا وآخرون. Siggraph 2022. [ورقة]
  11. تخليق الصور عالي الدقة مع نماذج الانتشار الكامن . روبن رومباخ وآخرون. CVPR 2022. [ورقة]
  12. إضافة عنصر تحكم مشروط إلى نماذج نشر النص إلى صورة . Lvmin Zhang et al. ICCV 2023. [ورقة]
  13. نماذج الانتشار القابلة للتطوير مع المحولات . وليام بيبلز وآخرون. ICCV 2023. [ورقة]
  14. يتيح النمذجة المتسلسلة التعلم القابل للتطوير لنماذج الرؤية الكبيرة . Yutong Bai et al. Arxiv 2023. [ورقة]
  15. نماذج توليد الفيديو كمحاكاة للعالم . تيم بروكس وآخرون. Openai 2024. [ورقة]

7.3 نماذج العالم

  1. تعلم رؤية الفيزياء عبر إزالة التشكيل البصري . وو ، جياجون وآخرون. Neups 2017. [ورقة]
  2. تعلم التعزيز القائم على النموذج الآمن مع ضمانات الاستقرار . Berkenkamp ، Felix et al. Neups ، 2017. [ورقة]
  3. Simnet: تعلم نماذج العالم القائمة على المحاكاة للتفكير المادي . فيكول ، بول ، ميناباس وآخرون. ICLR 2022. [ورقة]
  4. Dreamix: Dreamfusion عبر خلط الزماني المكاني التكراري . Khalifa ، Anji et al. Arxiv 2022. [ورقة]
  5. تجسيد الأغراض العامة وكيل الذكاء الاصطناعى عن طريق التعلم التعزيز مع المعرفة على نطاق الإنترنت . Guo ، Xiaoxiao et al. Arxiv 2022. [ورقة]
  6. VQGAN-CLIP: فتح صور المجال والتحرير مع إرشادات اللغة الطبيعية . كروسون ، كاثرين. Arxiv 2022. [ورقة]
  7. طريق نحو الذكاء الآلي الذاتي . Lecun Yann OpenReview ، 2022. [Paper]
  8. نماذج اللغة تلبي نماذج العالم: تجارب تجسد تعزز نماذج اللغة . جيانان شيانغ وآخرون. Neups 2023. [ورقة]
  9. إتقان المجالات المتنوعة من خلال النماذج العالمية . هافنر ، دانيجار وآخرون. Arxiv 2023. [ورقة]
  10. اكتساب نماذج متعددة الوسائط عبر الاسترجاع . ريد ، سكوت وآخرون. Arxiv 2023. [ورقة]
  11. نماذج اللغة كمخططين صفري: استخراج المعرفة القابلة للتنفيذ للعوامل المجسدة . دوهان ، ديفيد وآخرون. Arxiv 2023. [ورقة]
  12. نماذج اللغة ، نماذج الوكلاء ، ونماذج العالم: قانون التفكير والتخطيط للآلة . Zhiting Hu et al. Arxiv 2023. [ورقة]
  13. التفكير مع نموذج اللغة هو التخطيط مع النموذج العالمي . هاو ، شيبو وآخرون. Arxiv 2023. [ورقة]
  14. Metasim: تعلم إنشاء مجموعات بيانات اصطناعية . Zhang ، Yuxuan et al. Arxiv 2023. [ورقة]
  15. النموذج العالمي على مليون فيديو واللغة مع Ringattention . هاو ليو وآخرون. Arxiv 2024. [ورقة]
  16. جيني: البيئات التفاعلية التوليدية . جيك بروس وآخرون. Arxiv 2024. [ورقة]

7.4 اللامركزية LLM

  1. بتلات: الاستدلال التعاوني وضبط النماذج الكبيرة . ألكساندر بورزونوف وآخرون. Arxiv 2022. [ورقة]
  2. blockchain للتعلم العميق: المراجعة والتحديات المفتوحة . الأوقات الاقتصادية. الحوسبة العنقودية 2021. [ورقة]
  3. Flexgen: الاستدلال التوليدي عالي الإنتاجية لنماذج اللغة الكبيرة مع وحدة معالجة الرسومات الواحدة . يينغ شينغ وآخرون. Arxiv 2023. [ورقة]
  4. التدريب اللامركزي لنماذج الأساس في البيئات غير المتجانسة . بينهانغ يوان وآخرون. Arxiv 2023. [ورقة]

7.5 منظمة العفو الدولية للترميز

  1. إطار لتقييم نماذج توليد الكود . بن ألال وآخرون. جيثب ، 2023. [رمز]
  2. تقييم نماذج اللغة الكبيرة المدربة على الكود . مارك تشن وآخرون. Arxiv 2021. [ورقة]
  3. توليف البرنامج مع نماذج اللغة الكبيرة . يعقوب أوستن وآخرون. Arxiv 2021. [ورقة]
  4. توليد الكود على مستوى المنافسة مع Alphacode . يوجيا لي وآخرون. العلم ، 2022. [ورقة]
  5. تدريب فعال لنماذج اللغة لملء الوسط . محمد بافاريان وآخرون. Arxiv 2022. [ورقة]
  6. Santacoder: لا تصل إلى النجوم! . Loubna Ben Allal et al. العقل ، 2023. [ورقة]
  7. Starcoder: قد يكون المصدر معك! . ريموند لي وآخرون. Arxiv 2023. [ورقة]
  8. نماذج لغة كبيرة لتحسين المترجم . كريس كامينز وآخرون. Arxiv 2023. [ورقة]
  9. الكتب المدرسية هي كل ما تحتاجه . Suriya Gunasekar et al. Arxiv 2023. [ورقة]
  10. Intercode: توحيد وقياس الترميز التفاعلي مع ملاحظات التنفيذ . جون يانغ وآخرون. Arxiv 2023. [ورقة]
  11. التعلم التعزيز من ردود الفعل التلقائية لتوليد اختبار الوحدة عالي الجودة . بنيامين ستينهوك وآخرون. Arxiv 2023. [ورقة]
  12. incoder: نموذج توليدي لـ Code infilling and synthesis . دانييل فريد وآخرون. Arxiv 2023. [ورقة]
  13. تحسين رمز C Decompiled مع نماذج لغة كبيرة . واي كين وونغ وآخرون. Arxiv 2023. [ورقة]
  14. Swe-Bench: Can Glanation Models حل العالم الحقيقي
يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل