الصفحة الرئيسية>المتعلقة بالبرمجة>شفرة المصدر الأخرى
تنزيل

الصقل الذاتي: الصقل التكراري مع ردود الفعل الذاتية

باستخدام Self-Refine، يمكن لـ LLMs إنشاء تعليقات حول عملهم واستخدامها لتحسين المخرجات وتكرار هذه العملية.

الموقع | ورق

جدول المحتويات

  • التحديثات
  • يثبت
  • الشروع في العمل مع توليد الاختصارات
  • توليد استجابة الحوار
  • تحسين إمكانية قراءة التعليمات البرمجية
  • كومونجين
  • جي إس إم-8ك
  • عواء
  • فطيرة
  • الإعداد العام
  • الاقتباس

التحديثات

  • نوفمبر 2023 : تمت إضافة الأمثلة المرئية والتحسينات الذاتية. استخدم GPT4-V لكتابة كود tikz للمخططات وتحسينها بشكل متكرر.

مثال على نظرية ستوكس
مثال على الصقل الذاتي البصري 1

مثال يونيكورن
مثال الصقل الذاتي البصري 2

يثبت

  • نحن نستخدم موجه lib للاستعلام عن LLMs. يمكنك تثبيت prompt-lib عن طريق تشغيل الأوامر التالية: 
git clone https://github.com/reasoning-machines/prompt-lib
pip install prompt-lib/

اعتمادًا على إعداداتك الافتراضية، قد ترغب في استخدام ما يلي لتعيين PYTHONPATH: 

 export PYTHONPATH= " .:../:.:src:../:../../:.:prompt-lib "

الشروع في العمل مع توليد الاختصارات 

python -u src/acronym/run.py " Using language models of code for few-shot commonsense "
  • وبما أننا أخذنا عينة من درجة الحرارة 0.7، فستحصل على نتائج مختلفة في كل مرة تقوم فيها بتشغيل الأمر أعلاه. 
 0 INIT > Using language models of code for few - shot commonsense

0 GEN > CLoCK
0 SCORES > * Ease of pronunciation : CLoCK is pronounced " clah-k " . This is easy acronym to pronounce . 4 / 5 
* Ease of spelling : CLoCK is easy to spell . 5 / 5 
* Relation to title : CLoCK stands for " Code Language Models of Commonsense Knowledge " which is related to the title . 5 / 5 
* Positive connotation : CLoCK is a positive acronym . It implies accuracy and efficiency . 5 / 5 
* Well - known : CLoCK is not a well - known acronym . 2 / 5

* Total score : 21 / 25

1 GEN > CMNSC
1 SCORES > * Ease of pronunciation : CMNSC is pronounced " see-min-es-see " . This is a difficult acronym to pronounce . 1 / 5 
* Ease of spelling : CMNSC is difficult to spell . 1 / 5 
* Relation to title : CMNSC stands for " Commonsense " which is related to the title . 4 / 5 
* Positive connotation : CMNSC is a neutral acronym . 3 / 5 
* Well - known : CMNSC is not a well - known acronym . 1 / 5

* Total score : 10 / 25

2 GEN > COMMIT
2 SCORES > * Ease of pronunciation : COMMIT is pronounced " com-mit " . This is an easy acronym to pronounce . 4 / 5
* Ease of spelling : COMMIT is easy to spell . 5 / 5
* Relation to title : COMMIT stands for " Commonsense Model of Code for Intuitive Training " which is related to the title . 5 / 5 
* Positive connotation : COMMIT is a positive acronym . It implies commitment and dedication . 5 / 5
* Well - known : COMMIT is not a well - known acronym . 2 / 5

* Total score : 21 / 25

توليد استجابة الحوار 

PYTHONPATH= " . " python -u src/responsegen/run.py --output < OUTPUT FILE > --size < DATA SIZE >
  • استخدم الحجم 0 للتشغيل على كافة مثيلات الاختبار

تحسين إمكانية قراءة التعليمات البرمجية

  • ملاحظة: يرجى فك ضغط "data/tasks/codeclean/code_readability/codenet-python-train.jsonl.zip" قبل تشغيل الأوامر التالية!
  • جري: 
PYTHONPATH= " . " python -u src/readability/readability.py --output < OUTPUT FILE >
  • تقييم: 
PYTHONPATH= " . " python -u src/readability/{count_comment | count_function | count_meaningful_var}.py --file < INPUT FILE >

كومونجين

  • نحن نستخدم نسخة صلبة من commongen. البيانات موجودة في data/prompt/commongen . يمكنك تنزيل البيانات عن طريق تشغيل الأوامر التالية: 
python -u src/commongen/run.py cmd stair bubble team dryer puppy aliens cat

جي إس إم-8ك

  • لتشغيل مهمة GSM-8k: 
python -u src/gsm/run.py

  • سيتم حفظ المخرجات في data/tasks/gsm/gsm_outputs.jsonl

  • لتقييم المخرجات: 

python src/gsm/gsm_selfref_eval.py --path  data/tasks/gsm/gsm_outputs.jsonl
  • سيقوم البرنامج النصي للتقييم أيضًا بإنشاء تقرير ( data/tasks/gsm/gsm_outputs.jsonl.reports.txt ) يعرض أمثلة للأجيال الخاطئة، والتعليقات، وأجيال التعليقات المكررة.

عواء

  • لتشغيل مهمة Yelp: 
python -u src/sentiment_transfer_sr/run.py data/tasks/yelp/yelp-extreme.jso
nl 4 none
  • سيتم حفظ المخرجات في data/tasks/yelp/

فطيرة

  • لتشغيل مهمة PIE: 
python -u src/pie/run.py --slow_programs_file data/tasks/pie/codenet-python-test-1k.jsonl --max_attempts 4 --outfile data/tasks/pie/output --feedback_type rich
  • للحصول على تفاصيل التقييم، يرجى الاطلاع على docs/pie_eval.md.

الإعداد العام

  • تحتوي كل مهمة على ثلاثة أنواع مختلفة من المطالبات:

  1. Init : يستخدم لتهيئة المهمة هذه هي الطريقة التي يتم بها إنشاء الإخراج الأولي.

  2. Feedback : تستخدم للحصول على تعليقات من النموذج على النتائج المتوسطة.

  3. Iterate : يستخدم للحصول على التكرار التالي من النموذج، بناءً على التعليقات.

  • تحتوي كل مهمة على run.py الذي يقوم بتهيئة المطالبات وتشغيل المهمة.

  • على سبيل المثال، المطالبات لـ commongen هي كما يلي:

  1. موجه البدء: 
python src/commongen/task_init.py
  1. موجه ردود الفعل: 
 python src/commongen/feedback.py
  1. تكرار المطالبة: 
python src/commongen/task_iterate.py

يمكنك أيضًا رؤية هذه المطالبات على موقعنا.

الاقتباس 

@misc{madaan2023selfrefine,
      title = {Self - Refine: Iterative Refinement with Self - Feedback}, 
      author = {Aman Madaan and Niket Tandon and Prakhar Gupta and Skyler Hallinan and Luyu Gao and Sarah Wiegreffe and Uri Alon and Nouha Dziri and Shrimai Prabhumoye and Yiming Yang and Sean Welleck and Bodhisattwa Prasad Majumder and Shashank Gupta and Amir Yazdanbakhsh and Peter Clark},
      year = { 2023 },
      eprint = { 2303 . 17651 },
      archivePrefix = {arXiv},
      primaryClass = { cs . CL }
}
 مخطط انسيابي LR
    المولد -->|التهيئة| غير مكرر
    Critic_1 --> Critique_fb
    ... --> Critique_fb
    Critic_k --> Critique_fb
    Critique_fb --> غير مكرر{الإخراج للتنقيح}
    غير مكرر --> مصفى
    التصفية --> |R: y_t, x, fb| Refined_Output{Refined Output}
    Refined_Output --> |لم يتم استيفاء معايير الإيقاف| غير مكرر
تحميل
يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل