DD3412 chain of verification reproduction

DD3412 سلسلة التحفيز

Quickstart

أولاً ، قم بإنشاء بيئة افتراضية Python وتثبيت المتطلبات:

conda create -n CoVe python=3.10
conda activate CoVe

لتثبيت المتطلبات:

pip install -r requirements.txt

بعد ذلك ، قم بإنشاء ملف يسمى .configuration لتخزين البيانات السرية ، مثل Openai و Huggingface API مفاتيح. يجب أن يبدو هذا الملف مثل:

 OPENAI_API_KEY=sk-abc.....
HF_API_KEY=hf_abc.......

تشغيل التجارب

تشغيل مع نص Bash

لتنفيذ Cove ، استخدم الأمر أدناه:

 >> bash scripts/wikidata.sh # for wikidata task, and Llama2-70b model

• النماذج المتاحة هي: llama2 ، llama2_70b ، llama-65b ، gpt3
• الإعدادات المتاحة هي: joint ، two_step ، factored
• المهام المتاحة هي: wikidata ، wikidata_category ، multispanqa

؟ تشغيل مع Apptainer

يمكنك تشغيل التجارب باستخدام Appainer مع الخطوات التالية:

1. قم بإنشاء حاوية Apptainer عن طريق استخدام ملف my_apptainer.def المقدم:

 # Build the Apptainer container
apptainer build my_container.sif my_apptainer.def

2. قم بتشغيل تجارب Cove داخل حاوية Apptainer من خلال تنفيذ apptainer_job :

SBATCH apptainer_job.sh

بدلاً من ذلك ، يمكنك استخدام الأمر التالي:

apptainer exec --nv my_apptainer.sif ./scripts/wikidata.sh # for Wikidata task and Llama2-70b