Reversal of Thought

Изменение мышления: улучшение больших языковых моделей с помощью предпочтений, подведя под руководством обратного рассуждения, разминка рассуждения

Гниль повышает точность и эффективность рассуждения при минимизации вычислительных затрат, используя обратные рассуждения с предпочтением и управляющего когнитивными предпочтениями для оптимального изучения рассуждений LLM с помощью когнитивных предпочтений.

Модель архитектура

Демо для привилегированных обратных рассуждений

??? reversal_demo.py

 from utils . llm_utils import *
from utils . prompt import *
pipeline = Pipeline ( model_id = model_id , base_url = base_url , api_key = api_key , prob = True )
demos = "Input:... Output:..." #Suggest 2-shot Demos
llm_taste = rot_pipeline ( pipeline , reversal_of_thought , demos = demos , warmup = 5 )

Для чего можно использовать reversal_demo.py?

• Увеличение подготовки к LLM для решений задач
  Уточняет подсказки для соответствия стратегиям, полученным LLM, оптимизируя эффективность решения задач.

• Потенциал для создания различных наборов данных QA
  Генерирует различные пары вопросов-ответов для улучшения разнообразия наборов данных.

Цитирование

Если вы найдете нашу работу полезной для вашего исследования, пожалуйста, упоминайте нашу статью следующим образом:

 @article { yuan2024reversal ,
  title = { Reversal of Thought: Enhancing Large Language Models with Preference-Guided Reverse Reasoning Warm-up } ,
  author = { Yuan, Jiahao and Du, Dehui and Zhang, Hao and Di, Zixiang and Naseem, Usman } ,
  journal = { arXiv preprint arXiv:2410.12323 } ,
  year = { 2024 }
}