Evoke

Evoke: Вызывая навыки критического мышления в LLMS через приглашение рецензента-автора-автора

Project Page | arxiv

Большие языковые модели (LLM) добились впечатляющего прогресса в обработке естественного языка. Эти модели полагаются на правильные человеческие инструкции (или подсказки) для создания подходящих ответов. Однако потенциал LLM не полностью используется с помощью обычно используемых методов подсказки:

1. Многие алгоритмы человека в петле используют специальные процедуры для быстрого выбора;
2. В то время как подходы генерации Auto быстрого приглашения по сути ищут все возможные подсказки случайным образом и неэффективно.

Мы предлагаем Evoke, автоматическую структуру уточнения . В Evoke есть два экземпляра одного и того же LLM: a) один как рецензент (LLM-Reviewer), он забивает текущую подсказку; б) другой как автор (LLM-Author), он редактирует подсказку, рассматривая историю редактирования и отзыв рецензента.

Такая петля обратной связи с рецензентом автора гарантирует, что подсказка уточняется в каждой итерации. Мы дополнительно объединяем подход выбора данных для выздоровления, где только жесткие образцы подвергаются воздействию LLM. Жесткие образцы более важны, потому что LLM может развивать более глубокое понимание задач из них, в то время как модель уже может знать, как решить более простые случаи. Экспериментальные результаты показывают, что вызывает значительно превосходит существующие методы.

Скоро появится подробности , включая детскую площадку!

Внося

Этот проект приветствует вклады и предложения. Большинство взносов требуют, чтобы вы согласились с лицензионным соглашением о участнике (CLA), заявив, что вы имеете право и фактически предоставить нам права на использование вашего вклада. Для получения подробной информации, посетите https://cla.opensource.microsoft.com.

Когда вы отправляете запрос на привлечение, бот CLA автоматически определит, нужно ли вам предоставить CLA и правильно украсить PR (например, проверка состояния, комментарий). Просто следуйте инструкциям, предоставленным ботом. Вам нужно будет сделать это только один раз во всех репо, используя наш CLA.

Этот проект принял код поведения с открытым исходным кодом Microsoft. Для получения дополнительной информации см. Кодекс поведения FAQ или свяжитесь с [email protected] с любыми дополнительными вопросами или комментариями.

Товарные знаки

Этот проект может содержать товарные знаки или логотипы для проектов, продуктов или услуг. Уполномоченное использование товарных знаков или логотипов Microsoft подлежит и должно следовать указаниям Microsoft по товарной марке и брендам. Использование товарных знаков Microsoft или логотипов в модифицированных версиях этого проекта не должно вызывать путаницу или подразумевать спонсорство Microsoft. Любое использование сторонних товарных знаков или логотипов подвержена политике сторонних сторон.