LMOps

ЛМОпс

LMOps — это исследовательская инициатива в области фундаментальных исследований и технологий для создания продуктов ИИ с базовыми моделями, особенно в области общей технологии реализации возможностей ИИ с моделями LLM и генеративного ИИ.

• Улучшенные подсказки: автоматическая оптимизация подсказок, проспектор, расширяемые подсказки, универсальный поиск подсказок, LLM Retriever, выбор для демонстрации в контексте.
• Более длинный контекст: структурированные подсказки, преобразователи, экстраполируемые по длине.
• Согласование LLM: Согласование через обратную связь LLM
• LLM Accelerator (Быстрый вывод): ускорение LLM без потерь
• Настройка LLM: адаптируйте LLM к доменам
• Основы: понимание контекстного обучения

Ссылки

• microsoft/unilm: крупномасштабное предварительное обучение с самоконтролем по задачам, языкам и модальностям
• microsoft/torchscale: Трансформаторы в (любом) масштабе

Новости

• [бумажный выпуск] ноябрь 2023 г.: контекстная демонстрация выбора с перекрестной энтропийной разностью (EMNLP 2023)
• [бумажный выпуск] октябрь 2023 г.: Tuna: настройка инструкций с использованием обратной связи от больших языковых моделей (EMNLP 2023)
• [бумажный выпуск] октябрь 2023 г.: автоматическая оптимизация подсказок с помощью «градиентного спуска» и поиска луча (EMNLP 2023)
• [бумажный выпуск] октябрь 2023 г.: UPRISE: универсальный поиск подсказок для улучшения нулевой оценки (EMNLP 2023)
• [бумажный выпуск] июль 2023 г.: обучение извлечению контекстных примеров для больших языковых моделей
• [Бумажный выпуск] Апрель 2023 г.: Вывод со ссылкой: ускорение больших языковых моделей без потерь
• [Бумажный выпуск] Декабрь 2022 г.: Почему GPT может обучаться в контексте? Языковые модели тайно выполняют тонкую настройку в качестве мета-оптимизаторов
• [Бумага, модель и демонстрационная версия] Декабрь 2022 г.: Оптимизация подсказок для преобразования текста в изображение
• [Выпуск статьи и кода] Декабрь 2022 г.: Структурированные подсказки: масштабирование контекстного обучения до 1000 примеров
• [бумажный выпуск] ноябрь 2022 г.: расширяемые подсказки для языковых моделей

Оперативная разведка

Передовые технологии, облегчающие подсказку языковых моделей.

Promptist: обучение с подкреплением для автоматической оптимизации подсказок

[Документ] Оптимизация подсказок для преобразования текста в изображение

• Языковые модели служат интерфейсом подсказок, который оптимизирует ввод пользователя в подсказки, предпочитаемые моделью.

• Изучите языковую модель для автоматической оптимизации подсказок с помощью обучения с подкреплением.

Структурированные подсказки: эффективно используйте длинные последовательности подсказок.

[Документ] Структурированные подсказки: масштабирование контекстного обучения до 1000 примеров

• Примеры использования:

1. Добавляйте (многие) полученные (длинные) документы в качестве контекста в GPT.

2. Масштабируйте контекстное обучение на множество демонстрационных примеров.

X-Prompt: расширяемые подсказки за пределами NL для описательных инструкций.

[Документ] Расширяемые подсказки для языковых моделей

• Расширяемый интерфейс, позволяющий подсказывать LLM за пределами естественного языка для более детальных спецификаций.

• Изучение воображаемых слов с учетом контекста для общего удобства использования

LLMA: Ускорители LLM

Ускорьте вывод LLM с помощью ссылок

[Документ] Вывод со ссылкой: ускорение больших языковых моделей без потерь

• Результаты LLM часто существенно совпадают с некоторыми ссылками (например, полученными документами).

• LLMA без потерь ускоряет вывод LLM, копируя и проверяя текстовые фрагменты из ссылок во входные данные LLM.

• Применимо к важным сценариям LLM, таким как генерация с расширенным поиском и многоходовые диалоги.

• Достигает ускорения в 2–3 раза без дополнительных моделей.

Фундаментальное понимание LLM

Понимание контекстного обучения

[Статья] Почему GPT может обучаться в контексте? Языковые модели тайно выполняют тонкую настройку в качестве мета-оптимизаторов

• Согласно демонстрационным примерам, GPT создает метаградиенты для контекстного обучения (ICL) посредством прямых вычислений. ICL работает, применяя эти метаградиенты к модели посредством внимания.

• Процесс метаоптимизации ICL имеет двойное представление с точной настройкой, которая явно обновляет параметры модели с помощью градиентов обратного распространения.

• Мы можем перевести алгоритмы оптимизации (такие как SGD с Momentum) в соответствующие им архитектуры Transformer.

Найм: aka.ms/GeneralAI

Мы набираем сотрудников всех уровней (включая штатных исследователей и стажеров)! Если вы заинтересованы в работе с нами над базовыми моделями (также известными как крупномасштабные предварительно обученные модели), а также AGI, NLP, MT, речью, искусственным интеллектом документов и мультимодальным искусственным интеллектом, отправьте свое резюме по адресу [email protected].

Лицензия

Этот проект лицензируется по лицензии, которая находится в файле LICENSE в корневом каталоге этого исходного дерева.

Кодекс поведения Microsoft с открытым исходным кодом

Контактная информация

Если вам нужна помощь или возникнут проблемы с использованием предварительно обученных моделей, отправьте сообщение на GitHub. По другим вопросам обращайтесь к Фуру Вэй ( [email protected] ).