Большая модель StableCode — это инструмент, специально используемый для разработки и реализации алгоритмов и приложений искусственного интеллекта. Он может работать на нескольких средах глубокого обучения и подходит для таких задач, как классификация изображений, обнаружение целей и семантическая сегментация.
Stability AI наиболее известна своей моделью текстовых изображений Stable Diffusion, но это не единственная область ее интересов, поскольку сейчас компания также занимается генерацией кода. Сегодня компания Stability AI выпустила свою новую открытую модель большого языка (LLM) StableCode, которая призвана помочь пользователям генерировать код языка программирования и основана на нейронной сети-трансформере.
StableCode будет предлагать три различных уровня: базовую модель для общего использования, модель инструкций и модель длинного контекстного окна, способную поддерживать до 16 000 токенов.
Модель StableCode использует исходный набор данных языка программирования проекта BigCode с открытым исходным кодом, а также подвергается дополнительной фильтрации и тонкой настройке с помощью Stability AI. StableCode изначально поддерживает разработку на таких языках программирования, как Python, Go, Java. , JavaScript, C, уценка и C++.
Обучение любого LLM основано на данных, а данные для StableCode берутся из проекта BigCode. HuggingFace и ServiceNow также запустили в мае открытую программу StarCoder LLM на основе BigCode. Натан Купер, главный научный сотрудник Stability AI, сказал, что обучение StableCode включает в себя обширную фильтрацию и очистку данных BigCode.
Длинное контекстное окно StableCode имеет контекстное окно из 16 000 токенов, что, по утверждению Stability AI, больше, чем у любой другой модели. Более длинное контекстное окно позволяет использовать более профессиональные и сложные подсказки для генерации кода. Это также означает, что пользователи могут разрешить StableCode просматривать носитель. База кода небольшого размера, содержащая несколько файлов, которые помогают понять и сгенерировать новый код.
StableCode все еще находится на ранней стадии разработки, и официальная цель сейчас — увидеть, как разработчики примут и будут использовать эту модель.