Le grand modèle StableCode est un outil spécifiquement utilisé pour développer et mettre en œuvre des algorithmes et des applications d'intelligence artificielle. Il peut fonctionner sur plusieurs frameworks d'apprentissage profond et convient à des tâches telles que la classification d'images, la détection de cibles et la segmentation sémantique.
Stability AI est surtout connu pour son modèle d'image généré par texte Stable Diffusion, mais ce n'est pas son seul domaine d'intérêt, car la société se lance désormais également dans la génération de code. Aujourd'hui, Stability AI a publié son nouveau modèle de langage ouvert (LLM) StableCode, conçu pour aider les utilisateurs à générer du code de langage de programmation et basé sur le réseau neuronal du transformateur.
StableCode proposera trois niveaux différents : un modèle de base à usage général, un modèle d'instruction et un modèle de fenêtre contextuelle longue capable de prendre en charge jusqu'à 16 000 jetons.
Le modèle StableCode bénéficie de l'ensemble de données initial du langage de programmation du projet open source BigCode, et fait également l'objet d'un filtrage et d'un réglage supplémentaire par Stability AI. StableCode prendra initialement en charge le développement dans des langages de programmation tels que Python, Go, Java. , JavaScript, C, démarque et C++.
La formation de tout LLM repose sur des données, et les données pour StableCode proviennent du projet BigCode. HuggingFace et ServiceNow ont également lancé StarCoder LLM ouvert basé sur BigCode en mai. Nathan Cooper, chercheur scientifique en chef chez Stability AI, a déclaré que la formation de StableCode implique un filtrage et un nettoyage approfondis des données BigCode.
La longue fenêtre contextuelle de StableCode a une fenêtre contextuelle de 16 000 jetons, qui, selon Stability AI, est plus grande que tout autre modèle. La fenêtre contextuelle plus longue permet l'utilisation d'invites de génération de code plus professionnelles et plus complexes. Cela signifie également que les utilisateurs peuvent laisser StableCode afficher un support. Base de code de grande taille contenant plusieurs fichiers pour aider à comprendre et générer du nouveau code.
StableCode en est encore à ses débuts et l’objectif officiel est désormais de voir comment les développeurs accepteront et utiliseront le modèle.