neon

ARRÊT DU PROJET. Ce projet ne sera plus maintenu par Intel. Intel ne fournira ni ne garantira le développement ou le support de ce projet, y compris, mais sans s'y limiter, la maintenance, les corrections de bogues, les nouvelles versions ou mises à jour. Les correctifs de ce projet ne sont plus acceptés par Intel. Si vous avez un besoin continu d'utiliser ce projet, si vous êtes intéressé à le développer de manière indépendante ou si vous souhaitez maintenir des correctifs pour la communauté, veuillez créer votre propre fork du projet.

néon

neon est le framework d'apprentissage profond de référence d'Intel qui s'engage à offrir les meilleures performances sur tout le matériel. Conçu pour la facilité d’utilisation et l’extensibilité.

• Tutoriels et blocs-notes iPython pour permettre aux utilisateurs de démarrer avec Neon pour l'apprentissage en profondeur.
• Prise en charge des couches couramment utilisées : convolution, RNN, LSTM, GRU, BatchNorm, etc.
• Model Zoo contient des poids pré-entraînés et des exemples de scripts pour les modèles de pointe, notamment : VGG, apprentissage par renforcement, réseaux résiduels profonds, sous-titres d'images, analyse des sentiments, etc.
• Backends matériels échangeables : écrivez du code une fois, puis déployez-le sur des processeurs, des GPU ou du matériel Nervana

Pour une itération et une exploration rapides des modèles, neon offre les performances les plus rapides parmi les bibliothèques d'apprentissage en profondeur (vitesse 2x de cuDNNv4, voir les tests de performance).

• 2,5 s/macrobatch (3 072 images) sur AlexNet sur Titan X (exécution complète sur 1 GPU ~ 26 heures)
• La formation VGG avec virgule flottante 16 bits sur 1 Titan X prend environ 10 jours (article original : 4 GPU pendant 2-3 semaines)

Nous utilisons le néon en interne chez Intel Nervana pour résoudre les problèmes de nos clients dans de nombreux domaines. Nous recrutons sur plusieurs postes. Postulez ici !

Découvrez les nouvelles fonctionnalités de notre dernière version. Nous souhaitons souligner que neon v2.0.0+ a été optimisé pour de bien meilleures performances sur les processeurs en activant la bibliothèque Intel Math Kernel (MKL). Le composant DNN (Deep Neural Networks) de MKL utilisé par neon est fourni gratuitement et téléchargé automatiquement dans le cadre de l'installation de neon.

Installation rapide

• Installation locale et dépendances

Sur une machine Mac OSX ou Linux, saisissez ce qui suit pour télécharger et installer Neon (les utilisateurs de Conda voient le guide) et utilisez-le pour entraîner votre premier perceptron multicouche. Pour forcer une installation python2 ou python3, remplacez make ci-dessous par make python2 ou make python3 .

    git clone https://github.com/NervanaSystems/neon.git
    cd neon
    make
    . .venv/bin/activate

À partir de neon v2.2.0, la branche principale de neon sera mise à jour chaque semaine avec des travaux en cours vers la prochaine version. Consultez une balise de version (par exemple, "git checkout v2.2.0") pour une version stable. Ou consultez simplement la balise de version « dernière » pour obtenir la dernière version stable (c'est-à-dire « git checkout Latest »)

• Installer via pypi

À partir de la version 2.4.0, nous avons réactivé l'installation de pip. Neon peut être installé en utilisant le nom de package nervananeon.

    pip install nervananeon

Il est à noter qu'aeon doit être installé séparément. La dernière version v2.6.0 utilise aeon v1.3.0.

Avertissement

Entre neon v2.1.0 et v2.2.0, le format du fichier manifeste aeon a été modifié. Lors de la mise à jour à partir de neon < v2.2.0, les manifestes doivent être recréés à l'aide de scripts d'ingestion (dans le dossier d'exemples) ou mis à jour à l'aide de ce script.

Utiliser un script pour exécuter un exemple

    python examples/mnist_mlp.py 

Sélection d'un moteur backend à partir de la ligne de commande

Le backend GPU est sélectionné par défaut, donc la commande ci-dessus est équivalente à si une ressource GPU compatible est trouvée sur le système :

    python examples/mnist_mlp.py -b gpu

Lorsqu'aucun GPU n'est disponible, le backend CPU optimisé (MKL) est désormais sélectionné par défaut à partir de neon v2.1.0, ce qui signifie que la commande ci-dessus est désormais équivalente à :

    python examples/mnist_mlp.py -b mkl

Si vous souhaitez comparer le backend mkl par défaut avec le backend CPU non optimisé, utilisez la commande suivante :

    python examples/mnist_mlp.py -b cpu

Utilisez un fichier yaml pour exécuter un exemple

Alternativement, un fichier yaml peut être utilisé pour exécuter un exemple.

    neon examples/mnist_mlp.yaml

Pour sélectionner un backend spécifique dans un fichier yaml, ajoutez ou modifiez une ligne contenant backend: mkl pour activer le backend mkl, ou backend: cpu pour activer le backend cpu. Le backend GPU est sélectionné par défaut si un GPU est disponible.

Paramètres recommandés pour le néon avec MKL sur les architectures Intel

La bibliothèque Intel Math Kernel tire parti des capacités de parallélisation et de vectorisation des systèmes Intel Xeon et Xeon Phi. Lorsque l'hyperthreading est activé sur le système, nous recommandons le paramètre KMP_AFFINITY suivant pour garantir que les threads parallèles sont mappés 1:1 aux cœurs physiques disponibles.

    export OMP_NUM_THREADS= < Number of Physical Cores >
    export KMP_AFFINITY=compact,1,0,granularity=fine  

ou

    export OMP_NUM_THREADS= < Number of Physical Cores >
    export KMP_AFFINITY=verbose,granularity=fine,proclist=[0- < Number of Physical Cores > ],explicit

Pour plus d'informations sur KMP_AFFINITY, veuillez vérifier ici. Nous encourageons les utilisateurs à essayer et à établir leurs propres paramètres de performances optimales.

Documentation

La documentation complète sur le néon est disponible ici. Voici quelques points de départ utiles :

• Tutoriels pour le néon
• Présentation du flux de travail néon
• Documentation API
• Ressources pour le néon et l'apprentissage profond

Soutien

Pour tout bug ou demande de fonctionnalité, veuillez :

1. Recherchez dans la liste des problèmes ouverts et fermés pour voir si nous travaillons déjà sur ce que vous avez découvert.
2. Vérifiez que votre problème/demande n'a pas déjà été traité dans notre foire aux questions (FAQ) ou dans le groupe Google des utilisateurs de Neon.
3. Déposez un nouveau problème ou soumettez une nouvelle demande d'extraction si vous avez du code auquel vous aimeriez contribuer

Pour d'autres questions et discussions, veuillez poster un message au groupe Google des utilisateurs de néon

Licence

Nous publions Neon sous une licence open source Apache 2.0. Nous vous invitons à nous contacter avec vos cas d’utilisation.