avalancheダウンロード - avalancheソースコードのダウンロード

avalanche

その他のソースコード

v0.6.0

ダウンロード

Avalanche: 継続的な学習のためのエンドツーエンドのライブラリ

Avalanche は、 Pytorchに基づくエンドツーエンドの継続学習ライブラリであり、継続学習アルゴリズムの高速プロトタイピング、トレーニング、再現可能な評価のための共有および共同作業用のオープンソース (MIT ライセンス) コードベースを提供するという独自の目標を持って ContinualAI 内で誕生しました。

️継続的な学習のベースラインをお探しですか? Avalanche をベースにした CL-Baseline 兄弟プロジェクトでは、実験に直接使用できる独創的な論文の結果を再現しています。

Avalanche は、継続的学習の研究者をいくつかの方法で支援できます。

書くコードを減らし、プロトタイプを高速化してエラーを減らす
再現性、モジュール性、再利用性の向上
コードの効率、スケーラビリティ、移植性を向上
研究製品の効果と使いやすさを強化する

ライブラリは 4 つの主要モジュールで構成されています。

ベンチマーク: このモジュールは、データ処理のための統一 API を維持します。主に 1 つ以上のデータセットからデータのストリームを生成します。これには、主要な CL ベンチマークがすべて含まれています (torchvision で行われたものと同様)。
トレーニング: このモジュールは、モデルのトレーニングに必要なすべてのユーティリティを提供します。これには、新しい継続的学習戦略を実装するためのシンプルで効率的な方法のほか、比較に使用できる事前実装された CL ベースラインと最先端のアルゴリズムのセットが含まれます。
評価: このモジュールは、継続的に学習するシステムにとって重要と考えられるすべての要素に関して CL アルゴリズムを評価するのに役立つすべてのユーティリティとメトリクスを提供します。また、ネイティブ Tensorboard サポートを含む高度なロギングおよびプロット機能も含まれています。
モデル: このモジュールは、モデル拡張とタスク認識モデルを実装するためのユーティリティと、継続的な学習実験 (torchvision.models で行われたものと同様) に使用できる一連の事前トレーニング済みモデルおよび一般的なアーキテクチャを提供します。
ロギング: ネイティブ stdout、ファイル、TensorBoard のサポートを含む、高度なロギングおよびプロット機能が含まれています (1 行のコードで実験メトリクスをリアルタイムで追跡できる、完全なインタラクティブなダッシュボードがあるのは、どれほど素晴らしいことでしょうか?)

Avalanche は、ベンチマーク、アルゴリズム、評価指標などを同じ場所で見つけることができる、再現可能な継続学習の研究開発のためのエンドツーエンドライブラリの最初の実験です。

一緒に作りましょう?‍?‍?素晴らしい乗り心地です！ ?

Avalanche の使用を開始する方法を以下で確認してください。 ?

簡単な例

 import torch
from torch . nn import CrossEntropyLoss
from torch . optim import SGD

from avalanche . benchmarks . classic import PermutedMNIST
from avalanche . models import SimpleMLP
from avalanche . training import Naive


# Config
device = torch . device ( "cuda:0" if torch . cuda . is_available () else "cpu" )
# model
model = SimpleMLP ( num_classes = 10 )

# CL Benchmark Creation
perm_mnist = PermutedMNIST ( n_experiences = 3 )
train_stream = perm_mnist . train_stream
test_stream = perm_mnist . test_stream

# Prepare for training & testing
optimizer = SGD ( model . parameters (), lr = 0.001 , momentum = 0.9 )
criterion = CrossEntropyLoss ()

# Continual learning strategy
cl_strategy = Naive (
    model , optimizer , criterion , train_mb_size = 32 , train_epochs = 2 ,
    eval_mb_size = 32 , device = device )

# train and test loop over the stream of experiences
results = []
for train_exp in train_stream :
    cl_strategy . train ( train_exp )
    results . append ( cl_strategy . eval ( test_stream ))

現在のリリース

Avalanche は継続的に開発中のフレームワークです。 ContinualAI コミュニティとそのアクティブなメンバーのサポートのおかげで、私たちは研究コミュニティの要求に基づいてその機能を迅速に拡張し、使いやすさを向上させています。

現時点では、Avalanche はベータ版です。私たちは、いくつかのベンチマーク、戦略、メトリクスをサポートしており、これが継続的な学習研究に最適なツールであると信じています。 ?

Avalanche をインストールするには、 pip install avalanche-lib実行します。
これにより、コアの Avalanche パッケージがインストールされます。追加のパッケージを使用して Avalanche をインストールすると、より多くの機能を有効にすることができます。
Avalanche をインストールするために利用できるさまざまな方法に関するより完全なガイドについては、ここを参照してください。

はじめる

新しいツールを学ぶのは最初は難しいかもしれないことを私たちは知っています。このため、途中で役立つ一連のリソースを使用して、Avalanche をできるだけ簡単に学習できるようにしました。たとえば、Avalanche の基本とそれを研究プロジェクトで使用する方法を習得できる 5 分間のガイドから始めることができます。

スタートガイド

コードに直接プラグインして再生できる、大規模なサンプルとスニペットのセットも用意しました。

雪崩の例

これら 2 つのセクションを完了すると、すでにスーパーパワーを実感していることでしょう ⚡。そのため、Avalanche のすべての側面を詳細にカバーし、真の継続学習者になれる詳細なチュートリアルも作成しました。 ?‍?

ゼロからヒーローへのチュートリアル

シテ・アバランチ

研究プロジェクトで Avalanche を使用する場合は、JMLR-MLOSS 論文 https://jmlr.org/papers/v24/23-0130.html を必ず引用してください。これは、機械学習コミュニティで Avalanche の知名度を高めるのに役立ち、最終的にはすべての人にとってより良いツールを作成できるようになります。

 @article{JMLR:v24:23-0130,
  author  = {Antonio Carta and Lorenzo Pellegrini and Andrea Cossu and Hamed Hemati and Vincenzo Lomonaco},
  title   = {Avalanche: A PyTorch Library for Deep Continual Learning},
  journal = {Journal of Machine Learning Research},
  year    = {2023},
  volume  = {24},
  number  = {363},
  pages   = {1--6},
  url     = {http://jmlr.org/papers/v24/23-0130.html}
}

以前の CLVision @ CVPR2021 ワークショップの論文「Avalanche: 継続的学習のためのエンドツーエンドライブラリ」を引用することもできます。

 @InProceedings{lomonaco2021avalanche,
    title={Avalanche: an End-to-End Library for Continual Learning},
    author={Vincenzo Lomonaco and Lorenzo Pellegrini and Andrea Cossu and Antonio Carta and Gabriele Graffieti and Tyler L. Hayes and Matthias De Lange and Marc Masana and Jary Pomponi and Gido van de Ven and Martin Mundt and Qi She and Keiland Cooper and Jeremy Forest and Eden Belouadah and Simone Calderara and German I. Parisi and Fabio Cuzzolin and Andreas Tolias and Simone Scardapane and Luca Antiga and Subutai Amhad and Adrian Popescu and Christopher Kanan and Joost van de Weijer and Tinne Tuytelaars and Davide Bacciu and Davide Maltoni},
    booktitle={Proceedings of IEEE Conference on Computer Vision and Pattern Recognition},
    series={2nd Continual Learning in Computer Vision Workshop},
    year={2021}
}