Cranium は、バニラ C99 で書かれた移植可能なヘッダーのみのフィードフォワード人工ニューラルネットワークライブラリです。

任意の深さと構造の完全に接続されたネットワークをサポートし、計算に行列ベースのアプローチを使用するため、適度に高速になるはずです。これは、追加の依存関係をインストールできない低リソースのマシンまたは環境に特に適しています。

Cranium は CBLAS 統合をサポートしています。単純に、 `matrix.h`の 7 行目のコメントを解除して、高速行列乗算用の BLAS `sgemm`関数を有効にします。

個々の構造と機能の詳細については、こちらの詳細なドキュメントを参照してください。

特徴

アクティベーション関数
- シグモイド
- ReLU
- タン
- ソフトマックス（分類）
- 線形 (回帰)
損失関数
- クロスエントロピー損失 (分類)
- 平均二乗誤差 (回帰)
最適化アルゴリズム
- バッチ勾配降下法
- 確率的勾配降下法
- ミニバッチ確率的勾配降下法
L2 正則化
学習率アニーリング
単純な勢い
ファンイン重みの初期化
高速行列乗算のための CBLAS サポート
シリアル化可能なネットワーク

使用法

Cranium はヘッダーのみであるため、 srcディレクトリをプロジェクトにコピーし、 #include "src/cranium.h"だけで使用を開始できます。

唯一必要なコンパイラ依存関係はヘッダーからのものであるため、 -lmを使用してコンパイルします。

CBLAS を使用している場合は、 -lcblasでコンパイルし、 -I経由で特定のマシンの BLAS 実装がある場所へのパスを含める必要もあります。一般的なものには、OpenBLAS や ATLAS などがあります。

どのレベルの gcc 最適化でも完全に正常に動作することがテストされているので、安心して使用してください。

例

 #include "cranium.h"

/*
This basic example program is the skeleton of a classification problem.
The training data should be in matrix form, where each row is a data point, and
    each column is a feature. 
The training classes should be in matrix form, where the ith row corresponds to
    the ith training example, and each column is a 1 if it is of that class, and
    0 otherwise. Each example may only be of 1 class.
*/

// create training data and target values (data collection not shown)
int rows , features , classes ;
float * * training ;
float * * classes ;

// create datasets to hold the data
DataSet * trainingData = createDataSet ( rows , features , training );
DataSet * trainingClasses = createDataSet ( rows , classes , classes );

// create network with 2 input neurons, 1 hidden layer with sigmoid
// activation function and 5 neurons, and 2 output neurons with softmax 
// activation function
srand ( time ( NULL ));
size_t hiddenSize [] = { 5 };
Activation hiddenActivation [] = { sigmoid };
Network * net = createNetwork ( 2 , 1 , hiddenSize , hiddenActivation , 2 , softmax );

// train network with cross-entropy loss using Mini-Batch SGD
ParameterSet params ;
params . network = net ;
params . data = trainingData ;
params . classes = trainingClasses ;
params . lossFunction = CROSS_ENTROPY_LOSS ;
params . batchSize = 20 ;
params . learningRate = .01 ;
params . searchTime = 5000 ;
params . regularizationStrength = .001 ;
params . momentumFactor = .9 ;
params . maxIters = 10000 ;
params . shuffle = 1 ;
params . verbose = 1 ;
optimize ( params );

// test accuracy of network after training
printf ( "Accuracy is %fn" , accuracy ( net , trainingData , trainingClasses ));

// get network's predictions on input data after training
forwardPass ( net , trainingData );
int * predictions = predict ( net );
free ( predictions );

// save network to a file
saveNetwork ( net , "network" );

// free network and data
destroyNetwork ( net );
destroyDataSet ( trainingData );
destroyDataSet ( trainingClasses );

// load previous network from file
Network * previousNet = readNetwork ( "network" );
destroyNetwork ( previousNet );