Cranium 은 바닐라 C99로 작성된 이식 가능한 헤더 전용 피드포워드 인공 신경망 라이브러리입니다.

이는 임의의 깊이와 구조의 완전히 연결된 네트워크를 지원하며 계산에 행렬 기반 접근 방식을 사용하므로 상당히 빠릅니다. 추가 종속성을 설치할 수 없는 리소스가 적은 시스템이나 환경에 특히 적합합니다.

Cranium은 CBLAS 통합을 지원합니다. 빠른 행렬 곱셈을 위해 BLAS `sgemm` 함수를 활성화하려면 `matrix.h` 에서 7행의 주석 처리를 제거하기만 하면 됩니다.

개별 구조 및 기능에 대한 자세한 내용은 여기에서 자세한 문서를 확인하세요.

특징

활성화 기능
- 시그모이드
- ReLU
- 탄
- 소프트맥스( 분류 )
- 선형( 회귀 )
손실 함수
- 교차 엔트로피 손실( 분류 )
- 평균 제곱 오차( 회귀 )
최적화 알고리즘
- 배치 경사하강법
- 확률적 경사하강법
- 미니배치 확률적 경사하강법
L2 정규화
학습률 어닐링
단순한 추진력
팬인 무게 초기화
빠른 행렬 곱셈을 위한 CBLAS 지원
직렬화 가능한 네트워크

용법

Cranium은 헤더 전용이므로 src 디렉터리를 프로젝트에 복사하고 #include "src/cranium.h" 사용하여 사용을 시작하세요.

필요한 유일한 컴파일러 종속성은 헤더에 있으므로 -lm 으로 컴파일하세요.

CBLAS를 사용하는 경우 -lcblas 사용하여 컴파일하고 -I 통해 특정 시스템의 BLAS 구현 경로를 포함해야 합니다. 일반적인 것에는 OpenBLAS와 ATLAS가 포함됩니다.

모든 수준의 gcc 최적화에서 완벽하게 작동하도록 테스트되었으므로 자유롭게 사용하십시오.

예

 #include "cranium.h"

/*
This basic example program is the skeleton of a classification problem.
The training data should be in matrix form, where each row is a data point, and
    each column is a feature. 
The training classes should be in matrix form, where the ith row corresponds to
    the ith training example, and each column is a 1 if it is of that class, and
    0 otherwise. Each example may only be of 1 class.
*/

// create training data and target values (data collection not shown)
int rows , features , classes ;
float * * training ;
float * * classes ;

// create datasets to hold the data
DataSet * trainingData = createDataSet ( rows , features , training );
DataSet * trainingClasses = createDataSet ( rows , classes , classes );

// create network with 2 input neurons, 1 hidden layer with sigmoid
// activation function and 5 neurons, and 2 output neurons with softmax 
// activation function
srand ( time ( NULL ));
size_t hiddenSize [] = { 5 };
Activation hiddenActivation [] = { sigmoid };
Network * net = createNetwork ( 2 , 1 , hiddenSize , hiddenActivation , 2 , softmax );

// train network with cross-entropy loss using Mini-Batch SGD
ParameterSet params ;
params . network = net ;
params . data = trainingData ;
params . classes = trainingClasses ;
params . lossFunction = CROSS_ENTROPY_LOSS ;
params . batchSize = 20 ;
params . learningRate = .01 ;
params . searchTime = 5000 ;
params . regularizationStrength = .001 ;
params . momentumFactor = .9 ;
params . maxIters = 10000 ;
params . shuffle = 1 ;
params . verbose = 1 ;
optimize ( params );

// test accuracy of network after training
printf ( "Accuracy is %fn" , accuracy ( net , trainingData , trainingClasses ));

// get network's predictions on input data after training
forwardPass ( net , trainingData );
int * predictions = predict ( net );
free ( predictions );

// save network to a file
saveNetwork ( net , "network" );

// free network and data
destroyNetwork ( net );
destroyDataSet ( trainingData );
destroyDataSet ( trainingClasses );

// load previous network from file
Network * previousNet = readNetwork ( "network" );
destroyNetwork ( previousNet );