lbann

LBANN: Набор инструментов для большой искусственной нейронной сети Ливермора

Набор инструментов Livermore Big Artificial Neural Network (LBANN) — это платформа глубокого обучения с открытым исходным кодом, ориентированная на высокопроизводительные вычисления и оптимизированная для создания нескольких уровней параллелизма.

LBANN обеспечивает ускорение параллельного моделирования за счет декомпозиции предметной области для оптимизации масштабирования обучения сети. Это также позволяет комбинировать параллелизм моделей с параллелизмом данных и методами ансамблевого обучения для обучения больших нейронных сетей с огромными объемами данных. LBANN может использовать преимущества тесно связанных ускорителей, сетей с низкой задержкой и высокой пропускной способностью, а также параллельных файловых систем с высокой пропускной способностью.

LBANN поддерживает самые современные алгоритмы обучения, такие как методы обучения без учителя, с самоконтролем и состязательный (GAN), в дополнение к традиционному обучению с учителем. Он также поддерживает рекуррентные нейронные сети посредством обучения обратному распространению во времени (BPTT), трансферного обучения, а также методов многомодельного и ансамблевого обучения.

Здание ЛБАНН

Предпочтительным методом установки LBANN для пользователей LBANN является использование Spack. После некоторой настройки системы это должно быть так же просто, как

spack install lbann

Более подробные инструкции по сборке и установке LBANN доступны в основной документации LBANN.

Запуск LBANN

Базовый шаблон для запуска LBANN:

 < mpi-launcher > < mpi-options > 
    lbann < lbann-options > 
    --model=model.prototext 
    --optimizer=opt.prototext 
    --reader=data_reader.prototext

При использовании ускорителей GPGPU пользователи должны знать, что LBANN оптимизирован для случая, когда на каждый ранг MPI назначается один графический процессор. Это следует учитывать при выборе параметров лаунчера MPI.

Более подробную информацию о запуске LBANN можно найти здесь.

Публикации

Здесь представлен список публикаций, презентаций и плакатов.

Сообщение о проблемах

Проблемы, вопросы и ошибки можно поднимать в системе отслеживания проблем Github.