Проект LLM360 выпустил две большие языковые модели с 7B параметрами AMBER и CRYSTALCODER с открытым исходным кодом. Этот шаг подчеркивает важность LLM с открытым исходным кодом в области искусственного интеллекта. Инициатива направлена на повышение прозрачности глобальных моделей больших языков с открытым исходным кодом и содействие их широкому применению в научных кругах и промышленности. Также продемонстрирована производительность модели AMBER перед обучением на четырех наборах данных, что обеспечивает надежную основу для оценки ее производительности. Это поможет исследователям лучше понять и улучшить технологию моделей больших языков с открытым исходным кодом.
LLM360 планирует иметь полностью открытый исходный код и выпустить два LLM с параметрами 7B: AMBER и CRYSTALCODER. В исследовании подчеркивается важность LLM с открытым исходным кодом, демонстрируется производительность модели AMBER перед обучением на четырех наборах данных и продвигается прозрачная инициатива для глобальных моделей больших языков с открытым исходным кодом.
Инициатива программы LLM360 с открытым исходным кодом предоставляет ценные ресурсы исследователям искусственного интеллекта по всему миру и способствует развитию и применению технологии больших языковых моделей. Это также отражает ее стремление к развитию открытого сотрудничества в области искусственного интеллекта. Мы с нетерпением ожидаем появления новых инновационных приложений, основанных на этом, в будущем.