Недавно «Информационные новости» сообщили, что OpenAI разрабатывает флагманскую модель-модели «Орион». Хотя его производительность превышает существующие модели, улучшение не достигло такого скачка, как GPT-3 до GPT-4, особенно в программировании. Это вызвало промышленные дискуссии о том, будет ли скорость развития крупных языковых моделей постепенно замедляться, а также побудило Openai искать новые технологические прорывы.
В последнее время, согласно новостям информации, флагманская модель нового поколения, которая разрабатывает OpenAI, является кодовым «Орион». При тестировании новой модели сотрудники обнаружили, что улучшение Ориона в некоторых областях не очевидно по сравнению с скачком от GPT-3 на GPT-4, особенно при программировании, может быть не надежным.
Чтобы решить эту проблему, OpenAI создала специальную базовую команду для изучения стратегий, чтобы продолжать улучшать модель перед лицом все более скудных новых учебных данных. Согласно отчету, эти новые стратегии включают использование синтетических данных, генерируемых моделью искусственного интеллекта для обучения Orion, и больше улучшений после завершения обучения модели.
Openai не ответил немедленно на внешние запросы. Что касается предыдущих отчетов о флагманских моделях, OpenAI заявил: «Мы не планируем выпускать модель-названное« Кодовое »в этом году».
Это означает, что, хотя OpenaI постоянно продвигает передний край технологии, скорость улучшения модели может постепенно замедляться с течением времени. В области искусственного интеллекта, как поддерживать технологический прогресс и инновации, стало важной темой. Меры, принятые OpenAI, могут предоставить новые направления для будущей разработки моделей, но как добиться реальных прорывов потребуется время для тестирования.
По мере того, как технология продолжает развиваться, команда Openai также думает о более дальновидных стратегиях, чтобы гарантировать, что она может продолжать руководить в будущем конкуренции. Столкнувшись с технологическими узкими местами, крупным компаниям в отрасли, возможно, потребуется пересмотреть свои стратегии развития для адаптации к изменению рыночных потребностей.
Ключевые моменты:
Хотя новая модель Openai «Orion» превзошла существующие продукты, ее улучшение значительно сократилось.
OpenAI создал базовую команду для изучения стратегий улучшения, когда новые учебные данные недостаточны.
OpenAI еще не дал четкого ответа на то, будет ли выпущена модель «Orion».
Перед лицом модельных исследований и узких мест разработки, Openai исследует новые стратегии, такие как использование синтетических данных, и подчеркивает непрерывность и проблемы технологического прогресса. Это отражает, что, хотя поле ИИ стремится к более высокой производительности, оно также сталкивается с ограничениями ресурсов данных и технических узких мест, и будущее развитие все еще должно быть непрерывно изучать.