В этой статье сообщается о новости о том, что Microsoft и бывший генеральный директор Google совместно инвестировали в Synth Labs, которая занимается решением проблемы систем искусственного интеллекта, отклоняющихся от человеческих намерений. Компания родилась на базе EleutherAI Labs и специализируется на проблемах языковых моделей, разработке инструментов для оценки моделей и помощи ИИ, чтобы избежать деликатных тем, что имеет решающее значение для создания безопасного и надежного ИИ. Эти инвестиции подчеркивают внимание отрасли к решению проблем безопасности и выравнивания ИИ.
Microsoft и бывший генеральный директор Google объединили усилия, чтобы поддержать Synth Labs в решении проблемы систем искусственного интеллекта, которые не действуют в соответствии с человеческими намерениями. Synth Labs возникла на базе EleutherAI Labs и занимается проблемами языковых моделей. Компания разрабатывает инструменты для оценки моделей и помогает искусственному интеллекту избегать деликатных тем.
Работа Synth Labs имеет большое значение для развития области искусственного интеллекта. Вопросы безопасности и управляемости ИИ, на которых она фокусируется, являются одной из ключевых задач, стоящих перед современным развитием ИИ. В будущем мы надеемся, что Synth Labs добьется новых прорывов в решении проблем согласования ИИ и внесет свой вклад в создание более безопасного и надежного искусственного интеллекта.