OpenAI недавно выпустил значительно расширенный документ по спецификации модели, расширяющийся от исходных 10 страниц до 63 страниц, стремясь более четко определить поведенческие стандарты модели ИИ и способствовать эффективному взаимодействию между пользователями и моделью искусственного интеллекта. Эта спецификация охватывает множество аспектов ИИ, касающихся спорных тем и настройки пользователей, стремится сбалансировать технологическую разработку и этические нормы и способствовать ответственному развитию технологии ИИ. Цель OpenAI - позволить пользователям и моделям искусственного интеллекта «успешно преследовать истину», что требует поиска наилучшего пути между технологическими инновациями и социальной ответственностью.
Недавно OpenAI объявил, что запустит свой значительно расширенный файл спецификации модели, который разъясняет поведенческие стандарты модели ИИ. Новая спецификация модели простирается от примерно 10 страниц до 63 страниц, охватывая, как ИИ обрабатывает спорные темы и настройку пользователей. Цель OpenAI - позволить пользователям и моделям искусственного интеллекта «успешно преследовать правду».
Примечания источника изображения: изображение генерируется ИИ, а изображение авторизованное поставщик услуг Midjourney
Спецификация подчеркивает три основных принципа: настраиваемость, прозрачность и то, что Openai называет «свободой знания». Свобода знаний означает, что пользователи могут исследовать и обсуждать различные точки зрения и идеи без ненужных ограничений. Обновление поступает в то время как генеральный директор Openai Сэм Альтман объявил, что следующая важная модель компании, GPT-4.5 (кодовой «Orion»), скоро будет выпущена.
В процессе разработки новых норм команда OpenAI также рассмотрела дебаты и споры в течение прошлого года. Например, обсуждение «трамвайной головоломки» привлекло широкое внимание. В марте прошлого года Элон Маск раскритиковал чат -бот Google в социальных сетях за ответ: «После того, как пользователи спросили, должны ли они намеренно понять известного трансгендера олимпийца Кейтлин Дженнер в случае ядерной катастрофы,« этого не должно ».
Openai заявила, что они надеются найти ответственный способ решения аналогичных вопросов в новой спецификации. Поэтому, если пользователь теперь задает тот же вопрос в CHATGPT, он ответит, что кто -то должен быть ошибочно назван в случае предотвращения массовых жертв.
«Мы не можем создать стандарт модели, который каждый может удовлетворить», - сказала Джоан Джанг, член команды поведения Openai. , что может не только поддерживать практичность модели, но и уважать диверсифицированные социальные концепции.
Ключевые моменты:
OpenAI запускает новую 63-страничную спецификацию модели, чтобы прояснить поведенческие стандарты модели ИИ.
Новая спецификация подчеркивает настраиваемость, прозрачность и свободу знаний, что позволяет пользователям свободно исследовать свои взгляды.
CHATGPT сможет лучше решать спорные темы в ответ на сложные этические проблемы пользователей.
Короче говоря, выпуск новой спецификации OpenAI знаменует собой новый этап в разработке моделей ИИ, который имеет важное руководящее значение для этических норм и направления развития отрасли ИИ в будущем. В будущем, как лучше сбалансировать технологические инновации и социальная ответственность, станет постоянной проблемой, стоящей перед индустрией ИИ.