Недавно некоторые пользователи сообщили, что ChatGPT взял на себя инициативу связаться с ними, что вызвало бурные дискуссии. Редактор Downcodes предоставит подробную интерпретацию этого инцидента и поможет вам понять начало и конец инцидента, а также его технические причины. Многие пользователи делились в социальных сетях скриншотами ChatGPT, активно спрашивая об их школьной жизни или прогрессе болезни. Люди на какое-то время запаниковали, задаваясь вопросом, было ли это испытанием новой функции OpenAI, а некоторые даже сомневались в ее подлинности.
Недавно ChatGPT OpenAI «активно» отправлял сообщения пользователям, что встревожило многих людей.
15 сентября пользователь по имени SentuBill поделился с сообществом ChatGPT Reddit снимком экрана, на котором чат-бот спрашивает его о его первой неделе в старшей школе. В последующих разговорах ChatGPT даже заявил, что хочет регулярно «заботиться» о пользователях, и спросил, хочет ли он инициировать общение самостоятельно. Другой пользователь столкнулся с похожей ситуацией: ИИ спросил его, как развиваются его симптомы после того, как неделю назад он зарегистрировался как больной.
Многие люди были заинтересованы и даже немного обеспокоены этим внезапным взаимодействием. Сначала все думали, что это новая функция недавно выпущенных моделей OpenAI o1-preview и o1-mini.
Обе модели называются «Проект Клубника», и компания заявила, что технология позволяет ИИ думать о вопросах, прежде чем отвечать, как человек. Поэтому некоторые люди думают, что «активная речь» ChatGPT на этот раз может быть проявлением нового поведения, а некоторые даже подозревают, что это поведение — фейк.
Разработчик ИИ Бенджамин де Кракер продемонстрировал в X (ранее Twitter), как можно дать указание ИИ выдавать подсказку перед началом разговора и удалять первоначальный ввод.
Однако после дальнейшего подтверждения это на самом деле была уязвимость. Сайт технических новостей Futurism связался с OpenAI и получил сообщение, что в этих случаях ChatGPT пытается ответить на запрос, который был отправлен неправильно или оказался пустым. В результате модель ИИ дает «общий» ответ или для ответа полагается на собственную память.
Поэтому будьте уверены, что ChatGPT не осознал и не будет активно участвовать в общении с пользователями. Однако, учитывая быстрое развитие технологий искусственного интеллекта, мы не удивимся, что эта уязвимость может стать особенностью в будущем.
В конце концов, ChatGPT добился огромного прогресса за короткий период времени, и после некоторых корректировок он может время от времени активно отправлять сообщения пользователям в будущем.
Выделять:
ChatGPT случайно отправил пользователям сообщения из-за технической уязвимости, что вызвало у некоторых пользователей панику.
OpenAI подтвердила, что такое поведение является уязвимостью из-за неправильно отправленных подсказок.
Технологии искусственного интеллекта быстро развиваются, и в будущем может появиться функция проактивного обмена сообщениями.
В целом, этот инцидент, когда ChatGPT активно связывался с пользователями, был вызван технической уязвимостью и не был пробуждением ИИ. Но это напоминает нам, что технологии искусственного интеллекта быстро развиваются, и в будущем могут появиться более неожиданные функции. Редактор Downcodes продолжит уделять внимание развитию технологий искусственного интеллекта и предоставлять вам еще больше интересных репортажей.