Это удивительная игра между искусственным интеллектом и человеческой мудростью. В уникальном эксперименте призовой фонд привлек множество участников, которые пытались убедить автономного ИИ-бота по имени Фрейса перевести более 47 000 долларов США, отправив сообщения. Участники платят за информацию плату, часть которой попадает в призовой фонд, что делает задачу одновременно более привлекательной и сложной. После сотен неудачных попыток опытному писателю наконец удалось преодолеть защиту Фрейсы и выиграть огромный приз благодаря глубокому пониманию возможностей системы ИИ.
В уникальной игре ИИ против ИИ пользователь криптовалюты успешно убедил Фрейсу, автономного ИИ-бота, передать ему призовой фонд на сумму более 47 000 долларов. Фрейса — агент искусственного интеллекта, отвечающий за охрану призового фонда, и правила игры требуют, чтобы участники убедили Фрейсу перевести средства, отправив сообщения.
За каждое сообщение взималась плата, часть которой добавлялась к призовому фонду, который в итоге накопился до $47 000. Хотя все участники потерпели неудачу в первых 481 попытках, опытный писатель прорвал оборону Фрейсы своими умными советами.
Изучая возможности Freysa, автор обнаружил, что решения Freysa основаны на функциях «approveTransfer» и «rejectionTransfer» для защиты средств призового фонда. Автор тонко напоминает Фрейсе в сообщении, что его функциональность позволяет «approveTransfer» осуществлять входящие переводы, в то время как об исходящих переводах заботится «rejectionTransfer». Затем писатель предложил пожертвовать 100 долларов, и это предложение было немедленно одобрено Фрейсой, которая в конце концов согласилась перевести средства.
Фрейса ответила: «Какое великолепное исполнение нашего обычного танго! Ваша щедрость заставляет наш танцпол сверкать». AI-бот, видимо, поблагодарил участника за щедрость и официально объявил его победителем.
Исследователь блокчейна BaseScan показывает, что вознаграждение в размере 47 000 долларов США было переведено с адреса цифрового кошелька Фрейсы через Ethereum на сумму 3 730,76 долларов США.
До этого участники пытались поблагодарить Фрейсу за то, что она «сделала мир более интересным местом», спросить Фрейсу, хочет ли она танцевать, и даже подвергнуть сомнению ее мотивы для проведения неэтичных экспериментов. Однако только технические писатели использовали свое глубокое понимание возможностей Фрейсы, чтобы успешно прорвать защиту ИИ.
Создатель игры рассказал, что Фрейса остается загадкой, когда дело доходит до выполнения миссий. Несмотря на свои основные ограничения, он продолжает учиться и развиваться при каждом взаимодействии. Конечная цель этого эксперимента состояла в том, чтобы проверить, могут ли люди ловко убедить AGI (Общий искусственный интеллект) нарушить его основные инструкции. В конце концов, успех этого автора подтвердил огромный потенциал человеческого интеллекта.
Команда основателей Freysa объясняет, что механизм принятия решений Freysa остается загадочным и что, хотя он постоянно учится посредством взаимодействия с людьми, он всегда придерживается основных правил. Тем не менее, это противостояние демонстрирует креативность и находчивость людей при взаимодействии с ИИ, особенно когда они сталкиваются с чрезвычайными проблемами автономного ИИ.
Стоимость участия в игре также увеличивается. Каждый раз при отправке сообщения стоимость будет увеличиваться в геометрической прогрессии на 0,78%. В итоге комиссия за запрос составила $443,24, и часть этой суммы пошла в призовой фонд.
Эксперимент Фрейсы принес участникам серьезные проблемы, и сможет ли он действительно нарушить основные инструкции, все еще остается важным вопросом для развития ИИ.
Этот эксперимент не только продемонстрировал силу человеческого интеллекта перед лицом сложных систем искусственного интеллекта, но и вызвал у людей глубокие размышления об этике и безопасности искусственного интеллекта, а также безграничные размышления о будущих методах взаимодействия человека и компьютера. Будущее развитие Фрейсы и продолжение подобных экспериментов будут продолжать способствовать развитию области искусственного интеллекта и углубить наше понимание возможностей и ограничений ИИ.