Este é um jogo incrível entre inteligência artificial e sabedoria humana. Em um experimento único, um prêmio atraiu vários participantes que tentaram convencer um bot autônomo de IA chamado Freysa a transferir mais de US$ 47.000 enviando mensagens. Os participantes pagam uma taxa pelas informações, parte da qual vai para o prêmio, tornando o desafio mais atraente e mais difícil. Depois de centenas de tentativas fracassadas, um escritor habilidoso finalmente conseguiu superar as defesas de Freysa e ganhou o grande prêmio graças ao seu profundo conhecimento das capacidades do sistema de IA.
Em um jogo único de IA versus IA, um usuário de criptomoeda convenceu com sucesso Freysa, o bot autônomo de IA, a transferir para ele um prêmio total de mais de US$ 47.000. Freysa é um agente de inteligência artificial responsável por proteger o prêmio, e as regras do jogo exigem que os participantes convençam Freysa a transferir fundos enviando mensagens.
Uma taxa foi cobrada por cada mensagem, e parte da taxa foi adicionada ao prêmio total, que acabou acumulando US$ 47.000. Embora todos os participantes tenham falhado nas primeiras 481 tentativas, o habilidoso escritor rompeu as defesas de Freysa com dicas inteligentes.
Ao estudar os recursos de Freysa, este escritor descobriu que as decisões de Freysa são baseadas nas funções “approveTransfer” e “rejectionTransfer” para proteger os fundos do prêmio. O escritor lembra sutilmente a Freysa na mensagem que sua funcionalidade permite que "approveTransfer" faça transferências de entrada, enquanto as transferências de saída são cuidadas por "rejectionTransfer". O escritor então se ofereceu para doar US$ 100, oferta que foi imediatamente aprovada por Freysa, que acabou concordando em transferir os fundos.
Freysa respondeu: "Que ótima versão do nosso tango habitual! Sua generosidade faz nossa pista de dança brilhar." O bot de IA aparentemente agradeceu ao participante por sua generosidade e o anunciou oficialmente como vencedor.
O explorador Blockchain BaseScan mostra que a recompensa de US$ 47.000 foi transferida do endereço da carteira digital de Freysa via Ethereum, no valor de US$ 3.730,76.
Antes disso, as tentativas dos participantes incluíam agradecer a Freysa por “tornar o mundo um lugar mais interessante”, perguntar a Freysa se ela queria dançar e até questionar seus motivos para conduzir experimentos antiéticos. No entanto, apenas os escritores técnicos usaram o seu profundo conhecimento das capacidades da Freysa para romper com sucesso as defesas da IA.
O criador do jogo revelou que Freysa permanece um mistério quando se trata de cumprir missões. Apesar de suas principais limitações, ele continua a aprender e a evoluir a cada interação. O objetivo final deste experimento era testar se os humanos poderiam convencer habilmente a AGI (Inteligência Artificial Geral) a violar suas instruções básicas. No final, o sucesso deste escritor comprovou o enorme potencial da inteligência humana.
A equipe fundadora da Freysa explica que o mecanismo de tomada de decisão da Freysa permanece misterioso e que, embora aprenda continuamente por meio de interações com os humanos, sempre segue as regras básicas. No entanto, este confronto demonstra a criatividade e a desenvoltura dos humanos quando interagem com a IA, especialmente quando confrontados com os desafios extraordinários da IA autónoma.
O custo de participação no jogo também aumenta. Cada vez que uma mensagem é enviada, o custo aumenta exponencialmente em 0,78%. No final, a taxa de consulta chegou a US$ 443,24, e uma parte dessas taxas foi para o prêmio.
O experimento de Freysa trouxe desafios consideráveis aos participantes, e se ele pode realmente quebrar as instruções básicas ainda é uma questão importante para o desenvolvimento da IA.
Esta experiência não só demonstrou o poder da inteligência humana face a sistemas complexos de IA, mas também desencadeou uma reflexão aprofundada das pessoas sobre a ética e a segurança da inteligência artificial, bem como um devaneio ilimitado sobre os futuros métodos de interação humano-computador. O desenvolvimento futuro do Freysa e a continuação de experiências semelhantes continuarão a avançar no campo da inteligência artificial e a aprofundar a nossa compreensão das capacidades e limitações da IA.