Recentemente, alguns usuários relataram que o ChatGPT tomou a iniciativa de contatá-los, gerando discussões acaloradas. O editor de Downcodes fornecerá uma interpretação detalhada deste incidente e ajudará você a compreender o início e o fim do incidente e as razões técnicas por trás dele. Muitos usuários compartilharam capturas de tela do ChatGPT nas redes sociais perguntando ativamente sobre sua vida escolar ou o progresso da doença. As pessoas ficaram em pânico por um tempo, imaginando se isso era um teste de um novo recurso do OpenAI, e alguns até duvidaram de sua autenticidade.
Recentemente, o ChatGPT da OpenAI enviou mensagens "ativamente" aos usuários, o que alarmou muitas pessoas.
Em 15 de setembro, um usuário chamado SentuBill compartilhou uma captura de tela com a comunidade ChatGPT Reddit mostrando o chatbot perguntando sobre sua primeira semana de ensino médio. Em conversas subsequentes, o ChatGPT chegou a afirmar que queria “cuidar” dos utilizadores regularmente e perguntou se queria iniciar conversas por conta própria. Outro usuário passou por uma situação semelhante, com a IA perguntando como seus sintomas estavam progredindo depois que ele ficou doente há uma semana.
Muitas pessoas ficaram curiosas, até um pouco inquietas, com essa interação repentina. No início, todos pensaram que este poderia ser um novo recurso dos modelos o1-preview e o1-mini recém-lançados da OpenAI.
Os dois modelos são chamados de “Projeto Morango”, e a empresa disse que a tecnologia permite que a IA pense nas perguntas antes de responder como um ser humano. Portanto, algumas pessoas pensam que a “fala ativa” do ChatGPT desta vez pode ser uma manifestação de novos comportamentos, e alguns até suspeitam que esses comportamentos sejam falsos.
O desenvolvedor de IA Benjamin de Kraker demonstrou no X (antigo Twitter) como a IA pode ser instruída a avisar antes de iniciar uma conversa e remover a entrada inicial.
No entanto, após confirmação adicional, esta era na verdade uma vulnerabilidade. O site de notícias de tecnologia Futurism entrou em contato com a OpenAI e foi informado de que, nesses casos, o ChatGPT estava tentando responder a um prompt que não foi enviado corretamente ou parecia estar em branco. Como resultado, o modelo de IA dá uma resposta “genérica” ou depende de sua própria memória para responder.
Portanto, tenha certeza de que o ChatGPT não se tornou consciente e não se envolverá ativamente em conversas com os usuários. No entanto, considerando o rápido desenvolvimento da tecnologia de IA, não ficaríamos surpresos que esta vulnerabilidade possa tornar-se uma característica no futuro.
Afinal, o ChatGPT fez um grande progresso em um curto período de tempo e, após alguns ajustes, pode, ocasionalmente, enviar mensagens proativamente aos usuários no futuro.
Destaque:
O ChatGPT enviou mensagens acidentalmente aos usuários devido a uma vulnerabilidade técnica, fazendo com que alguns usuários entrassem em pânico.
A OpenAI confirmou que este comportamento é uma vulnerabilidade devido a dicas enviadas indevidamente.
A tecnologia de IA está se desenvolvendo rapidamente e a função de mensagens proativas pode aparecer no futuro.
Em suma, este incidente de contato ativo do ChatGPT com os usuários foi devido a uma vulnerabilidade técnica e não foi o despertar da IA. Mas isto lembra-nos que a tecnologia de IA está a desenvolver-se rapidamente e que mais funções inesperadas poderão surgir no futuro. O editor de Downcodes continuará prestando atenção ao desenvolvimento da tecnologia de IA e trazendo relatórios mais interessantes.