A Microsoft apresentou recentemente um pedido de patente para resolver o problema da inteligência artificial que gera informações falsas (alucinações de AI). O pedido de patente, chamado de "inserir conhecimento externo e feedback para interagir com os modelos de idiomas", visa melhorar a precisão e a confiabilidade dos modelos de IA através de um mecanismo chamado "sistema de aumento de resposta" (RAS). O sistema pode obter automaticamente mais informações de fontes externas, verificar as respostas geradas pela IA e solicitar aos usuários possíveis deficiências, reduzindo efetivamente as informações falsas geradas pela IA. A divulgação deste pedido de patente marca um importante passo adiante na luta da Microsoft contra a questão das alucinações de IA e reflete a necessidade urgente do setor de resolver esse problema.
Recentemente, a Microsoft apresentou um pedido de patente destinado a reduzir ou eliminar informações falsas geradas pela inteligência artificial por meio de uma abordagem técnica. A patente, intitulada "Usando conhecimento externo e feedback para interagir com modelos de idiomas", foi submetido ao escritório de patentes e marcas comerciais dos EUA (USPTO) no ano passado e foi publicado em 31 de outubro. No centro desta proposta é fornecer um "sistema de aprimoramento de resposta" (RAS) para os modelos de IA, permitindo extrair automaticamente mais informações com base nas consultas do usuário e verificar a "validade" de suas respostas.
Especificamente, o sistema de aprimoramento da resposta pode identificar se há informações de "fontes externas" que podem responder melhor às perguntas dos usuários. Se a resposta da IA não contiver essas informações, o sistema a determinará como ineficaz. Além disso, o RAS também pode solicitar ao usuário se existem deficiências em suas respostas, e os usuários também podem fornecer feedback sobre isso. A vantagem desta solução é que desenvolvedores ou empresas não precisam fazer ajustes detalhados aos modelos existentes.
Atualmente, o site da USPTO não mostrou o número da patente para o aplicativo, o que significa que a patente ainda está em revisão. Entramos em contato com a Microsoft para obter mais informações, incluindo se a patente está relacionada à ferramenta de segurança de conteúdo do Azure AI, uma ferramenta anunciada anteriormente para reduzir as ilusões de IA. Esta ferramenta fornece verificação orientada para a IA para a AI Chatbots corporativa, que pode realizar a verificação de fatos em segundo plano para determinar se as respostas da IA são "infundadas" ou "fundadas".
O problema da alucinação da IA é um dos maiores desafios que a IA generativa enfrenta, que afeta seriamente a credibilidade dos chatbots da IA. Nesse sentido, os sistemas de IA do Google e do Twitter produziram erros notáveis, como sugerir usuários para aplicar cola na pizza ou comer pedras e até espalhar a desinformação das eleições. O CEO da Apple, Tim Cook, também admitiu que a tecnologia inteligente da Apple não pode evitar alucinações. Recentemente, a ferramenta de transcrição de áudio "Whisper" do Openai também tem alucinações frequentes, o que atraiu a atenção para seu uso em hospitais americanos.
Apesar do importante problema da ilusão de IA, os gigantes da tecnologia ainda têm uma forte demanda por data centers de IA, e empresas como Google, Microsoft e Meta estão considerando a energia nuclear como uma solução potencial para atender às necessidades de alta energia da IA.
Pontos -chave:
A Microsoft apresentou uma nova patente para reduzir informações falsas geradas pela IA.
O núcleo dessa patente é introduzir um sistema de aprimoramento de resposta para modelos de IA para extrair automaticamente mais informações.
Apesar do sério problema de alucinação de IA, a demanda por data centers de IA das empresas de tecnologia permanece forte.
A divulgação do pedido de patente da Microsoft indica que as empresas de tecnologia continuarão a investir mais esforços para lidar com o problema das alucinações da IA. No futuro, espera -se que os sistemas de IA mais confiáveis e confiáveis apareçam, o que aumentará bastante o valor do aplicativo e a experiência do usuário da tecnologia de IA.