O editor do Downcodes apurou que a Microsoft apresentou recentemente um pedido de patente que visa resolver o problema das informações falsas geradas pela inteligência artificial. O pedido de patente, intitulado “Usando conhecimento externo e feedback para interagir com modelos de linguagem”, foi submetido ao Escritório de Marcas e Patentes dos Estados Unidos (USPTO) no ano passado e tornado público em 31 de outubro. A patente propõe um “Sistema de Aumento de Resposta” (RAS), que visa melhorar a precisão e confiabilidade das respostas do modelo de IA e reduzir a ocorrência de “alucinações” de IA. Esta tecnologia não requer ajustes complexos aos modelos existentes e melhora eficazmente a qualidade das respostas da IA, combinando fontes de informação externas e feedback dos utilizadores, reduzindo assim a geração de informações falsas.
Recentemente, a Microsoft apresentou um pedido de patente que visa reduzir ou eliminar informações falsas geradas pela inteligência artificial através de um método técnico. A patente, intitulada “Interagindo com modelos de linguagem usando conhecimento e feedback externos”, foi submetida ao Escritório de Marcas e Patentes dos Estados Unidos (USPTO) no ano passado e tornada pública em 31 de outubro.
O cerne desta proposta é fornecer aos modelos de IA um “sistema de aumento de resposta” (RAS) que possa extrair automaticamente mais informações com base nas consultas dos usuários e verificar a “validade” de suas respostas.
Especificamente, o sistema de melhoria de resposta é capaz de identificar se a informação de uma “fonte externa” poderia responder melhor à pergunta do usuário. Se a resposta da IA não incluir esta informação, o sistema irá considerá-la insuficientemente útil. Além disso, o RAS também pode alertar os usuários se houver deficiências em suas respostas, e os usuários também podem fornecer feedback sobre isso. A vantagem desta abordagem é que ela não exige que os desenvolvedores ou empresas façam ajustes detalhados nos modelos existentes.
Atualmente, o site do USPTO ainda não exibe o número da patente do pedido, o que significa que a patente ainda está em análise. Entramos em contato com a Microsoft para saber mais, inclusive se a patente está relacionada à ferramenta anunciada anteriormente pela Microsoft para reduzir ilusões de IA – a ferramenta de segurança de conteúdo de IA do Azure. Esta ferramenta fornece verificação orientada por IA para chatbots de IA corporativos. Ela pode verificar fatos em segundo plano para determinar se as respostas da IA são "infundadas" ou "fundadas" e fornecer apenas respostas que sejam apoiadas por dados reais antes de fornecer respostas aos usuários. responder.
O problema da ilusão da IA é um dos maiores desafios enfrentados pela IA generativa, o que afeta seriamente a credibilidade dos chatbots de IA. A este respeito, os sistemas de IA do Google e do Twitter cometeram erros de grande repercussão, como sugerir que os utilizadores colocassem cola na pizza ou comessem pedras, e até espalharam desinformação eleitoral. O CEO da Apple, Tim Cook, também admitiu que a tecnologia inteligente da Apple também é incapaz de evitar o problema das alucinações. Recentemente, descobriu-se que a ferramenta de transcrição de áudio “Whisper” da OpenAI também apresenta alucinações frequentes, chamando a atenção para seu uso em hospitais dos EUA.
Apesar do problema proeminente das alucinações relacionadas com a IA, os gigantes tecnológicos ainda têm uma forte procura de centros de dados de IA, e empresas como a Google, a Microsoft e a Meta estão a considerar a energia nuclear como uma solução potencial para satisfazer as necessidades de elevado consumo de energia da IA.
A ação da Microsoft visa melhorar a confiabilidade dos modelos de IA e reduzir a disseminação de informações falsas, o que é de grande importância para o desenvolvimento e aplicação da tecnologia de IA. No futuro, esperamos que esta patente seja aprovada com sucesso na revisão e finalmente seja usada em produtos reais para oferecer aos usuários uma experiência de IA mais segura e confiável.