A Anthropic lançou um novo recurso chamado "Citações" para sua família de modelos Claude AI, com o objetivo de melhorar a transparência e a rastreabilidade das respostas geradas pela IA. "Citações" podem fornecer automaticamente a fonte de respostas de IA, incluindo frases precisas e citações de parágrafos, melhorando assim a credibilidade das respostas e reduzindo o fenômeno da "ilusão" dos modelos de IA. Esse novo recurso foi lançado na API da Anthropic e na plataforma Ai do Google, fornecendo aos desenvolvedores ferramentas de IA mais confiáveis.
Para melhorar a transparência e a rastreabilidade de seu modelo de IA, a Antrópica anunciou um novo recurso, citações, na quinta -feira. Esse recurso foi projetado para ajudar os desenvolvedores a fornecer referências precisas de documentos de origem, incluindo frases e parágrafos, em respostas geradas pela série Claude AI. Esse recurso inovador estava imediatamente disponível na API da Anthropic e na plataforma AI do Google, o Vértice após seu primeiro lançamento.
Recurso de citações: melhorar a transparência e precisão do documento
De acordo com o Anthropic, a função de citações pode fornecer automaticamente aos desenvolvedores a fonte de respostas geradas pelos modelos de IA, citando as frases e parágrafos exatos no documento de origem. Esse recurso é especialmente adequado para resumo do documento, sistemas de perguntas e respostas e aplicativos de suporte ao cliente e pode aumentar a credibilidade e a transparência de suas respostas. Ao introduzir a literatura de origem, os desenvolvedores podem ter uma compreensão mais clara do processo de raciocínio dos modelos de IA e reduzir os fenômenos de "ilusão" (ou seja, infundação ou desinformação gerada pela IA).
Escopo de aplicação e preço
Embora o recurso de lançamento de citações tenha atraído atenção generalizada, ele está atualmente limitado aos modelos Claude3.5Sonnet do Anthrópico e Claude3.5 Haiku. Além disso, esse recurso não é gratuito e o Antrópico cobrará uma taxa correspondente com base no comprimento e quantidade do documento de origem. Por exemplo, um documento de origem de cerca de 100 páginas custa cerca de US $ 0,30 ao usar o Claude3.5SONnet e US $ 0,08 ao usar o Claude3.5Haiku. Isso pode ser uma opção que vale a pena investir para desenvolvedores que desejam reduzir erros de geração de IA e conteúdo impreciso.
Citações: uma ferramenta eficaz para lidar com alucinações e erros de IA
O lançamento de citações, sem dúvida, aumentou a competitividade do antropia no campo do conteúdo gerado pela IA, especialmente na solução do problema de "ilusão" dos modelos de IA. A ilusão da IA sempre foi um dos desafios enfrentados pelos desenvolvedores e usuários, e o recurso de citações fornece mais garantias para a confiabilidade do conteúdo gerado pela IA, garantindo que os desenvolvedores possam ver claramente a fonte de conteúdo gerado pela IA. Dessa forma, o antropic não apenas melhora a transparência do produto, mas também fornece aos desenvolvedores mais ferramentas para garantir que o conteúdo gerado seja mais preciso e verificável.
Resumir
Com o desenvolvimento contínuo da tecnologia de IA, a transparência e a rastreabilidade estão se tornando cada vez mais o foco de usuários e desenvolvedores. O recurso de citações lançado pelo Antrópico responde a essa demanda e fornece aos desenvolvedores níveis mais altos de controle e a capacidade de garantir a correção do conteúdo de IA. No futuro, essa função pode se tornar a configuração padrão nas ferramentas de desenvolvimento de IA, levando todo o setor a se desenvolver em uma direção mais confiável.
Em suma, o recurso de citações do Antrópico é um passo importante para melhorar a transparência e a confiabilidade dos modelos de IA, ajudando a reduzir as ilusões de IA e fornecer aos desenvolvedores ferramentas mais confiáveis. Isso ajudará a promover o desenvolvimento saudável da tecnologia de IA.