A Anthropic lançou recentemente um novo recurso da série Claude de modelos de linguagem de grande escala -criando cache para reduzir o custo do uso da IA e melhorar o desempenho. Esse movimento é considerado uma estratégia única de antropia em competir com gigantes como OpenAI, Google e Microsoft para escolher o aumento da eficiência e redução das perspectivas de custo. Atualmente, esta função é testada publicamente na API do modelo Claude3.5 e Claude3 Haiku, prometendo reduzir o custo de até 90%e aumentar a velocidade de resposta de alguns cenários de aplicação. No entanto, o efeito real ainda precisa de inspeção de mercado.
Em 14 de agosto, a Anthrópica anunciou que lançou um novo recurso chamado Modelo de Linguagem de Language, da série Claude, alegando que pode reduzir bastante o custo do uso da IA e melhorar o desempenho. Mas se essa função pode ser tão mágica quanto a empresa disse e deve ser testada no mercado.
A função de cache será testada publicamente em sua API de seu modelo Claude3.5SONNET e CLAUDE3HAIKU. Essa função permite que os usuários armazenem e reutilizem informações específicas de contexto, incluindo instruções e dados complexos, sem custos adicionais ou aumento de atrasos. O porta -voz da empresa disse que essa é uma das muitas características de corte que desenvolveram para aprimorar as capacidades de Claude.
Atualmente, gigantes tecnológicos como OpenAI, Google e Microsoft lançaram competições ferozes no campo de modelos de idiomas em grande escala, e cada empresa está tentando melhorar o desempenho e a competitividade do mercado de seus produtos. Nesta concorrência, o Antrópico optou por cortar a perspectiva de melhorar a eficiência do uso e reduzir os custos, mostrando sua estratégia de mercado exclusiva.
De acordo com a Anthropic, esse novo recurso pode trazer até 90%do custo e dobrar a velocidade de resposta em alguns cenários de aplicação. Esses números são, sem dúvida, impressionantes, mas os especialistas do setor lembram que o efeito real pode ser diferente devido aos cenários e implementação de aplicação específicos.
Anthrópica disse que a função de cache é particularmente adequada para cenas que precisam ser consistentes no contexto em múltiplas consultas ou sessões, como diálogo a longo prazo, processamento de documentos em grande escala, assistência de código e ferramentas complexas. Espera -se que este método traga melhoria de eficiência para várias aplicações comerciais de IA.
Insiders do setor apontaram que, embora os novos recursos do Anthropic pareçam brilhantes, outras empresas de IA também estão explorando ativamente o método de melhorar a eficiência do modelo e reduzir os custos de uso. Por exemplo, o OpenAI fornece diferentes recursos e opções de modelos de preços, enquanto o Google está comprometido em desenvolver modelos que podem operar com eficiência em hardware comum.
Para o efeito real desse novo recurso, o mercado ainda é cauteloso. Como qualquer nova tecnologia, especialmente no campo de IA em rápido desenvolvimento, o desempenho da função de cache no mundo real ainda está para ser observado. A Anthrópica disse que trabalhará em estreita colaboração com os clientes para coletar dados e feedback relevantes, que estão alinhados com as melhores práticas no setor que avalia a influência da nova tecnologia de IA.
A iniciativa da Anthropic pode ter um amplo impacto na indústria de IA, especialmente no fornecimento de recursos avançados de IA para as PME. Se essa função for realmente tão eficaz quanto a promoção, poderá reduzir o limite para as empresas adotarem soluções complexas de IA, promovendo assim a aplicação da tecnologia de IA em um campo de negócios mais amplo.
Com o desenvolvimento de testes públicos, empresas e desenvolvedores terão a oportunidade de avaliar pessoalmente o desempenho real da função de cache e como ela se adapta às suas respectivas estratégias de IA. Nos próximos meses, espera -se que vejamos o desempenho desse prompt de IA de gerenciamento e o contexto em aplicações práticas.
A função de cache imediata do antropal representa uma tentativa interessante da indústria de IA em termos de eficiência e otimização de custos. No entanto, se pode realmente liderar a mudança do setor, também requer uma inspeção adicional do mercado. De qualquer forma, essa inovação reflete a exploração contínua de novas direções nas empresas de IA em concorrência feroz e também indica que a tecnologia de IA pode inaugurar uma nova rodada de revolução eficiente.
Em suma, a chave para o sucesso da função de cache de prompt antrópicos é o efeito real do aplicativo. O desempenho subsequente do mercado se tornará o padrão final para testar essa tecnologia e também trará uma nova revelação para toda a indústria da IA.