Anthropic은 최근 AI 사용 비용을 줄이고 성능을 향상시키기 위해 Claude 시리즈의 대형 스케일 언어 모델 인 Cachting Cache의 새로운 기능을 출시했습니다. 이러한 움직임은 OpenAi, Google 및 Microsoft와 같은 거인과 경쟁하는 데있어서의 독특한 전략으로 간주되어 효율성을 높이고 비용 관점을 줄이면 선택합니다. 이 기능은 현재 Claude3.5 Sonnet 및 Claude3 Haiku 모델의 API에서 공개적으로 테스트되어 최대 90%의 비용을 줄이고 일부 애플리케이션 시나리오의 응답 속도를 높이겠다고 약속합니다. 그러나 실제 효과는 여전히 시장 검사가 필요합니다.
8 월 14 일, Anthropic은 Claude Series Large Language Model이라는 새로운 기능을 시작했으며 AI 사용 비용을 크게 줄이고 성능을 향상시킬 수 있다고 주장했습니다. 그러나이 기능이 회사가 말한 것처럼 마법이 될 수 있는지 여부는 시장에서 테스트해야합니다.
캐시 함수는 Claude3.5sonnet 및 Claude3haiku 모델의 API에서 공개적으로 테스트됩니다. 이 기능을 통해 사용자는 추가 비용이나 지연이 증가하지 않고 복잡한 지침 및 데이터를 포함한 특정 컨텍스트 정보를 저장하고 재사용 할 수 있습니다. 이 회사 대변인은 이것이 Claude 기능을 향상시키기 위해 개발 한 많은 절단 에지 특성 중 하나라고 말했다.
현재 OpenAi, Google 및 Microsoft와 같은 기술 거대 기업은 대규모 스케일 언어 모델 분야에서 치열한 경쟁을 시작했으며 각 회사는 제품의 성능 및 시장 경쟁력을 향상 시키려고 노력하고 있습니다. 이 경쟁에서, Anthropic은 사용 효율성을 향상시키고 비용을 줄이며 고유 한 시장 전략을 보여주는 관점에서 삭감하기로 결정했습니다.
Anthropic에 따르면,이 새로운 기능은 비용의 최대 90%를 가져오고 일부 응용 프로그램 시나리오에서 응답 속도를 두 배로 늘릴 수 있습니다. 이 숫자는 의심 할 여지없이 인상적이지만 업계 전문가들은 특정 응용 시나리오 및 구현으로 인해 실제 효과가 다를 수 있음을 상기시킵니다.
Anthropic은 캐시 기능이 장기 대화, 대규모 스케일 문서 처리, 코드 지원 및 복잡한 도구와 같은 여러 쿼리 또는 세션에서 컨텍스트에서 일관성이 필요한 장면에 특히 적합하다고 말했다. 이 방법은 다양한 상업용 AI 응용 프로그램에 효율성이 향상 될 것으로 예상됩니다.
업계 내부자들은 Anthropic의 새로운 기능이 밝은 것처럼 보이지만 다른 AI 회사는 모델 효율성을 향상시키고 사용 비용을 줄이는 방법을 적극적으로 탐색하고 있다고 지적했습니다. 예를 들어 OpenAI는 다양한 기능과 가격 모델 옵션을 제공하는 반면 Google은 일반 하드웨어에서 효율적으로 작동 할 수있는 모델을 개발하기 위해 노력하고 있습니다.
이 새로운 기능의 실제 효과에 대해서는 시장이 여전히 신중합니다. 특히 빠르게 개발되는 AI 필드에서 새로운 기술과 마찬가지로 실제 세계에서 캐시 기능의 성능은 아직 관찰되지 않았습니다. Anthropic은 새로운 AI 기술의 영향을 평가하는 업계의 모범 사례와 일치하는 관련 데이터 및 피드백을 수집하기 위해 고객과 긴밀히 협력 할 것이라고 말했다.
Anthropic의 이니셔티브는 AI 산업, 특히 중소기업에 고급 AI 기능을 제공하는 데 큰 영향을 줄 수 있습니다. 이 기능이 실제로 홍보만큼 효과적이라면 기업이 복잡한 AI 솔루션을 채택 할 수있는 임계 값을 줄여서 광범위한 비즈니스 분야에서 AI 기술의 적용을 홍보 할 수 있습니다.
공개 테스트의 개발을 통해 기업과 개발자는 캐시 기능의 실제 성능과 각각의 AI 전략에 적응하는 방법을 개인적으로 평가할 수있는 기회를 갖게됩니다. 향후 몇 개월 동안, 우리는이 관리 AI 프롬프트의 성능과 실제 응용 프로그램의 컨텍스트를 볼 것으로 예상됩니다.
Anthropic의 프롬프트 캐시 기능은 효율성 및 비용 최적화 측면에서 AI 산업의 흥미로운 시도를 나타냅니다. 그러나 업계의 변화를 진정으로 이끌 수 있는지 여부에 관계없이 시장에 대한 추가 검사가 필요합니다. 어쨌든,이 혁신은 치열한 경쟁에서 AI 기업의 새로운 방향에 대한 지속적인 탐구를 반영하며, 또한 AI 기술이 새로운 효율적인 혁명을 안내 할 수 있음을 나타냅니다.
대체로, 인류 프롬프트 캐시 함수의 성공의 핵심은 실제 애플리케이션 효과입니다. 후속 시장 성과는이 기술을 테스트하는 데있어 최고의 표준이 될 것이며 AI 산업 전체에 새로운 계시를 가져올 것입니다.