전직 구글 직원들이 설립한 그로크(Groq)는 최근 AI 가속 칩 LPU를 출시했다. 이 칩은 혁신적인 SRAM 스토리지 기술과 메모리 액세스를 줄이는 아키텍처 설계를 통해 대형 모델의 추론 및 생성 속도를 크게 향상시킵니다. 속도는 GPU보다 최대 10배까지 향상될 수 있다고 합니다. LPU는 Llama, Mixtral 등 다양한 대형 모델을 지원하며, 출시를 통해 대형 모델의 성능을 최적화하고 음성 비서, AI 글쓰기 등 애플리케이션의 응답 속도를 향상시켜 AI 애플리케이션의 성능 향상에 새로운 가능성을 열어줄 것입니다. 이는 AI 칩 분야에서 중요한 혁신을 의미합니다.
그로크(Groq)는 구글 출신 직원들이 설립한 AI 칩 스타트업이다. 회사는 기술 혁신을 통해 추론과 대형 모델 생성 속도를 GPU보다 최대 10배 빠른 속도로 획기적으로 높이는 AI 가속 칩 LPU를 출시했다. 이는 주로 고속 SRAM 스토리지 기술을 사용하고 메모리 액세스를 줄이는 아키텍처 설계에 기인합니다. 사용자는 Llama, Mixtral 및 기타 대형 모델을 LPU에서 실행할 수 있습니다. LPU의 도입은 대형 모델의 성능을 더욱 최적화하는 데 도움이 되거나, 음성 비서, AI 글쓰기 등 애플리케이션의 응답 속도를 향상시키는 데 사용될 수 있습니다.LPU 칩의 등장은 AI 분야에 새로운 활력을 불어넣었다. 그 고속 성능은 더 많은 AI 애플리케이션의 대중화와 개발을 촉진할 것으로 예상된다. 향후 시장에서의 성능과 영향력에 계속 주목할 필요가 있다. . 우리는 앞으로 LPU를 기반으로 한 더욱 혁신적인 애플리케이션이 등장하기를 기대합니다.