초기 Unix 생태계부터 오늘날의 생성 AI 및 클라우드 컴퓨팅에 이르기까지 오픈 소스 기술은 수년 동안 컴퓨터 과학 및 기술 개발에서 항상 매우 중요한 역할을 해왔습니다. 오픈 소스 운동은 혁신, 협업 및 지식 공유를 주도해 왔습니다. 컴퓨터 기술 개발의 모든 단계에서 낮은 진입 장벽, 혁신 가속화, 커뮤니티 협력 촉진 및 결과 공유 등 고유한 장점을 입증했습니다.
Red Hat은 엔터프라이즈 오픈소스 솔루션 제공업체로서 창립 이래 오픈소스에 주력해 왔으며 최근 개최된 2024 Red Hat 포럼에서 기술의 개방성과 공유를 촉진하여 AI의 적용 문턱을 낮추는 데 전념하고 있습니다. 중화권 사장 겸 사장인 빅터 차오(Victor Tsao) 글로벌 부사장은 오픈소스 AI의 무한한 가능성을 진정으로 활용하기 위해서는 기업이 먼저 기술 개발의 내부 논리와 미래 동향을 깊이 이해하는 동시에 최신 트렌드와 긴밀히 협력해야 한다고 강조했습니다. 기업 IT의 실제 요구 사항과 장기 계획을 수립합니다.
그는 현재 많은 기업들이 생산성을 향상하고 새로운 비즈니스 기회를 확대하기 위해 AI를 활용하기를 희망하고 있다고 말했습니다. 이러한 배경에서 오픈 소스 방식을 통해 엔터프라이즈 AI 애플리케이션을 가속화하는 것이 일반적인 추세가 되었습니다. 고객의 비용 요구를 더욱 충족시키기 위해 Red Hat은 "엔터프라이즈 AI 애플리케이션을 위한 3단계"라는 단계별 구현 전략도 제안했습니다.
구체적으로 첫 번째 단계에서 고객은 추가 GPU 카드 없이 CPU가 장착된 노트북에서 테스트를 실행하는 등 최소한의 리소스 구성으로 오픈소스 모델과 도구를 사용해 볼 수 있습니다.
고객이 테스트 결과에 만족하면 추가 확장을 위해 클라우드 서비스를 통해 컴퓨팅 성능을 임대하는 두 번째 단계로 진행할 수 있습니다. Red Hat 플랫폼은 거의 모든 클라우드에서 실행될 수 있으므로 고객은 기업의 클라우드를 사용하도록 선택할 수 있습니다. 데이터 센터 또는 퍼블릭 클라우드 리소스를 배포하려면 모델이 실제로 실제 요구 사항을 충족하면 대규모 배포의 세 번째 단계를 달성할 수 있습니다.
고객이 세 번째 단계에서 대규모 배포를 수행할 때 크로스 클라우드 문제에 대해 걱정할 필요가 없다는 점은 언급할 가치가 있습니다. Red Hat 아키텍처는 크로스 클라우드 하이브리드 배포를 지원하므로 고객은 다양한 클라우드 서비스를 선택할 수 있습니다. 제공업체는 보다 유연한 아키텍처, 보다 경제적인 비용 및 궁극적으로 최고의 ROI를 얻을 수 있습니다.
고객이 3단계 프로세스를 보다 원활하게 구현할 수 있도록 Red Hat과 IBM은 오픈 소스 대규모 언어 모델 Granite를 보완하는 오픈 소스 커뮤니티 프로젝트 InstructLab도 공동으로 시작했습니다. Red Hat Greater China의 솔루션 아키텍처 부서 총괄 관리자인 Aella Wang은 InstructLab이 두 가지 주요 목적으로 설계되었다고 말했습니다. 첫 번째는 고객이 InstructLab과 자체 데이터를 사용하여 Granite 기반의 요구 사항을 충족하는 모델을 교육할 수 있도록 하는 것입니다. 모델. InstructLab의 결과물은 "지식"과 "기술"이라는 두 부분으로 나누어지며, 두 부분 모두 기업 내부에서 사용할 수 있도록 보관할 수 있습니다. 두 번째는 InstructLab을 통해 지식과 기술을 업스트림 관리 조직에 피드백할 수 있다는 것입니다. 관리 조직이 고객 피드백으로부터 업데이트를 받은 후 커뮤니티 버전의 Granite에 통합되어 새 버전이 출시될 수 있습니다. 즉, InstructLab은 커뮤니티와 고객 사이의 다리입니다.
우리 모두 알고 있듯이 장면 적용은 AI 역량 강화를 위한 '라스트 마일'이다. 대형 모델에 대한 수요가 뜨거운 상황에서 많은 기업이 대형 모델을 통해 생산 효율성을 높이려고 노력하고 있지만 “이상은 충만하고 현실은 빈약하다. " 대부분의 대형 모델은 작은 실수로 인해 위험이 발생할 수 있기 때문에 실제로 실제 생산 시나리오에 적합하지 않습니다. 반대로 매개변수가 적고 훈련 데이터가 상대적으로 제한된 소형 모델은 멀티 태스킹이나 일반화 기능 측면에서 대형 모델만큼 좋지는 않지만 특정 작업이나 분야에서는 대형 모델보다 성능이 좋습니다.
따라서 Red Hat은 몇 년 전 전용 모델(충실한 목적)이라는 개념을 제안했습니다. 전용 모델을 통해 모델의 안정성과 보안을 보장한다는 전제 하에 엔터프라이즈 데이터를 활용하여 AI 모델을 생성할 수 있습니다. 위에서 언급한 InstructLab은 기업의 특정 요구 사항을 충족시키기 위해 이러한 개념을 바탕으로 탄생했습니다.
또 레드햇은 합성 데이터를 통해 실제 데이터의 필요성을 대폭 줄이고, 데이터 양을 원본의 1000분의 1 수준으로 줄일 수 있는 소형 모델 '커뮤니티 에디션'도 선보였다. 이 방법은 컴퓨팅 전력 요구 사항을 줄이고 비용을 절감할 뿐만 아니라 에너지 소비를 크게 줄이고 환경 친화적입니다.
동시에 "오픈 랩" 개념을 구축함으로써 Red Hat은 고객 자문 팀과 협력하여 회사의 R&D, 생산, 마케팅 및 고객 지원을 위한 가장 효율적인 애플리케이션 시나리오를 찾을 수 있습니다. 작은 애플리케이션으로 성공적으로 시작한 다음 점차적으로 더 큰 시나리오로 확장하세요.
“시나리오 애플리케이션은 ISV(Independent Software Vendor)와 애플리케이션 제공업체가 가장 잘하는 영역입니다. 많은 기업과 산업이 고유한 특성을 가지고 있기 때문에 Red Hat은 현지 ISV 및 솔루션 개발자와의 협력에도 속도를 내고 있습니다. 현지 ISV 및 솔루션 개발자와의 협력을 통해 ISV와 공동 개발하고 다양한 업계의 고유한 시나리오와 공동 솔루션을 결합함으로써 기업이 AI 애플리케이션을 더 빠르게 구현할 수 있도록 지원할 수 있습니다."라고 Zhao Wenbin 수석은 말했습니다. Red Hat Greater China의 마케팅 이사인 Max Zhao가 덧붙였습니다.
마지막으로 Red Hat은 중국에서 오픈소스 AI를 홍보할 계획도 가지고 있습니다. 특히 첫 번째 단계는 다양한 시장 채널을 통해 AI의 고유한 기능과 장점을 홍보하는 것입니다. 두 번째 단계는 파트너 생태계를 통해 파트너에게 권한을 부여하는 것입니다. 세 번째 단계는 오픈 랩을 통해 AI 기술을 실제 기업 시나리오에 적용하는 방법을 고객과 논의하는 것입니다.
국내 보험사는 이미 레드햇의 AI 기술을 활용해 코드 검토와 코드 병합 요청 처리 속도를 높이고 있는 것으로 알려졌다. 이전에도 이 회사는 오래된 툴을 사용할 때 정확도가 떨어지는 문제에 자주 직면했고 때로는 정확하기도 했다. 비율은 95% 미만으로 실제 생산 환경에서는 분명히 상당한 문제를 일으킬 것입니다. Red Hat의 AI 도구를 도입한 후 코드 병합 및 검토의 정확성이 크게 향상되어 이 고객의 높은 기준에 도달했습니다.
2024 Red Hat 포럼에서 Red Hat은 Amway와 Siemens Industrial Automation Products (Chengdu) Co., Ltd.가 수상한 2024 Red Hat 아시아 태평양 혁신상 수상자 목록도 발표했습니다. 그 중 Siemens Industrial Automation Products (Chengdu) Co., Ltd.(SEWC)는 독일 암베르크에 있는 Siemens의 자매 공장으로 세계에서 가장 진보된 공장 중 하나로 명성을 누리고 있습니다. 현대 디지털 생산 애플리케이션의 속도를 따라가기 위해 SEWC는 시스템 유연성 및 확장성이 부족하고 개발 효율성이 낮으며 운영이 불편한 등 생산 연속성이 어려운 딜레마에 직면해 있습니다. 공장에서는 Red Hat OpenShift를 배포하여 Memo(Manufacturing Operations Modular Ecosystem) 생산 지원 시스템을 구축했습니다. 이 시스템은 생산 라인 작업자의 사용자 경험과 작업 효율성을 크게 개선하고 최첨단 아이디어를 구현하며 산업 현장에 시스템을 제공했습니다. 자동화 제조 실행은 새로운 기준을 제시합니다.
Siemens Industrial Automation (Chengdu) Co., Ltd.의 정보 기술 부서 관리자인 Yang Jian도 인터뷰에서 Red Hat과 협력한 경험을 공유했습니다. 그는 다른 공급업체와 비교할 때 Red Hat의 응답 속도와 성능이 우수하다고 말했습니다. 현재 급변하는 AI 기술 환경에서 기업은 AI를 배포할 때 지속적으로 조정하고 개선해야 하며, Red Hat은 이 과정에서 겸손하고 우호적인 태도를 유지해 왔습니다. 이는 Siemens가 Red Hat 플랫폼을 선택한 중요한 이유이기도 합니다.
동시에 그는 Red Hat의 솔루션을 채택한 후 공장이 모놀리식 아키텍처에서 마이크로서비스 분산 아키텍처로의 전환을 실현했다고 말했습니다. 이는 두 가지 이점을 제공합니다. 첫 번째는 가동 중지 시간 없이 유지 관리, 업그레이드 및 변경을 수행할 수 있다는 것입니다. 두 번째는 각 변경 사항을 더 작은 범위로 대상으로 삼을 수 있어 정확한 제어 및 리소스 예약도 가능해졌습니다. 미래 제조업 발전의 주요 트렌드.
앞으로 Siemens는 마이크로서비스 플랫폼을 지속적으로 탐색하는 것 외에도 가상화 분야에서 Red Hat과 더 많은 협력을 통해 기존 솔루션을 대체할 계획입니다. 앞으로 Siemens는 AI를 만드는 방법도 추가로 연구할 예정입니다. 플랫폼을 자체 리소스 시스템에 통합하여 제조 프로세스를 더욱 최적화하는 것이 좋습니다.