從早期的Unix生態系統再到如今的生成式AI和雲端運算,開源技術一直在電腦科學技術的發展中扮演著十分重要的角色,多年以來,開源運動一直驅動著創新、協作和共享知識的進步,並在電腦科技發展的每個階段都彰顯出了低進入門檻、加速創新、促進社區合作與共享成果的獨特優勢。
作為企業開源解決方案提供商,紅帽自成立以來一直以開源為核心,致力於透過促進技術的開放和共享,降低AI的應用門檻,在近日舉辦的2024紅帽論壇期間,紅帽全球副總裁兼大中華區總裁曹衡康(Victor Tsao)就強調,要真正解鎖開源AI的無限可能,企業必須先深入理解技術發展的內在邏輯與未來趨勢,同時緊密貼合企業IT的現實需求與長遠規劃。
他表示,當下許多企業都希望藉助AI提升生產力,拓展新的商業機會,在這樣的背景之下,透過開源方法加速企業ai應用成為了大勢所趨。而為了進一步滿足客戶在成本方面的訴求,紅帽也提出了逐步實施的策略,即「企業AI應用三步驟」。
具體來說,在第一步,客戶可以在最小資源配置的前提下試用開源模型和工具,例如在筆記型電腦上用CPU試跑,而不需要額外的GPU卡。
如果對客戶對測試效果滿意,就可以進入第二步,即透過雲端服務租用算力進行進一步擴展,由於紅帽平台幾乎可以在任何雲端上運行,客戶可以選擇透過企業的資料中心或公有雲資源來進行部署,如果模型確實符合實際需求,就可以實現第三步驟的大規模部署了。
值得一提的是,當客戶進行第三步驟的大規模部署時,也無需擔心跨雲的問題,由於紅帽架構支援跨雲端的混合部署,因此客戶可以選擇在不同的國家透過不同的雲端服務提供者來部署,從而實現更靈活的架構和更經濟的成本,並最終實現最佳的投資回報率。
為了能讓客戶更順利地實作三步驟,紅帽也和IBM共同發起了開源社群專案InstructLab,與開源的大語言模式Granite相輔相成。紅帽大中華區方案架構部總經理王慧慧(Aella Wang)表示,設計InstructLab有兩個主要目的,第一是可以讓客戶基於Granite模型,使用InstructLab和自身資料訓練出符合需求的模型。 InstructLab的產出分為「知識」與「技能」兩部分,皆可留在企業內部自用。第二則是透過InstructLab可以把知識和技能回饋到上游的管理機構中,在管理機構收到客戶回饋的更新之後,可以將其整合到社群版本的Granite中並發布新版本。換句話說,InstructLab是連結社區和客戶的橋樑。
眾所周知,場景應用是AI實現賦能的“最後一公里”,在大模型炙手可熱的當下,雖然很多企業都在嘗試通過大模型提升生產效率,但“理想很豐滿,現實很骨感”,多數大模型其實不適合實際的生產場景,因為一點小錯可能會帶來風險。反而是參數數量較少,訓練資料相對有限的小模型,雖然在多任務或泛化能力方面不及大模型,但在特定任務或領域的表現比大模型更好。
因此,紅帽在幾年前就提出了專屬模型(faithful purpose)的概念,透過專屬模型,可以讓企業的數據用來驅動AI模型的生成,在確保模型穩定安全的前提下,符合企業的特定需求,上文提到的InstructLab也正是基於這個理念而誕生的。
此外,紅帽還引入了「社群版」小模型,透過合成資料大幅減少對真實資料的需求,可以降資料量降到原來的千分之一。這種方式不僅降低了算力需求,節省了成本,造成的能耗也大幅減少,對環境更友善。
同時,透過建構「開放實驗室」的概念,紅帽可以與客戶的顧問團隊合作,針對企業的研發、生產、市場行銷和客戶支援等環節,一起找出最具效能的應用情境。從一個小應用程式成功起步,再逐步擴展到更大的場景。
「場景應用是ISV(獨立軟體開發商)和應用供應商最擅長的領域,由於許多企業和產業都有各自的特點,因此紅帽也在加速和本土ISV和方案開發商的合作,此外我們也特別關注共創模式(co-creation),透過與ISV共創,結合各行業的獨特場景和聯合解決方案,可以幫助企業更快地實現AI應用落地。 Max Zhao)補充道。
最後在中國本土推動開源AI方面,紅帽也有相應的計劃,具體來說,第一步是透過各種市場管道推廣AI的獨特功能和優勢;第二步是透過合作夥伴生態,賦能合作夥伴的技術和顧問團隊,使他們更深入地了解紅帽的AI技術,從而更好地支持客戶;第三步則是透過開放實驗室,與客戶共同探討如何將AI技術應用到企業的實際場景中。
據悉,國內的某家保險公司已經在使用紅帽的AI技術來加速代碼審查和代碼合併請求的處理了,此前這家公司在使用舊工具時,會經常面臨準確率低的問題,有些時候準確率甚至不如95%,這在實際的生產環境中顯然會造成不小的問題,在引入紅帽的AI工具後,代碼合併和審查的準確率大大提升,達到了這家客戶的高標準。
在2024年紅帽論壇期間,紅帽也宣布了2024紅帽亞太創新獎中國區得獎名單,安麗和西門子工業自動化產品(成都)有限公司獲得此獎項。其中,西門子工業自動化產品(成都)有限公司(SEWC)作為西門子德國安貝格(Amberg)的姊妹工廠,享有全球最先進工廠之一的聲譽。為跟上現代數位化生產應用的步伐,SEWC面臨生產連續性受到挑戰的困境,包括系統靈活性和可擴展性不足、開發效率低下,以及操作不便等問題。該工廠透過部署紅帽OpenShift,打造了Memo(製造營運模組化生態系統)生產支援系統,該系統顯著提升了生產線工人的用戶體驗和工作效率,將前沿理念付諸實踐,為工業自動化製造執行系統的軟體應用樹立了新的標竿。
西門子工業自動化(成都)有限公司資訊科技部經理楊健在接受採訪時也分享了和紅帽合作的感受,他表示,與其他的供應商相比,紅帽在響應速度和責任感方面的表現十分突出,在AI技術環境快速變化的當下,企業在部署AI時也要不斷進行調優和改進,而紅帽則在這個過程中保持了謙虛友好的態度,這種共創模式的合作環境非常寶貴,也是西門子選擇紅帽平台的重要原因。
同時他也表示,在採用紅帽的解決方案以後,工廠實現了從單體架構到微服務分散式架構的轉型。這樣帶來了兩個優勢,第一是可以在不停機的情況下進行維護、升級和變更;第二是每次變更可以針對更小的範圍,便於精準控制和資源調度,這種轉型也會成為製造業未來發展的一大趨勢。
面向未來,除了繼續在微服務平台上探索以外,西門子也計劃在虛擬化領域與紅帽展開更多合作,從而實現對部分現有方案的替代,未來西門子也會進一步研究如何將AI平台更好地整合到自身的資源體系中,以進一步優化製造流程。