Downcodes小編報道:MiniCPM-V2.6,這款來自OpenBMB的8B參數多模態端側模型,近期在GitHub和Hugging Face上取得了令人矚目的成績,躋身Top 3,GitHub星標數量突破萬顆,下載量更是突破百萬!它在單圖、多圖、視訊理解等方面全面超越了GPT-4V,並首次整合了即時視訊理解、多圖聯合理解等高端功能。其高效的性能和便捷的部署方式,使其成為端側模型能力極限的重要衡量標準,引發了全球技術圈的廣泛關注。
面壁小型鋼砲MiniCPM-V系列的最新版本2.6自發布以來,在全球著名開源社群GitHub和HuggingFace趨勢榜上迅速上升至Top3,其GitHub星標數量已破萬。自2月1日首次亮相至今,MiniCPM系列的累積下載量已超過百萬次,成為端側模型能力極限的一個重要衡量標準。
MiniCPM-V2.6以其8B參數實現了單圖、多圖、視訊理解的全面性能提升,超越了GPT-4V。這款端側多模態模型首次整合了即時視訊理解、多圖聯合理解、多圖ICL等高階功能。它在量化後端側記憶體僅佔6GB,端側推理速度高達18tokens/s,比上代模型快33%,並且支援llama.cpp、ollama、vllm推理,同時支援多種語言。
這項技術突破在全球技術圈引起了熱烈反響,許多開發者和社群成員對MiniCPM-V2.6的發布表現出極大興趣。
目前,MiniCPM-V2.6的GitHub和Hugging Face開源位址已對外公佈,同時提供了llama.cpp、ollama、vllm部署教學的連結。
MiniCPM-V2.6GitHub 開源位址:
https://github.com/OpenBMB/MiniCPM-V
MiniCPM-V2.6Hugging Face 開源位址:
https://huggingface.co/openbmb/MiniCPM-V-2_6
llama.cpp、ollama、vllm 部署教程位址:
https://modelbest.feishu.cn/docx/Duptdntfro2Clfx2DzuczHxAnhc
MiniCPM-V2.6的開源,為開發者提供了強大的工具和便捷的部署教程,相信在未來會推動端側多模態模型技術的發展,並為更多應用場景帶來創新可能。 Downcodes小編將持續關注其後續進展,敬請期待!