Downcodes-Editorberichte: MiniCPM-V2.6, dieses multimodale Endseitenmodell mit 8B-Parametern von OpenBMB, hat kürzlich beeindruckende Ergebnisse auf GitHub und Hugging Face erzielt und gehört zu den Top 3, und die Anzahl der GitHub-Sterne hat 10.000 überschritten. und die Zahl der Downloads überstieg eine Million! Es übertrifft GPT-4V in Bezug auf Einzelbild-, Mehrbild- und Videoverständnis umfassend und integriert erstmals High-End-Funktionen wie Echtzeit-Videoverständnis und gemeinsames Mehrbildverständnis. Seine effiziente Leistung und die praktische Bereitstellungsmethode machen es zu einem wichtigen Maß für die Grenzen der Fähigkeiten von End-Side-Modellen, was im globalen Technologiekreis große Aufmerksamkeit erregt hat.
Seit ihrer Veröffentlichung ist die neueste Version 2.6 der MiniCPM-V-Serie schnell in die Top 3 der Trendlisten von GitHub und HuggingFace, den weltweit führenden Open-Source-Communities, aufgestiegen und die Zahl der GitHub-Stars hat 10.000 überschritten. Seit ihrem Debüt am 1. Februar wurde die MiniCPM-Reihe mehr als eine Million Mal heruntergeladen und ist damit zu einem wichtigen Maßstab für die Grenzen der clientseitigen Modellfähigkeiten geworden.
MiniCPM-V2.6 erreicht mit seinen 8B-Parametern umfassende Leistungsverbesserungen beim Einzelbild-, Mehrbild- und Videoverständnis und übertrifft damit GPT-4V. Dieses endseitige multimodale Modell integriert erstmals High-End-Funktionen wie Echtzeit-Videoverständnis, Mehrbild-Gelenkverständnis und Mehrbild-ICL. Es belegt nur 6 GB Speicher auf der quantisierten Back-End-Seite und die End-End-Inferenzgeschwindigkeit beträgt bis zu 18 Token/s, was 33 % schneller ist als das Modell der vorherigen Generation. Es unterstützt llama.cpp, ollama, vllm Inferenz und unterstützt mehrere Sprachen.
Dieser technologische Durchbruch hat in der globalen Technologiewelt begeisterte Reaktionen hervorgerufen und viele Entwickler und Community-Mitglieder haben großes Interesse an der Veröffentlichung von MiniCPM-V2.6 gezeigt.
Derzeit wurden die Open-Source-Adressen GitHub und Hugging Face von MiniCPM-V2.6 der Öffentlichkeit bekannt gegeben und Links zu den Bereitstellungs-Tutorials llama.cpp, ollama und vllm bereitgestellt.
MiniCPM-V2.6GitHub Open-Source-Adresse:
https://github.com/OpenBMB/MiniCPM-V
MiniCPM-V2.6Hugging Face Open-Source-Adresse:
https://huggingface.co/openbmb/MiniCPM-V-2_6
Adresse des Tutorials zur Bereitstellung von llama.cpp, ollama und vllm:
https://modelbest.feishu.cn/docx/Duptdntfro2Clfx2DzuczHxAnhc
Die Open Source von MiniCPM-V2.6 bietet Entwicklern leistungsstarke Tools und praktische Bereitstellungs-Tutorials. Es wird davon ausgegangen, dass sie die Entwicklung endseitiger multimodaler Modelltechnologie in Zukunft fördern und innovative Möglichkeiten für mehr Anwendungsszenarien bieten werden. Der Herausgeber von Downcodes wird weiterhin auf den weiteren Fortschritt achten, also bleiben Sie dran!