Meta hat kürzlich die Einführung des neuesten Mitglieds seiner Llama-Serie angekündigt – Llama3.370B. Ahmad Al-Dahle, Metas Vizepräsident für generative KI, verkündete die Neuigkeit deutlich reduziert.
Al-Dahle sagte, dass Llama3.370B durch die Nutzung der neuesten Post-Training-Technologie nicht nur die Leistung verbessert, sondern auch die Betriebskosten senkt. Laut den von Meta veröffentlichten Benchmark-Testergebnissen hat Llama3.370B Googles Gemini1.5Pro, OpenAIs GPT-4 und Amazons neu veröffentlichtes Nova Pro in vielen Bereichen übertroffen, insbesondere im MMLU-Test, der die Sprachverständnisfähigkeit des Modells bewertet.
Das Modell steht jetzt zum Download von Quellen wie Hugging Face und der offiziellen Plattform von Llama zur Verfügung, ein Schritt von Meta, der darauf abzielt, den KI-Bereich mit „offenen“ Modellen zu dominieren. Das Llama-Modell von Meta kann auf eine Vielzahl von Szenarien angewendet werden und unterstützt die Kommerzialisierung, obwohl Meta für einige Entwickler Nutzungsbeschränkungen festgelegt hat, sodass Plattformen mit mehr als 700 Millionen monatlichen Benutzern spezielle Lizenzen beantragen müssen. Trotzdem wurde das Llama-Modell mehr als 650 Millionen Mal heruntergeladen, was auf seine große Beliebtheit bei KI-Entwicklern auf der ganzen Welt hinweist.
Um in Zukunft das Training größerer KI-Modelle zu unterstützen, investiert Meta stark in die Computerinfrastruktur. Das Unternehmen gab kürzlich bekannt, dass es in Louisiana ein KI-Rechenzentrum im Wert von 10 Milliarden US-Dollar bauen wird, das bislang größte KI-Rechenzentrum von Meta. Zuckerberg erwähnte während der Telefonkonferenz, dass zum Trainieren des Llama4-Modells der nächsten Generation die erforderliche Rechenleistung zehnmal so hoch sein wird wie die von Llama3. Meta hat derzeit mehr als 100.000 Nvidia-GPU-Cluster gekauft und deckt damit die Ressourcen von Konkurrenten wie xAI auf.
Da die Kosten für das Training generativer KI-Modelle weiter steigen, zeigen auch die Investitionsausgaben von Meta einen steigenden Trend. Die Investitionsausgaben stiegen im zweiten Quartal 2024 um fast 33 % auf 8,5 Milliarden US-Dollar. Dieses Wachstum ist hauptsächlich auf die kontinuierlichen Investitionen von Meta in Server, Rechenzentren und Netzwerkinfrastruktur zurückzuführen.