gpt j
1.0.0
GPT-J ist eine Open-Source-Alternative von EleutherAI zu OpenAIs GPT-3. GPT-J steht jedem zum Download zur Verfügung und kann erfolgreich so angepasst werden, dass es bei einer Reihe von NLP-Aufgaben, einschließlich der Beantwortung von Fragen, der Stimmungsanalyse und der Erkennung benannter Entitäten, genauso gut funktioniert wie große Modelle.
Versuchen Sie, GPT-J selbst auf Paperspace mit der IPU (Intelligence Processing Unit) von Graphcore auszuführen, einem völlig neuen Typ eines massiv parallelen Prozessors zur Beschleunigung der Maschinenintelligenz. Greifen Sie bei Bedarf auf fortschrittliche, kosteneffiziente IPU-Berechnungen in der Cloud auf Paperspace zu, um KI-Modelle wie GPT-J zu erstellen, zu optimieren und bereitzustellen.
| Notizbuch | Rahmen | Typ | Kostenlos testen |
|---|---|---|---|
| Textuelle Entailment auf IPU mit GPT-J – Feinabstimmung | Umarmendes Gesicht | Feinabstimmung | |
| Textgenerierung mit GPT-J 6B | Umarmendes Gesicht | Schlussfolgerung | |
| Schnellere Textgenerierung mit GPT-J mithilfe der 4-Bit-Gewichtsquantisierung auf IPUs | Umarmendes Gesicht | Schlussfolgerung |
Im Notebook „Textuelle Entailment auf IPU mit GPT-J – Feinabstimmung“ zeigen wir, wie man ein vorab trainiertes GPT-J-Modell optimiert, das auf einem 16-IPU-System auf Paperspace läuft. Wir erklären, wie Sie GPT-J für Text Entailment im GLUE MNLI-Datensatz optimieren können, um die SOTA-Leistung zu erreichen und gleichzeitig viel kostengünstiger als seine größeren Cousins zu sein.
Im Notebook „Textgenerierung mit GPT-J 6B“ zeigen wir, wie einfach es ist, GPT-J auf der Graphcore-IPU mit dieser Implementierung des Modells auszuführen und ? Nabenkontrollpunkte der Modellgewichte.
Im Notebook „Schnellere Textgenerierung mit GPT-J unter Verwendung der 4-Bit-Gewichtsquantisierung auf IPUs“ zeigen wir, wie man Gruppenquantisierung verwendet, um Modellparameter ohne Feinabstimmung auf 4 Bits zu komprimieren, viermal weniger Speicher zu verbrauchen und die Inferenz auf GPT zu beschleunigen. J um ~1,5x.
Wenn Sie Ihre GPT-J-Nutzung auf IPUs weiter ausbauen oder mit einem Experten sprechen möchten, können Sie sich gerne an uns wenden.
Treten Sie unserer wachsenden Community bei und interagieren Sie mit KI-Experten, IPU-Entwicklern und Forschern. Hören Sie die neuesten IPU-Nachrichten und erhalten Sie Zugang zu unseren neuesten Modellen.
Der Inhalt dieses Repositorys wird gemäß den Bedingungen der MIT-Lizenz zur Verfügung gestellt. Einzelheiten finden Sie in der mitgelieferten LICENSE-Datei.
