Ollama Javascript-Spielplatz

Ollama JavaScript-Spielplatz

Wenn Ihnen dieses Repo gefällt, markieren Sie es auf GitHub – es hilft sehr!

Übersicht • Verwendung • Ausführen der Beispiele • Nächste Schritte • Ressourcen

Überblick

Probieren Sie generative KI-Modelle kostenlos direkt in Ihrem Browser auf diesem Spielplatz aus!

Mit GitHub Codespaces und Ollama können Sie SLMs ( Small Language Models) wie Phi-3 direkt in Ihrem Browser ausführen, ohne etwas installieren zu müssen.

Verwendung

Dieses Projekt ist für das Öffnen in GitHub Codespaces konzipiert, das Ihnen eine vorkonfigurierte Umgebung zum Ausführen des Codes und der KI-Modelle bietet. Befolgen Sie diese Schritte, um zu beginnen:

1. Klicken Sie auf die Schaltfläche „Codespaces: Öffnen“:
   

2. Sobald der Codespace geladen ist, sollten Ollama und das OpenAI Node SDK vorinstalliert sein.

3. Bitten Sie Ollama, das SLM Ihrer Wahl auszuführen. Um beispielsweise das Phi-3-Modell auszuführen:

    ollama run phi3

   Das Laden des Modells dauert einige Sekunden.

4. Sobald >>> in der Ausgabe angezeigt wird, können Sie über die Eingabeaufforderung eine Nachricht an dieses Modell senden.

    >>> Schreiben Sie ein Haiku über ein pelziges Kätzchen

5. Nach einigen Sekunden sollten Sie einen Antwortstrom vom Modell sehen.

6. Schließen Sie das Modell, indem Sie /bye eingeben und die Eingabetaste drücken.

7. Öffnen Sie die Datei ollama.ipynb im Editor und folgen Sie den Anweisungen.

Tipp

Während Sie den Anweisungen des interaktiven Notizbuchs folgen, können Sie die Codezellen ausführen, indem Sie auf die Schaltfläche „Zelle ausführen“ klicken ( ▶️ )-Schaltfläche in der oberen linken Ecke der Zelle. Sie können den Code auch bearbeiten und erneut ausführen, um zu sehen, wie das Modell auf verschiedene Eingaben reagiert.

Führen Sie die Proben aus

Im Beispielordner dieses Repositorys finden Sie Beispiele für die Verwendung generativer KI-Modelle mit dem OpenAI Node.js SDK. Sie können sie ausführen, indem Sie den folgenden Befehl im Terminal ausführen:

 tsx-Beispiele/

Alternativ können Sie eine Beispieldatei im Editor öffnen und direkt ausführen, indem Sie auf „Ausführen“ klicken ( ▶️ )-Schaltfläche in der oberen rechten Ecke des Editors.

Wichtig

Bei einigen Beispielen müssen Sie zuerst den Azure OpenAI-Emulator starten. Sie können dies tun, indem Sie den folgenden Befehl in einem Terminal ausführen und ihn laufen lassen, während Sie die Beispiele ausführen:

 ollamazure -d

Nächste Schritte

Sobald Sie mit diesem Spielplatz vertraut sind, können Sie weiterführende Themen und Tutorials erkunden:

• Generative KI für Anfänger [Kurs]: eine vollständige Anleitung zum Erlernen der Konzepte und Verwendung generativer KI.

• Phi-3-Kochbuch [Tutorials, Beispiele]: praktische Beispiele für die Arbeit mit dem Phi-3-Modell.

Wenn Sie erfahren möchten, wie Sie mit Azure generative Bereitstellungen durchführen können, sollten Sie sich diese Ressourcen ansehen:

• Schnellstart: Erste Schritte mit GPT-35-Turbo und GPT-4 mit Azure OpenAI Service [Tutorial]: ein Tutorial für die ersten Schritte mit Azure OpenAI Service.

• Erstellen Sie einen serverlosen KI-Chat mit RAG mithilfe von LangChain.js [Beispiel]: ein Tutorial für den nächsten Schritt zum Erstellen eines KI-Chatbots mithilfe von Retrieval-Augmented Generation und LangChain.js.

Ressourcen

Hier sind einige zusätzliche Ressourcen, die Ihnen helfen, mehr über generative KI zu erfahren:

• Awesome Generative AI [Links]: eine kuratierte Liste von Ressourcen über generative KI.

• Grundlagen verantwortungsvoller generativer KI [Kurs]: ein Schulungsmodul zum Erlernen des verantwortungsvollen Umgangs mit generativer KI.

• Azure AI Studio [Tool]: ein Webportal zum Erstellen, Trainieren, Bereitstellen und Experimentieren mit KI-Modellen.

Weitere Spielplätze in verschiedenen Sprachen:

• Ollama Python-Spielplatz

• Ollama C#-Spielplatz