jupyter ai

Jupyter-KI

Jupyter AI befindet sich im Rahmen der JupyterLab-Organisation in der Entwicklung.

Jupyter AI verbindet generative KI mit Jupyter-Notebooks. Jupyter AI bietet eine benutzerfreundliche und leistungsstarke Möglichkeit, generative KI-Modelle in Notebooks zu erkunden und Ihre Produktivität in JupyterLab und dem Jupyter Notebook zu verbessern. Genauer gesagt bietet Jupyter AI:

• Eine %%ai Magie, die das Jupyter-Notebook in einen reproduzierbaren generativen KI-Spielplatz verwandelt. Dies funktioniert überall dort, wo der IPython-Kernel ausgeführt wird (JupyterLab, Jupyter Notebook, Google Colab, Kaggle, VSCode usw.).
• Eine native Chat-Benutzeroberfläche in JupyterLab, die es Ihnen ermöglicht, als Gesprächsassistent mit generativer KI zu arbeiten.
• Unterstützung für eine Vielzahl generativer Modellanbieter, darunter AI21, Anthropic, AWS, Cohere, Gemini, Hugging Face, MistralAI, NVIDIA und OpenAI.
• Lokale Modellunterstützung durch GPT4All und Ollama, die die einfache und vertrauliche Nutzung generativer KI-Modelle auf Verbrauchermaschinen ermöglicht.

Die Dokumentation ist auf ReadTheDocs verfügbar.

Anforderungen

Um Jupyter AI verwenden zu können, müssen Sie die folgende Software installiert haben:

• Python 3.8 - 3.12
• JupyterLab 4 oder Notebook 7

Darüber hinaus benötigen Sie Zugang zu mindestens einem Modellanbieter.

Wichtig

JupyterLab 3 hat am 15. Mai 2024 das Ende der Wartung erreicht. Aus diesem Grund werden wir keine neuen Funktionen in den v1-Zweig zurückportieren, der JupyterLab 3 unterstützt. Korrekturen für kritische Probleme werden noch bis zum 31. Dezember 2024 zurückportiert. Falls Sie es noch sind Wenn Sie JupyterLab 3 verwenden, empfehlen wir Ihnen dringend , so bald wie möglich ein Upgrade auf JupyterLab 4 durchzuführen . Weitere Informationen finden Sie unter „Ende der Wartung von JupyterLab 3“ im Jupyter-Blog.

Einrichten von Modellanbietern in einem Notebook

Um einen KI-Modellanbieter in diesem Notebook verwenden zu können, benötigen Sie die entsprechenden Anmeldeinformationen, z. B. API-Schlüssel.

Besorgen Sie sich die erforderlichen Anmeldeinformationen, z. B. API-Schlüssel, von der Plattform Ihres Modellanbieters.

Sie können Ihre Schlüssel mithilfe von Umgebungsvariablen oder in einer Codezelle in Ihrem Notebook festlegen. In einer Codezelle können Sie den magischen Befehl %env verwenden, um die Anmeldeinformationen wie folgt festzulegen:

 # NOTE: Replace 'PROVIDER_API_KEY' with the credential key's name,
# and replace 'YOUR_API_KEY_HERE' with the key.
% env PROVIDER_API_KEY = YOUR_API_KEY_HERE

Genauere Anweisungen für jeden Modellanbieter finden Sie in der Dokumentation des Modellanbieters.

Installation

Nachfolgend finden Sie eine vereinfachte Übersicht über den Installations- und Nutzungsprozess. Einzelheiten zur Installation und Verwendung von Jupyter AI finden Sie in unserer offiziellen Dokumentation.

Wir bieten drei verschiedene Möglichkeiten, Jupyter AI zu installieren. Sie können jeden Abschnitt durchlesen, um die Installationsmethode auszuwählen, die für Sie am besten geeignet ist.

1. Schnelle Installation über pip (empfohlen)
2. Minimale Installation über pip
3. Minimale Installation über conda

Schnelle Installation über pip (empfohlen)

Wenn Sie sowohl die %%ai Magie als auch die JupyterLab-Erweiterung installieren möchten, können Sie Folgendes ausführen:

 $ pip install jupyter-ai[all]

Starten Sie dann JupyterLab neu. Dadurch werden alle optionalen Abhängigkeiten installiert, die Zugriff auf alle derzeit von jupyter-ai unterstützten Modelle ermöglichen.

Wenn Sie JupyterLab nicht verwenden und nur die Jupyter AI %%ai -Magie installieren möchten, können Sie Folgendes ausführen:

 $ pip install jupyter-ai-magics[all]

jupyter-ai hängt von jupyter-ai-magics ab, daher wird bei der Installation jupyter-ai automatisch auch jupyter-ai-magics installiert.

Minimale Installation über pip

Die meisten Modellanbieter in Jupyter AI erfordern die Installation einer bestimmten Abhängigkeit, bevor sie zur Verwendung verfügbar sind. Diese werden Anbieterabhängigkeiten genannt. Anbieterabhängigkeiten sind für Jupyter AI optional, was bedeutet, dass Jupyter AI mit oder ohne installierte Anbieterabhängigkeiten installiert werden kann. Wenn ein Anbieter eine Abhängigkeit erfordert, die nicht installiert ist, werden seine Modelle nicht in der Benutzeroberfläche aufgeführt, sodass Sie ein Sprachmodell auswählen können.

Um eine minimale Installation über pip ohne Anbieterabhängigkeiten durchzuführen, lassen Sie die optionale Abhängigkeitsgruppe [all] aus dem Paketnamen weg:

 pip install jupyter-ai

Durch die selektive Installation von Anbieterabhängigkeiten können Sie steuern, welche Modelle in Ihrer Jupyter-KI-Umgebung verfügbar sind.

Um beispielsweise Jupyter AI mit nur zusätzlicher Unterstützung für Anthropic-Modelle zu installieren, führen Sie Folgendes aus:

 pip install jupyter-ai langchain-anthropic

Weitere Informationen zu Modellanbietern und den dafür erforderlichen Abhängigkeiten finden Sie in der Modellanbietertabelle.

Minimale Installation über conda

Alternativ zur Verwendung von pip können Sie jupyter-ai mit Conda über den conda-forge -Kanal installieren:

 $ conda install conda-forge::jupyter-ai

Die meisten Modellanbieter in Jupyter AI erfordern die Installation einer bestimmten Anbieterabhängigkeit , bevor sie zur Verwendung verfügbar sind. Anbieterabhängigkeiten werden bei der Installation jupyter-ai von Conda Forge nicht installiert und sollten bei Bedarf separat installiert werden.

Um beispielsweise Jupyter AI mit nur zusätzlicher Unterstützung für OpenAI-Modelle zu installieren, führen Sie Folgendes aus:

 conda install conda-forge::jupyter-ai conda-forge::langchain-openai

Weitere Informationen zu Modellanbietern und den dafür erforderlichen Abhängigkeiten finden Sie in der Modellanbietertabelle.

Der magische Befehl %%ai

Die %%ai Magie funktioniert überall dort, wo der IPython-Kernel ausgeführt wird, einschließlich JupyterLab, Jupyter Notebook, Google Colab und Visual Studio Code.

Sobald Sie %%ai Magic installiert haben, können Sie es in jedem Notebook oder in der IPython-Shell aktivieren, indem Sie Folgendes ausführen:

 %load_ext jupyter_ai_magics

oder:

 %load_ext jupyter_ai

Die folgenden Screenshots stammen aus Notebooks im Verzeichnis examples/ dieses Pakets.

Anschließend können Sie den magischen Befehl %%ai verwenden, um ein Modell und eine Eingabeaufforderung in natürlicher Sprache anzugeben:

Jupyter AI kann auch HTML und Mathematik generieren, die als Zellausgabe gerendert werden.

Jupyter AI kann IPython-Ausdrücke interpolieren, sodass Sie Eingabeaufforderungen ausführen können, die Variablenwerte enthalten.

JupyterLab-Erweiterung

Die Jupyter AI-Erweiterung für JupyterLab bietet eine native Benutzeroberfläche, die es mehreren Benutzern ermöglicht, mit dem Jupyter AI-Konversationsassistenten zu chatten. Wenn Sie JupyterLab installiert haben, sollte dies bei der Installation des jupyter_ai -Pakets installiert und aktiviert werden.

Benutzen

Hilfe bei der Installation und Verwendung von Jupyter AI finden Sie in unserer Benutzerdokumentation auf ReadTheDocs.

Mitwirken

Wenn Sie zu Jupyter AI beitragen möchten, lesen Sie unsere Mitwirkendendokumentation auf ReadTheDocs.