aify

aify

Erstellen Sie Ihre KI-native Anwendung in Sekundenschnelle.

Startseite | Dokumentation | Rückmeldung

KI-natives Anwendungsframework und Laufzeit. Schreiben Sie einfach eine YAML-Datei.

? Gebrauchsfertige KI-Chatbot-Benutzeroberfläche.

Abhängigkeiten

• Microsoft/Guidance als zentrale Eingabeaufforderungs-Engine
• Uvicorn, Starlette, FastAPI als Server

Merkmale

• Modelle: Die durch Leitlinien unterstützten LLMs/Transformer-Modelle.
• Speicher: Lokale Datei / Google Cloud Datastore / Benutzerdefiniert
• Einbettungen: OpenAI / Benutzerdefiniert
• Vektorspeicherung und -suche: Lokale CSV-Dateien, Pandas DataFrame und Numpy im Speicher / Benutzerdefiniert
• Bereitstellung: Lokal / Google Cloud App Engine
• Benutzeroberfläche: Chatbot-Webbenutzeroberfläche
• API: RESTful API / Python

Erste Schritte

Willkommen bei Aify, dem KI-nativen Anwendungsframework und der Laufzeit, mit der Sie Ihre KI-Anwendungen in Sekundenschnelle versenden können! Mit Aify können Sie mithilfe einer einfachen YAML-Datei ganz einfach KI-gestützte Anwendungen erstellen und bereitstellen. In diesem Leitfaden führen wir Sie durch die Schritte, um mit Aify zu beginnen und Ihre erste KI-Anwendung zu erstellen.

Installation

Stellen Sie zunächst sicher, dass die folgenden Voraussetzungen auf Ihrem System installiert sind:

• Python 3.8 oder höher
• Pip-Paketmanager

Sobald Sie die Voraussetzungen erfüllt haben, können Sie Aify installieren, indem Sie den folgenden Befehl in Ihrem Terminal ausführen:

pip install aify

Erstellen Sie Ihre erste App

Sie müssen ein Verzeichnis für Ihre Anwendungen vorbereiten:

mkdir ./apps

Jetzt können Sie den aify-Dienst starten und dann über einen Browser auf http://localhost:2000 zugreifen und aify wird Sie begrüßen.

aify run ./apps

Jetzt ist es nur noch eine leere Anwendung, die Sie für nichts verwenden können. Als nächstes erstellen wir einen Chatbot.

Erstellen einer YAML-Datei aify verwendet eine YAML-Datei, um Ihre KI-Anwendung zu definieren. Diese Datei enthält alle notwendigen Konfigurationen und Einstellungen für Ihre Anwendung. Hier ist ein Beispiel einer einfachen YAML-Datei:

 title : Chatbot

model :
  vendor : openai
  name : gpt-3.5-turbo
  params :
    api_key : <YOUR_OPENAI_API_KEY>

prompt : |
  {{#system~}}
  You are a helpful and terse assistant.
  {{~/system}}

  {{#each (memory.read program_name session_id n=3)}}
  {{~#if this.role == 'user'}}
  {{#user~}}
  {{this.content}}
  {{~/user}}
  {{/if~}}
  {{~#if this.role == 'assistant'}}
  {{#assistant~}}
  {{this.content}}
  {{~/assistant}}
  {{/if~}}
  {{~/each}}

  {{#user~}}
  {{prompt}}
  {{memory.save program_name session_id 'user' prompt}}
  {{~/user}}

  {{#assistant~}}
  {{gen 'answer' temperature=0 max_tokens=2000}}
  {{memory.save program_name session_id 'assistant' answer}}
  {{~/assistant}}

variables :
  - name : prompt
    type : input
  - name : answer
    type : output

Hier sind einige einfache Erklärungen zu dieser YAML-Datei:

• Der Titel stellt den Namen dieser Anwendung dar.
• Der Modellabschnitt definiert das von dieser Anwendung verwendete KI-Modell und die vom Modell benötigten Laufzeitparameter.
• Der Eingabeaufforderungsabschnitt wird verwendet, um die Ausführung der Anwendung zu steuern. Aify nutzt das von Microsoft bereitgestellte Anleitungssoftwarepaket, um die Ausführung des KI-Programms voranzutreiben. Führung bietet eine Möglichkeit, als Gedankenkette zu agieren. Da die Führung das „Lenkers“-Vorlagensystem verwendet, ist das Format dieses Abschnitts eigentlich eine „Lenkers“-Vorlage. Der Eingabeaufforderungsabschnitt enthält einige Hilfsfunktionen, die es dem KI-Modell ermöglichen, sein Laufzeitverhalten dynamisch zu ändern, was uns dabei hilft, komplexere Funktionen zu erreichen. Diese Funktionen sind in aify integriert, Sie können jedoch auch Ihre eigenen Hilfsfunktionen in Python schreiben, um bestimmte Aufgaben auszuführen.
  • Die Begriffe „System“, „Benutzer“ und „Assistent“ werden verwendet, um die Rollen in einer LLM-basierten Chat-Aufgabe zu definieren.
  • „memory.read“ und „memory.write“ sind in Aify integrierte Hilfsfunktionen, die zum Speichern und Laden des Konversationsverlaufs von Benutzern und KI verwendet werden.
  • „each“ und „if“ sind von Handlers bereitgestellte Zweigkontrollanweisungen.
  • „gen“ ist die von „guidance“ bereitgestellte Funktion, um die Ausführung von LLM-Generierungsaufgaben anzuzeigen.
• Der Abschnitt „Variablen“ definiert die Eingabe- und Ausgabevariablen der Anwendung, die für externe Systeme verwendet werden, um über eine API auf die von der KI generierten Daten zuzugreifen.

Spielen Sie mit Ihrer KI-App

Gehen Sie nun zurück zu Ihrem Browser und aktualisieren Sie die Seite. Sie sehen die soeben erstellte Anwendung. Sie können damit einige Gespräche führen, genau wie ChatGPT.

aify ist kein Chatbot

Obwohl aify eine Chatbot-Schnittstelle bereitstellt, besteht sein Hauptzweck nicht darin, einen Ersatz für ChatGPT oder eine konkurrenzfähige Konversationsanwendung bereitzustellen.

Die Chatbot-Benutzeroberfläche dient ausschließlich dem bequemen Debuggen von KI-Anwendungen. Natürlich können Sie ihn auch als Chatbot für den täglichen Gebrauch verwenden.

Das Hauptziel von aify besteht darin, ein effizientes Framework für die Entwicklung und Bereitstellung von KI-Anwendungen bereitzustellen.

Wenn Ihr Ziel darin besteht, eigene komplexe KI-Anwendungen zu entwickeln, sollten Sie den von aify bereitgestellten APIs und Erweiterungsmechanismen mehr Aufmerksamkeit schenken.

Weitere Beispiele: https://github.com/shellc/aify/tree/main/examples

Webui-Screenshot