aify

aifier

Créez votre application native d'IA en quelques secondes.

Accueil | Documents | Retour

Cadre d'application et environnement d'exécution natifs pour l'IA. Écrivez simplement un fichier YAML.

? Interface utilisateur de chatbot IA prête à l'emploi.

Dépendances

• Microsoft/guidance comme moteur d'invite principal
• Uvicorn, Starlette, FastAPI comme serveur

Caractéristiques

• Modèles : les modèles LLM/transformateurs soutenus par des conseils.
• Stockage mémoire : fichier local/Google Cloud Datastore/Défini par l'utilisateur
• Embeddings : OpenAI / Défini par l'utilisateur
• Stockage et recherche de vecteurs : fichiers CSV locaux, Pandas DataFrame et Numpy en mémoire / Défini par l'utilisateur
• Déploiement : moteur d'application local/Google Cloud
• Interface utilisateur : Webui du chatbot
• API : API RESTful / Python

Commencer

Bienvenue dans Aify, le framework d'application et d'exécution natif d'IA qui vous permet de livrer vos applications d'IA en quelques secondes ! Avec Aify, vous pouvez facilement créer et déployer des applications basées sur l'IA à l'aide d'un simple fichier YAML. Dans ce guide, nous vous guiderons à travers les étapes pour démarrer avec Aify et créer votre première application d'IA.

Installation

Pour commencer, assurez-vous que les prérequis suivants sont installés sur votre système :

• Python 3.8 ou supérieur
• Gestionnaire de paquets pip

Une fois que vous avez les prérequis, vous pouvez installer Aify en exécutant la commande suivante dans votre terminal :

pip install aify

Créez votre première application

Vous devez préparer un répertoire pour vos applications :

mkdir ./apps

Vous pouvez maintenant démarrer le service aify, puis accéder à http://localhost:2000 à l'aide d'un navigateur, et aify vous accueillera.

aify run ./apps

Maintenant, ce n'est plus qu'une application vierge, vous ne pouvez l'utiliser pour rien. Ensuite, nous allons créer un chatbot.

Création d'un fichier YAML aify utilise un fichier YAML pour définir votre application IA. Ce fichier contient toutes les configurations et paramètres nécessaires à votre application. Voici un exemple de fichier YAML de base :

 title : Chatbot

model :
  vendor : openai
  name : gpt-3.5-turbo
  params :
    api_key : <YOUR_OPENAI_API_KEY>

prompt : |
  {{#system~}}
  You are a helpful and terse assistant.
  {{~/system}}

  {{#each (memory.read program_name session_id n=3)}}
  {{~#if this.role == 'user'}}
  {{#user~}}
  {{this.content}}
  {{~/user}}
  {{/if~}}
  {{~#if this.role == 'assistant'}}
  {{#assistant~}}
  {{this.content}}
  {{~/assistant}}
  {{/if~}}
  {{~/each}}

  {{#user~}}
  {{prompt}}
  {{memory.save program_name session_id 'user' prompt}}
  {{~/user}}

  {{#assistant~}}
  {{gen 'answer' temperature=0 max_tokens=2000}}
  {{memory.save program_name session_id 'assistant' answer}}
  {{~/assistant}}

variables :
  - name : prompt
    type : input
  - name : answer
    type : output

Voici quelques explications simples sur ce fichier YAML :

• Le titre représente le nom de cette application.
• La section modèle définit le modèle d'IA utilisé par cette application et les paramètres d'exécution requis par le modèle.
• La section d'invite est utilisée pour piloter l'exécution de l'application. Aify utilise le progiciel de guidage fourni par Microsoft pour piloter l'exécution du programme d'IA. L’orientation fournit un moyen de fonctionner comme une chaîne de pensée. Étant donné que le guidage utilise le système de modèles de guidon, le format de cette section est en fait un modèle de guidon. La section d'invite contient des fonctions d'assistance qui permettent au modèle d'IA de modifier dynamiquement son comportement d'exécution, nous aidant ainsi à obtenir des fonctionnalités plus complexes. Ces fonctions sont intégrées pour aify, mais vous pouvez également écrire vos propres fonctions d'assistance en Python pour accomplir des tâches spécifiques.
  • Les termes « système », « utilisateur » et « assistant » sont utilisés pour définir les rôles dans une tâche de discussion basée sur LLM.
  • "memory.read" et "memory.write" sont des fonctions d'assistance intégrées dans Aify, utilisées pour enregistrer et charger l'historique des conversations des utilisateurs et de l'IA.
  • « each » et « if » sont des déclarations de contrôle de branche fournies par guidon.
  • "gen" est la fonction fournie par "guidance" pour indiquer l'exécution des tâches de génération LLM.
• La section variables définit les variables d'entrée et de sortie de l'application, qui sont utilisées par les systèmes externes pour accéder aux données générées par l'IA via une API.

Jouez avec votre application IA

Revenez maintenant à votre navigateur et actualisez la page. Vous verrez l'application que vous venez de créer. Vous pouvez avoir des conversations avec lui, tout comme ChatGPT.

aify n'est pas un chatbot

Bien qu'aify fournisse une interface de chatbot, son objectif principal n'est pas de remplacer ChatGPT ou une application de conversation concurrente.

L'interface utilisateur du chatbot est uniquement destinée au débogage pratique des applications d'IA. Bien entendu, vous pouvez effectivement l’utiliser comme chatbot pour un usage quotidien.

L'objectif principal d'aify est de fournir un cadre efficace pour développer et déployer des applications d'IA.

Si votre objectif est de développer vos propres applications d'IA complexes, vous devez accorder plus d'attention aux API et aux mécanismes d'extension fournis par aify.

Plus d'exemples : https://github.com/shellc/aify/tree/main/examples

Capture d'écran Webui