aify

aificar

Cree su aplicación nativa de IA en segundos.

Inicio | Documentación | Comentario

Marco de aplicación y tiempo de ejecución nativos de IA. Simplemente escriba un archivo YAML.

? Interfaz de usuario de chatbot de IA lista para usar.

Dependencias

• microsoft/guidance como motor de avisos principal
• Uvicorn, Starlette, FastAPI como servidor

Características

• Modelos: Los modelos LLM/transformadores apoyados en orientación.
• Almacenamiento de memoria: archivo local/Google Cloud Datastore/definido por el usuario
• Incorporaciones: OpenAI / Definido por el usuario
• Almacenamiento y búsqueda de vectores: archivos CSV locales, Pandas DataFrame y Numpy en memoria/definido por el usuario
• Implementación: motor de aplicaciones local/Google Cloud
• Interfaz de usuario: webui del chatbot
• API: API RESTful / Python

Empezando

¡Bienvenido a Aify, el marco y tiempo de ejecución de aplicaciones nativas de IA que le permite enviar sus aplicaciones de IA en segundos! Con Aify, puede crear e implementar fácilmente aplicaciones basadas en IA utilizando un simple archivo YAML. En esta guía, lo guiaremos a través de los pasos para comenzar con Aify y crear su primera aplicación de IA.

Instalación

Para comenzar, asegúrese de tener los siguientes requisitos previos instalados en su sistema:

• Python 3.8 o superior
• administrador de paquetes pip

Una vez que tenga los requisitos previos, puede instalar Aify ejecutando el siguiente comando en su terminal:

pip install aify

Crea tu primera aplicación

Necesita preparar un directorio para sus aplicaciones:

mkdir ./apps

Ahora puede iniciar el servicio aify y luego acceder a http://localhost:2000 usando un navegador, y aify lo saludará.

aify run ./apps

Ahora es sólo una aplicación en blanco, no puedes usarla para nada. A continuación, crearemos un chatbot.

Creación de un archivo YAML aify utiliza un archivo YAML para definir su aplicación de IA. Este archivo contiene todas las configuraciones y ajustes necesarios para su aplicación. A continuación se muestra un ejemplo de un archivo YAML básico:

 title : Chatbot

model :
  vendor : openai
  name : gpt-3.5-turbo
  params :
    api_key : <YOUR_OPENAI_API_KEY>

prompt : |
  {{#system~}}
  You are a helpful and terse assistant.
  {{~/system}}

  {{#each (memory.read program_name session_id n=3)}}
  {{~#if this.role == 'user'}}
  {{#user~}}
  {{this.content}}
  {{~/user}}
  {{/if~}}
  {{~#if this.role == 'assistant'}}
  {{#assistant~}}
  {{this.content}}
  {{~/assistant}}
  {{/if~}}
  {{~/each}}

  {{#user~}}
  {{prompt}}
  {{memory.save program_name session_id 'user' prompt}}
  {{~/user}}

  {{#assistant~}}
  {{gen 'answer' temperature=0 max_tokens=2000}}
  {{memory.save program_name session_id 'assistant' answer}}
  {{~/assistant}}

variables :
  - name : prompt
    type : input
  - name : answer
    type : output

Aquí hay algunas explicaciones simples sobre este archivo YAML:

• El título representa el nombre de esta aplicación.
• La sección de modelo define el modelo de IA utilizado por esta aplicación y los parámetros de tiempo de ejecución requeridos por el modelo.
• La sección de aviso se utiliza para impulsar la ejecución de la aplicación. Aify utiliza el paquete de software de guía proporcionado por Microsoft para impulsar la ejecución del programa de IA. La orientación proporciona una manera de operar como una Cadena de Pensamiento. Dado que la guía utiliza el sistema de plantillas de manillares, el formato de esta sección es en realidad una plantilla de manillares. La sección de mensajes contiene algunas funciones auxiliares que permiten que el modelo de IA cambie dinámicamente su comportamiento en tiempo de ejecución, ayudándonos a lograr una funcionalidad más compleja. Estas funciones están integradas en aify, pero también puedes escribir tus propias funciones auxiliares en Python para realizar tareas específicas.
  • Los términos "sistema", "usuario" y "asistente" se utilizan para definir los roles en una tarea de chat basada en LLM.
  • "memory.read" y "memory.write" son funciones auxiliares integradas en Aify, que se utilizan para guardar y cargar el historial de conversaciones de los usuarios y la IA.
  • "cada uno" y "si" son declaraciones de control de sucursales proporcionadas por Manillar.
  • "gen" es la función proporcionada por "guidance" para indicar la ejecución de tareas de generación de LLM.
• La sección de variables define las variables de entrada y salida de la aplicación, que se utilizan para que sistemas externos accedan a los datos generados por la IA a través de una API.

Juega con tu aplicación de IA

Ahora regrese a su navegador y actualice la página. Verá la aplicación que acaba de crear. Puedes tener algunas conversaciones con él, al igual que ChatGPT.

aify no es un chatbot

Aunque aify proporciona una interfaz de chatbot, su objetivo principal no es reemplazar ChatGPT ni una aplicación de conversación competitiva.

La interfaz de usuario del chatbot es solo para una depuración conveniente de aplicaciones de IA. Por supuesto, puedes usarlo como un chatbot para uso diario.

El objetivo principal de aify es proporcionar un marco eficiente para desarrollar e implementar aplicaciones de IA.

Si su objetivo es desarrollar sus propias aplicaciones complejas de IA, debe prestar más atención a las API y los mecanismos de extensión proporcionados por aify.

Más ejemplos: https://github.com/shellc/aify/tree/main/examples

Captura de pantalla de Webui