aify

aificar

Crie seu aplicativo nativo de IA em segundos.

Início | Documentação | Opinião

Estrutura e tempo de execução de aplicativos nativos de IA. Basta escrever um arquivo YAML.

? UI do chatbot AI pronta para usar.

Dependências

• microsoft/guidance como mecanismo de prompt principal
• Uvicorn, Starlette, FastAPI como servidor

Características

• Modelos: Os modelos de LLMs/transformadores apoiados por orientação.
• Armazenamento de memória: arquivo local/Google Cloud Datastore/definido pelo usuário
• Incorporações: OpenAI / definidas pelo usuário
• Armazenamento e pesquisa de vetores: arquivos CSV locais, Pandas DataFrame e Numpy na memória / Definido pelo usuário
• Implantação: mecanismo de aplicativo local/Google Cloud
• UI: Chatbot webui
• API: API RESTful/Python

Começando

Bem-vindo ao Aify, a estrutura e tempo de execução de aplicativos nativos de IA que permite enviar seus aplicativos de IA em segundos! Com o Aify, você pode criar e implantar facilmente aplicativos com tecnologia de IA usando um arquivo YAML simples. Neste guia, orientaremos você nas etapas para começar a usar o Aify e criar seu primeiro aplicativo de IA.

Instalação

Para começar, certifique-se de ter os seguintes pré-requisitos instalados em seu sistema:

• Python 3.8 ou superior
• Gerenciador de pacotes Pip

Depois de ter os pré-requisitos, você pode instalar o Aify executando o seguinte comando em seu terminal:

pip install aify

Crie seu primeiro aplicativo

Você precisa preparar um diretório para seus aplicativos:

mkdir ./apps

Agora você pode iniciar o serviço aify e acessar http://localhost:2000 usando um navegador, e o aify irá cumprimentá-lo.

aify run ./apps

Agora é apenas um aplicativo em branco, você não pode usá-lo para nada. A seguir, criaremos um chatbot.

Criando um arquivo YAML aify usa um arquivo YAML para definir seu aplicativo de IA. Este arquivo contém todas as configurações e ajustes necessários para sua aplicação. Aqui está um exemplo de arquivo YAML básico:

 title : Chatbot

model :
  vendor : openai
  name : gpt-3.5-turbo
  params :
    api_key : <YOUR_OPENAI_API_KEY>

prompt : |
  {{#system~}}
  You are a helpful and terse assistant.
  {{~/system}}

  {{#each (memory.read program_name session_id n=3)}}
  {{~#if this.role == 'user'}}
  {{#user~}}
  {{this.content}}
  {{~/user}}
  {{/if~}}
  {{~#if this.role == 'assistant'}}
  {{#assistant~}}
  {{this.content}}
  {{~/assistant}}
  {{/if~}}
  {{~/each}}

  {{#user~}}
  {{prompt}}
  {{memory.save program_name session_id 'user' prompt}}
  {{~/user}}

  {{#assistant~}}
  {{gen 'answer' temperature=0 max_tokens=2000}}
  {{memory.save program_name session_id 'assistant' answer}}
  {{~/assistant}}

variables :
  - name : prompt
    type : input
  - name : answer
    type : output

Aqui estão algumas explicações simples sobre este arquivo YAML:

• O título representa o nome deste aplicativo.
• A seção de modelo define o modelo de IA usado por este aplicativo e os parâmetros de tempo de execução exigidos pelo modelo.
• A seção prompt é usada para conduzir a execução do aplicativo. Aify usa o pacote de software de orientação fornecido pela Microsoft para conduzir a execução do programa de IA. A orientação fornece uma maneira de operar como uma cadeia de pensamento. Como a orientação usa o sistema de modelo Handlebars, o formato desta seção é na verdade um modelo Handlebars. A seção de prompt contém algumas funções auxiliares que permitem que o modelo de IA altere dinamicamente seu comportamento de tempo de execução, ajudando-nos a obter funcionalidades mais complexas. Essas funções são integradas ao aify, mas você também pode escrever suas próprias funções auxiliares em Python para realizar tarefas específicas.
  • Os termos “sistema”, “usuário” e “assistente” são usados ​​para definir as funções em uma tarefa de chat baseada em LLM.
  • "memory.read" e "memory.write" são funções auxiliares integradas no Aify, usadas para salvar e carregar o histórico de conversas dos usuários e da IA.
  • "each" e "if" são instruções de controle de ramificação fornecidas pelo Handlebars.
  • “gen” é a função fornecida por “guidance” para indicar a execução de tarefas de geração de LLM.
• A seção de variáveis ​​define as variáveis ​​de entrada e saída da aplicação, que são utilizadas para sistemas externos acessarem os dados gerados pela IA por meio de uma API.

Brinque com seu aplicativo de IA

Agora volte ao seu navegador e atualize a página. Você verá o aplicativo que acabou de criar. Você pode conversar com ele, assim como o ChatGPT.

aify não é um chatbot

Embora o aify forneça uma interface de chatbot, seu objetivo principal não é fornecer um substituto para o ChatGPT ou um aplicativo de conversação competitivo.

A IU do chatbot serve apenas para depuração conveniente de aplicativos de IA. Claro, você pode usá-lo como um chatbot para uso diário.

O principal objetivo do aify é fornecer uma estrutura eficiente para o desenvolvimento e implantação de aplicações de IA.

Se o seu objetivo é desenvolver seus próprios aplicativos complexos de IA, você deve prestar mais atenção às APIs e aos mecanismos de extensão fornecidos pelo aify.

Mais exemplos: https://github.com/shellc/aify/tree/main/examples

Captura de tela do WebUI