aify下载 - aify源码下载

aify

Ai源码

1.0.0

下载

艾菲

在几秒钟内构建您的 AI 原生应用程序。

首页 |文档 |反馈

AI 原生应用程序框架和运行时。只需编写一个 YAML 文件即可。

？即用型人工智能聊天机器人 UI。

依赖关系

microsoft/guidance作为核心提示引擎
Uvicorn、Starlette、FastAPI 作为服务器

特征

模型：指导支持的法学硕士/变压器模型。
内存存储：本地文件/Google Cloud Datastore/用户自定义
嵌入：OpenAI / 用户定义
矢量存储和搜索：内存中的本地 CSV 文件、Pandas DataFrame 和 Numpy / 用户定义
部署：本地/Google Cloud App引擎
UI：聊天机器人 webui
API：RESTful API / Python

入门

欢迎使用 Aify，这是一个 AI 原生应用程序框架和运行时，可让您在几秒钟内交付您的 AI 应用程序！借助 Aify，您可以使用简单的 YAML 文件轻松构建和部署人工智能驱动的应用程序。在本指南中，我们将引导您完成开始使用 Aify 并创建您的第一个 AI 应用程序的步骤。

安装

首先，请确保您的系统上安装了以下先决条件：

Python 3.8 或更高版本
点包管理器

满足先决条件后，您可以通过在终端中运行以下命令来安装 Aify：

pip install aify

创建您的第一个应用程序

您需要为您的应用程序准备一个目录：

mkdir ./apps

现在你可以启动aify服务，然后使用浏览器访问http://localhost:2000，aify就会向你打招呼。

aify run ./apps

现在它只是一个空白的应用程序，你不能用它做任何事情。接下来，我们将创建一个聊天机器人。

创建 YAML 文件 aify 使用 YAML 文件来定义您的 AI 应用程序。该文件包含您的应用程序所需的所有配置和设置。以下是基本 YAML 文件的示例：

 title : Chatbot

model :
  vendor : openai
  name : gpt-3.5-turbo
  params :
    api_key : <YOUR_OPENAI_API_KEY>

prompt : |
  {{#system~}}
  You are a helpful and terse assistant.
  {{~/system}}

  {{#each (memory.read program_name session_id n=3)}}
  {{~#if this.role == 'user'}}
  {{#user~}}
  {{this.content}}
  {{~/user}}
  {{/if~}}
  {{~#if this.role == 'assistant'}}
  {{#assistant~}}
  {{this.content}}
  {{~/assistant}}
  {{/if~}}
  {{~/each}}

  {{#user~}}
  {{prompt}}
  {{memory.save program_name session_id 'user' prompt}}
  {{~/user}}

  {{#assistant~}}
  {{gen 'answer' temperature=0 max_tokens=2000}}
  {{memory.save program_name session_id 'assistant' answer}}
  {{~/assistant}}

variables :
  - name : prompt
    type : input
  - name : answer
    type : output

以下是有关此 YAML 文件的一些简单说明：

标题代表该应用程序的名称。
模型部分定义了该应用程序使用的AI模型以及该模型所需的运行时参数。
提示部分用于驱动应用程序的执行。 Aify使用微软提供的引导软件包来驱动AI程序的执行。指导提供了一种作为思想链运作的方法。由于引导使用Handlebars模板系统，因此该部分的格式实际上是Handlebars模板。提示部分包含一些辅助函数，这些函数允许AI模型动态改变其运行时行为，帮助我们实现更复杂的功能。这些函数是 aify 内置的，但您也可以在 Python 中编写自己的辅助函数来完成特定任务。
- 术语“系统”、“用户”和“助理”用于定义基于 LLM 的聊天任务中的角色。
- “memory.read”和“memory.write”是Aify内置的辅助函数，用于保存和加载用户和AI的对话历史记录。
- “each”和“if”是Handlebars提供的分支控制语句。
- “gen”是“guidance”提供的函数，指示LLM生成任务的执行。
变量部分定义了应用程序的输入和输出变量，用于外部系统通过API访问AI生成的数据。