aify下載 - aify原始碼下載

aify

Ai源碼

1.0.0

下載

艾菲

在幾秒鐘內建立您的 AI 原生應用程式。

首頁 |文檔 |回饋

AI 原生應用程式框架和執行時間。只需編寫一個 YAML 檔案即可。

？即用型人工智慧聊天機器人 UI。

依賴關係

microsoft/guidance作為核心提示引擎
Uvicorn、Starlette、FastAPI 作為伺服器

特徵

模型：指導支援的法學碩士/變壓器模型。
記憶體儲存：本機檔案/Google Cloud Datastore/使用者自訂
嵌入：OpenAI / 使用者定義
向量儲存與搜尋：記憶體中的本機 CSV 檔案、Pandas DataFrame 和 Numpy / 使用者定義
部署：本地/Google Cloud App引擎
UI：聊天機器人 webui
API：RESTful API / Python

入門

歡迎使用 Aify，這是一個 AI 原生應用程式框架和運行時，可讓您在幾秒鐘內交付您的 AI 應用程式！透過 Aify，您可以使用簡單的 YAML 檔案輕鬆建置和部署人工智慧驅動的應用程式。在本指南中，我們將引導您完成開始使用 Aify 並建立您的第一個 AI 應用程式的步驟。

安裝

首先，請確保您的系統上安裝了以下先決條件：

Python 3.8 或更高版本
點包管理器

滿足先決條件後，您可以透過在終端機中執行以下命令來安裝 Aify：

pip install aify

創建您的第一個應用程式

您需要為您的應用程式準備一個目錄：

mkdir ./apps

現在你可以啟動aify服務，然後使用瀏覽器來存取http://localhost:2000，aify就會向你打招呼。

aify run ./apps

現在它只是一個空白的應用程序，你不能用它做任何事情。接下來，我們將創建一個聊天機器人。

建立 YAML 檔案 aify 使用 YAML 檔案定義您的 AI 應用程式。該檔案包含您的應用程式所需的所有配置和設定。以下是基本 YAML 檔案的範例：

 title : Chatbot

model :
  vendor : openai
  name : gpt-3.5-turbo
  params :
    api_key : <YOUR_OPENAI_API_KEY>

prompt : |
  {{#system~}}
  You are a helpful and terse assistant.
  {{~/system}}

  {{#each (memory.read program_name session_id n=3)}}
  {{~#if this.role == 'user'}}
  {{#user~}}
  {{this.content}}
  {{~/user}}
  {{/if~}}
  {{~#if this.role == 'assistant'}}
  {{#assistant~}}
  {{this.content}}
  {{~/assistant}}
  {{/if~}}
  {{~/each}}

  {{#user~}}
  {{prompt}}
  {{memory.save program_name session_id 'user' prompt}}
  {{~/user}}

  {{#assistant~}}
  {{gen 'answer' temperature=0 max_tokens=2000}}
  {{memory.save program_name session_id 'assistant' answer}}
  {{~/assistant}}

variables :
  - name : prompt
    type : input
  - name : answer
    type : output

以下是有關此 YAML 檔案的一些簡單說明：

標題代表該應用程式的名稱。
模型部分定義了該應用程式使用的AI模型以及該模型所需的運行時參數。
提示部分用於驅動應用程式的執行。 Aify使用微軟提供的引導軟體包來驅動AI程式的執行。指導提供了一種作為思想鏈運作的方法。由於引導使用Handlebars模板系統，因此該部分的格式實際上是Handlebars模板。這些函數是 aify 內建的，但您也可以在 Python 中編寫自己的輔助函數來完成特定任務。
- 術語「系統」、「使用者」和「助理」用於定義基於 LLM 的聊天任務中的角色。
- 「memory.read」和「memory.write」是Aify內建的輔助函數，用於保存和載入使用者和AI的對話歷史記錄。
- “each”和“if”是Handlebars提供的分支控制語句。
- 「gen」是「guidance」提供的函數，指示LLM產生任務的執行。
變數部分定義了應用程式的輸入和輸出變量，用於外部系統透過API存取AI產生的資料。