AI tamago

艾玉子??

100% 本地、由法學碩士產生並驅動的虛擬寵物，具有想法、感受和回饋。喚起您對電子寵物蛋的美好回憶！ https://ai-tamago.fly.dev/

所有 ascii 動畫都是使用 chatgpt 產生的（包括儲存庫中的提示）。

有疑問嗎？加入 AI Stack 開發人員並在 #ai-tamago 頻道中找到我。

演示？

愛玉子demo.mov

堆疊

本地模式

• ？推理：Ollama，可選擇使用 OpenAI 或 Replicate
• ？遊戲狀態：Ingest
• 事務與向量資料庫：Supabase pgvector
• ？ LLM編排：Langchain.js
• ️ 應用邏輯：Next.js
• ？嵌入生成：Transformer.js 和 all-MiniLM-L6-v2
• ️ UI：Magic Patterns 和 Vercel v0

產品模式

以上所有內容，加上：

• ？身份驗證與使用者管理：職員
• ☁️主辦：飛翔
• ？速率限制：Upstash

概述

• 快速入門
• 部署指南

先決條件

• 安裝 Docker

快速入門

1. 分叉和克隆儲存庫

將儲存庫分叉到您的 Github 帳戶，然後執行以下命令來克隆儲存庫：

 git clone [email protected]:[YOUR_GITHUB_ACCOUNT_NAME]/AI-tamago.git

2.安裝依賴

 cd ai-tamago
npm install

所有客戶端 Tamagotchi 代碼均位於 Tamagotchi.tsx 中

3.安裝Ollama

說明在這裡。

4.本地運行Supabase

1. 安裝 Supabase CLI

 brew install supabase/tap/supabase

2. 啟動Supabase

確保您位於/ai-tamago目錄下並運行：

 supabase start

提示：要執行遷移或重設資料庫--seed.sql，遷移將執行supabase db reset

5.填寫秘密

注意：此處的秘密適用於您本地的SUPABASE 實例

 cp .env.local.example .env.local

然後透過運行來取得SUPABASE_PRIVATE_KEY

 supabase status

複製service_role key並將其儲存為.env.local中的SUPABASE_PRIVATE_KEY

6. 設定 Ingest

npx inngest-cli@latest dev

確保您的應用程式已啟動並正在運行 - Inngest 函數（用於驅動遊戲狀態）應自動註冊。

7.本地運行應用程式

現在您已準備好在本地測試該應用程式！為此，只需在專案根目錄下執行npm run dev並造訪http://localhost:3000 。

部署指南

現在您已經在本地玩了 AI 雞蛋 - 是時候將其部署到更永久的地方，以便您可以隨時訪問它！

0. 選擇您要在生產中使用的模型

• 如果您想在產品中使用 Chatgpt 進行測試，只需從.env.local中刪除LLM_MODEL=ollama並填寫OPENAI_API_KEY
• 如果你想嘗試Replicate，請設定LLM_MODEL=replicate_llama並填寫REPLICATE_API_TOKEN
• 如果您想自行部署 Ollama，您可以遵循這個很棒的指南 - 使用 Ollama 將大型語言模型擴展到零。可以在容量為100gb performance-4x Fly VM (CPU) 上執行 Ollama，但如果您可以存取 GPU，它們的速度會快得多。如果您還沒有存取權限，請在此處加入 Fly 的 GPU 候補名單！

1. 切換到deploy分支－該分支包含部署此類應用程式所需的所有內容。

git co deploy

該分支包含一個多租戶就緒（感謝 Clerk）應用程序，這意味著每個用戶都可以獲得自己的 AI-tamago，並且內建了令牌限制 - 您可以設定用戶可以在應用程式中發送請求的次數（參見ratelimit.ts ）

2. 遷移到 Supabase 雲端：

• 在這裡建立一個 Supabase 項目，然後前往 Project Settings -> API。在.env.local中填寫秘密
• SUPABASE_URL是「專案 URL」下的 URL 值
• SUPABASE_PRIVATE_KEY是專案 API 密鑰下以ey開頭的密鑰
• 複製 Supabase 專案 ID，您可以從 URL https://supabase.com/dashboard/project/[project-id] 找到該 ID

從 Ai-tamago 專案根目錄運行：

 supabase link --project-ref [insert project-id]
supabase migration up
supabase db reset --linked

3.創建Upstash Redis實例進行限速

這將確保沒有一個用戶多次呼叫任何 API 並佔用所有推理工作負載。我們在這裡使用 Upstash 出色的速率限制 SDK。

• 登入 Upstash
• 在頂部導覽列的“Redis”下，按一下“建立資料庫”
• 為其命名，然後根據您的喜好選擇區域和其他選項。點擊“創建”
• 向下捲動至“REST API”部分，然後按一下“.env”。現在您可以將兩個環境變數（ UPSTASH_REDIS_REST_URL和UPSTASH_REDIS_REST_TOKEN ）複製貼上到您的 .env.local

4. 現在您已準備好在 Fly.io 上部署所有內容！

• 在fly.io註冊一個帳戶，然後安裝flyctl
• 在專案根目錄下執行fly launch 。這將產生一個fly.toml ，其中包含您需要的所有配置
• 運行fly scale memory 512以擴展此應用程式的 Fly VM 記憶體。
• 運行fly deploy --ha=false來部署應用程式。 --ha 標誌確保 Fly 只啟動一個實例，該實例包含在免費計劃中。
• 對於任何其他非本機主機環境，現有的 Clerk 開發執行個體應該繼續運作。您可以透過執行cat .env.local | fly secrets import將機密上傳到 Fly cat .env.local | fly secrets import
• 如果你想讓它成為一個真正的產品，你應該在目前 Clerk 實例下創建一個 prod 環境。有關使用 Clerk 部署生產應用程式的更多詳細信息，請在此處查看他們的文件。請注意，您可能需要管理自己的網域並在此過程中進行網域驗證。
• 在本地建立一個新檔案.env.prod並填寫所有生產環境機密。請記住透過從 Clerk 的生產實例複製機密來更新NEXT_PUBLIC_CLERK_PUBLISHABLE_KEY和CLERK_SECRET_KEY - cat .env.prod | fly secrets import以上傳機密。

如果您有疑問，請加入 AI Stack 開發人員並在 #ai-tamago 頻道中找到我。

其他資源

• 使用 Clerk 添加身份驗證 - 需要 < 5 分鐘
• Inngest部署指南https://www.inngest.com/docs/deploy
• 在 Fly.io 上執行 Ollama https://fly.io/blog/scaling-llm-ollama/
• 在 Fly.io 上運行 next.js 應用程式