Baixar AI tamago - Baixar código-fonte AI tamago

AI tamago

Outro código-fonte

1.0.0

Baixar

Ai Tamago ??

Um animal de estimação virtual 100% local, gerado e conduzido por LLM, com pensamentos, sentimentos e feedback. Reviva suas boas lembranças do Tamagotchi! https://ai-tamago.fly.dev/

Todas as animações ascii são geradas usando chatgpt (prompts incluídos no repositório).

Tem dúvidas? Junte-se aos desenvolvedores do AI Stack e me encontre no canal #ai-tamago.

Demonstração ?

ai-tamago-demo.mov

Pilha

Modo local

? Inferência: Ollama, com opções para usar OpenAI ou Replicate
? Estado do jogo: Ingestão
Banco de dados transacional e vetorial: Supabase pgvector
? Orquestração LLM: Langchain.js
?️ Lógica do aplicativo: Next.js
? Geração de embeddings: Transformer.js e all-MiniLM-L6-v2
?️ UI: Padrões Mágicos e Vercel v0

Modo de produção

Todos os itens acima, mais:

? Autenticação e gerenciamento de usuários: Escriturário
☁️ Hospedagem: Voar
? Limitação de taxa: Upstash

Visão geral

Início rápido
Guia de implantação

Pré-requisitos

Instale o Docker

Início rápido

1. Repositório Fork e Clone

Bifurque o repositório para sua conta do Github e execute o seguinte comando para clonar o repositório:

 git clone [email protected]:[YOUR_GITHUB_ACCOUNT_NAME]/AI-tamago.git

2. Instale dependências

 cd ai-tamago
npm install

Todo o código tamagotchi do lado do cliente está em Tamagotchi.tsx

3. Instale o Ollama

As instruções estão aqui.

4. Execute o Supabase localmente

Instale o Supabase CLI

 brew install supabase/tap/supabase

Iniciar Supabase

Certifique-se de estar no diretório /ai-tamago e execute:

 supabase start

Dicas: Para executar migrações ou redefinir o banco de dados - seed.sql e as migrações executarão supabase db reset

5. Preencha segredos

Nota: Os segredos aqui são para sua instância local da supabase

 cp .env.local.example .env.local

Então obtenha SUPABASE_PRIVATE_KEY executando

 supabase status

Copie service_role key e salve-a como SUPABASE_PRIVATE_KEY em .env.local

6. Configure o Ingest

npx inngest-cli@latest dev

Certifique-se de que seu aplicativo esteja instalado e funcionando – as funções do Inngest (que são usadas para controlar o estado do jogo) devem ser registradas automaticamente.

7. Execute o aplicativo localmente

Agora você está pronto para testar o aplicativo localmente! Para fazer isso, basta executar npm run dev na raiz do projeto e visitar http://localhost:3000 .

Guia de implantação

Agora que você jogou com o AI tamago localmente – é hora de implantá-lo em algum lugar mais permanente para que você possa acessá-lo a qualquer momento!

0. Escolha qual modelo deseja usar na produção

Se você quiser testar usando Chatgpt no prod, simplesmente remova LLM_MODEL=ollama de .env.local e preencha OPENAI_API_KEY
Se você quiser tentar Replicar, defina LLM_MODEL=replicate_llama e preencha REPLICATE_API_TOKEN
Se você deseja implantar o Ollama sozinho, pode seguir este guia incrível - Dimensionando modelos de linguagem grandes para zero com o Ollama. É possível executar o Ollama em uma Fly VM (CPU) performance-4x com volume 100gb , mas se você conseguir acesso às GPUs, elas serão muito mais rápidas. Junte-se à lista de espera de GPU da Fly aqui se você ainda não tem acesso!

1. Mude para o branch deploy – esse branch inclui tudo que você precisa para implantar um aplicativo como este.

git co deploy

Este branch contém um aplicativo pronto para multilocação (graças ao Clerk), o que significa que cada usuário pode obter seu próprio AI-tamago e tem limite de token integrado - você pode definir quantas vezes um usuário pode enviar solicitações no aplicativo (veja ratelimit.ts )

2. Mude para Supabase Cloud:

Crie um projeto Supabase aqui e vá para Configurações do Projeto -> API. Preencha segredos em .env.local
SUPABASE_URL é o valor do URL em "URL do projeto"
SUPABASE_PRIVATE_KEY é a chave que começa com ey nas chaves da API do projeto
Copie o ID do projeto Supabase, que você pode encontrar no URL https://supabase.com/dashboard/project/[project-id]

Na raiz do seu projeto Ai-tamago, execute:

 supabase link --project-ref [insert project-id]
supabase migration up
supabase db reset --linked

3. Crie uma instância Upstash Redis para limitação de taxa

Isso garantirá que nenhum usuário chame qualquer API muitas vezes e ocupe todas as cargas de trabalho de inferência. Estamos usando o incrível SDK de limitação de taxa do Upstash aqui.

Faça login no Upstash
Em "Redis" na navegação superior, clique em "Criar banco de dados"
Dê um nome a ele e selecione regiões e outras opções com base em sua preferência. Clique em "Criar"
Role para baixo até a seção "REST API" e clique em ".env". Agora você pode copiar e colar ambas as variáveis de ambiente ( UPSTASH_REDIS_REST_URL e UPSTASH_REDIS_REST_TOKEN ) em seu .env.local

4. Agora você está pronto para implantar tudo no Fly.io!

Registre uma conta no fly.io e instale o flyctl
Execute fly launch na raiz do projeto. Isso irá gerar um fly.toml que inclui todas as configurações que você precisa
Execute fly scale memory 512 para aumentar a memória fly vm para este aplicativo.
Execute fly deploy --ha=false para implantar o aplicativo. O sinalizador --ha garante que fly acione apenas uma instância, que está incluída no plano gratuito.
Para qualquer outro ambiente não localhost, a instância de desenvolvimento existente do Clerk deve continuar funcionando. Você pode fazer upload dos segredos para o Fly executando cat .env.local | fly secrets import
Se quiser tornar este um produto real, você deve criar um ambiente de produção na instância atual do Clerk. Para obter mais detalhes sobre a implantação de um aplicativo de produção com Clerk, verifique a documentação aqui. Observe que você provavelmente precisará gerenciar seu próprio domínio e fazer a verificação do domínio como parte do processo.
Crie um novo arquivo .env.prod localmente e preencha todos os segredos do ambiente de produção. Lembre-se de atualizar NEXT_PUBLIC_CLERK_PUBLISHABLE_KEY e CLERK_SECRET_KEY copiando os segredos da instância de produção do Clerk - cat .env.prod | fly secrets import para fazer upload de segredos.