Descarga de AI tamago - Descarga del código fuente AI tamago

AI tamago

Otro código fuente

1.0.0

Descargar

AI Tamago??

Una mascota virtual 100% local, generada e impulsada por un LLM con pensamientos, sentimientos y comentarios. ¡Revive tus buenos recuerdos de Tamagotchi! https://ai-tamago.fly.dev/

Todas las animaciones ascii se generan mediante chatgpt (indicaciones incluidas en el repositorio).

¿Tiene preguntas? Únase a los desarrolladores de AI Stack y encuéntreme en el canal #ai-tamago.

¿ Demostración ?

ai-tamago-demo.mov

Pila

Modo Local

? Inferencia: Ollama, con opciones para usar OpenAI o Replicate
? Estado del juego: Ingerir
Base de datos transaccional y vectorial: Supabase pgvector
? Orquestación LLM: Langchain.js
?️ Lógica de la aplicación: Next.js
? Generación de incrustaciones: Transformer.js y all-MiniLM-L6-v2
?️ UI: Patrones mágicos y Vercel v0

Modo de producción

Todo lo anterior, más:

? Autenticación y gestión de usuarios: secretario
☁️ Hospedaje: Volar
? Limitación de velocidad: Upstash

Descripción general

Inicio rápido
Guía de implementación

Requisitos previos

Instalar ventana acoplable

Inicio rápido

1. Repositorio de bifurcación y clonación

Bifurca el repositorio en tu cuenta de Github y luego ejecuta el siguiente comando para clonar el repositorio:

 git clone [email protected]:[YOUR_GITHUB_ACCOUNT_NAME]/AI-tamago.git

2. Instalar dependencias

 cd ai-tamago
npm install

Todo el código tamagotchi del lado del cliente está en Tamagotchi.tsx

3. Instalar Ollama

Las instrucciones están aquí.

4. Ejecute Supabase localmente

Instalar la CLI de Supabase

 brew install supabase/tap/supabase

Iniciar Supabase

Asegúrate de estar en el directorio /ai-tamago y ejecuta:

 supabase start

Consejos: Para ejecutar migraciones o restablecer la base de datos: seed.sql y las migraciones ejecutarán supabase db reset

5. Completa los secretos

Nota: Los secretos aquí son para su instancia de supabase local .

 cp .env.local.example .env.local

Luego obtenga SUPABASE_PRIVATE_KEY ejecutando

 supabase status

Copie service_role key y guárdela como SUPABASE_PRIVATE_KEY en .env.local

6. Configurar Inngest

npx inngest-cli@latest dev

Asegúrate de que tu aplicación esté en funcionamiento: las funciones Inngest (que se utilizan para controlar el estado del juego) deberían registrarse automáticamente.

7. Ejecute la aplicación localmente

¡Ahora estás listo para probar la aplicación localmente! Para hacer esto, simplemente ejecute npm run dev en la raíz del proyecto y visite http://localhost:3000 .

Guía de implementación

Ahora que has jugado con el tamago AI localmente, ¡es hora de implementarlo en un lugar más permanente para que puedas acceder a él en cualquier momento!

0. Elija qué modelo desea utilizar en producción

Si desea probar el uso de Chatgpt en prod, simplemente elimine LLM_MODEL=ollama de .env.local y complete OPENAI_API_KEY
Si desea probar Replicar, configure LLM_MODEL=replicate_llama y complete REPLICATE_API_TOKEN
Si desea implementar Ollama usted mismo, puede seguir esta increíble guía: Escalar modelos de lenguajes grandes a cero con Ollama. Es posible ejecutar Ollama en una Fly VM (CPU) performance-4x con un volumen 100gb , pero si puede obtener acceso a GPU, serán mucho más rápidas. ¡Únase a la lista de espera de GPU de Fly aquí si aún no tiene acceso!

1. Cambie a la rama deploy : esta rama incluye todo lo que necesita para implementar una aplicación como esta.

git co deploy

Esta rama contiene una aplicación lista para múltiples inquilinos (gracias a Clerk), lo que significa que cada usuario puede obtener su propio tamago de IA y tiene un límite de tokens incorporado: puede establecer cuántas veces un usuario puede enviar solicitudes en la aplicación. (ver ratelimit.ts )

2. Mover a Supabase Cloud:

Cree un proyecto Supabase aquí, luego vaya a Configuración del proyecto -> API. Complete secretos en .env.local
SUPABASE_URL es el valor de la URL en "URL del proyecto"
SUPABASE_PRIVATE_KEY es la clave que comienza con ey en Claves API del proyecto
Copie la identificación del proyecto de Supabase, que puede encontrar en la URL https://supabase.com/dashboard/project/[project-id]

Desde la raíz de tu proyecto Ai-tamago, ejecuta:

 supabase link --project-ref [insert project-id]
supabase migration up
supabase db reset --linked

3. Cree una instancia de Upstash Redis para limitar la velocidad

Esto garantizará que ningún usuario llame a ninguna API demasiadas veces y asuma todas las cargas de trabajo de inferencia. Estamos utilizando el increíble SDK de limitación de velocidad de Upstash aquí.

Iniciar sesión en Upstash
En "Redis" en la barra de navegación superior, haga clic en "Crear base de datos".
Asígnele un nombre y luego seleccione regiones y otras opciones según sus preferencias. Haga clic en "Crear"
Desplácese hacia abajo hasta la sección "REST API" y haga clic en ".env". Ahora puede copiar y pegar ambas variables de entorno ( UPSTASH_REDIS_REST_URL y UPSTASH_REDIS_REST_TOKEN ) en su .env.local

4. ¡Ahora estás listo para implementar todo en Fly.io!

Registre una cuenta en fly.io y luego instale flyctl
Ejecute fly launch en la raíz del proyecto. Esto generará un fly.toml que incluye todas las configuraciones que necesitará.
Ejecute fly scale memory 512 para ampliar la memoria fly vm para esta aplicación.
Ejecute fly deploy --ha=false para implementar la aplicación. La bandera --ha garantiza que Fly solo active una instancia, que está incluida en el plan gratuito.
Para cualquier otro entorno de host que no sea local, la instancia de desarrollo Clerk existente debería seguir funcionando. Puedes subir los secretos a Fly ejecutando cat .env.local | fly secrets import
Si desea que esto sea un producto real, debe crear un entorno de producción en la instancia actual de Clerk. Para obtener más detalles sobre la implementación de una aplicación de producción con Clerk, consulte su documentación aquí. Tenga en cuenta que probablemente necesitará administrar su propio dominio y realizar la verificación del dominio como parte del proceso.
Cree un nuevo archivo .env.prod localmente y complete todos los secretos del entorno de producción. Recuerde actualizar NEXT_PUBLIC_CLERK_PUBLISHABLE_KEY y CLERK_SECRET_KEY copiando secretos de la instancia de producción de Clerk: cat .env.prod | fly secrets import para cargar secretos.