AI tamago Télécharger - AI tamago Téléchargement du code source

AI tamago

Autre code source

1.0.0

Télécharger

AI Tamago ??

Un animal de compagnie virtuel 100 % local, généré et piloté par LLM, avec des pensées, des sentiments et des commentaires. Ravivez vos bons souvenirs de Tamagotchi ! https://ai-tamago.fly.dev/

Toutes les animations ascii sont générées à l'aide de chatgpt (invites incluses dans le dépôt).

Vous avez des questions ? Rejoignez les développeurs d'AI Stack et retrouvez-moi sur la chaîne #ai-tamago.

Démo ?

ai-tamago-demo.mov

Empiler

Mode local

? Inférence : Ollama, avec des options pour utiliser OpenAI ou Replicate
? État du jeu : Ingestion
Base de données transactionnelle et vectorielle : Supabase pgvector
? Orchestration LLM : Langchain.js
?️ Logique de l'application : Next.js
? Génération d'intégrations : Transformer.js et all-MiniLM-L6-v2
?️ UI : Modèles magiques et Vercel v0

Mode production

Tout ce qui précède, plus :

? Authentification et gestion des utilisateurs : commis
☁️ Hébergement : Fly
? Limitation du débit : Upstash

Aperçu

Démarrage rapide
Guide de déploiement

Conditions préalables

Installer Docker

Démarrage rapide

1. Dépôt Fork et Clone

Forkez le dépôt sur votre compte Github, puis exécutez la commande suivante pour cloner le dépôt :

 git clone [email protected]:[YOUR_GITHUB_ACCOUNT_NAME]/AI-tamago.git

2. Installer les dépendances

 cd ai-tamago
npm install

Tout le code tamagotchi côté client est dans Tamagotchi.tsx

3. Installez Ollama

Les instructions sont ici.

4. Exécutez Supabase localement

Installer la CLI Supabase

 brew install supabase/tap/supabase

Démarrer Supabase

Assurez-vous que vous êtes dans le répertoire /ai-tamago et exécutez :

 supabase start

Conseils : pour exécuter des migrations ou réinitialiser la base de données : seed.sql et les migrations exécuteront supabase db reset

5. Remplissez les secrets

Remarque : Les secrets ici concernent votre instance de supabase locale .

 cp .env.local.example .env.local

Ensuite, récupérez SUPABASE_PRIVATE_KEY en exécutant

 supabase status

Copiez service_role key et enregistrez-la sous SUPABASE_PRIVATE_KEY dans .env.local

6. Configurer Innest

npx inngest-cli@latest dev

Assurez-vous que votre application est opérationnelle. Les fonctions Ingest (qui sont utilisées pour piloter l'état du jeu) doivent s'enregistrer automatiquement.

7. Exécutez l'application localement

Vous êtes maintenant prêt à tester l’application localement ! Pour ce faire, exécutez simplement npm run dev sous la racine du projet et visitez http://localhost:3000 .

Guide de déploiement

Maintenant que vous avez joué avec l'IA tamago localement, il est temps de le déployer dans un endroit plus permanent afin que vous puissiez y accéder à tout moment !

0. Choisissez le modèle que vous souhaitez utiliser en production

Si vous souhaitez tester l'utilisation de Chatgpt en production, supprimez simplement LLM_MODEL=ollama de .env.local et remplissez OPENAI_API_KEY
Si vous souhaitez essayer Replicate, définissez LLM_MODEL=replicate_llama et remplissez REPLICATE_API_TOKEN
Si vous souhaitez déployer Ollama vous-même, vous pouvez suivre ce guide génial : Mettre à zéro les grands modèles de langage avec Ollama. Il est possible d'exécuter Ollama sur une VM Fly (CPU) performance-4x avec un volume de 100gb , mais si vous pouvez accéder aux GPU, ils sont beaucoup plus rapides. Rejoignez la liste d'attente GPU de Fly ici si vous n'y avez pas encore accès !

1. Basculez vers la branche deploy : cette branche comprend tout ce dont vous avez besoin pour déployer une application comme celle-ci.

git co deploy

Cette branche contient une application prête pour la multi-location (grâce à Clerk), ce qui signifie que chaque utilisateur peut obtenir son propre IA-tamago et a une limite de jetons intégrée - vous pouvez définir le nombre de fois qu'un utilisateur peut envoyer des demandes dans l'application. (voir ratelimit.ts )

2. Passez à Supabase Cloud :

Créez un projet Supabase ici, puis accédez à Paramètres du projet -> API. Remplissez les secrets dans .env.local
SUPABASE_URL est la valeur de l'URL sous "URL du projet".
SUPABASE_PRIVATE_KEY est la clé qui commence par ey sous les clés API du projet
Copiez l'identifiant du projet Supabase, que vous pouvez trouver à partir de l'url https://supabase.com/dashboard/project/[project-id]

Depuis la racine de votre projet Ai-tamago, exécutez :

 supabase link --project-ref [insert project-id]
supabase migration up
supabase db reset --linked

3. Créez une instance Upstash Redis pour limiter le débit

Cela garantira qu'aucun utilisateur n'appelle une API trop de fois et n'absorbe toutes les charges de travail d'inférence. Nous utilisons ici l'impressionnant SDK de limitation de débit d'Upstash.

Connectez-vous à Upstash
Sous « Redis » dans la navigation supérieure, cliquez sur « Créer une base de données »
Donnez-lui un nom, puis sélectionnez des régions et d'autres options en fonction de vos préférences. Cliquez sur "Créer"
Faites défiler jusqu'à la section "API REST" et cliquez sur ".env". Vous pouvez maintenant copier-coller les deux variables d'environnement ( UPSTASH_REDIS_REST_URL et UPSTASH_REDIS_REST_TOKEN ) dans votre .env.local

4. Vous êtes maintenant prêt à tout déployer sur Fly.io !

Enregistrez un compte sur fly.io puis installez flyctl
Exécutez fly launch sous la racine du projet. Cela générera un fly.toml qui comprend toutes les configurations dont vous aurez besoin
Exécutez fly scale memory 512 pour augmenter la mémoire fly vm pour cette application.
Exécutez fly deploy --ha=false pour déployer l'application. L'indicateur --ha garantit que fly ne lance qu'une seule instance, qui est incluse dans le plan gratuit.
Pour tout autre environnement non localhost, l’instance de développement Clerk existante doit continuer à fonctionner. Vous pouvez télécharger les secrets sur Fly en exécutant cat .env.local | fly secrets import
Si vous souhaitez en faire un vrai produit, vous devez créer un environnement de production sous l'instance Clerk actuelle. Pour plus de détails sur le déploiement d'une application de production avec Clerk, consultez leur documentation ici. Notez que vous devrez probablement gérer votre propre domaine et effectuer une vérification du domaine dans le cadre du processus.
Créez un nouveau fichier .env.prod localement et renseignez tous les secrets de l'environnement de production. N'oubliez pas de mettre à jour NEXT_PUBLIC_CLERK_PUBLISHABLE_KEY et CLERK_SECRET_KEY en copiant les secrets de l'instance de production de Clerk - cat .env.prod | fly secrets import pour télécharger des secrets.