AI tamago Download - AI tamago Quellcode herunterladen

AI tamago

Anderer Quellcode

1.0.0

Herunterladen

AI Tamago ??

Ein zu 100 % lokales, LLM-generiertes und gesteuertes virtuelles Haustier mit Gedanken, Gefühlen und Feedback. Lassen Sie Ihre schönen Erinnerungen an Tamagotchi wieder aufleben! https://ai-tamago.fly.dev/

Alle ASCII-Animationen werden mit chatgpt generiert (im Repository enthaltene Eingabeaufforderungen).

Haben Sie Fragen? Treten Sie AI Stack-Entwicklern bei und finden Sie mich im #ai-tamago-Kanal.

Demo ?

ai-tamago-demo.mov

Stapel

Lokaler Modus

? Schlussfolgerung: Ollama, mit Optionen zur Verwendung von OpenAI oder Replicate
? Spielstatus: Inngest
Transaktions- und Vektordatenbank: Supabase pgvector
? LLM-Orchestrierung: Langchain.js
?️ App-Logik: Next.js
? Einbettungsgenerierung: Transformer.js und All-MiniLM-L6-v2
?️ Benutzeroberfläche: Magic Patterns und Vercel v0

Produktmodus

Alles oben Genannte, plus:

? Authentifizierung und Benutzerverwaltung: Sachbearbeiter
☁️ Hosting: Fly
? Ratenbegrenzung: Upstash

Überblick

Schnellstart
Bereitstellungshandbuch

Voraussetzungen

Installieren Sie Docker

Schnellstart

1. Fork-and-Clone-Repo

Verzweigen Sie das Repo in Ihr Github-Konto und führen Sie dann den folgenden Befehl aus, um das Repo zu klonen:

 git clone [email protected]:[YOUR_GITHUB_ACCOUNT_NAME]/AI-tamago.git

2. Abhängigkeiten installieren

 cd ai-tamago
npm install

Der gesamte clientseitige Tamagotchi-Code befindet sich in Tamagotchi.tsx

3. Installieren Sie Ollama

Anleitungen gibt es hier.

4. Führen Sie Supabase lokal aus

Installieren Sie die Supabase-CLI

 brew install supabase/tap/supabase

Starten Sie Supabase

Stellen Sie sicher, dass Sie sich im Verzeichnis /ai-tamago befinden, und führen Sie Folgendes aus:

 supabase start

Tipps: Zum Ausführen von Migrationen oder zum Zurücksetzen der Datenbank führen „seed.sql“ und „Migrationen“ supabase db reset aus

5. Geben Sie Geheimnisse ein

Hinweis: Die Geheimnisse hier gelten für Ihre lokale Supabase-Instanz

 cp .env.local.example .env.local

Rufen Sie dann SUPABASE_PRIVATE_KEY ab, indem Sie es ausführen

 supabase status

Kopieren Sie service_role key und speichern Sie ihn als SUPABASE_PRIVATE_KEY in .env.local

6. Richten Sie Inngest ein

npx inngest-cli@latest dev

Stellen Sie sicher, dass Ihre App betriebsbereit ist – Inngest-Funktionen (die zur Steuerung des Spielstatus verwendet werden) sollten automatisch registriert werden.

7. Führen Sie die App lokal aus

Jetzt können Sie die App lokal testen! Führen Sie dazu einfach npm run dev im Projektstammverzeichnis aus und besuchen Sie http://localhost:3000 .

Bereitstellungshandbuch

Jetzt haben Sie lokal mit der KI-Tamago gespielt – es ist an der Zeit, sie an einem dauerhafteren Ort einzusetzen, damit Sie jederzeit darauf zugreifen können!

0. Wählen Sie aus, welches Modell Sie in der Produktion verwenden möchten

Wenn Sie Chatgpt in Prod testen möchten, entfernen Sie einfach LLM_MODEL=ollama aus .env.local und geben Sie OPENAI_API_KEY ein
Wenn Sie Replicate ausprobieren möchten, legen Sie LLM_MODEL=replicate_llama fest und geben Sie REPLICATE_API_TOKEN ein
Wenn Sie Ollama selbst bereitstellen möchten, können Sie dieser großartigen Anleitung folgen – Große Sprachmodelle mit Ollama auf Null skalieren. Es ist möglich, Ollama auf einer Fly performance-4x und 100gb Volumen auszuführen, aber wenn Sie Zugriff auf GPUs haben, sind diese viel schneller. Tragen Sie sich hier in die GPU-Warteliste von Fly ein, wenn Sie noch keinen Zugriff haben!

1. Wechseln Sie zum deploy Zweig – dieser Zweig enthält alles, was Sie zum Bereitstellen einer solchen App benötigen.

git co deploy

Dieser Zweig enthält eine mandantenfähige App (dank Clerk), was bedeutet, dass jeder Benutzer sein eigenes AI-Tamago erhalten kann und über ein integriertes Token-Limit verfügt – Sie können festlegen, wie oft ein Benutzer Anfragen in der App senden kann (siehe ratelimit.ts )

2. Wechsel zur Supabase Cloud:

Erstellen Sie hier ein Supabase-Projekt und gehen Sie dann zu Projekteinstellungen -> API. Füllen Sie Geheimnisse in .env.local aus
SUPABASE_URL ist der URL-Wert unter „Projekt-URL“.
SUPABASE_PRIVATE_KEY ist der Schlüssel, der unter Projekt-API-Schlüssel mit ey beginnt
Kopieren Sie die Supabase-Projekt-ID, die Sie unter der URL https://supabase.com/dashboard/project/[project-id] finden.

Führen Sie im Stammverzeichnis Ihres Ai-tamago-Projekts Folgendes aus:

 supabase link --project-ref [insert project-id]
supabase migration up
supabase db reset --linked

3. Erstellen Sie eine Upstash Redis-Instanz zur Ratenbegrenzung

Dadurch wird sichergestellt, dass kein Benutzer eine API zu oft aufruft und die gesamte Inferenzarbeitslast in Anspruch nimmt. Wir verwenden hier das fantastische ratenbegrenzende SDK von Upstash.

Melden Sie sich bei Upstash an
Klicken Sie im oberen Navigationsbereich unter „Redis“ auf „Datenbank erstellen“.
Geben Sie ihm einen Namen und wählen Sie dann je nach Wunsch Regionen und andere Optionen aus. Klicken Sie auf „Erstellen“
Scrollen Sie nach unten zum Abschnitt „REST API“ und klicken Sie auf „.env“. Jetzt können Sie beide Umgebungsvariablen ( UPSTASH_REDIS_REST_URL und UPSTASH_REDIS_REST_TOKEN ) kopieren und in Ihre .env.local einfügen

4. Jetzt können Sie alles auf Fly.io bereitstellen!

Registrieren Sie ein Konto auf fly.io und installieren Sie dann flyctl
Führen Sie fly launch im Projektstammverzeichnis aus. Dadurch wird eine fly.toml generiert, die alle benötigten Konfigurationen enthält
Führen Sie fly scale memory 512 aus, um den Fly VM-Speicher für diese App zu vergrößern.
Führen Sie fly deploy --ha=false aus, um die App bereitzustellen. Das Flag --ha stellt sicher, dass Fly nur eine Instanz startet, die im kostenlosen Plan enthalten ist.
Für jede andere Nicht-Localhost-Umgebung sollte die vorhandene Clerk-Entwicklungsinstanz weiterhin funktionieren. Sie können die Geheimnisse auf Fly hochladen, indem Sie cat .env.local | fly secrets import ausführen cat .env.local | fly secrets import
Wenn Sie daraus ein echtes Produkt machen möchten, sollten Sie eine Produktionsumgebung unter der aktuellen Clerk-Instanz erstellen. Weitere Informationen zur Bereitstellung einer Produktions-App mit Clerk finden Sie in der Dokumentation hier. Beachten Sie, dass Sie wahrscheinlich Ihre eigene Domain verwalten und im Rahmen des Prozesses eine Domain-Verifizierung durchführen müssen.
Erstellen Sie lokal eine neue Datei .env.prod und geben Sie alle Geheimnisse der Produktionsumgebung ein. Denken Sie daran, NEXT_PUBLIC_CLERK_PUBLISHABLE_KEY und CLERK_SECRET_KEY zu aktualisieren, indem Sie Geheimnisse aus der Produktionsinstanz von Clerk kopieren – cat .env.prod | fly secrets import um Geheimnisse hochzuladen.