exo server

Exo-Server

TLDR

Exo ist ein experimentelles Projekt, das eine Elektronen-App mit Zugriff auf das Dateisystem verwendet, um gängige Softwareentwicklungsaufgaben mithilfe von LLMs zu unterstützen.

Kurz gesagt, Exo ist eine App, die Ihnen helfen kann, Code direkt in Ihrer Codebasis zu lesen, zu schreiben und umzugestalten. Auf meiner Twitter-Seite oben finden Sie eine Reihe von Demos.

Der Exo-Server ist das Backend für die Exo-Elektronen-App.

Hier ist das Repo für die Exo-Elektronen-App. Dies ist das Exo-Server-Repo. Sie müssen beide klonen, damit die App lokal funktioniert.

Screenshot der Exo-App neben vscode:

️ ️ ️ Vorsicht ️ ️ ️

Exo befindet sich im Aufbau!

Ich habe es weit vor der Produktionsreife in die Freiheit entlassen. Nutzung auf eigene Gefahr!

Inhaltsverzeichnis

1. Demo
2. Vision
3. Wie es funktioniert
4. Schnellstart
5. Einsetzen
6. Beiträge
7. Verwendung
8. Einschränkungen
9. Straßenkarte
10. Kontakt und weitere Informationen

Demo

https://www.loom.com/share/5f34499ccfb54bfdae32ee50f454b365

Vision

Das Ziel der Exo-App besteht darin, Tony Starks Jarvis/FRIDAY zu erstellen – eine Chat- oder Sprachschnittstelle, mit der Sie interagieren können, um Code zu schreiben und Dinge zu erstellen.

Wie unterscheidet sich dies von anderen Tools zur Codegenerierung? Exo ist eine freistehende App, die auf Ihrem Desktop lebt. Wir sind jetzt noch weit davon entfernt, aber in Zukunft könnten Sie Exo zum Erstellen von Software verwenden (im Gegensatz zu einer IDE).

Als eigenständige Anwendung nutzt Exo UI-Tools, die besser auf die Codierungspraktiken in einer Post-LLM-Welt abgestimmt sind.

Wie es funktioniert

1. Code-Indizierung – Exo ermöglicht Ihnen die Indizierung und Speicherung Ihres Codes in einer Datenbank. Code-Metadaten (Code-Erklärungen, Abhängigkeiten usw.) und die Einbettungsvektoren befinden sich direkt nebeneinander in der Postgres-Datenbank. Dadurch können LLM-Agenten schnell Kontext zu Benutzeranfragen abrufen.
2. LLM-Agenten – Exo verwendet LLM-Agenten (ähnlich Langchain, Autogpt und anderen), um allgemeine Programmieraufgaben zu erledigen. Es nimmt Ihre Anfrage entgegen, erstellt einen Plan und schreibt dann Code, der unseren Plan ausführt. Sehen Sie sich die Demo oben an, um zu erfahren, wie das funktioniert.
3. Dateisystem-Wrapper – Die Exo-Wahl-App ist ein Wrapper für Ihr Dateisystem. Nach dem Schreiben des Codes verwendet der Exo-Server den Endpunkt ai_create_code um den Code zurück an die App weiterzuleiten, wo er in Ihre Codebasis geschrieben wird.

Schnellstart

https://www.loom.com/share/d2ec3f01140746e6ae1d47507f24e5ec

Klon-Repos

 git clone https://github.com/kmgrassi/exo-server
yarn install

Um loszulegen, benötigen Sie zwei Konten:

1. Offene KI: https://platform.openai.com/signup?launch
2. Supabase (hostet die Datenbank): https://app.supabase.com/sign-up

Wenn Sie Exo ohne diese Konten nutzen möchten, können Sie sich hier für die Nutzung der App anmelden: https://www.getexo.dev/auth/signup

Anmeldeinformationen hinzufügen

Besorgen Sie sich nach dem Erstellen Ihres Kontos Ihre Anmeldeinformationen und fügen Sie sie in die .env-example ein:

 SUPABASE_ANON=Your-supabase-anon-here
SUPABASE_URL=Your-supabase-url-here
SUPABASE_DB_ID=Your-supabase-id-here
SUPABASE_DATABASE_PASSWORD=Your-supabase-password-here
OPENAI_API_KEY=Your-openai-api-key-here

Benennen Sie .env-example in .env

Nachdem Sie Ihre Anmeldeinformationen hinzugefügt haben, führen Sie Folgendes aus:

 yarn run create-db-schema

Dadurch wird Ihre Supabase-Datenbank mit dem Schema aktualisiert, das in der Datei schema.sql enthalten ist.

Laufen

 yarn run dev

Einsetzen

Details zur Bereitstellung folgen in Kürze. Ich verwende Heroku. Es gibt eine Proc-Datei, sodass Sie die Bereitstellung problemlos auf Heroku durchführen können sollten. TODO – Schaltfläche „Auf Heroku bereitstellen“ hinzufügen

Verwendung

Chatten

Exo ist eine Chat-App. Sie interagieren mit der Benutzeroberfläche über die Chat-Oberfläche. Sie können Fragen stellen wie: „Können Sie eine ts-Funktion schreiben, die die Buchstaben in einer Zeichenfolge auf dem Notizblock zählt?“

Indizierung eines Repos

So indizieren Sie ein Repo:

 Click on "Select repo"
Then "Save Repo"
Then click on the paper icon with the up arrow

Dadurch werden alle Dateien im Repo zur Indizierung an den Server gesendet. Der Server verwendet das LLM, um eine Codeerklärung abzurufen, den Code und die Erklärung einzubetten und alles in der Datenbank zu speichern.

Suchen

Nachdem Sie ein Repo indiziert haben, können Sie in diesem Repo nach Code suchen. Beispiel: „Suchen Sie die Komponente, die die Anmeldekomponente rendert.“

Code schreiben

TODO – Erklären Sie verschiedene Möglichkeiten, die App zum Schreiben von Code zu verwenden.

Einschränkungen

• Exo ist noch lange nicht serienreif. Es hat viele Ecken und Kanten und eine schlechte UI/UX.
• Alle Aufgaben zum Schreiben von Code werden mit GPT4 erledigt. Wenn Sie keinen Zugriff auf GPT4 haben, haben Sie Pech, da es derzeit nicht auf eine andere Engine zurückgreift. Ich habe festgestellt, dass es einen großen Unterschied zwischen der Codequalität von GPT4 und jeder anderen Engine gibt.
• Die Agenten sind nicht ausgefeilt und entwickeln oft den falschen Plan, schreiben den falschen Code usw
• Bisher wurde in die Entwicklung der App VIEL getüftelt. Viele der Fehlstarts wurden in der Codebasis belassen. Entschuldigung. Ich werde es reparieren, so gut ich kann.
• Es gibt VIELE schlechte Architekturentscheidungen. Zu viele, um sie aufzulisten. Ein großes Problem besteht jedoch darin, dass die App ständig die API anpingt, um Nachrichten usw. abzurufen. Ich habe ein paar Ideen für die Verwendung von Sockets. Wenn Sie das wirklich stört, feuern Sie eine PR ab.

Straßenkarte

TODO – Straßenkarte hinzufügen

Kontakt und weitere Informationen

In meinem Twitter-Feed finden Sie eine Reihe von Videos, die beschreiben, wie dies erstellt wurde.

Fühlen Sie sich frei, mir eine DM auf Twitter oder per E-Mail an kmgrassi mit dem üblichen E-Mail-Client zu senden