pico jarvis

Pico Jarvis

Dieses Repository enthält den Quellcode für die RAG-Technik (Retrieval-Augmented Generation), wie in den folgenden Artikeln beschrieben:

• Teil 1: Erste Schritte, Gedankenkette
• Teil 2: Reason-Act, Gespräch mit mehreren Runden
• Teil 3: PDF-Aufnahme, Vektorsuche
• Bonus: RAG mit SLM (Small Language Model)

Zuerst müssen Sie den API-Server von llama.cpp mit Phi 2 ausführen:

 ./server -m /path/to/phi-2.Q4_K_M.gguf

(Für eine langsamere Reaktion, aber mit verbesserter Genauigkeit, sollten Sie die Verwendung von Mistral 7B OpenOrca in Betracht ziehen.)

Um Pico Jarvis zu starten, benötigen Sie Node.js v18 oder höher:

 npm install
npm start

und öffnen Sie dann localhost:5000 .

Stellen Sie folgende Fragen:

• Wer hat den Kanon der Medizin geschrieben?
• Wird Ramen normalerweise in Ägypten gegessen?
• Wer hat den Dark Knight-Film gedreht?
• Nennen Sie Indonesien als Reiseziel Nr. 1!

(und noch mehr zum Ausprobieren)

• Was ist die Muttersprache von Mr. Spock?
• Welcher US-Bundesstaat beginnt mit G?
• Wie lautet die Ordnungszahl von Magnesium?
• Wo finden wir Kängurus?
• Wer ist der Vater von Luke Skywalker?
• In welchem ​​Land wird Mandarin gesprochen?
• Was ist der längste Fluss Lateinamerikas?
• Wer hat die spezielle Relativitätstheorie verfasst?
• Welches fiktive Metall steckt im Körper von Wolverine?
• Wer fuhr mit dem Flaggschiff Santa Maria?
• Nennen Sie die große Wüste in der Nähe der Mongolei
• Was liegt näher an Singapur: Vietnam oder Australien?
• Wer ist der fiktive Spion 007?
• Welches Land ist für IKEA bekannt?

In der Zwischenzeit werden Fragen zum Sonnensystem durch die Suche im PDF-Dokument beantwortet:

• Was ist ein Zwergplanet?
• Welcher Planet ist als der Rote bekannt?
• Aus welchen Materialien bestehen die Gasriesen?
• Wie wäre es mit den Eisriesen?
• Erklären Sie die Heliopause
• Wann betrat Voyager 2 den interstellaren Raum?
• Wie wäre es mit Voyager 1?

Wenn Sie einen API-Schlüssel für OpenWeatherMap erhalten und ihn als Umgebungsvariable OPENWEATHERMAP_API_KEY bereitstellen, versuchen Sie Folgendes zu fragen:

• Wie ist das Wetter in Jakarta?
• Wie hoch ist die aktuelle Temperatur in Palo Alto?
• Ist es derzeit in Seattle bewölkt?