MemoryVault LLM

LLM-App mit Speicher (MemoryVault-LLM)

Diese Streamlit-Anwendung fungiert als KI-gestützter Chatbot und nutzt das GPT-4o-Modell von OpenAI mit einer Speichererhaltungsfunktion. Es ermöglicht Benutzern, sich mit der KI zu unterhalten und dabei den Kontext über mehrere Interaktionen hinweg aufrechtzuerhalten, um ein nahtloses Gesprächserlebnis zu ermöglichen.

Merkmale

• Nutzt das GPT-4o-Modell von OpenAI zum Generieren von Antworten.
• Implementiert persistenten Speicher mithilfe von Mem0 und dem Qdrant-Vektorspeicher.
• Ermöglicht Benutzern, ihren Gesprächsverlauf anzuzeigen.
• Bietet eine benutzerfreundliche Oberfläche durch Streamlit.

Wie fange ich an?

1. Klonen Sie das GitHub-Repository

git clone https://github.com/0xPriyanshuJha/MemoryVault-LLM.git

2. Installieren Sie die erforderlichen Abhängigkeiten:

pip install streamlit, mem0, openai

3. Stellen Sie sicher, dass Qdrant ausgeführt wird: Die App erwartet, dass Qdrant auf localhost:6333 ausgeführt wird. Passen Sie die Konfiguration im Code entsprechend Ihren Anforderungen an.

docker pull qdrant/qdrant

docker run -p 6333:6333 -p 6334:6334 
    -v $( pwd ) /qdrant_storage:/qdrant/storage:z 
    qdrant/qdrant

4. Führen Sie die Streamlit-App aus

streamlit run llm.py