graphique de confiance

Plateforme de développement d'agents de connaissances agnostiques LLM

? Documentation complète ?‍? CLI ? Cas d'utilisation ? Rejoindre le Discord ? YouTube ? Blogue

Le moteur TrustGraph fournit tous les outils, services, magasins de graphiques et VectorDB nécessaires pour déployer des agents d'IA fiables, évolutifs et précis. Le moteur IA comprend :

• Ingestion de documents en masse
• Création automatisée de graphiques de connaissances
• Vectorisation automatisée
• Intégration LLM indépendante du modèle
• RAG combinant à la fois des Knowledge Graphs et des VectorDB
• Fiabilité, évolutivité et modularité de niveau entreprise
• Activation de la confidentialité des données avec les déploiements LLM locaux avec Ollama et Llamafile

Ingérez vos données sensibles par lots et créez des noyaux de connaissances réutilisables et améliorés qui transforment les LLM à usage général en spécialistes des connaissances. Le tableau de bord d'observabilité vous permet de surveiller la latence LLM, la gestion des ressources et le débit des jetons en temps réel. Visualisez vos données améliorées avec Neo4j.

Plan de contrôle TrustGraph

Il existe deux manières principales d'interagir avec TrustGraph :

• CLI TrustGraph
• Interface utilisateur de configuration des développeurs

La TrustGraph CLI installe les commandes permettant d'interagir avec TrustGraph pendant l'exécution. L' Configuration UI permet de personnaliser les déploiements TrustGraph avant le lancement.

Installez la CLI TrustGraph

 pip3 install trustgraph-cli==0.13.2

Note

La version TrustGraph CLI doit correspondre à la version de TrustGraph souhaitée.

Interface utilisateur de configuration du développeur

Bien que TrustGraph soit personnalisable à l'infini, l'éditeur de configuration peut créer une configuration personnalisée en quelques secondes avec Docker.

Lancer l'interface utilisateur de Developer Config ?

TrustGraph-Deploy.mp4

Étapes de lancement :

• Pour le Model Deployment sélectionné, suivez les instructions dans la section Model credentials pour configurer les variables ou chemins d'environnement requis.
• Remplissez le nom LLM souhaité dans le champ Model Name qui correspond au Model Deployment sélectionné.
• Définir tous Model Parameters souhaités
• Cliquez sur GENERATE sous la section Deployment configuration
• Suivez les instructions sous Launch

Une fois deploy.zip décompressé, lancer TrustGraph est aussi simple que de naviguer jusqu'au répertoire deploy et d'exécuter :

 docker compose up -d

Une fois terminé, arrêter TrustGraph est aussi simple que :

 docker compose down -v

Sorties TrustGraph

Les versions de TrustGraph sont disponibles ici. Téléchargez deploy.zip pour la version souhaitée.

Type de version	Version de sortie
Dernier	0.14.6
Écurie	0.13.2

TrustGraph est entièrement conteneurisé et est lancé avec un fichier de configuration YAML . La décompression du deploy.zip ajoutera le répertoire deploy avec les sous-répertoires suivants :

• docker-compose
• minikube-k8s
• gcp-k8s

Chaque répertoire contient les fichiers de configuration YAML prédéfinis nécessaires au lancement de TrustGraph :

Déploiement du modèle	Magasin de graphiques	Lancer le fichier
API AWS Bedrock	Cassandre	tg-bedrock-cassandra.yaml
API AWS Bedrock	Néo4j	tg-bedrock-neo4j.yaml
API AzureAI	Cassandre	tg-azure-cassandra.yaml
API AzureAI	Néo4j	tg-azure-neo4j.yaml
API AzureOpenAI	Cassandre	tg-azure-openai-cassandra.yaml
API AzureOpenAI	Néo4j	tg-azure-openai-neo4j.yaml
API anthropique	Cassandre	tg-claude-cassandra.yaml
API anthropique	Néo4j	tg-claude-neo4j.yaml
Cohérer l'API	Cassandre	tg-cohere-cassandra.yaml
Cohérer l'API	Néo4j	tg-cohere-neo4j.yaml
API Google AI Studio	Cassandre	tg-googleaistudio-cassandra.yaml
API Google AI Studio	Néo4j	tg-googleaistudio-neo4j.yaml
API Llamafile	Cassandre	tg-llamafile-cassandra.yaml
API Llamafile	Néo4j	tg-llamafile-neo4j.yaml
API Ollama	Cassandre	tg-ollama-cassandra.yaml
API Ollama	Néo4j	tg-ollama-neo4j.yaml
API OpenAI	Cassandre	tg-openai-cassandra.yaml
API OpenAI	Néo4j	tg-openai-neo4j.yaml
API VertexAI	Cassandre	tg-vertexai-cassandra.yaml
API VertexAI	Néo4j	tg-vertexai-neo4j.yaml

Une fois un launch file de configuration sélectionné, déployez TrustGraph avec :

Docker :

 docker compose -f  up -d

Kubernetes :

 kubectl apply -f 

Fonctionnalités principales de TrustGraph

• Décodage PDF
• Morceau de texte
• Inférence SLM sur l'appareil avec Ollama ou Llamafile
• Inférence Cloud LLM : AWS Bedrock , AzureAI , Anthropic , Cohere , OpenAI et VertexAI
• Intégrations vectorielles cartographiées par fragments avec les modèles HuggingFace
• Agents d'extraction de connaissances RDF
• Apache Cassandra ou Neo4j comme magasin de graphiques
• Qdrant comme VectorDB
• Créer et charger des noyaux de connaissances
• Service de requête RAG utilisant à la fois Graph Store et VectorDB
• Tableau de bord de télémétrie Grafana
• Intégration de modules avec Apache Pulsar
• Orchestration de conteneurs avec Docker , Podman ou Minikube

Architecture

TrustGraph est conçu pour être modulaire afin de prendre en charge autant de modèles de langage et d'environnements que possible. Une solution naturelle pour une architecture modulaire consiste à décomposer les fonctions en un ensemble de modules connectés via un backbone pub/sub. Apache Pulsar sert de colonne vertébrale pub/sub. Pulsar agit en tant que courtier de données gérant les files d'attente de traitement des données connectées aux modules de traitement.

Flux de travail Pulsar

• Pour les flux de traitement, Pulsar accepte la sortie d'un module de traitement et la met en file d'attente pour l'entrée dans le module abonné suivant.
• Pour les services tels que les LLM et les intégrations, Pulsar fournit un modèle client/serveur. Une file d'attente Pulsar est utilisée comme entrée du service. Une fois traitée, la sortie est ensuite transmise à une file d'attente distincte où un abonné client peut demander cette sortie.

Agents de connaissances

TrustGraph extrait les connaissances d'un corpus de texte (PDF ou texte) vers un graphe de connaissances ultra-dense à l'aide de 3 agents de connaissances autonomes. Ces agents se concentrent sur les éléments individuels nécessaires à la construction du graphe de connaissances RDF. Les agents sont :

• Agent d'extraction de sujets
• Agent d'extraction d'entités
• Agent de connexion aux nœuds

Les invites des agents sont créées via des modèles, permettant des agents d'extraction personnalisés pour un cas d'utilisation spécifique. Les agents d'extraction sont lancés automatiquement avec les commandes du chargeur.

Fichier PDF :

 tg-load-pdf 

Fichier texte ou Markdown :

 tg-load-text 

Requêtes RAG

Une fois le graphe de connaissances et les intégrations construits ou un noyau de connaissances chargé, les requêtes RAG sont lancées avec une seule ligne :

 tg-query-graph-rag -q "Write a blog post about the 5 key takeaways from SB1047 and how they will impact AI development."

Déployer et gérer TrustGraph

? Guide de déploiement complet ?

Guide du développeur TrustGraph

Développer pour TrustGraph