gráfico de confianza

Plataforma de desarrollo de agentes de conocimiento agnóstico LLM

? ¿Documentación completa? CLI? ¿Casos de uso? ¿Únete a la discordia? YouTube ? Blog

TrustGraph Engine proporciona todas las herramientas, servicios, Graph Stores y VectorDB necesarios para implementar agentes de IA confiables, escalables y precisos. El motor de IA incluye:

• Ingestión masiva de documentos
• Creación automatizada de gráficos de conocimiento
• Vectorización automatizada
• Integración de LLM independiente del modelo
• RAG que combina Knowledge Graphs y VectorDB
• Fiabilidad, escalabilidad y modularidad de nivel empresarial
• Habilitación de la privacidad de datos con implementaciones locales de LLM con Ollama y Llamafile

Incorpore sus datos confidenciales en lotes y cree núcleos de conocimiento mejorados y reutilizables que transformen a los LLM de propósito general en especialistas en conocimiento. El panel de observabilidad le permite monitorear la latencia de LLM, la administración de recursos y el rendimiento de los tokens en tiempo real. Visualice sus datos mejorados con Neo4j.

Plano de control TrustGraph

Hay dos formas principales de interactuar con TrustGraph:

• CLI de TrustGraph
• Interfaz de usuario de configuración de desarrollo

La TrustGraph CLI instala los comandos para interactuar con TrustGraph mientras se ejecuta. La Configuration UI permite la personalización de las implementaciones de TrustGraph antes del lanzamiento.

Instale la CLI de TrustGraph

 pip3 install trustgraph-cli==0.13.2

Nota

La versión TrustGraph CLI debe coincidir con la versión de lanzamiento TrustGraph deseada.

Interfaz de usuario de configuración del desarrollador

Si bien TrustGraph se puede personalizar infinitamente, el editor de configuración puede crear una configuración personalizada en segundos con Docker.

¿Iniciar la interfaz de usuario de configuración del desarrollador?

TrustGraph-Deploy.mp4

Pasos de lanzamiento:

• Para la Model Deployment seleccionado, siga las instrucciones en la sección Model credentials para configurar las variables de entorno o rutas requeridas.
• Complete el nombre de LLM deseado en el campo Model Name que corresponde a Model Deployment seleccionado.
• Establezca todos Model Parameters deseados
• Haga clic en GENERATE en la sección Deployment configuration
• Siga las instrucciones en Launch

Una vez que se ha descomprimido deploy.zip , iniciar TrustGraph es tan simple como navegar hasta el directorio deploy y ejecutar:

 docker compose up -d

Cuando termine, cerrar TrustGraph es tan simple como:

 docker compose down -v

Lanzamientos de TrustGraph

Las versiones de TrustGraph están disponibles aquí. Descargue deploy.zip para obtener la versión de lanzamiento deseada.

Tipo de lanzamiento	Versión de lanzamiento
El último	0.14.6
Estable	0.13.2

TrustGraph está completamente contenedorizado y se inicia con un archivo de configuración YAML . Al descomprimir el deploy.zip se agregará el directorio deploy con los siguientes subdirectorios:

• docker-compose
• minikube-k8s
• gcp-k8s

Cada directorio contiene los archivos de configuración YAML prediseñados necesarios para iniciar TrustGraph:

Implementación del modelo	Tienda de gráficos	Iniciar archivo
API de base de AWS	casandra	tg-bedrock-cassandra.yaml
API de base de AWS	neo4j	tg-bedrock-neo4j.yaml
API de AzureAI	casandra	tg-azure-cassandra.yaml
API de AzureAI	neo4j	tg-azure-neo4j.yaml
API de AzureOpenAI	casandra	tg-azure-openai-cassandra.yaml
API de AzureOpenAI	neo4j	tg-azure-openai-neo4j.yaml
API antrópica	casandra	tg-claude-cassandra.yaml
API antrópica	neo4j	tg-claude-neo4j.yaml
API coherente	casandra	tg-cohere-cassandra.yaml
API coherente	neo4j	tg-cohere-neo4j.yaml
API de Google AI Studio	casandra	tg-googleaistudio-cassandra.yaml
API de Google AI Studio	neo4j	tg-googleaistudio-neo4j.yaml
API de archivo de llama	casandra	tg-llamafile-cassandra.yaml
API de archivo de llama	neo4j	tg-llamafile-neo4j.yaml
API de Ollama	casandra	tg-ollama-cassandra.yaml
API de Ollama	neo4j	tg-ollama-neo4j.yaml
API abierta de IA	casandra	tg-openai-cassandra.yaml
API abierta de IA	neo4j	tg-openai-neo4j.yaml
API de VertexAI	casandra	tg-vertexai-cassandra.yaml
API de VertexAI	neo4j	tg-vertexai-neo4j.yaml

Una vez que se haya seleccionado un launch file de configuración, implemente TrustGraph con:

acoplador :

 docker compose -f  up -d

Kubernetes :

 kubectl apply -f 

Funciones principales de TrustGraph

• decodificación de PDF
• Fragmentación de texto
• Inferencia SLM en el dispositivo con Ollama o Llamafile
• Inferencia de Cloud LLM: AWS Bedrock , AzureAI , Anthropic , Cohere , OpenAI y VertexAI
• Incrustaciones de vectores mapeados en fragmentos con modelos HuggingFace
• Agentes de extracción de conocimientos RDF
• Apache Cassandra o Neo4j como almacén de gráficos
• Qdrant como VectorDB
• Construir y cargar núcleos de conocimiento
• Servicio de consulta RAG que utiliza Graph Store y VectorDB
• Panel de telemetría de Grafana
• Integración del módulo con Apache Pulsar
• Orquestación de contenedores con Docker , Podman o Minikube

Arquitectura

TrustGraph está diseñado para ser modular y admitir tantos modelos de lenguaje y entornos como sea posible. Una opción natural para una arquitectura modular es descomponer funciones en un conjunto de módulos conectados a través de una red troncal pub/sub. Apache Pulsar sirve como columna vertebral de pub/sub. Pulsar actúa como intermediario de datos que gestiona las colas de procesamiento de datos conectadas a los módulos de procesamiento.

Flujos de trabajo de Pulsar

• Para los flujos de procesamiento, Pulsar acepta la salida de un módulo de procesamiento y la pone en cola para ingresar al siguiente módulo suscrito.
• Para servicios como LLM e incorporaciones, Pulsar proporciona un modelo cliente/servidor. Se utiliza una cola Pulsar como entrada al servicio. Cuando se procesa, la salida se entrega a una cola separada donde un suscriptor cliente puede solicitar esa salida.

Agentes del conocimiento

TrustGraph extrae conocimiento de un corpus de texto (PDF o texto) a un gráfico de conocimiento ultradenso utilizando 3 agentes de conocimiento autónomos. Estos agentes se centran en elementos individuales necesarios para construir el gráfico de conocimiento RDF. Los agentes son:

• Agente de extracción de temas
• Agente de extracción de entidades
• Agente de conexión de nodo

Las indicaciones del agente se crean a través de plantillas, lo que permite agentes de extracción personalizados para un caso de uso específico. Los agentes de extracción se inician automáticamente con los comandos del cargador.

Archivo PDF:

 tg-load-pdf 

Archivo de texto o Markdown:

 tg-load-text 

Consultas RAG

Una vez que se han creado el gráfico de conocimiento y las incrustaciones o se ha cargado un núcleo de conocimiento, las consultas RAG se lanzan con una sola línea:

 tg-query-graph-rag -q "Write a blog post about the 5 key takeaways from SB1047 and how they will impact AI development."

Implementar y administrar TrustGraph

? ¿Guía de implementación completa?

Guía del desarrollador de TrustGraph

Desarrollando para TrustGraph