?完整文件???命令列介面?使用案例?加入不和諧? Youtube ?部落格
TrustGraph 引擎提供部署可靠、可擴展且準確的 AI 代理程式所需的所有工具、服務、圖形儲存和 VectorDB。人工智慧引擎包括:
大量提取敏感資料並建立可重複使用和增強的知識核心,將通用法學碩士轉變為知識專家。可觀察性儀表板可讓您即時監控 LLM 延遲、資源管理和令牌吞吐量。使用 Neo4j 可視化增強的數據。
與 TrustGraph 互動的主要方式有兩種:
TrustGraph CLI
在運行時安裝用於與 TrustGraph 互動的命令。 Configuration UI
允許在啟動之前自訂 TrustGraph 部署。
pip3 install trustgraph-cli==0.13.2
筆記
TrustGraph CLI
版本必須與所需的TrustGraph
發行版本相符。
雖然 TrustGraph 可以無限定制,但配置編輯器可以使用 Docker 在幾秒鐘內建立自訂配置。
啟動開發人員配置 UI ?
啟動步驟:
Model Deployment
,請按照Model credentials
部分中的說明配置任何所需的環境變數或路徑Model Deployment
相對應的Model Name
欄位中填入所需的 LLM 名稱Model Parameters
Deployment configuration
部分下的GENERATE
Launch
下的說明進行操作解壓縮deploy.zip
後,啟動TrustGraph就像導航到deploy
目錄並運行一樣簡單:
docker compose up -d
完成後,關閉 TrustGraph 非常簡單:
docker compose down -v
TrustGraph 版本可在此處取得。下載所需發行版本的deploy.zip
。
釋放類型 | 發布版本 |
---|---|
最新的 | 0.14.6 |
穩定的 | 0.13.2 |
TrustGraph 是完全容器化的,並使用YAML
設定檔啟動。解壓縮deploy.zip
將會新增一個有下列子目錄的deploy
目錄:
docker-compose
minikube-k8s
gcp-k8s
每個目錄都包含啟動 TrustGraph 所需的預先建置YAML
設定檔:
模型部署 | 圖商店 | 啟動文件 |
---|---|---|
AWS 基岩 API | 卡桑德拉 | tg-bedrock-cassandra.yaml |
AWS 基岩 API | 新4j | tg-bedrock-neo4j.yaml |
Azure人工智慧API | 卡桑德拉 | tg-azure-cassandra.yaml |
Azure人工智慧API | 新4j | tg-azure-neo4j.yaml |
AzureOpenAI API | 卡桑德拉 | tg-azure-openai-cassandra.yaml |
AzureOpenAI API | 新4j | tg-azure-openai-neo4j.yaml |
人擇API | 卡桑德拉 | tg-claude-cassandra.yaml |
人擇API | 新4j | tg-claude-neo4j.yaml |
一致API | 卡桑德拉 | tg-cohere-cassandra.yaml |
一致API | 新4j | tg-cohere-neo4j.yaml |
Google人工智慧工作室API | 卡桑德拉 | tg-googleaistudio-cassandra.yaml |
Google人工智慧工作室API | 新4j | tg-googleaistudio-neo4j.yaml |
拉馬檔案 API | 卡桑德拉 | tg-llamafile-cassandra.yaml |
拉馬檔案 API | 新4j | tg-llamafile-neo4j.yaml |
奧拉馬 API | 卡桑德拉 | tg-ollama-cassandra.yaml |
奧拉馬 API | 新4j | tg-ollama-neo4j.yaml |
開放人工智慧API | 卡桑德拉 | tg-openai-cassandra.yaml |
開放人工智慧API | 新4j | tg-openai-neo4j.yaml |
頂點人工智慧API | 卡桑德拉 | tg-vertexai-cassandra.yaml |
頂點人工智慧API | 新4j | tg-vertexai-neo4j.yaml |
選擇設定launch file
後,使用下列命令部署 TrustGraph:
碼頭工人:
docker compose -f up -d
庫伯內特斯:
kubectl apply -f
AWS Bedrock
、 AzureAI
、 Anthropic
、 Cohere
、 OpenAI
和VertexAI
Docker
、 Podman
或Minikube
進行容器編排TrustGraph 被設計為模組化,以支援盡可能多的語言模型和環境。模組化架構的自然選擇是將功能分解為一組透過 pub/sub 主幹連接的模組。 Apache Pulsar 充當這個 pub/sub 骨幹網路。 Pulsar 充當資料代理,管理連接到處理模組的資料處理佇列。
TrustGraph 使用 3 個自主知識代理將文本語料庫(PDF 或文本)中的知識提取到超密集知識圖譜中。這些代理商專注於建立 RDF 知識圖所需的各個元素。代理人是:
代理提示是透過範本建構的,支援針對特定用例自訂提取代理程式。提取代理程式會透過載入器命令自動啟動。
PDF檔案:
tg-load-pdf
文字或 Markdown 文件:
tg-load-text
一旦建立了知識圖和嵌入或載入了知識核心,就可以使用一行啟動 RAG 查詢:
tg-query-graph-rag -q "Write a blog post about the 5 key takeaways from SB1047 and how they will impact AI development."
?完整的部署指南?
為 TrustGraph 進行開發