الصفحة الرئيسية>المتعلقة بالبرمجة>شفرة المصدر الأخرى
تنزيل

LLM منصة تطوير وكيل المعرفة الملحدة

؟ التوثيق الكامل ?‍؟ سطر الأوامر؟ حالات الاستخدام؟ الانضمام إلى الخلاف؟ يوتيوب ؟ مدونة

يوفر محرك TrustGraph جميع الأدوات والخدمات ومخازن الرسم البياني وقواعد بيانات VectorDB اللازمة لنشر وكلاء الذكاء الاصطناعي الموثوقين والقابلين للتطوير والدقيقين. يتضمن محرك الذكاء الاصطناعي ما يلي:

  • استيعاب المستندات بكميات كبيرة
  • بناء الرسم البياني المعرفي الآلي
  • المتجهات الآلي
  • نموذج التكامل اللاأدري LLM
  • تجمع RAG بين كل من الرسوم البيانية المعرفية وقواعد بيانات المتجهات
  • موثوقية مستوى المؤسسة وقابلية التوسع والنمطية
  • تمكين خصوصية البيانات من خلال عمليات نشر LLM المحلية باستخدام Ollama وLlamafile

استوعب بياناتك الحساسة على دفعات وقم ببناء نوى معرفية معززة وقابلة لإعادة الاستخدام تعمل على تحويل ماجستير إدارة الأعمال للأغراض العامة إلى متخصصين في المعرفة. تسمح لك لوحة معلومات إمكانية المراقبة بمراقبة زمن استجابة LLM وإدارة الموارد وإنتاجية الرمز المميز في الوقت الفعلي. تصور بياناتك المحسنة مع Neo4j.

طائرة التحكم TrustGraph

هناك طريقتان أساسيتان للتفاعل مع TrustGraph:

  • TrustGraph CLI
  • واجهة مستخدم تكوين المطورين

يقوم TrustGraph CLI بتثبيت أوامر التفاعل مع TrustGraph أثناء التشغيل. تتيح Configuration UI إمكانية تخصيص عمليات نشر TrustGraph قبل الإطلاق.

قم بتثبيت TrustGraph CLI 

 pip3 install trustgraph-cli==0.13.2

ملحوظة

يجب أن يتطابق إصدار TrustGraph CLI مع إصدار إصدار TrustGraph المطلوب.

واجهة المستخدم لتكوين المطور

في حين أن TrustGraph قابل للتخصيص إلى ما لا نهاية، يمكن لمحرر التكوين إنشاء تكوين مخصص في ثوانٍ باستخدام Docker.

إطلاق واجهة المستخدم لتكوين المطور؟

TrustGraph-Deploy.mp4

خطوات الإطلاق:

  • بالنسبة Model Deployment المحدد، اتبع الإرشادات الموجودة في قسم Model credentials لتكوين أي متغيرات أو مسارات مطلوبة للبيئة
  • املأ اسم LLM المطلوب في حقل Model Name الذي يتوافق مع Model Deployment الذي حددته
  • قم بتعيين جميع Model Parameters المطلوبة
  • انقر فوق GENERATE ضمن قسم Deployment configuration
  • اتبع الإرشادات الموجودة ضمن Launch

بمجرد فك ضغط deploy.zip ، يصبح تشغيل TrustGraph أمرًا بسيطًا مثل الانتقال إلى دليل deploy وتشغيله: 

 docker compose up -d

عند الانتهاء، يكون إيقاف تشغيل TrustGraph أمرًا بسيطًا مثل: 

 docker compose down -v

إصدارات TrustGraph

إصدارات TrustGraph متاحة هنا. قم بتنزيل deploy.zip للحصول على الإصدار المطلوب.

نوع الإصدار إصدار الإصدار
أحدث 0.14.6
مستقر 0.13.2

يتم وضع TrustGraph في حاوية بالكامل ويتم تشغيله باستخدام ملف تكوين YAML . سيؤدي فك ضغط deploy.zip إلى إضافة دليل deploy مع الدلائل الفرعية التالية:

  • docker-compose
  • minikube-k8s
  • gcp-k8s

يحتوي كل دليل على ملفات تكوين YAML المعدة مسبقًا والمطلوبة لتشغيل TrustGraph:

نشر النموذج متجر الرسم البياني إطلاق الملف
واجهة برمجة تطبيقات AWS Bedrock كاساندرا tg-bedrock-cassandra.yaml
واجهة برمجة تطبيقات AWS Bedrock Neo4j tg-bedrock-neo4j.yaml
واجهة برمجة تطبيقات AzureAI كاساندرا tg-azure-cassandra.yaml
واجهة برمجة تطبيقات AzureAI Neo4j tg-azure-neo4j.yaml
واجهة برمجة تطبيقات AzureOpenAI كاساندرا tg-azure-openai-cassandra.yaml
واجهة برمجة تطبيقات AzureOpenAI Neo4j tg-azure-openai-neo4j.yaml
واجهة برمجة التطبيقات الأنثروبولوجية كاساندرا tg-claude-cassandra.yaml
واجهة برمجة التطبيقات الأنثروبولوجية Neo4j tg-claude-neo4j.yaml
كوهير API كاساندرا tg-cohere-cassandra.yaml
كوهير API Neo4j tg-cohere-neo4j.yaml
واجهة برمجة تطبيقات Google AI Studio كاساندرا tg-googleaistudio-cassandra.yaml
واجهة برمجة تطبيقات Google AI Studio Neo4j tg-googleaistudio-neo4j.yaml
واجهة برمجة تطبيقات لامافيل كاساندرا tg-llamafile-cassandra.yaml
واجهة برمجة تطبيقات لامافيل Neo4j tg-llamafile-neo4j.yaml
واجهة برمجة تطبيقات أولاما كاساندرا tg-ollama-cassandra.yaml
واجهة برمجة تطبيقات أولاما Neo4j tg-ollama-neo4j.yaml
واجهة برمجة تطبيقات OpenAI كاساندرا tg-openai-cassandra.yaml
واجهة برمجة تطبيقات OpenAI Neo4j tg-openai-neo4j.yaml
واجهة برمجة تطبيقات VertexAI كاساندرا tg-vertexai-cassandra.yaml
واجهة برمجة تطبيقات VertexAI Neo4j tg-vertexai-neo4j.yaml

بمجرد تحديد launch file التكوين، قم بنشر TrustGraph باستخدام:

عامل ميناء : 

 docker compose -f  up -d

كوبيرنيتيس : 

 kubectl apply -f

ميزات TrustGraph الأساسية

  • فك تشفير قوات الدفاع الشعبي
  • تقطيع النص
  • استدلال SLM على الجهاز باستخدام Ollama أو Llamafile
  • Cloud LLM infernece: AWS Bedrock و AzureAI و Anthropic و Cohere و OpenAI و VertexAI
  • عمليات تضمين المتجهات المعينة للقطعة باستخدام نماذج HuggingFace
  • وكلاء استخراج المعرفة RDF
  • Apache Cassandra أو Neo4j كمخزن للرسم البياني
  • Qdrant مثل VectorDB
  • بناء وتحميل مراكز المعرفة
  • خدمة استعلام RAG باستخدام كل من Graph Store وVectorDB
  • لوحة القيادة للقياس عن بعد في جرافانا
  • تكامل الوحدة مع Apache Pulsar
  • تنسيق الحاويات مع Docker أو Podman أو Minikube

بنيان

تم تصميم TrustGraph ليكون معياريًا لدعم أكبر عدد ممكن من نماذج اللغة والبيئات. إن الملاءمة الطبيعية للبنية المعيارية هي تحليل الوظائف إلى مجموعة من الوحدات المتصلة من خلال عمود فقري/فرعي. يعمل Apache Pulsar بمثابة العمود الفقري للحانة/الفرعية. يعمل بولسار كوسيط بيانات لإدارة قوائم انتظار معالجة البيانات المتصلة بوحدات المعالجة.

سير عمل النجم النابض

  • بالنسبة لتدفقات المعالجة، يقبل بولسار مخرجات وحدة المعالجة ويضعها في قائمة الانتظار لإدخالها إلى الوحدة التالية المشتركة.
  • بالنسبة لخدمات مثل LLMs والتضمينات، يوفر Pulsar نموذج العميل/الخادم. يتم استخدام قائمة انتظار بولسار كمدخل للخدمة. عند المعالجة، يتم تسليم المخرجات إلى قائمة انتظار منفصلة حيث يمكن لمشترك العميل طلب هذا الإخراج.

وكلاء المعرفة

يقوم TrustGraph باستخراج المعرفة من مجموعة نصية (PDF أو نص) إلى رسم بياني معرفي فائق الكثافة باستخدام 3 وكلاء معرفة مستقلين. يركز هؤلاء الوكلاء على العناصر الفردية اللازمة لبناء الرسم البياني المعرفي لـ RDF. الوكلاء هم:

  • وكيل استخراج الموضوع
  • وكيل استخراج الكيان
  • وكيل اتصال العقدة

يتم إنشاء مطالبات الوكيل من خلال القوالب، مما يتيح عوامل استخراج مخصصة لحالة استخدام محددة. يتم تشغيل عوامل الاستخراج تلقائيًا باستخدام أوامر أداة التحميل.

ملف بي دي اف: 

 tg-load-pdf

ملف نصي أو تخفيض السعر: 

 tg-load-text

استعلامات RAG

بمجرد إنشاء الرسم البياني المعرفي والتضمينات أو تحميل النواة المعرفية، يتم تشغيل استعلامات RAG بسطر واحد: 

 tg-query-graph-rag -q "Write a blog post about the 5 key takeaways from SB1047 and how they will impact AI development."

نشر وإدارة TrustGraph

؟ دليل النشر الكامل؟

دليل مطور TrustGraph

تطوير لTrustGraph

يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل
تعليقات المستخدمين