GenossGPT

Genoss GPT

استبدال سطر واحد لـ Openai ChatGpt & Embeddings مدعوم من نماذج OSS

Genoss هي مبادرة رائدة مفتوحة المصدر تهدف إلى تقديم بديل سلس لنماذج Openai مثل GPT 3.5 و 4 ، باستخدام نماذج مفتوحة المصدر مثل GPT4All.

مشروع bootstrapped باستخدام Sicarator

سمات

• مفتوح المصدر : تم بناء Genoss على نماذج مفتوحة المصدر مثل GPT4ALL.
• استبدال سطر واحد : Genoss هو بديل خط واحد لـ Openai ChatGPT API.

العرض التوضيحي

الانتهاء من الدردشة والتضمين مع GPT4ALL

Genoss-Demo-Last.mp4

النماذج المدعومة

• نموذج GPT4ALL و Embeddings
• المزيد من النماذج قريبا!

البدء

قبل الشروع ، تأكد من تثبيت Python 3.11 أو أعلى على جهازك.

تثبيت الخادم

باستخدام PIP (موصى به)

️ نحن حاليا في النشر.

pip install genoss

قم بتثبيت أحدث إصدار من هذا المستودع

pip install git+https://github.com/OpenGenerativeAI/GenossGPT.git@main # egg = genoss

تشغيل الخادم

genoss-server
# To know more
genoss-server --help

الوصول إلى مستندات API عبر http: // localhost: 4321/docs.

التثبيت النماذج

تثبيت نموذج GPT4ALL

الخطوة الأولى هي تثبيت GPT4ALL ، وهو النموذج الوحيد المدعوم في الوقت الحالي. يمكنك القيام بذلك عن طريق اتباع هذه الخطوات:

1. استنساخ المستودع:

git clone --recurse-submodules [email protected]:nomic-ai/gpt4all.git

2. انتقل إلى الدليل الخلفي:

 cd gpt4all/gpt4all-backend/

3. قم بإنشاء دليل بناء جديد وانتقل إليه:

mkdir build && cd build

4. تكوين وبناء المشروع باستخدام CMake:

cmake ..
cmake --build . --parallel

5. تحقق من أن libllmodel.* موجود في gpt4all-backend/build .

6. انتقل مرة أخرى إلى الجذر وتثبيت حزمة Python:

 cd ../../gpt4all-bindings/python
pip3 install -e .

7. قم بتنزيله على جهازك المحلي من هنا ووضعه في دليل local_models كـ local_models/ggml-gpt4all-j-v1.3-groovy.bin

تشغيل التطبيق

تحتاج إلى تثبيت الشعر وإصدار Python صالح (3.11*).

poetry install

لمزيد من المعلومات ، في التثبيت الكامل لغرض التطوير ، يمكنك التحقق من المساهمة. إذا كنت ترغب ببساطة في بدء تشغيل الخادم ، فيمكنك التثبيت مع مجموعات الشعر المقابلة:

poetry install --only main,llms

بعد تثبيت حزمة Python ، يمكنك تشغيل التطبيق. يمكن استخدام خادم uvicorn ASGI لتشغيل تطبيقك:

uvicorn main:app --host 0.0.0.0 --port 4321

يقوم هذا الأمر بتشغيل تطبيق Genoss على المنفذ 4321 من جهازك.

تشغيل العرض التوضيحي لـ WebApp

في demo/

cp .env.example .env

استبدل القيم ثم

PYTHONPATH=. streamlit run demo/main.py

استخدام API Genoss

API Genoss هو بديل خط واحد ل API Openai ChatGPT. وهو يدعم نفس المعلمات ويعيد نفس تنسيق الاستجابة مثل API Openai.

ما عليك سوى استبدال نقطة نهاية Openai API بنقطة نهاية Genoss API وأنت على ما يرام!

قم بتعديل النماذج إلى القائمة المدعومة من النماذج وأنت على ما يرام!

يمكنك العثور على وثائق API على /docs أو /redoc .

التطورات القادمة

على الرغم من أن GPT4ALL هو النموذج الوحيد المدعوم حاليًا ، إلا أننا نخطط لإضافة المزيد من النماذج في المستقبل. لذلك ، ترقبوا المزيد من التحديثات المثيرة.

الرؤية:

• السماح بتشغيل نماذج LLM محليًا
• اسمح LLM بتشغيل محليًا باستخدام Luggingface
• اسمح LLM بتشغيله على Luggingface وأن يكون مجرد غلاف حول واجهة برمجة تطبيقات الاستدلال.
• السماح بسهولة التثبيت لنماذج LLM محليًا
• اسمح للمستخدمين باستخدام حلول مزود السحابة مثل GCP و AWS و Azure ، إلخ ...
• السماح للمستخدمين بإدارة مفاتيح API
• احصل على جميع أنواع النماذج المتاحة للاستخدام (نص إلى نص ، نص على الصورة ، نص إلى الصوت ، الصوت إلى النص ، إلخ)
• كن متوافقًا مع Openai API للنماذج المتوافقة مع Openai API

تاريخ

تم تخيل Genoss من قبل ستان جيرارد عندما أصبحت ميزة Quivr كبيرة للغاية ومعقدة للحفاظ عليها.

كانت الفكرة هي إنشاء واجهة برمجة تطبيقات بسيطة تسمح باستخدام أي نموذج مع واجهة برمجة التطبيقات نفسها مثل API Openai's ChatGPT.

ثم بدأت MattzCarey و Maximethoonsen و Wirg و stangirard العمل في المشروع وأصبحت حقيقة واقعة.

مساهمات

يتم تقدير مساهماتك في Genoss بشكل كبير! لا تتردد في تقديم أي مشكلات أو سحب طلبات.

شكرا اذهب إلى هؤلاء الناس الرائعين:

الرعاة ❤

لا يمكن أن يكون هذا المشروع ممكنًا بدون دعم رعاةنا. شكرا لك على دعمك!

رخصة

Genoss مرخصة بموجب ترخيص Apache2. لمزيد من التفاصيل ، راجع ملف الترخيص.