أصدرت Google مؤخرًا نقطة نهاية جديدة لـ Gemini API ، تهدف إلى تبسيط عملية الترحيل من Openai Solutions إلى Gemini. تم تصميم هذه الخطوة لتزويد المطورين بطريقة أكثر ملاءمة للاستفادة من قوة الجوزاء. تكون نقطة النهاية الجديدة حاليًا في بيتا وتدعم فقط بعض ميزات Openai API ، مثل إكمال الدردشة وواجهة برمجة تطبيقات التضمين ، وتوفر رمزًا للعينات لاستخدام نموذج Gemini من خلال مكالمات REST أو Openai SDK الرسمية. يوفر هذا خيارات جديدة للمطورين للتبديل بين نماذج اللغة الكبيرة المختلفة ومحفزات الصناعة حول توحيد API المستقبلي.
أعلنت Google مؤخرًا عن إطلاق نقطة النهاية الجديدة الخاصة بها لـ Gemini API ، تهدف إلى مساعدة المطورين الذين يعتمدون بالفعل على تحويل حلول Openai إلى Gemini بسهولة أكبر. لا تزال نقطة النهاية الجديدة هذه في الإصدار التجريبي وتوفر الدعم فقط لبعض ميزات Openai.
وفقًا لـ Google ، يمكن أن تحل نقطة النهاية الجديدة محل نقطة نهاية Openai بمكالمة REST مباشرة أو Openai الرسمية SDK. على سبيل المثال ، إذا كان لديك برنامج مكتوب باستخدام Openai SDK (مثل Python) ، فيمكنك تغيير التهيئة من خلال الكود التالي ، باستخدام نموذج Google:
من Openai Importiai
العميل = Openai (
api_key = "gemini_api_key" ،
base_url = "https://generativelanguage.googleapis.com/v1beta/openai/"
)
في الكود ، يحتاج المطور إلى توفير مفتاح API Gemini ، والذي يمكن كتابته مباشرة في الكود أو تم تمريره من خلال متغير بيئة OpenAI_API_KEY. لإنشاء نص ، يمكنك استخدام واجهة برمجة تطبيقات الانتهاء من الدردشة ، كما هو موضح أدناه ، تحديد اسم نموذج الجوزاء الذي تريد استخدامه:
استجابة = client.Chat.completions.create (
نموذج = "Gemini-1.5-flash" ،
ن = 1 ،
الرسائل = [
{"الدور": "النظام" ، "المحتوى": "أنت مساعد مفيد."} ،
{
"الدور": "المستخدم" ،
"المحتوى": "اشرح لي كيف يعمل الذكاء الاصطناعي"
}
]
)
طباعة (استجابة. choices [0] .Message)
بالإضافة إلى ذلك ، تدعم نقطة نهاية الجوزاء الجديدة واجهة برمجة تطبيقات Openai المدمجة لقياس الارتباط بين سلاسل النص. باختصار ، فإن النص على خرائط API في ناقلات أرقام النقاط العائمة ، والتي يمكن للمطورين استخدامها للبحث عن قيم محددة ، ونص الكتلة ، واكتشاف الاستثناءات ، وتقديم التوصيات. يوضح مقتطف الكود التالي كيفية استخدام هذه الميزة في الجوزاء:
استجابة = client.embeddings.create (
input = "سلسلة النص الخاصة بك هنا" ،
model = "text-embedding-004"
)
طباعة (استجابة. data [0] .embedding)
حاليًا ، تعد واجهة برمجة تطبيقات إكمال الدردشة و API التضمين هي ميزات Openai الوحيدة التي يمكن استخدامها على نموذج Gemini من خلال نقطة نهاية Openai الجديدة. بالإضافة إلى ذلك ، يقتصر دعم تحميل الصور والإخراج المنظم على وظائف محدودة. قالت Google إنها تخطط لإضافة المزيد من ميزات Openai حتى يتمكن المطورون من استخدام Gemini كبديل لـ Openai ، ولكن الإطار الزمني المحدد لم يكن واضحًا بعد.
في مناقشة Reddit ، امتدح المعلقون خطوة Google ، معتقدين أنها توفر لمستخدمي API Openai حلاً للهروب من القفل ، على الرغم من أن المسافات تنفذ واجهة برمجة تطبيقات قياسية لتسهيل التبديل بين مزودي النماذج المختلفين ، لا يزال هناك طريق طويل.
كنهج أكثر عمومية ، تم تصميم مشروع VLLM لدعم مجموعة متنوعة من نماذج التوليد والتضمين وتوفير خادم متوافق مع OpenAI. مع VLLM ، يمكن للمطورين استخدام MISTRAL و LLAMA و LLAVA والعديد من النماذج الرئيسية الأخرى المتاحة حاليًا.
مقدمة رسمية: https://developers.googleblog.com/en/gemini-is-now-Accible-from-the-openai-library/
النقاط الرئيسية:
تقوم Google بتشغيل نقاط نهاية جديدة لـ Gemini API لمساعدة المطورين على التحول إلى الجوزاء بسهولة أكبر.
تدعم نقطة النهاية الجديدة إكمال محادثة Openai وتضمين واجهة برمجة التطبيقات ، لكن وظائفها لم تكتمل بعد.
يوفر مشروع VLLM الدعم لنماذج متعددة لتحسين مرونة API.
باختصار ، يوفر إطلاق نقاط النهاية الجديدة من Google للمطورين خيارات أكثر مرونة ، ولكن وظائفها لا تزال في مرحلة التحسين ، والتطور المستقبلي يستحق التطلع إليه. توفر مشاريع مثل VLLM طريقة أخرى للمطورين الذين يبحثون عن دعم نموذج أوسع ، مما يعزز التنمية المستدامة للنظام الإيكولوجي للنموذج اللغوي الكبير.