azure openai node

Библиотека Azure OpenAI Node.js

Это ответвление официальной библиотеки OpenAI Node.js, адаптированное для поддержки API Azure OpenAI. Цель этой библиотеки — свести к минимуму изменения, необходимые для перехода с официальной библиотеки OpenAI на Azure OpenAI или возврата обратно к OpenAI.

Эта библиотека позволяет вам использовать API Azure OpenAI без внесения каких-либо изменений в существующий код OpenAI. Вы можете просто добавить информацию Azure в свою конфигурацию и начать использовать модель Azure OpenAI.

Установка

Чтобы установить эту библиотеку, используйте следующую команду:

$ npm install azure-openai

Использование

Библиотеку необходимо настроить с использованием ключа, конечной точки и идентификатора развертывания вашего Azure OpenAI. вы можете получить эти учетные данные на портале Azure. Пожалуйста, смотрите скриншот ниже:

Чтобы перейти с официальной модели OpenAI на модель Azure OpenAI, вы можете просто добавить информацию Azure в конфигурацию для миграции, вот и все. Вам не нужно менять какой-либо код. Пожалуйста, смотрите следующие шаги:

1. Установите библиотеку, выполнив следующую команду:

   npm install azure-openai

2. Обновите оператор импорта с « openai » на « azure-openai »:

    //import { Configuration, OpenAIApi } from "openai"; 
   import { Configuration , OpenAIApi } from "azure-openai" ; 

3. Добавьте информацию Azure OpenAI в конфигурацию вашего проекта:

    this . openAiApi = new OpenAIApi (
      new Configuration ( {
         apiKey : this . apiKey ,
         // add azure info into configuration
         azure : {
            apiKey : { your - azure - openai - resource - key } ,
            endpoint : { your - azure - openai - resource - endpoint } ,
            // deploymentName is optional, if you donot set it, you need to set it in the request parameter
            deploymentName : { your - azure - openai - resource - deployment - name } ,
         }
      } ) ,
   ) ;

4. запустите свой код. Вот и все.

5. необязательно, если вы используете поток = true. возможно, вам придется изменить ответ

    // Azure OpenAI donot response delta data, so you need to change the response to text
   // const delta = parsed.choices[0].delta.content;
   const delta = parsed.choices[0].text;
   

6. Необязательно, вы также можете установить имя развертывания Azure, заменив модель именем развертывания, например:

    const response = await this.openAiApi.createCompletion({
     model: {your-azure-openai-resource-deployment-name},
     prompt: prompt,
     max_tokens: 100,
     top_p: 1,
     frequency_penalty: 0,
     presence_penalty: 0
   });
   

Поддерживать

поддержка последней версии OpenAI API, v3.2.0.

Тест

API	Статус теста
createChatCompletion	Проходить
создать завершение	Проходить
createEmbedding	Проходить
создать изображение	Не поддерживает

Проверьте спецификацию отдыха Azure OpenAI

Пожалуйста, не стесняйтесь сообщать о своих проблемах или запросах на включение для поддержки других API.