ai chat protocol

Протокол чата Microsoft AI

Microsoft AI Chat Protocol SDK — это библиотека для простого создания интерфейсов AI Chat из служб, соответствующих спецификации API протокола AI Chat, обе из которых находятся в этом репозитории.

Согласовав стандартный контракт API, можно легко и последовательно выполнять использование и оценку серверной части ИИ для различных сервисов независимо от моделей, инструментов оркестрации или используемых шаблонов проектирования.

Примечание. В настоящее время мы находимся в общедоступной предварительной версии. Мы очень ценим ваши отзывы, поскольку мы готовимся стать общедоступными!

С помощью протокола AI Chat вы сможете:

• Разрабатывайте интерфейсы, компоненты и приложения для чатов с использованием искусственного интеллекта на JavaScript/TypeScript (еще больше языков!)
• С легкостью последовательно используйте и оценивайте серверные части вывода AI и промежуточные уровни, синхронно или посредством потоковой передачи.
• Легко включайте промежуточное программное обеспечение HTTP для ведения журналов, аутентификации и многого другого.

Пожалуйста, пометьте репозиторий, чтобы выразить свою поддержку этого проекта!

Начиная

Наше подробное руководство по началу работы скоро появится! Обязательно ознакомьтесь с образцами и спецификациями API для получения более подробной информации.

• Образцы
• Спецификация API
• Примеры в Azure

Чтобы посмотреть локально, установите библиотеку через npm:

npm install @microsoft/ai-chat-protocol

Создайте объект клиента:

 const client = new AIChatProtocolClient ( "/api/chat" ) ;

Трансляция завершений потока в ваш пользовательский интерфейс:

 let sessionState = undefined ;

// add any logic to handle state here
function setSessionState ( value ) {
    sessionState = value ;
}

const message : AIChatMessage = {
    role : "user" ,
    content : "Hello World!" ,
} ;

const result = await client . getStreamedCompletion ( [ message ] , {
    sessionState : sessionState ,
} ) ;

for await ( const response of result ) {
    if ( response . sessionState ) {
        //do something with the session state returned
    }
    if ( response . delta . role ) {
        // do something with the information about the role
    }
    if ( response . delta . content ) { 
        // do something with the content of the message
    }
} 

Примеры в Azure

Если вам интересны примеры, размещенные в Azure, в следующих примерах используется пакет SDK протокола чата AI во внешнем интерфейсе:

• Бессерверный AI-чат с RAG с использованием LangChain.js
• Приложение чата с использованием Azure OpenAI (Python)
• Приложение OpenAI Chat с аутентификацией Microsoft Entra (Python) — локальное
• Приложение OpenAI Chat с аутентификацией Microsoft Entra (Python) — встроенное
• Интерфейс приложения OpenAI Chat (Vanilla JS)
• Приложение чата с использованием Azure OpenAI (Python)

Кроме того, во многих примерах проектов Azure AI используется спецификация API протокола AI Chat без SDK либо потому, что у них нет внешнего интерфейса, либо потому, что они были созданы до выпуска библиотеки:

• ChatGPT + корпоративные данные с Azure OpenAI и AI-поиском на Python
• ChatGPT + корпоративные данные с Azure OpenAI и поиск Azure AI в JavaScript
• Чат с режимами GPT — серверная часть FastAPI
• Оценка приложения RAG Chat

Нормы поведения

В этом проекте принят Кодекс поведения Microsoft с открытым исходным кодом. Для получения дополнительной информации см. Часто задаваемые вопросы о Кодексе поведения или свяжитесь с нами по адресу [email protected], если у вас возникнут дополнительные вопросы или комментарии.

Лицензия

Авторские права (c) Корпорация Microsoft. Все права защищены.

Лицензировано по лицензии MIT.