ai chat protocol

Protocolo de bate-papo Microsoft AI

O SDK do Microsoft AI Chat Protocol é uma biblioteca para criar facilmente interfaces do AI Chat a partir de serviços que seguem a Especificação da API do AI Chat Protocol, ambos localizados neste repositório.

Ao concordar com um contrato de API padrão, o consumo e a avaliação de back-end de IA podem ser realizados de forma fácil e consistente em diferentes serviços, independentemente dos modelos, ferramentas de orquestração ou padrões de design usados.

Observação: estamos atualmente em versão prévia pública. Seu feedback será muito apreciado enquanto nos preparamos para estar disponível ao público em geral!

Com o protocolo AI Chat, você será capaz de:

• Desenvolva interfaces, componentes e aplicativos de chat de IA em JavaScript/TypeScript (mais linguagens a seguir!)
• Consumir e avaliar consistentemente back-ends de inferência de IA e camadas intermediárias com facilidade, de forma síncrona ou por streaming
• Incorpore facilmente middleware HTTP para registro, autenticação e muito mais.

Marque o repositório com uma estrela para mostrar seu apoio a este projeto!

Começando

Nosso guia abrangente de primeiros passos estará disponível em breve! Certifique-se de verificar os exemplos e as especificações da API para obter mais detalhes.

• Amostras
• Especificação da API
• Amostras no Azure

Para dar uma olhada localmente, instale a biblioteca via npm:

npm install @microsoft/ai-chat-protocol

Crie o objeto cliente:

 const client = new AIChatProtocolClient ( "/api/chat" ) ;

Transmita conclusões para sua IU:

 let sessionState = undefined ;

// add any logic to handle state here
function setSessionState ( value ) {
    sessionState = value ;
}

const message : AIChatMessage = {
    role : "user" ,
    content : "Hello World!" ,
} ;

const result = await client . getStreamedCompletion ( [ message ] , {
    sessionState : sessionState ,
} ) ;

for await ( const response of result ) {
    if ( response . sessionState ) {
        //do something with the session state returned
    }
    if ( response . delta . role ) {
        // do something with the information about the role
    }
    if ( response . delta . content ) { 
        // do something with the content of the message
    }
} 

Amostras no Azure

Se você estiver curioso sobre os exemplos hospedados no Azure, os exemplos a seguir utilizam o AI Chat Protocol SDK no frontend:

• Bate-papo AI sem servidor com RAG usando LangChain.js
• Aplicativo de bate-papo usando Azure OpenAI (Python)
• Aplicativo de bate-papo OpenAI com autenticação Microsoft Entra (Python) - local
• Aplicativo de bate-papo OpenAI com autenticação Microsoft Entra (Python) - integrado
• Front-end do aplicativo de bate-papo OpenAI (Vanilla JS)
• Aplicativo de bate-papo usando Azure OpenAI (Python)

Além disso, muitos projetos de exemplo de IA do Azure utilizam a especificação da API do AI Chat Protocol sem o SDK, seja porque não têm um front-end ou porque foram criados antes do lançamento da biblioteca:

• Dados ChatGPT + Enterprise com Azure OpenAI e AI Search em Python
• Dados ChatGPT + Enterprise com Azure OpenAI e Azure AI Search em JavaScript
• Bate-papo com modos GPT - back-end FastAPI
• Avaliando um aplicativo RAG Chat

Código de Conduta

Este projeto adotou o Código de Conduta de Código Aberto da Microsoft. Para obter mais informações, consulte as Perguntas frequentes sobre o Código de Conduta ou entre em contato com [email protected] com perguntas ou comentários adicionais.

Licença

Direitos autorais (c) Microsoft Corporation. Todos os direitos reservados.

Licenciado sob a licença MIT.