ai chat protocol

Protocolo de chat de IA de Microsoft

El SDK del protocolo de chat AI de Microsoft es una biblioteca para crear fácilmente interfaces de chat AI a partir de servicios que siguen la especificación API del protocolo AI Chat, los cuales se encuentran en este repositorio.

Al acordar un contrato de API estándar, el consumo y la evaluación del backend de IA se pueden realizar de manera fácil y consistente en diferentes servicios, independientemente de los modelos, las herramientas de orquestación o los patrones de diseño utilizados.

Nota: actualmente estamos en versión preliminar pública. ¡Sus comentarios son muy apreciados mientras nos preparamos para estar disponibles de forma generalizada!

Con el protocolo de chat AI, podrás:

• Desarrolle interfaces, componentes y aplicaciones de chat de IA en JavaScript/TypeScript (¡más idiomas a continuación!)
• Consuma y evalúe consistentemente backends y niveles intermedios de inferencia de IA con facilidad, ya sea de forma sincrónica o por transmisión.
• Incorpore fácilmente middleware HTTP para registro, autenticación y más.

¡Destaque el repositorio para mostrar su apoyo a este proyecto!

Empezando

¡Nuestra guía completa de introducción estará disponible pronto! Asegúrese de consultar los ejemplos y las especificaciones API para obtener más detalles.

• Muestras
• Especificación API
• Ejemplos en Azure

Para echar un vistazo localmente, instale la biblioteca a través de npm:

npm install @microsoft/ai-chat-protocol

Cree el objeto de cliente:

 const client = new AIChatProtocolClient ( "/api/chat" ) ;

Transmita finalizaciones a su interfaz de usuario:

 let sessionState = undefined ;

// add any logic to handle state here
function setSessionState ( value ) {
    sessionState = value ;
}

const message : AIChatMessage = {
    role : "user" ,
    content : "Hello World!" ,
} ;

const result = await client . getStreamedCompletion ( [ message ] , {
    sessionState : sessionState ,
} ) ;

for await ( const response of result ) {
    if ( response . sessionState ) {
        //do something with the session state returned
    }
    if ( response . delta . role ) {
        // do something with the information about the role
    }
    if ( response . delta . content ) { 
        // do something with the content of the message
    }
} 

Ejemplos en Azure

Si tiene curiosidad sobre los ejemplos alojados en Azure, los siguientes ejemplos utilizan el SDK del protocolo de chat AI en la interfaz:

• Chat AI sin servidor con RAG usando LangChain.js
• Aplicación de chat usando Azure OpenAI (Python)
• Aplicación OpenAI Chat con autenticación Microsoft Entra (Python): local
• Aplicación de chat OpenAI con autenticación Microsoft Entra (Python): incorporada
• Interfaz de la aplicación OpenAI Chat (Vanilla JS)
• Aplicación de chat usando Azure OpenAI (Python)

Además, muchos proyectos de muestra de Azure AI utilizan la especificación API del protocolo AI Chat sin el SDK, ya sea porque no tienen una interfaz o porque se crearon antes del lanzamiento de la biblioteca:

• ChatGPT + datos empresariales con Azure OpenAI y AI Search en Python
• ChatGPT + datos empresariales con Azure OpenAI y Azure AI Search en JavaScript
• Chatea con modos GPT: backend FastAPI
• Evaluación de una aplicación de chat RAG

Código de conducta

Este proyecto ha adoptado el Código de conducta de código abierto de Microsoft. Para obtener más información, consulte las preguntas frecuentes sobre el Código de conducta o comuníquese con [email protected] si tiene alguna pregunta o comentario adicional.

Licencia

Copyright (c) Microsoft Corporation. Reservados todos los derechos.

Licenciado bajo la licencia MIT.