ai chat protocolダウンロード - ai chat protocolソースコードのダウンロード

ai chat protocol

その他のソースコード

Typescript Release 1.0.0-beta.20240814.1

ダウンロード

Microsoft AI チャットプロトコル

Microsoft AI Chat Protocol SDK は、AI Chat Protocol API 仕様に準拠するサービスから AI Chat インターフェイスを簡単に構築するためのライブラリです。両方ともこのリポジトリにあります。

標準 API 契約に合意することで、使用されるモデル、オーケストレーションツール、設計パターンに関係なく、さまざまなサービスにわたって AI バックエンドの使用と評価を簡単かつ一貫して実行できます。

注: 現在パブリックプレビュー中です。一般提供の準備を進めるにあたり、皆様からのフィードバックをお待ちしております。

AI チャットプロトコルを使用すると、次のことが可能になります。

AI チャットインターフェイス、コンポーネント、アプリケーションを JavaScript/TypeScript で開発します (さらに多くの言語が続きます!)
同期またはストリーミングにより、AI 推論バックエンドと中間層を一貫して簡単に利用して評価します
ロギング、認証などのための HTTP ミドルウェアを簡単に組み込むことができます。

このプロジェクトへのサポートを示すには、リポジトリにスターを付けてください。

はじめる

包括的なスタートガイドが近日公開されます。詳細については、サンプルと API 仕様を必ずご確認ください。

サンプル
API仕様
Azure 上のサンプル

ローカルで確認するには、npm 経由でライブラリをインストールします。

npm install @microsoft/ai-chat-protocol

クライアントオブジェクトを作成します。

 const client = new AIChatProtocolClient ( "/api/chat" ) ;

完了を UI にストリーミングします。

 let sessionState = undefined ;

// add any logic to handle state here
function setSessionState ( value ) {
    sessionState = value ;
}

const message : AIChatMessage = {
    role : "user" ,
    content : "Hello World!" ,
} ;

const result = await client . getStreamedCompletion ( [ message ] , {
    sessionState : sessionState ,
} ) ;

for await ( const response of result ) {
    if ( response . sessionState ) {
        //do something with the session state returned
    }
    if ( response . delta . role ) {
        // do something with the information about the role
    }
    if ( response . delta . content ) { 
        // do something with the content of the message
    }
}