function calling using amazon bedrock anthropic claude 3ダウンロード - function calling using amazon bedrock anthropic claude 3ソースコードのダウンロード

function calling using amazon bedrock anthropic claude 3

その他のソースコード

1.0.0

ダウンロード

Anthropic Claude 3 で Amazon Bedrock を使用した関数呼び出し

Amazon Bedrock は、大手 AI 企業の高性能基盤モデルの選択肢と、生成 AI アプリケーションを構築するための一連の機能を提供するフルマネージドサービスです。

このサンプルリポジトリでは、複数のツールを使用して、Anthropic Claude 3 Sonnet で Converse API を使用した関数呼び出しを使用する例を提供します。このリポジトリはサンプルのみのコードであり、プレーンな関数コードを使用して結果をフェッチするためにモデルが使用するツールとして関数呼び出しを使用する方法を示します。

Converse API は、メッセージをサポートするすべてのモデルで動作する一貫したインターフェイスを提供します。これにより、コードを一度作成すれば、それをさまざまなモデルで使用できます。モデルに固有の推論パラメーターがある場合は、それらの一意のパラメーターをモデルに渡すこともできます。

概要

関数呼び出し (ツールとも呼ばれる) は、ユーザー入力に応答するためにモデルが使用できる関数の説明的なガイダンスをモデルに提供する方法です。

このサンプルでは、Claude 3 に株式ティッカー値とは何か、そしてデフォルトのティッカー通貨をユーザー入力で指定された任意の通貨に変換するオプションを付けて答えてもらいます。

ツール

モデルで使用できるツールは 2 つあります。

get_stock_price - ティッカー文字列を指定すると、オープンソースライブラリ yfinance は現在の株価と取引されている通貨を取得します。
Convert_currency - 金額、ソース通貨およびターゲット通貨を指定すると、オープンソースライブラリ CurrencyConverter は、指定された金額をソース通貨からターゲット通貨に変換します。

モデルは各ターンで指定されたプロンプトを確認し、ユーザー入力で提供された質問に適切に回答できるかどうかを、Bedrock end_turnまたはtool_useからの応答に従って各ターンで判断します。 end_turn 、最終的な答えが提供されたことを意味し、 tool_use 、ツール関数の実行に使用されるツールの説明に従って適切なデータを解析し、モデルに適切な結果を構築します。

このサンプルコードは、python 3.12 で pyenv を使用してテストされ、.python-version に設定されています。

設定

AWS 構成:
- AWS アカウントと AWS CLI がインストールおよび設定されていることを確認してください。
- このサンプルの AWS リージョンはus-west-2を使用し、ask.py で構成されます
岩盤アクセス:
- 初めて Bedrock を使用する場合は、「Amazon Bedrock 基盤モデルへのアクセスの管理」を参照してください。
- モデルアクセスを追加するには、ログインしているユーザーが AWS Marketplace サブスクリプションを追加するための最小限のアクセス許可を持っていることを確認してください。
  - aws-マーケットプレイス:サブスクライブ
  - aws-marketplace:購読解除
  - aws-marketplace:サブスクリプションの表示
- AWS コンソールの Amazon Bedrock サービスで、モデルアクセスに移動し、 [モデルアクセスの変更]をクリックしてClaude 3 Sonnet を有効にします。モデル ID は ask.py anthropic.claude-3-sonnet-20240229-v1:0

IAM 権限:

このプロジェクトを実行する IAM ユーザーが Claude 3 モデルを呼び出す権限を持っていることを確認してください。このサンプルでは、以下を使用できます。

{
"Version" : " 2012-10-17 " ,
"Statement" : [
    {
    "Sid" : " LeastPrivilege4BRClient " ,
    "Effect" : " Allow " ,
    "Action" : [
        " bedrock:InvokeModel "
    ],
    "Resource" : " arn:aws:bedrock:us-west-2::foundation-model/* "
    }]
}

これは、特定のモデル ID で最小限の権限を使用してさらに制限できます。

使用法

このサンプルコードを実行するには、次の手順に従います。

依存関係をインストールします- pip install -r requirements.txtを実行します
スクリプトを実行します- python main.pyを実行します
コマンドライン引数- オプションで--input "new input here"を追加して、デフォルトのユーザー入力テキストを上書きできます。

例

デフォルトのプロンプト: 「アマゾン株の現在の株価はポンドでいくらですか?

たとえば、Anthropic Claude 3 Sonnet は、Amazon ティッカーが AMZN であることを認識し、ツールを使用してティッカー値を取得し、株価のソース通貨を宛先通貨に変換します。

LLM のステートレスな性質により、推論の各反復で、 tool_useが返されると、返されたメッセージが追加されて、モデルの場合と同様の会話が構築されます。

クロード 3 からの最後の回答の前の最後のプロンプトは次のようになります。

[
    {
        "role" : " user " ,
        "content" : [
            {
                "text" : " What is the current stock price of amazon stock in pounds? "
            }
        ]
    },
    {
        "role" : " assistant " ,
        "content" : [
            {
                "text" : " Okay, let me get the current Amazon (AMZN) stock price and convert it to British pounds for you: "
            },
            {
                "toolUse" : {
                    "toolUseId" : " tooluse_7ofuIPr8T3uBsK2xy1GZBw " ,
                    "name" : " get_stock_price " ,
                    "input" : {
                        "ticker" : " AMZN "
                    }
                }
            }
        ]
    },
    {
        "role" : " user " ,
        "content" : [
            {
                "toolResult" : {
                    "toolUseId" : " tooluse_7ofuIPr8T3uBsK2xy1GZBw " ,
                    "content" : [
                        {
                            "json" : {
                                "ticker" : " AMZN " ,
                                "price" : 200 ,
                                "currency" : " USD "
                            }
                        }
                    ]
                }
            }
        ]
    },
    {
        "role" : " assistant " ,
        "content" : [
            {
                "text" : " The current Amazon stock price is $200.00 USD. To convert that to British pounds: "
            },
            {
                "toolUse" : {
                    "toolUseId" : " tooluse_lyTta3oMSfik5EhsCnnkGg " ,
                    "name" : " convert_currency " ,
                    "input" : {
                        "amount" : 200 ,
                        "source_currency" : " USD " ,
                        "target_currency" : " GBP "
                    }
                }
            }
        ]
    },
    {
        "role" : " user " ,
        "content" : [
            {
                "toolResult" : {
                    "toolUseId" : " tooluse_lyTta3oMSfik5EhsCnnkGg " ,
                    "content" : [
                        {
                            "json" : {
                                "converted_currency" : 158.0185237159697
                            }
                        }
                    ]
                }
            }
        ]
    }
]