Amazon Bedrock のナレッジベースを使用してフルマネージドの RAG ソリューションを実装する

検索拡張生成 (RAG) は、大規模な言語モデルの出力を最適化するプロセスであるため、応答を生成する前に、トレーニングデータソースの外部にある信頼できる知識ベースを参照します。大規模言語モデル (LLM) は、膨大な量のデータでトレーニングされ、数十億のパラメーターを使用して、質問への回答、言語の翻訳、文章の完成などのタスク用の元の出力を生成します。 RAG は、モデルを再トレーニングすることなく、LLM のすでに強力な機能を特定のドメインまたは組織の内部ナレッジベースに拡張します。これは、LLM 出力を改善するための費用対効果の高いアプローチであり、さまざまな状況において関連性、正確性、有用性を維持します。 RAG について詳しくは、こちらをご覧ください。

Amazon Bedrock は、単一の API を介して、AI21 Labs、Anthropic、Cohere、Meta、Stability AI、Amazon などの大手 AI 企業の高性能基盤モデル (FM) の選択肢を提供するフルマネージドサービスです。セキュリティ、プライバシー、責任ある AI を備えた生成 AI アプリケーションを構築するために必要な機能。 Amazon Bedrock を使用すると、ユースケースに合わせてトップ FM を簡単に実験して評価したり、微調整や RAG などの技術を使用してデータでプライベートにカスタマイズしたり、エンタープライズシステムやデータソースを使用してタスクを実行するエージェントを構築したりできます。 Amazon Bedrock はサーバーレスであるため、インフラストラクチャを管理する必要がなく、使い慣れた AWS サービスを使用して生成 AI 機能をアプリケーションに安全に統合してデプロイできます。

Amazon Bedrock のナレッジベースは、データソースへのカスタム統合を構築したりデータフローを管理したりすることなく、取り込みから取得、プロンプト拡張に至る RAG ワークフロー全体の実装に役立つフルマネージド機能です。セッションコンテキスト管理が組み込まれているため、アプリは複数ターンの会話を簡単にサポートできます。

ナレッジベースの作成の一環として、選択したデータソースとベクターストアを構成します。データソースコネクタを使用すると、独自のデータをナレッジベースに接続できます。データソースコネクタを構成したら、ナレッジベースとデータを同期または最新の状態に保ち、データをクエリできるようにすることができます。 Amazon Bedrock は、効率的なデータ取得のために、まずドキュメントまたはコンテンツを管理可能なチャンクに分割します。次に、チャンクは埋め込みに変換され、元のドキュメントへのマッピングを維持しながら、ベクトルインデックス (データのベクトル表現) に書き込まれます。ベクトル埋め込みにより、テキストの類似性を数学的に比較できます。

このプロジェクトは 2 つのデータソースを使用して実装されています。 1 つは Amazon S3 に保存されているドキュメントのデータソース、もう 1 つは Web サイトで公開されているコンテンツのデータソースです。ベクトル検索コレクションは、ベクトルストレージ用に Amazon OpenSearch Serverless に作成されます。

ソリューションアーキテクチャ図

Q&Aチャットボット

Web データソース用の新しい Web サイトを追加する

Amazon OpeSearch Serverless では、常に少なくとも 4 OCU の料金が請求されることに注意してください。料金を回避するには、「クリーンアップ」セクションの指示に従ってください。

ソリューションの展開

前提条件

AWS CLI のインストールと設定
AWS CDK のインストールとブートストラップ
Amazon Bedrock でサポートされているリージョンからリージョンを選択します

バックエンド

このリポジトリのクローンをローカルコンピュータに作成します。
バックエンドフォルダーから「npm install」を実行して、すべての依存関係をインストールします。「npm Audit」を使用して、依存パッケージの既知の脆弱性をチェックします。
CDK を使用してバックエンドを AWS にデプロイします。例えば、

 cdk deploy --context allowedip="xxx.xxx.xxx.xxx/32"

API ゲートウェイへのアクセスが許可されるクライアント IP アドレスを、「allowedip」コンテキスト変数の一部として CIDR 形式で指定します。

導入が完了すると、

BackendStack.APIGatewayUrl 出力に表示される API ゲートウェイ URL をメモします。
BackendStack.DocsBucketName 出力に表示される S3 バケット名をメモします。

Amazon Bedrock の基礎モデル

このソリューションにより、ユーザーは取得および生成フェーズ中に使用する基本モデルを選択できます。デフォルトのモデルはAnthropic Claude Instantです。ナレッジベース埋め込みモデルの場合、このソリューションはAmazon Titan Embeddings G1 - テキストモデルを使用します。これらの基礎モデルにアクセスできることを確認してください。

コンテンツを S3 バケットにアップロードする

最近公開されている Amazon の年次レポートを入手し、それを前にメモした S3 バケット名にコピーします。簡単なテストとして、AWS S3 コンソールを使用して Amazon の 2022 年年次報告書をコピーできます。ソリューションのデプロイメントでは S3 バケット内の新しいコンテンツを監視し、取り込みワークフローをトリガーするため、S3 バケットのコンテンツはナレッジベースと自動的に同期されます。

Web コンテンツを同期する

デプロイされたソリューションは、URL https://www.aboutamazon.com/news/amazon-officesを使用して「WebCrawlerDataSource」という Web データソースを初期化します。ウェブサイトの取り込みは今後行われる予定であるため、ウェブサイトのコンテンツを検索するには、このウェブクローラーデータソースを AWS コンソールのナレッジベースと手動で同期する必要があります。 Amazon Bedrock コンソールに基づくナレッジからこのデータソースを選択し、「同期」操作を開始します。詳細については、「データソースと Amazon Bedrock ナレッジベースを同期する」を参照してください。 Web サイトのコンテンツは、同期が完了した後にのみ Q&A チャットボットで利用できるようになることに注意してください。 Web サイトをデータソースとして設定する場合は、このガイダンスを使用してください。

フロントエンド

フロントエンドフォルダーから「npm install」を実行してパッケージをインストールします。
オプションで、「npm Audit --omit=dev」を実行して脆弱性をチェックできます。
「npm run start」を実行して、ブラウザからフロントエンドアプリケーションを起動します。
ブラウザに表示されるユーザーインターフェイスを使用します。
ステップ 1 では、前にメモした API ゲートウェイエンドポイント URL を入力します。
ステップ 2 では、RAG に使用するモデルを選択します。デフォルトのモデルはAnthropic Claude Instantです。
ステップ 3 では、「どの都市にオフィスがありますか?」という形式の質問を入力できます。 Enter キーを押すと、引用を含む生成された回答が表示されます。

掃除

「cdk destroy」を使用して、このソリューションのデプロイメントで作成されたクラウドリソースのスタックを削除します。

セキュリティチェック

npm Audit は、脆弱性がないことを確認するために使用されます。
SonarLint は、コードベースで問題が検出されないことを確認するために VS Code で使用されます。
Amazon Q 開発者プロジェクトのスキャンを実行して、コードベースに脆弱性がないことを確認します。
このプロジェクトで作成された S3 バケットは、SSL リクエストのみを強制し、保存データを暗号化するように設定されています。
S3 バケットはパブリックアクセスをブロックするように設定されています。
API Gateway は、特定の IP アドレスからのリクエストのみを許可するように AWS ウェブアプリケーションファイアウォールでセットアップされています。