Python で書かれた旅行アドバイスを提供するデモ アプリケーション。 OpenTelemetry による可観測性シグナル。
Ollama と PineCone を使用して、特定の目的地に関するアドバイスを生成します。
注:この製品は Dynatrace によって正式にサポートされていません。
https://app.pinecone.io/ に移動し、アカウントにログインします。
travel-advisor
という名前の新しいインデックスを3200のディメンションとcosine
メトリックで作成します。
インデックスにはナレッジ ソースが保存され、RAG パイプラインはこれを使用して LLM の旅行推奨の出力を強化します。パラメータ 3200 は、このデモでは 3200 要素のベクトルを返す埋め込みモデルorca-mini:3b
を使用しているためです。
インデックスを作成して実行した後、接続するための API キーを作成できます。
認証に関する Pinecone のドキュメントに従って、Pinecone インデックスに接続するための API キーを取得し、次のコマンドを使用してそれを Kubernetes シークレットとして保存します。
ollama serve
実行して、Ollama をローカルで起動します。この例では、単純なモデルorca-mini:3b
を使用します。 ollama run orca-mini:3b
を実行してプルできます。その後、次のコマンドを実行してアプリケーションをローカルで起動できます。
export PINECONE_API_KEY= < YOUR_PINECONE_KEY >
export OTEL_ENDPOINT=https:// < YOUR_DT_TENANT > .live.dynatrace.com/api/v2/otlp
export API_TOKEN= < YOUR_DT_TOKEN >
python app.py
Docker または Podman をインストールする必要があります。
クラスターをまだ作成していない場合は、クラスターを作成します。
kind create cluster --config .devcontainer/kind-cluster.yml --wait 300s
いくつかの環境変数をカスタマイズして設定する
export PINECONE_API_KEY= < YOUR_PINECONE_KEY >
export DT_ENDPOINT=https:// < YOUR_DT_TENANT > .live.dynatrace.com
export DT_TOKEN= < YOUR_DT_TOKEN >
デプロイメント スクリプトを実行します。
.devcontainer/deployment.sh