ホーム>プログラミング関連>その他のソースコード
ダウンロード

モジュール: Azure OpenAI プライベート チャット GPT

現在のバージョン 2.x

バージョン2.x はモジュールを完全に書き直したものであり、バージョン1.xとの下位互換性はありません。
GPT-4-1106 、 GPT-4-Vision 、 DALL-E-3などの最新のAzure OpenAIサービスと機能を使用するための新しい統合と機能がモジュールに追加されました。完全なソリューションを提供するために、新しい ChatBot UI / LibreChat がモジュールに追加されました。

次の予定 - 機能開発

v2.7.x (開発中)

  • プライベート エンドポイント サポートによるソリューションのプライベート化
  • パブリック エントリポイントの Front Door および WAF のサポート
  • Azure AI Search/MeiliSearch の統合
  • Azure OpenAI DALL-E-3 のサポートを追加

v2.6.x (現在)

  • AzureRM プロバイダー v4.xx のサポートが追加されました

v2.3.x、v2.4.x、v2.5.x

  • 依存関係の更新とテスト

v2.2.x

  • ユーザー違反のサポートを追加
  • 更新されたドキュメントと例
  • 追加されたモジュール出力

v2.1.x

  • 管理された証明書によるカスタム ドメインのサポート

レガシーバージョン 1.x

注:レガシー バージョン1.xは、ここのレガシー ブランチにあります。

バージョン 1.x のドキュメント

導入

OpenAI の規約に基づき、 ChatGPTのパブリック バージョンを使用する際にユーザーが提起した質問 ( 「プロンプト」と呼ばれる) は、OpenAI の大規模言語モデル (LLM) のさらなるトレーニングに寄与することがあります。このことを考えると、「この貴重なデータ フローが組織から流出することに満足していますか?」と自問することが重要です。あなたが意思決定者である場合、または組織のセキュリティ対策の責任を負っている場合、機密情報の機密性を確保するためにどのような措置を講じていますか?

効果的な解決策は、 Azure OpenAI上の人気のある LLM のホストされたバージョンを利用することです。 Azure OpenAI には数多くの利点がありますが、ここでは 2 つの点に焦点を当てたいと思います。

  • データ プライバシー: Azure で OpenAI のモデルをホストすると、プロンプトが LLM トレーニングのソースとして機能することはありません。これは、用途に合わせて調整された、Azure 上で実行される自己完結型のバージョンです。

  • セキュリティの強化: Azure OpenAI は、特定のエンドポイントを保護する機能から複雑なロールベースのアクセス制御まで、堅牢なセキュリティ対策を提供します。さらに詳しく知りたい場合は、この Microsoft Learn の記事を参照してください。

Azure OpenAI には費用がかかりますが、非常に手頃な価格であり、多くの場合、会話の費用は 10 セント未満です。 Azure OpenAI の価格の詳細はここで確認できます。

ダイアグラム

近日公開...

例

  • カスタム ドメインと IP ホワイトリストによるパブリック展開

スクリーン

モデルの選択

プリセット

ビジョン分析

貢献する

貢献は大歓迎です。改善や修正がある場合は、プル リクエストを送信してください。必ず既存のコード スタイルに従い、その動作を説明するコメントをコードに追加してください。

ライセンス

この terraform モジュールは、MIT ライセンスに基づいてライセンスされています。詳細については、LICENSE ファイルを参照してください。

サポート

この terraform モジュールに関して問題が発生したり、質問がある場合は、GitHub で問題を開いてください。できるだけ早く対応できるよう最善を尽くします。

謝辞

この terraform モジュールは、Azure OpenAI モデルの機能を探索するプロジェクトの一環として、 Marcel Lupoによって開発されました。 OpenAI と Microsoft チームの素晴らしい取り組みと AI コミュニティへの継続的なサポートに感謝いたします。

要件

名前バージョン
テラフォーム>= 1.9.5
アズレルム~> 4.0
ランダム~> 3.0

プロバイダー

名前バージョン
アズレルム~> 4.0
ランダム~> 3.0

モジュール

モジュールはありません。

リソース

名前タイプ
azurerm_app_service_certificate_binding.libre_app_cert_bindingリソース
azurerm_app_service_custom_hostname_binding.hostname_bindingリソース
azurerm_app_service_managed_certificate.libre_app_certリソース
azurerm_cognitive_account.az_openaiリソース
azurerm_cognitive_deployment.az_openai_modelsリソース
azurerm_cosmosdb_account.az_openai_mongodbリソース
azurerm_dns_cname_record.cname_recordリソース
azurerm_dns_txt_record.domain_verificationリソース
azurerm_key_vault.az_openai_kvリソース
azurerm_key_vault_secret.libre_app_creds_ivリソース
azurerm_key_vault_secret.libre_app_creds_keyリソース
azurerm_key_vault_secret.libre_app_jwt_refresh_secretリソース
azurerm_key_vault_secret.libre_app_jwt_secretリソース
azurerm_key_vault_secret.openai_cosmos_uriリソース
azurerm_key_vault_secret.openai_endpointリソース
azurerm_key_vault_secret.openai_primary_keyリソース
azurerm_linux_web_app.librechatリソース
azurerm_resource_group.az_openai_rgリソース
azurerm_role_assignment.kv_role_assignmentリソース
azurerm_role_assignment.librechat_app_kv_accessリソース
azurerm_service_plan.az_openai_aspリソース
azurerm_subnet.az_openai_subnetリソース
azurerm_virtual_network.az_openai_vnetリソース
ランダムパスワード.libre_app_creds_ivリソース
ランダムパスワード.libre_app_creds_keyリソース
ランダムパスワード.libre_app_jwt_refresh_secretリソース
ランダムパスワード.libre_app_jwt_secretリソース
azurerm_client_config.currentデータソース

入力

名前説明タイプデフォルト必須
アプリサービス名Linux App Service プランの名前。 string "openaiasp9000"いいえ
app_service_sku_name App Service プランの SKU 名。 string "B1"いいえ
cosmosdb_automatic_failover Cosmos DB アカウントの自動フェールオーバーを有効にするかどうかbool falseいいえ
cosmosdb_capabilities Cosmos DB アカウントの機能list(string)
 [
 "モンゴを有効にする",
 「MongoDBv3.4」
 】
いいえ
cosmosdb_consistency_level Cosmos DB アカウントの整合性レベルstring "BoundedStaleness"いいえ
cosmosdb_geo_locations Cosmos DB アカウントの地理的位置
リスト(オブジェクト({
 場所 = 文字列
 フェイルオーバー優先度 = 数値
 }))
 [
 {
 「フェイルオーバー優先度」: 0、
 "場所": "英国南部"
 }
 】
いいえ
cosmosdb_is_virtual_network_filter_enabled Cosmos DB アカウントの仮想ネットワーク フィルターを有効にするかどうかbool trueいいえ
cosmosdb_kind作成する Cosmos DB の種類string "MongoDB"いいえ
cosmosdb_max_interval_in_秒Cosmos DB アカウントの最大失効間隔 (秒単位) number 10いいえ
cosmosdb_max_staleness_prefix Cosmos DB アカウントの最大の古いプレフィックスnumber 200いいえ
コスモデータベース名Cosmos DB アカウントの名前string "openaicosmosdb"いいえ
cosmosdb_offer_type Cosmos DB アカウントに使用するオファーの種類string "Standard"いいえ
cosmosdb_public_network_access_enabled Cosmos DB アカウントのパブリック ネットワーク アクセスを有効にするかどうかbool trueいいえ
cosmosdb_virtual_network_subnets Cosmos DB アカウント (サービス エンドポイント) に関連付ける仮想ネットワーク サブネット。ネットワークがモジュールの一部として作成された場合、これは自動的に設定されます。 list(string) nullいいえ
dns_resource_group_name App Service に使用するカスタム DNS ゾーンを含むリソース グループstring "dns-rg"いいえ
kv_fw_allowed_ips Key Vault ファイアウォールで許可される IP ルールの値。 list(string) []いいえ
kv_fw_bypassバイパスする Key Vault ファイアウォール ルールのリスト。 string "AzureServices"いいえ
kv_fw_default_action Key Vault ファイアウォール ルールの既定のアクション。 string "Deny"いいえ
kv_fw_network_subnet_ids Cosmos DB アカウント (サービス エンドポイント) に関連付ける仮想ネットワーク サブネット。ネットワークがモジュールの一部として作成された場合、これは自動的に設定されます。 list(string) nullいいえ
kv_name作成する Key Vault の名前 (ソリューション シークレット)。 string "openaikv9000"いいえ
kv_sku作成する Key Vault の SKU。 string "standard"いいえ
libre_app_allow_email_login電子メールによるログインを許可するbool trueいいえ
libre_app_allow_registration登録を許可するbool trueいいえ
libre_app_allow_social_loginソーシャルログインを許可するbool falseいいえ
libre_app_allow_social_registrationソーシャル登録を許可するbool falseいいえ
libre_app_allowed_ip_addresses許可された IP アドレス。許可するために照合する IP または IP 範囲の CIDR 表記。例: 10.0.0.0/24 または 192.168.10.1/32
リスト(オブジェクト({
 ip_address = 文字列
 優先度 = 番号
 名前 = 文字列
 アクション = 文字列
 }))
 [
 {
 "アクション": "許可",
 "ip_address": "0.0.0.0/0",
 "名前": "ip-access-rule1",
 「優先度」：300
 }
 】
いいえ
libre_app_allowed_subnets許可されたサブネット (デフォルトでは、アプリ サービスがデプロイされているサブネットはすでに優先度 100 としてアクセスを許可されています)。追加事項があればここに追加してください
リスト(オブジェクト({
 virtual_network_subnet_id = 文字列
 優先度 = 番号
 名前 = 文字列
 アクション = 文字列
 }))
 [
 {
 "アクション": "許可",
 "名前": "サブネットアクセスルール1",
 「優先度」: 200、
 "virtual_network_subnet_id": "subnet_id1"
 }
 】
いいえ
libre_app_az_oai_api_key Azure OpenAI API キーstring nullいいえ
libre_app_az_oai_api_version Azure OpenAI API バージョンstring "2023-07-01-preview"いいえ
libre_app_az_oai_dall3_api_version Azure OpenAI DALL-E API バージョンstring "2023-12-01-preview"いいえ
libre_app_az_oai_dall3_deployment_name Azure OpenAI DALL-E デプロイ名string "dall-e-3"いいえ
libre_app_az_oai_instance_name Azure OpenAI インスタンス名string nullいいえ
libre_app_az_oai_models Azure OpenAI モデル。例: 「gpt-4-1106-preview,gpt-4,gpt-3.5-turbo,gpt-3.5-turbo-1106,gpt-4-vision-preview」 string "gpt-4-1106-preview"いいえ
libre_app_az_oai_use_model_as_deployment_name Azure OpenAI はデプロイ名としてモデルを使用しますbool trueいいえ
libre_app_custom_domain_create App Service のカスタム ドメインとマネージド証明書を作成します。 bool falseいいえ
libre_app_custom_footerアプリのカスタム フッターを追加します。 string "Privately hosted chat app powered by Azure OpenAI and LibreChat."いいえ
libre_app_debug_consoleコンソールでサーバーの詳細出力を有効にします。ただし、冗長性が高いため推奨されません。 bool falseいいえ
libre_app_debug_logging LibreChat には、バックエンド (API) に中央ログが組み込まれています。ログ ファイルは /api/logs に保存されます。エラー ログはデフォルトで保存されます。デバッグ ログはデフォルトで有効になっていますが、必要に応じて無効にすることもできます。 bool falseいいえ
libre_app_debug_plugins Libre Appプラグインのデバッグモードを有効にします。 bool falseいいえ
libre_app_docker_image App Service に使用する Docker イメージ。 string "ghcr.io/danny-avila/librechat-dev-api:latest"いいえ
libre_app_domain_clientローカルで使用するには、DOMAIN_CLIENT と DOMAIN_SERVER を http://localhost:3080 に設定します (3080 は、以前に構成したポートです)。カスタム ドメインに展開する場合は、DOMAIN_CLIENT と DOMAIN_SERVER を展開した URL (例: https://mydomain.example) に設定します。コムstring "http://localhost:3080"いいえ
libre_app_domain_serverローカルで使用するには、DOMAIN_CLIENT と DOMAIN_SERVER を http://localhost:3080 に設定します (3080 は、以前に構成したポートです)。カスタム ドメインに展開する場合は、DOMAIN_CLIENT と DOMAIN_SERVER を展開した URL (例: https://mydomain.example) に設定します。コムstring "http://localhost:3080"いいえ
libre_app_enable_meilisearchメイリサーチを有効にするbool falseいいえ
libre_app_endpointsエンドポイントとモデルの選択。例: 「openAI、azureOpenAI、bingAI、chatGPTBrowser、google、gptPlugins、anthropic」 string "azureOpenAI"いいえ
リブレ_アプリ_ホストサーバーはデフォルトで localhost:3080 をリッスンします。ターゲット IP は必要に応じて変更できます。このサーバーを外部で使用できるようにする場合 (たとえば、サーバーを他のユーザーと共有する場合、またはこれを Docker コンテナーから公開する場合)、ホストを 0.0.0.0 または外部 IP インターフェイスに設定します。 string "0.0.0.0"いいえ
libre_app_jwt_refresh_secret JWT リフレッシュ シークレットstring nullいいえ
libre_app_jwt_secret JWT シークレットstring nullいいえ
libre_app_mongo_uri接続先の MongoDB 接続文字列。 string nullいいえ
リブレ_アプリ名LibreChat アプリサービスの名前。 string "librechatapp9000"いいえ
libre_app_plugins_creds_ivリブレアプリプラグイン Creds IV string nullいいえ
libre_app_plugins_creds_key Libre App Plugins Creds Key string nullいいえ
リブレ_アプリ_ポートリッスンするホスト ポート。 number 3080いいえ
libre_app_public_network_access_enabledパブリック ネットワーク アクセスが有効かどうか。デフォルトはfalseです。 bool trueいいえ
libre_app_titleアプリのカスタム タイトルを追加します。 string "PrivateGPT"いいえ
libre_app_violations違反に対する設定
物体（{
 有効 = ブール値
 禁止期間 = 数値
 禁止間隔 = 数値
 login_violation_score = 数値
 登録違反スコア = 数値
 concurrent_violation_score = 数値
 message_violation_score = 数値
 non_browser_violation_score = 数値
 login_max = 数値
 ログインウィンドウ = 番号
 register_max = 数値
 register_window = 数値
 limit_concurrent_messages = ブール値
 concurrent_message_max = 数値
 limit_message_ip = ブール値
 message_ip_max = 数値
 message_ip_window = 数値
 limit_message_user = ブール値
 message_user_max = 数値
 message_user_window = 数値
 })
 {
 "ban_duration": 7200000、
 「禁止間隔」: 20、
 "concurrent_message_max": 2、
 「同時違反スコア」: 1、
 "有効": true、
 "limit_concurrent_messages": true、
 "limit_message_ip": true、
 "limit_message_user": false、
 "login_max": 7、
 「ログイン違反スコア」: 1、
 "ログインウィンドウ": 5、
 「message_ip_max」: 40、
 「メッセージ_ip_ウィンドウ」: 1、
 "message_user_max": 40、
 「メッセージユーザーウィンドウ」: 1、
 「メッセージ違反スコア」: 1、
 「non_browser_violation_score」: 20、
 "register_max": 5、
 "register_window": 60、
 「登録違反スコア」: 1
 }
いいえ
libre_app_virtual_network_subnet_id App Service (優先度 100) へのアクセスを許可するために使用されるサブネットの ID (例: cosmosdb、meilisearch など)。ネットワークがモジュールの一部として作成される場合、値が 'null' の場合、これは自動的に設定されます。 string nullいいえ
librechat_app_custom_dns_zone_name App Service に使用する DNS ゾーン。 string "domain.com"いいえ
librechat_app_custom_domain_name App Service に使用するカスタム ドメイン。 string "privategpt"いいえ
位置リソースがホストされる Azure リージョン。 string "uksouth"いいえ
oai_アカウント名OpenAI サービスの名前。 string "az-openai-account"いいえ
oai_custom_subdomain_nameトークンベースの認証に使用されるサブドメイン名。これを変更すると、新しいリソースが強制的に作成されます。 (通常はアカウント名と同じです) string "demo-account"いいえ
oai_customer_managed_key type = オブジェクト({
key_vault_key_id = (必須) この OpenAI アカウントのデータを暗号化するために使用する Key Vault キーの ID。
identity_client_id = (オプション) キーにアクセスできるユーザー割り当て ID のクライアント ID。このプロパティは、OpenAI アカウントに複数の ID が関連付けられている場合にのみ指定する必要があります。
})
物体（{
 key_vault_key_id = 文字列
 identity_client_id = オプション(文字列)
 })
 nullいいえ
oai_dynamic_throttling_enabled動的スロットルが有効かどうか。デフォルトはtrueです。 bool trueいいえ
oai_fqdnsトークンベースの認証に使用される FQDN のリスト。これを変更すると、新しいリソースが強制的に作成されます。 list(string) []いいえ
oai_identity type = オブジェクト({
type = (必須) ID のタイプ。可能な値は、 SystemAssigned 、 UserAssigned 、 SystemAssigned, UserAssignedです。
identity_ids = (オプション) この OpenAI アカウントに割り当てるユーザー割り当てマネージド ID ID のリストを指定します。
})
物体（{
 タイプ = 文字列
 identity_ids = オプション(リスト(文字列))
 })
 {
 "タイプ": "システム割り当て済み"
 }
いいえ
oai_local_auth_enabled Cognitive アカウントに対してローカル認証方法が有効かどうか。デフォルトはtrueです。 bool trueいいえ
oai_model_deployment type = list(object({
deployment_id = (必須) Cognitive Services アカウントModel Deploymentの名前。これを変更すると、新しいリソースが強制的に作成されます。
モデル名 = {
model_format = (必須) Cognitive Services アカウント展開モデルの形式。これを変更すると、新しいリソースが強制的に作成されます。可能な値は OpenAI です。
model_name = (必須) Cognitive Services アカウント展開モデルの名前。これを変更すると、新しいリソースが強制的に作成されます。
model_version = (必須) Cognitive Services アカウント展開モデルのバージョン。
}
sku = {
sku_name = (必須) SKU の名前。可能な値には、Standard、GlobalBatch、GlobalStandard、ProvisionedManaged が含まれます。
sku_tier = (オプション) 可能な値は、Free、Basic、Standard、Premium、Enterprise です。これを変更すると、新しいリソースが強制的に作成されます。
sku_size = (オプション) SKU サイズ。名前フィールドが層とその他の値の組み合わせである場合、これはスタンドアロン コードになります。これを変更すると、新しいリソースが強制的に作成されます。
sku_family = (オプション) サービスに同じ SKU の異なる世代のハードウェアがある場合、それをここでキャプチャできます。これを変更すると、新しいリソースが強制的に作成されます。
sku_capacity = (オプション) 1 分あたりのトークン数 (TPM)。 SKU が SKU アウト/インをサポートしている場合は、容量の整数を含める必要があります。リソースに対して sku out/in が不可能な場合、これは省略できます。デフォルト値は 1 です。これを変更すると、新しいリソースが強制的に作成されます。
}
rai_policy_name = (オプション) RAI ポリシーの名前。これを変更すると、新しいリソースが強制的に作成されます。
}))
リスト(オブジェクト({
 デプロイメント ID = 文字列
 モデル名 = 文字列
 モデル形式 = 文字列
 モデルバージョン = 文字列
 sku_name = 文字列
 sku_tier = オプション(文字列)
 sku_size = オプション(数値)
 sku_family = オプション(文字列)
 sku_capacity = オプション(数値)
 rai_policy_name = オプション(文字列)
 }))
 []いいえ
oai_network_acls type = set(オブジェクト({
default_action = (必須) ip_rules / virtual_network_rules に一致するルールがない場合に使用するデフォルトのアクション。可能な値は、 AllowおよびDenyです。
ip_rules = (オプション) コグニティブ アカウントにアクセスできる 1 つ以上の IP アドレス、または CIDR ブロック。
virtual_network_rules = オプション(set(object({
subnet_id = (必須) OpenAI アカウントにアクセスできるサブネットの ID。
ignore_missing_vnet_service_endpoint = (オプション) 欠落している vnet サービス エンドポイントを無視するかどうか。デフォルトはfalseです。
})))
}))
 set(オブジェクト({
 デフォルトアクション = 文字列
 ip_rules = オプション(セット(文字列))
 virtual_network_rules = オプション(set(object({
 サブネットID = 文字列
 ignore_missing_vnet_service_endpoint = オプション (ブール値、偽)
 })))
 }))
 nullいいえ
oai_outbound_network_access_restrictedアウトバウンドネットワークアクセスが制限されているかどうか。デフォルトはfalseです。 bool falseいいえ
oai_public_network_access_enabledパブリック ネットワーク アクセスが有効かどうか。デフォルトはfalseです。 bool trueいいえ
oai_sku_name OpenAI サービスの SKU 名。 string "S0"いいえ
oai_storage type = list(object({
storage_account_id = (必須) Microsoft.Storage リソースの完全なリソース ID。
identity_client_id = (オプション) ストレージ リソースに関連付けられたマネージド ID のクライアント ID。
}))
リスト(オブジェクト({
 storage_account_id = 文字列
 identity_client_id = オプション(文字列)
 }))
 []いいえ
リソースグループ名OpenAI サービスを作成するリソース グループの名前、または既存のサービスがホストされるリソース グループの名前。 string該当なしはい
サブネット構成仮想ネットワーク内にサブネットを作成するためのサブネット構成オブジェクトのリスト。
物体（{
 サブネット名 = 文字列
 サブネットアドレススペース = リスト(文字列)
 service_endpoints = リスト(文字列)
 private_endpoint_network_policies_enabled = 文字列
 private_link_service_network_policies_enabled = bool
 subnets_delegation_settings = マップ(リスト(オブジェクト({
 名前 = 文字列
 アクション = リスト(文字列)
 })))
 })
 {
 "private_endpoint_network_policies_enabled": "有効",
 "private_link_service_network_policies_enabled": false、
 "サービスエンドポイント": [
 "Microsoft.AzureCosmosDB",
 「マイクロソフトウェブ」
 ]、
 "サブネットアドレススペース": [
 「10.4.0.0/24」
 ]、
 "サブネット名": "アプリ-コスモス-サブ",
 "サブネット_委任_設定": {
 "アプリサービスプラン": [
 {
 「アクション」: [
 「Microsoft.Network/virtualNetworks/サブネット/アクション」
 ]、
 "名前": "Microsoft.Web/serverFarms"
 }
 】
 }
 }
いいえ
タグ作成されたリソースにタグを付けるために使用されるキーと値のペアのマップ。 map(string) {}いいえ
use_cosmosdb_free_tier Cosmos DB アカウントの無料枠を有効にするかどうか。別のインスタンスがすでに無料枠を使用している場合、これは false である必要があります。 bool trueいいえ
仮想ネットワーク名リソースが接続されている仮想ネットワークの名前。 string "openai-vnet-9000"いいえ
vnet_address_space仮想ネットワークのアドレス空間の値。 list(string)
 [
 「10.4.0.0/24」
 】
いいえ

出力

名前説明
app_service_default_hostname App Service のデフォルトのホスト名
アプリサービスID App ServiceのID
アプリサービス名App Serviceの名前
app_service_outbound_ip_addresses App Service の送信 IP アドレス
app_service_plan_id App Service プランの ID
アプリサービスプラン名App Service プランの名前
コグニティブ_デプロイメント_ids OpenAI Cognitive Account Model デプロイメントの ID
コグニティブデプロイメント名OpenAI Cognitive Account Model デプロイメントの名前
cosmosdb_account_endpoint Cosmos DB アカウントへの接続に使用されるエンドポイント
cosmosdb_account_id Cosmos DB アカウントの ID
cosmosdb_アカウント名Cosmos DB アカウントの名前
cosmosdb_account_primary_key Cosmos DB アカウントのプライマリ マスター キー
cosmosdb_account_Secondary_key Cosmos DB アカウントのセカンダリ マスター キー
key_vault_id Key Vault の ID
key_vault_name Key Vault の名前
key_vault_uri Key Vault の URI
openai_endpoint Cognitive Service アカウントへの接続に使用されるエンドポイント。
openai_primary_key Cognitive Service アカウントのプライマリ アクセス キー。
openai_セカンダリ_キーCognitive Service アカウントのセカンダリ アクセス キー。
openai_サブドメインCognitive Service アカウントへの接続に使用されるサブドメイン。
サブネットIDサブネットのID
サブネット名サブネットの名前
仮想ネットワークID仮想ネットワークのID
仮想ネットワーク名仮想ネットワークの名前
拡大する
追加情報
関連アプリ
おすすめ
関連情報 すべて