Dioptra は、人工知能 (AI) の信頼できる特性を評価するためのソフトウェア テスト プラットフォームです。信頼できる AI とは、有効で信頼性が高く、安全で回復力があり、説明責任があり透明性があり、説明可能で解釈可能で、プライバシーが強化され、公正であり、有害なバイアスが管理されている1 ことを指します。 Dioptra は、特定された AI リスクを評価、分析、追跡する機能を提供することで、NIST AI リスク管理フレームワークの測定機能をサポートします。
Dioptra は、直感的な Web インターフェイス、Python クライアント、または実験の設計、管理、実行、追跡のためにユーザーが選択した任意の REST クライアント ライブラリを介して制御できる REST API を提供します。詳細については、https://pages.nist.gov/dioptra/ で入手できるプロジェクトのドキュメントを参照してください。
リリース 1.0.1 -- 継続的な改善と開発が行われています
Dioptra の主な使用例は次のとおりです。
Dioptra は、次の重要な特性を追求しています。
Dioptra をセットアップする最初のステップは、リポジトリのクローンを作成し、デプロイメントの一部であるさまざまなサービス用の Docker コンテナを構築することです。手順については、ドキュメントの「コンテナの構築」セクションを参照してください。
コンテナーが構築されたら、次のステップは cruft でデプロイメントを構成し、Dioptra を実行することです。手順については、ドキュメントの「Dioptra の実行」セクションを参照してください。
さらに、データセットを追加することもできます。詳細については、ドキュメントの「データセットのダウンロード」セクションを参照してください。
いずれかのユーザー インターフェースを介して、Dioptra インスタンスにユーザー アカウントを登録します。ユーザー インターフェイスには、デプロイメントの作成時に指定した URL にある Web ブラウザ経由でアクセスできます。デフォルトは http://localhost です。
Dioptra への貢献に興味がある場合は、開発者ガイドを参照してください。
このソフトウェア (Dioptra) は、米国商務省の機関である国立標準技術研究所 (NIST) によって公共サービスとして提供されています。このソフトウェアは、一部は NIST の従業員によって、一部は NIST の請負業者によって開発されました。 NIST の請負業者によって開発されたこのソフトウェアの一部の著作権は、NIST にライセンスまたは譲渡されています。米国法典タイトル 17 セクション 105 に従って、NIST 職員の著作物は米国では著作権保護の対象になりません。ただし、NIST は、従業員が作成したソフトウェアの国際著作権、および NIST に譲渡またはライセンス供与されたソフトウェアの部分の国内著作権 (またはライセンス権) を保有する場合があります。 NIST がこのソフトウェアの著作権を保持している限り、クリエイティブ コモンズ表示 4.0 国際ライセンス (CC BY 4.0) に基づいて利用可能です。 CC BY 4.0 ライセンスの免責事項は、NIST によって開発またはライセンス供与されたソフトウェアのすべての部分に適用されます。
グラスブレナー、ジェームズ、ブース、ハロルド、マンビル、キース、セクストン、ジュリアン、チザム、マイケル・アンディ、チョイ、ヘンリー、ハンド、アンドリュー、ホッジス、ブロンウィン、シーママ、ポール、いとこ、ドミトリー、トラップネル、エリック、トラップネル、マーク、ファン、ハワード、ロウ、ポール、バーン、アレックス (2024)、ディオプトラ テスト プラットフォーム、国立研究所標準と技術、https://doi.org/10.18434/mds2-3398 (「今日の日付」にアクセス)
注意: 「今日の日付」を今日の日付に置き換えます。
https://doi.org/10.6028/NIST.AI.100-1 ↩
