Dioptra 是一个用于评估人工智能 (AI) 可信特性的软件测试平台。值得信赖的人工智能是:有效和可靠、安全、有保障和有弹性、负责任和透明、可解释和解释、隐私增强、公平——有害偏见得到管理1 。 Dioptra 通过提供评估、分析和跟踪已识别的人工智能风险的功能来支持 NIST 人工智能风险管理框架的测量功能。
Dioptra 提供 REST API,可以通过直观的 Web 界面、Python 客户端或用户选择的任何 REST 客户端库进行控制,用于设计、管理、执行和跟踪实验。详细信息请参阅 https://pages.nist.gov/dioptra/ 上的项目文档。
版本 1.0.1——持续改进和开发
我们设想 Dioptra 的主要用例如下:
Dioptra 致力于实现以下关键特性:
设置 Dioptra 的第一步是克隆存储库并为部署中的各种服务构建 Docker 容器。有关说明,请参阅文档的构建容器部分。
构建容器后,下一步是使用 cruft 配置部署并运行 Dioptra。有关说明,请参阅文档的“运行 Dioptra”部分。
此外,您可能想要添加数据集,请参阅文档的下载数据集部分了解详细信息。
通过任一用户界面向您的 Dioptra 实例注册用户帐户。可以通过 Web 浏览器通过创建部署时指定的 URL 访问用户界面。默认值为 http://localhost。
如果您有兴趣为 Dioptra 做出贡献,请参阅开发者指南
该软件 (Dioptra) 由美国商务部下属的国家标准与技术研究所 (NIST) 作为公共服务提供。该软件部分由 NIST 员工开发,部分由 NIST 承包商开发。由 NIST 承包商开发的本软件部分的版权已授权或转让给 NIST。根据《美国法典》第 17 章第 105 条,NIST 员工的作品在美国不受版权保护。但是,NIST 可能拥有其员工创建的软件的国际版权以及分配或许可给 NIST 的部分软件的国内版权(或许可权)。如果 NIST 拥有该软件的版权,则该软件根据 Creative Commons Attribution 4.0 International 许可证 (CC BY 4.0) 提供。 CC BY 4.0 许可证的免责声明适用于 NIST 开发或许可的软件的所有部分。
格拉斯布伦纳、詹姆斯、布斯、哈罗德、曼维尔、基思、塞克斯顿、朱利安、奇泽姆、迈克尔·安迪、蔡、亨利、汉德、安德鲁、霍奇斯、布朗温、斯凯玛、保罗、表弟、德米特里、特拉普内尔、埃里克、特拉普内尔、马克、黄,Howard、Rowe、Paul、Byrne、Alex (2024),Dioptra 测试平台,国家标准与技术研究所, https://doi.org/10.18434/mds2-3398(访问“今天的日期”)
注意:将“今天的日期”替换为今天的日期
https://doi.org/10.6028/NIST.AI.100-1 ↩