Dioptra est une plateforme de test logiciel permettant d'évaluer les caractéristiques fiables de l'intelligence artificielle (IA). Une IA digne de confiance est : valide et fiable, sûre, sécurisée et résiliente, responsable et transparente, explicable et interprétable, respectueuse de la vie privée et équitable - avec gestion des préjugés préjudiciables 1 . Dioptra prend en charge la fonction de mesure du cadre de gestion des risques d'IA du NIST en fournissant des fonctionnalités permettant d'évaluer, d'analyser et de suivre les risques d'IA identifiés.
Dioptra fournit une API REST, qui peut être contrôlée via une interface Web intuitive, un client Python ou toute bibliothèque client REST au choix de l'utilisateur pour la conception, la gestion, l'exécution et le suivi des expériences. Les détails sont disponibles dans la documentation du projet disponible sur https://pages.nist.gov/dioptra/.
Version 1.0.1 – avec améliorations et développements continus
Nous envisageons les principaux cas d'utilisation suivants pour Dioptra :
Dioptra s'efforce d'obtenir les propriétés clés suivantes :
La première étape de la configuration de Dioptra consiste à cloner le référentiel et à créer les conteneurs Docker pour les différents services qui font partie d'un déploiement. Consultez la section Création des conteneurs de la documentation pour obtenir des instructions.
Une fois les conteneurs construits, l'étape suivante consiste à configurer le déploiement avec cruft et à exécuter Dioptra. Consultez la section Exécution de Dioptra de la documentation pour obtenir des instructions.
De plus, vous souhaiterez peut-être ajouter des ensembles de données, consultez la section Téléchargement d'ensembles de données de la documentation pour plus de détails.
Enregistrez un compte utilisateur avec votre instance Dioptra via l'interface utilisateur. L'interface utilisateur est accessible via votre navigateur Web à l'URL spécifiée lors de la création du déploiement. La valeur par défaut est http://localhost.
Si vous souhaitez contribuer à Dioptra, veuillez consulter le guide du développeur
Ce logiciel (Dioptra) est mis à disposition en tant que service public par le National Institute of Standards and Technology (NIST), une agence du ministère du Commerce des États-Unis. Ce logiciel a été développé en partie par des employés du NIST et en partie par des sous-traitants du NIST. Les droits d'auteur sur les parties de ce logiciel développées par des sous-traitants du NIST ont été concédés sous licence ou attribués au NIST. Conformément à l'article 105 du titre 17 du code des États-Unis, les œuvres des employés du NIST ne sont pas soumises à la protection du droit d'auteur aux États-Unis. Cependant, le NIST peut détenir des droits d'auteur internationaux sur les logiciels créés par ses employés et des droits d'auteur nationaux (ou droits de licence) sur des parties de logiciels qui ont été cédées ou concédées sous licence au NIST. Dans la mesure où le NIST détient les droits d'auteur sur ce logiciel, celui-ci est mis à disposition sous la licence Creative Commons Attribution 4.0 International (CC BY 4.0). Les clauses de non-responsabilité de la licence CC BY 4.0 s'appliquent à toutes les parties du logiciel développé ou sous licence par le NIST.
Glasbrenner, James, Booth, Harold, Manville, Keith, Sexton, Julian, Chisholm, Michael Andy, Choy, Henry, Hand, Andrew, Hodges, Bronwyn, Scemama, Paul, Cousin, Dmitry, Trapnell, Eric, Trapnell, Mark, Huang , Howard, Rowe, Paul, Byrne, Alex (2024), Plateforme de test Dioptra, National Institute of Standards and Technology, https://doi.org/10.18434/mds2-3398 (consulté « Date d'aujourd'hui »)
NB : Remplacez « Date d'aujourd'hui » par la date d'aujourd'hui
https://doi.org/10.6028/NIST.AI.100-1 ↩
