Contrôler les sorties et les actions de l’IA à l’exécution
Une réalisation peut proposer, classifier ou recommander sans recevoir automatiquement le droit d’agir. AMF distingue la fabrication et les tests des contrôles runtime : schémas, autorisations, refus et escalade, selon la mission.
Un système IA privé combine plusieurs éléments.
Modèles d’IA
Modèles généralistes ou spécialisés, choisis selon les tâches à accomplir.
Données et documents
Informations utiles, avec des sources identifiées et des mises à jour suivies.
Calculs et contrôles
Règles métier, calculs fiables et vérifications indépendantes.
Outils
Applications et services que l’IA peut utiliser avec votre autorisation.
Coordination et sécurité
Choisir quel outil doit intervenir et quoi faire en cas d’erreur ou de doute.
Logiciel d’exécution
Faire fonctionner la version testée en conservant les traces et sans changer ses composants en secret.
Une sortie d'IA n'est pas une autorisation d'agir.
Proposition de l’IA
Une réalisation produit une prédiction, une réponse structurée ou une action suggérée.
Contrôles runtime
Appliquer les contrôles disponibles de schéma, d’étiquettes et de règles métier ; refuser ou escalader si nécessaire.
Autorisation distincte
Autoriser une action externe uniquement si l’acteur, le contexte et les permissions le permettent ; sinon bloquer ou transférer.
Trace & analyse
Conserver les décisions et preuves admissibles selon les règles de données pour comprendre les incidents.
Une proposition structurée respecte les contrôles de format et d'autorisation configurés. Seule l'action permise peut continuer.
L'IA peut proposer une action sans avoir le droit de l'exécuter. Le runtime bloque ou demande une vérification humaine.