Critères de conception
Une IA documentée et supervisable.
Documentation, traçabilité et supervision humaine ne sont pas une prestation de conformité vendue à part. Ce sont des critères de conception : ils changent l’architecture, ou ils ne servent à rien.
Romain Mougel · Ingénierie produit et systèmes IA · 28 juillet 2026
01
Ce qui entre dans le modèle est connu
- Catégories de données transmises, et celles volontairement exclues
- Lieu de traitement des inférences et juridiction applicable
- Réutilisation ou non des données pour entraîner un modèle tiers
- Rétention côté fournisseur, et durée réelle
02
Ce qui sort est contraint
- Format structuré validé avant tout calcul en aval
- Seuils au-delà desquels la sortie est rejetée plutôt qu’affichée
- Repli déterministe ou saisie manuelle en cas d’échec
- Aucune sortie de modèle n’entre directement dans un total ou une décision automatique
03
Une action reste reconstituable
- Journalisation des entrées, des sorties et de la décision humaine associée
- Version du modèle et du prompt conservée avec l’enregistrement
- Capacité à retrouver, trois mois après, pourquoi le système a répondu cela
- Jeu d’évaluation rejoué à chaque changement de modèle ou de prompt
04
Un humain garde la main
- Propositions acceptées ou rejetées une par une, pas en bloc
- Limitation explicite des actions qu’un agent peut exécuter seul
- Information de l’utilisateur sur le caractère généré du contenu
- Procédure de correction lorsque le système s’est trompé
05
Le fournisseur reste remplaçable
- Modèle isolé derrière une interface interne
- Aucune dépendance à une fonction propriétaire non substituable
- Coût par usage suivi, et quotas fournisseur connus
- Procédure de bascule effectivement rejouée
Une obligation qui s’applique, quel que soit le calendrier
Informer l’utilisateur qu’il interagit avec un système d’IA et marquer les contenus générés relève de l’article 50 du règlement (UE) 2024/1689. Cette obligation ne dépend d’aucune classification à haut risque et concerne des produits très ordinaires : un assistant de rédaction, un chatbot de support, une génération de compte rendu.
Techniquement, cela se traduit par une mention visible, un marquage des contenus produits et une trace de ce qui a été généré. C’est peu coûteux si c’est prévu, et pénible à rattraper si ça ne l’est pas. Le calendrier applicable et la qualification du système restent à établir avec votre conseil.