Gouvernance & conformité
Quand une IA agit, le résultat final ne suffit pas : garde aussi la trace du parcours
Le résultat d’une action IA ne suffit pas : une trace opérationnelle permet de retrouver les sources, les étapes et les décisions prises.
Gouvernance & conformité
Une entreprise change constamment.
Un tarif évolue.
Un responsable change.
Une offre disparaît.
Un nouveau contrôle est ajouté.
Un document n’est plus utilisé.
Un client obtient une nouvelle condition.
Pour les humains, ces changements circulent de beaucoup de manières.
Réunion.
Mail.
Discussion.
Message rapide.
Et parfois par la fameuse méthode :
« Ah, au fait, on ne fait plus comme ça. »
Une IA n’assiste pas forcément à cette conversation.
C’est là que le problème commence.
L’ancienne règle existe toujours dans :
un document ;
un exemple ;
une procédure ;
une conversation ;
une base documentaire.
La nouvelle règle existe ailleurs.
Pour une personne qui connaît le contexte, la différence est évidente.
Pour un système qui retrouve des informations, les deux existent simplement en même temps.
Il faut donc organiser le changement.
Pendant une course, changer de stratégie sans prévenir le pilote aurait assez peu de sens.
Le changement doit arriver au bon endroit, au bon moment, dans une forme compréhensible.
Pour une IA, une règle importante mérite la même attention.
Lorsqu’elle change, il devrait être possible de savoir :
quelle règle remplace l’ancienne ;
depuis quand ;
pour quel périmètre ;
et quelle source fait désormais référence.
Selon le système utilisé, une information peut être présente dans plusieurs endroits.
La procédure principale.
Une base de connaissances.
Des exemples.
Une consigne permanente.
Une automatisation.
Changer une seule source peut donc créer des contradictions.
C’est pourquoi les changements importants devraient idéalement déclencher une petite question :
« Où cette règle est-elle utilisée ? »
C’est presque une analyse d’impact.
Un tarif sans date peut être dangereux.
Une procédure sans version également.
Même une consigne très simple gagne parfois à indiquer :
« valable à partir du… »
Cela permet de comprendre pourquoi un ancien dossier utilise une autre valeur sans considérer automatiquement qu’il est faux.
L’historique et la règle actuelle peuvent alors coexister proprement.
Cette discipline n’est pas uniquement faite pour l’IA.
Combien de fois une équipe travaille-t-elle avec deux fichiers différents parce que personne ne sait lequel est le dernier ?
L’IA amplifie simplement le problème parce qu’elle peut exploiter beaucoup plus de sources très rapidement.
Elle nous oblige à être plus clairs.
Je trouve cette idée simple assez puissante.
Pour chaque information structurante, on devrait pouvoir répondre :
« Où est la référence ? »
Pas dix endroits.
Une référence.
Les autres documents peuvent la reprendre, l’expliquer ou la citer.
Mais on sait où regarder lorsque quelque chose change.
Si elle découvre la nouvelle politique uniquement parce qu’elle tombe un jour sur le bon mail, le système n’est pas vraiment piloté.
Le changement doit être intentionnel.
Quelqu’un décide.
La référence est mise à jour.
L’ancien état est identifié comme historique.
Et le système peut repartir avec une règle claire.
Une équipe de course ne modifie pas son plan en espérant que l’information finira par atteindre la voiture.
Une entreprise équipée d’IA ne devrait pas fonctionner autrement.
Gouvernance & conformité
Le résultat d’une action IA ne suffit pas : une trace opérationnelle permet de retrouver les sources, les étapes et les décisions prises.
Gouvernance & conformité
Quand une règle métier change, l’IA doit recevoir la bonne version au bon endroit, avec une responsabilité claire sur sa mise à jour.
Gouvernance & conformité
Les nouvelles obligations de transparence sont applicables et doivent être traduites en règles simples dans les usages réels.