Une IA peut suivre parfaitement la procédure et quand même rater le métier

On écrit souvent des procédures pour expliquer comment faire un travail.

Étape 1.

Étape 2.

Étape 3.

Puis on branche une IA dessus.

Elle suit les consignes.

Elle ne saute aucune étape.

Elle produit exactement ce qui était demandé.

Et pourtant, quelqu’un d’expérimenté regarde le résultat et dit :

« Non. Là, ça ne va pas. »

C’est intéressant.

Parce que l’IA n’a peut-être pas mal suivi la procédure.

La procédure était simplement incomplète.

Une partie du métier n’est jamais écrite

Quand quelqu’un pratique le même travail depuis plusieurs années, il développe énormément de réflexes.

Il voit qu’un chiffre semble étrange.

Il reconnaît un client qui demande toujours une attention particulière.

Il remarque qu’une phrase, techniquement correcte, va être mal comprise.

Il sait qu’à cette période de l’année une situation inhabituelle est en réalité normale.

Demande-lui comment il le sait.

La réponse sera parfois :

« Je le sens. »

Ce n’est évidemment pas magique.

C’est de l’expérience condensée.

Seulement, cette expérience n’a jamais été transformée en règle explicite.

L’IA révèle les trous de la procédure

Et je trouve ça plutôt utile.

Lorsqu’une IA applique une procédure au pied de la lettre et produit quelque chose d’insatisfaisant, on peut simplement conclure :

« L’IA n’est pas assez bonne. »

Mais on peut aussi regarder précisément ce qui manque.

Pourquoi l’humain aurait-il fait autrement ?

Quelle information a-t-il utilisée sans même y penser ?

À quel moment a-t-il compris qu’il fallait sortir du chemin prévu ?

On commence alors à découvrir le métier derrière la procédure.

Une trajectoire ne tient pas dans la fiche technique

On peut décrire une voiture avec énormément de précision.

Puissance.

Poids.

Pneus.

Réglages.

Cela ne décrit toujours pas complètement la façon dont un pilote va prendre un virage dans des conditions particulières.

Il existe une lecture de la situation.

Au travail, c’est pareil.

Le document explique la règle générale.

L’expérience permet d’interpréter le cas réel.

C’est justement là que l’automatisation doit être prudente.

Il ne faut pas forcément tout transformer en règle

Une fois qu’on identifie le jugement humain, on peut être tenté de tout formaliser.

Si ceci, alors cela.

Sauf dans tel cas.

À moins que telle condition soit présente.

Et sauf pour trois clients.

On peut rapidement construire une procédure tellement complexe qu’elle devient elle-même incompréhensible.

Parfois, la bonne conclusion est simplement :

« À partir d’ici, quelqu’un doit regarder. »

Ce n’est pas un échec.

C’est une frontière.

L’expert devient très utile au moment où l’on automatise

Il existe une idée étrange selon laquelle l’automatisation consiste à remplacer la personne qui connaît le mieux la tâche.

Je vois plutôt l’inverse au départ.

C’est précisément elle dont on a besoin.

Pas pour recopier ses gestes.

Pour comprendre ses décisions.

Pourquoi vérifies-tu cette information ?

Comment reconnais-tu un dossier inhabituel ?

Dans quel cas ne suis-tu pas la procédure ?

Qu’est-ce qui te fait douter ?

Ces questions ont énormément de valeur.

Automatiser peut améliorer la procédure elle-même

Même si le projet IA s’arrête ensuite, le travail n’est pas perdu.

On aura souvent découvert :

des règles jamais écrites ;

des exceptions connues d’une seule personne ;

des incohérences ;

des décisions qui reposent sur des habitudes.

L’automatisation devient alors un prétexte pour examiner réellement le métier.

Et parfois, avant même de faire travailler l’IA, on comprend déjà mieux comment les humains travaillent.