Ton IA travaille vite. Mais que se passe-t-il quand cinquante demandes arrivent en même temps ?

On teste souvent une automatisation de cette manière :

une demande entre ;

le système la traite ;

le résultat arrive.

Parfait.

Puis on passe à la suivante.

Dans la vraie vie, les demandes n’arrivent pas toujours gentiment une par une.

Elles arrivent parfois toutes ensemble.

Lundi matin.

Fin de mois.

Après une campagne.

Après une panne.

Après trois jours de fermeture.

Et là, un système qui semblait extrêmement rapide peut commencer à montrer un autre visage.

La vitesse d’une tâche n’est pas la capacité du système

Si une IA traite un dossier en deux minutes, on pourrait penser qu’elle peut en traiter trente par heure.

Ce calcul suppose que tout autour suit.

Mais il peut y avoir :

une API limitée ;

un logiciel lent ;

une validation humaine ;

un document lourd ;

une base qui ne supporte pas plusieurs écritures simultanées.

Le temps individuel ne raconte donc pas toute l’histoire.

Le bouchon se forme souvent ailleurs

Imagine une voiture capable d’arriver très vite au stand.

Si trois voitures doivent utiliser le même emplacement au même moment, leur vitesse d’arrivée ne résout rien.

Le problème est devenu une question de capacité.

Dans un workflow IA, le bouchon peut apparaître au moment :

d’envoyer un mail ;

d’enregistrer un fichier ;

de demander une validation ;

d’interroger un service tiers ;

ou simplement de présenter dix résultats à la même personne.

L’IA accélère une partie du circuit.

Cela peut déplacer l’attente quelques mètres plus loin.

Une file d’attente n’est pas forcément mauvaise

Le réflexe peut être de vouloir tout traiter immédiatement.

Ce n’est pas toujours nécessaire.

Certaines tâches peuvent très bien attendre.

L’important est de savoir :

combien sont en attente ;

depuis combien de temps ;

lesquelles sont prioritaires ;

et ce qui les bloque.

Une file invisible est dangereuse.

Une file visible est simplement du travail à organiser.

Toutes les demandes ne se valent pas

Le système peut également distinguer plusieurs niveaux.

Une demande urgente.

Une demande normale.

Un traitement lourd mais non prioritaire.

Une tâche nocturne.

On commence alors à piloter une charge, pas seulement à automatiser des actions.

Cela devient particulièrement intéressant lorsque l’IA produit beaucoup plus vite que les humains chargés de valider derrière elle.

Le meilleur moment n’est pas toujours maintenant

Certaines tâches gagnent même à être regroupées.

Préparer vingt rapports séparément au fil de la journée n’est peut-être pas plus utile que de les traiter ensemble à un moment choisi.

Le même raisonnement vaut pour :

les synthèses ;

les classements ;

certaines vérifications ;

les mises à jour de données.

L’automatisation permet justement de choisir le bon moment.

Pas uniquement d’aller plus vite.

Tester aussi les heures de pointe

Quand un système est prêt, je ne testerais donc pas seulement :

« Est-ce qu’il réussit la tâche ? »

Je testerais également :

« Que se passe-t-il lorsqu’il y en a cinquante ? »

Est-ce qu’il les perd ?

Les mélange ?

Les duplique ?

Les met proprement en attente ?

Peut-il reprendre ?

C’est beaucoup moins spectaculaire qu’une démonstration parfaitement fluide.

Mais une course d’endurance ne se gagne pas uniquement sur un tour dégagé.

Le trafic compte aussi.