Vous demandez à un agent de corriger un export CSV dans un plugin WordPress. Au début, il ouvre le bon fichier presque aussitôt. Après plusieurs lectures et deux exécutions des tests, chaque nouvelle étape met davantage de temps à démarrer. Une partie du délai peut venir de ce que l’agent envoie au modèle avant chaque action.
Le 16 novembre 2026, Ollama et Together AI ont expliqué comment le cache de préfixe peut réduire cette attente. Pour une petite équipe de développement, le sujet est concret. Garder le début des requêtes stable peut accélérer les sessions longues et, avec une API qui facture moins cher les entrées mises en cache, réduire le coût d’une intervention.
Ce que le cache permet de réutiliser
À chaque étape, l’outil qui pilote l’agent peut renvoyer au modèle les consignes du projet, les outils disponibles, la demande initiale et les résultats déjà obtenus. Une sortie de test de 200 lignes ajoutée à la conversation peut ainsi repartir dans les requêtes suivantes.
Le moteur commence par traiter cette entrée avant de générer une réponse ou de demander l’exécution d’un outil. Le cache de préfixe conserve des calculs intermédiaires de ce traitement. Si la requête suivante commence par la même suite de tokens et que le cache est encore disponible, le moteur peut réutiliser ces calculs et traiter la suite. Les tokens sont les unités de texte manipulées par le modèle.
Dans notre exemple WordPress, supposons qu’un tour contienne 8 000 tokens déjà traités et 500 nouveaux tokens issus des tests. Si les 8 000 premiers sont réutilisables, l’essentiel du nouveau calcul d’entrée porte sur les 500 derniers. Le modèle s’appuie toujours sur le contexte précédent pour produire sa réponse. L’effet attendu se voit surtout dans le délai avant le début de la réponse.
Pourquoi le cache peut perdre son intérêt en cours de session
Le cache ne retrouve que le début commun aux deux requêtes. Si leur contenu diverge tôt, une grande partie du contexte qui suit peut devoir être recalculée.
- Une donnée change dans les consignes initiales. Un outil qui insère l’heure actuelle ou l’état de Git en tête de chaque requête peut faire varier le début du texte à chaque étape. Si cette information est utile, l’intégration peut l’ajouter au moment où elle devient nécessaire.
- Un outil est ajouté en tête de la requête. Si l’intégration réécrit la liste initiale des outils au milieu de la tâche, elle peut perdre la réutilisation de l’historique qui suit. L’effet dépend de la manière dont l’outil construit la requête pour le modèle.
- Le cache a été libéré ou la requête arrive ailleurs. Sur un service hébergé, la réutilisation dépend aussi de la capacité du fournisseur à retrouver les calculs déjà effectués.
Les gros journaux de tests posent un problème distinct. Ils occupent de la place dans la fenêtre de contexte, même lorsque leur traitement est mis en cache. Pour l’export CSV, les lignes autour de l’échec et son message d’erreur suffisent souvent pour poursuivre le diagnostic, avec le journal complet disponible au besoin.
Ce que cela change sur la facture Ollama Cloud
Au tarif standard relevé le 20 novembre 2026, Ollama Cloud affiche 0,30 $ par million de tokens d’entrée pour DeepSeek V4.1 Flash et 0,006 $ par million de tokens d’entrée mis en cache.
Sur un volume fictif d’un million de tokens d’entrée, voici le calcul si 80 % sont effectivement comptabilisés au tarif du cache.
| Part des entrées facturée au tarif du cache | Coût des entrées |
|---|---|
| 0 % | 0,30 $ |
| 80 % | 0,0648 $ |
Le coût des entrées baisse d’environ 78 % dans cet exemple. Les tokens de sortie s’ajoutent au tarif de 1,20 $ par million. Le taux de 80 % est une hypothèse de calcul. Pour estimer votre budget, utilisez la part mise en cache observée sur vos propres tâches.
Comment le mesurer sur un projet de votre PME
Prenez une intervention que l’équipe connaît déjà, comme diagnostiquer un test qui échoue sur l’export CSV. Définissez un résultat vérifiable, par exemple identifier le fichier et expliquer la cause de l’échec à partir des tests.
- Fixez les conditions du test. Conservez la même version du dépôt, le même modèle, le même réglage de raisonnement et les mêmes outils.
- Testez une seule modification. Si vous gérez l’intégration et qu’elle écrit une information variable dans les consignes initiales, transmettez cette information à la suite de l’historique, au moment où elle est utile. Rejouez plusieurs fois le même scénario avec chaque configuration.
- Relevez le temps et l’usage. Comparez le délai avant le début des réponses et le temps total jusqu’au résultat vérifié. Si votre fournisseur les détaille, relevez aussi le volume d’entrées mises en cache et le coût de la tâche.
Si le taux de réutilisation augmente et que la durée totale varie peu, chronométrez aussi les appels aux outils. Sur un projet qui relance toute sa suite de tests à chaque correction, l’équipe peut gagner du temps en ciblant les tests liés au changement pendant le diagnostic, puis en lançant la suite complète pour la validation finale.
À lire aussi sur Dixie Consulting — GPT‑6.2 Astra et Sol : quel modèle choisir dans Codex et ChatGPT Work ?
