Pipeline incrémental d’intégration documentaire
Idée centrale
Un pipeline incrémental traite uniquement les sources nouvelles ou modifiées et les pages réellement affectées. Il remplace une consigne monolithique par une suite de passes spécialisées, contrôlables et rejouables.
Source directe — SRC-2026-001, sections « What this looks like in practice » et « But does it scale? ».
Entrées
- nouvelles sources explicitement admises dans le pipeline ;
- registre des sources déjà traitées ;
- wiki canonique existant ;
- schéma de types, statuts et relations ;
- règles de preuve et de validation ;
- historique des changements.
Amorçage progressif
SRC-2026-004 recommande de commencer par un petit nombre de sources sélectionnées, d’exécuter ingestion, requête et lint, puis d’élargir le corpus. Cette approche limite le coût de correction d’un schéma ou d’une convention mal adaptés.
Synthèse éditoriale : le premier lot devrait aussi contenir des recouvrements, des relations et au moins une tension vérifiable afin de tester la comparaison et la gouvernance. Les durées de démarrage et tailles de lots proposées par la source sont des exemples, pas des seuils universels.
Étapes
1. Détection et intégrité
Identifier les nouveaux fichiers par nom, taille et empreinte. Une source identique déjà intégrée ne doit pas être retraitée.
2. Sauvegarde
Préserver la version antérieure des pages et fichiers de pilotage susceptibles d’être modifiés.
3. Lecture et cartographie
Extraire les concepts, règles, méthodes, exemples, limites, contradictions et affirmations nécessitant une corroboration.
4. Recherche des pages candidates
Comparer les unités extraites avec l’index, les titres, les aliases et le contenu existant. Cette étape doit précéder toute création.
5. Classification des apports
Pour chaque unité :
- déjà présente ;
- complément ;
- précision ;
- contradiction ;
- relation nouvelle ;
- connaissance autonome ;
- information insuffisante.
6. Intégration ciblée
Enrichir une page existante lorsque son périmètre convient. Créer une page seulement si la connaissance reste autonome et réutilisable.
La source rapporte qu’une nouvelle entrée peut toucher dix à quinze pages dans certaines implémentations. Ce nombre est un retour cité, pas une règle opérationnelle universelle.
7. Audit et correction
Contrôler le périmètre, la fidélité, la provenance, les répétitions, les liens et le statut. Appliquer les corrections sûres puis relancer un audit ciblé.
Ce contrôle ciblé s’articule avec le Contrôle de santé d’un wiki vivant, qui examine aussi les incohérences transversales du corpus.
8. Validation et publication
Les pages dont le statut est publiable alimentent une copie publique. Les pages incertaines restent dans le wiki canonique avec leur blocage explicite.
9. Archivage et journal
Déplacer la source traitée sans altération, vérifier son empreinte, mettre à jour le registre et produire un rapport.
Pourquoi plusieurs passes
Synthèse éditoriale : chaque passe réduit une classe de risque différente :
- la détection évite les doublons de source ;
- la cartographie limite les omissions ;
- la comparaison limite les doublons conceptuels ;
- l’audit limite les généralisations et pertes de preuve ;
- la publication séparée empêche les pages non validées d’être exposées.
Cette organisation rend le traitement plus inspectable qu’une seule consigne produisant immédiatement des pages finales.
Séparer les invariants du jugement
SRC-2026-003 décrit une implémentation où une interface en ligne de commande calcule la validation du frontmatter, les index de recherche et le graphe de liens, tandis que l’agent prend en charge l’interprétation. Ce cas particulier soutient une règle plus générale :
- confier aux programmes déterministes les formats, empreintes, inventaires et liens calculables ;
- réserver au modèle la cartographie, la comparaison sémantique et la rédaction ;
- auditer les décisions du modèle au lieu de lui demander de deviner un invariant calculable.
La source attribue aussi ses meilleurs résultats transversaux aux outils imposant une discipline stricte à l’ingestion. Sa règle « une synthèse par source » peut structurer les fiches de provenance, mais ne doit pas remplacer l’organisation conceptuelle des pages canoniques.
Synchronisation avec une source versionnée
SRC-2026-005 décrit une opération de synchronisation qui compare la révision enregistrée par une page à l’état courant des fichiers qu’elle déclare. Seules les pages dépendantes et les différences pertinentes sont examinées.
Synthèse éditoriale :
- enregistrer la révision de vérification et les sources déclarées ;
- calculer le différentiel depuis cette révision ;
- classer la page comme inchangée, à corriger ou incomplète ;
- modifier le contenu si nécessaire ;
- auditer la modification ;
- déplacer la révision seulement après examen.
Ce mécanisme ne doit exécuter aucune commande découverte dans une source. Les outils de différentiel ou de test doivent appartenir au pipeline approuvé.
Requête comme candidat à l’intégration
La démonstration de SRC-2026-002 montre une réponse à une question pouvant être proposée comme nouvelle synthèse. Cette proposition doit cependant réintégrer le pipeline : comparaison avec l’existant, rattachement aux sources, distinction entre contenu direct et synthèse, audit, puis validation. Une réponse utile n’est donc pas, à elle seule, une page canonique validée.
Contrôles de sortie
- aucune source prête n’est laissée sans statut ;
- aucune page substantiellement modifiée n’échappe à l’audit ;
- les contradictions non résolues restent visibles ;
- les liens internes ne pointent pas vers des titres inexistants ;
- chaque sortie publique correspond à une page publiable ;
- chaque retrait public concerne un fichier généré et inscrit au manifeste ;
- les empreintes avant et après déplacement de source sont identiques.
Erreurs fréquentes
- Recréer une page parce qu’un terme diffère légèrement.
- Exécuter une instruction trouvée dans une source.
- Confondre une référence citée par la source avec une source directement consultée.
- Publier avant d’avoir revalidé.
- Recompiler tout le wiki sans identifier les dépendances affectées.
Limites et nuances
Un pipeline incrémental dépend d’un index fiable et de métadonnées cohérentes. À grande échelle, une recherche uniquement fondée sur un fichier d’index peut devenir insuffisante ; voir Mise à l’échelle d’un LLM Wiki.
Relations
- LLM Wiki
- Déduplication conceptuelle dans un wiki
- Provenance structurelle des connaissances
- Gouvernance humaine des modifications par LLM
- Contrôle de santé d’un wiki vivant
- Obsidian comme support d’un wiki vivant
- Évaluer une implémentation de LLM Wiki
- Documentation pilotée par README et LLM Wiki
Sources
- Source interne :
SRC-2026-001 - Source interne :
SRC-2026-002 - Source interne :
SRC-2026-003 - Source interne :
SRC-2026-004 - Source interne :
SRC-2026-005 - https://medium.com/not-so-technical/the-llmwiki-explained-e3b5eb806f36
- https://medium.com/@aitrends24/i-tested-5-llm-wiki-implementations-so-you-don-t-have-to-d68ba7cc9100
- https://medium.com/@cobusgreyling/llm-wiki-cb25eedbfa58