IA causale et gouvernance scellée : comparatif
Le domaine de l'IA voit coexister deux familles d'outils souvent confondues : l'IA causale, qui cherche des relations de cause à effet dans des données ; et la gouvernance de la génération, qui encadre, trace et prouve la production d'une réponse par un modèle de langage. Cet article compare les principales solutions d'IA causale avec l'approche de BATEN, fondée sur un Causal Seal — un format ouvert de provenance décisionnelle.
1. Cinq acteurs majeurs de l'IA causale
| Acteur | Produit | Objectif | Mécanisme clé |
|---|---|---|---|
| Microsoft Research | DoWhy, EconML | Inférence causale open source | Effets causaux, contrefactuels |
| causaLens | DecisionOS | Décision d'entreprise | Graphes causaux, low-code |
| Salesforce AI | CausalAI Library | Causalité sur données clients | Séries temporelles |
| IBM / QuantumBlack | CausalNex | Conformité en secteurs régulés | Réseaux bayésiens, biais |
| Causaly | Causaly Cloud | Pharma & sciences de la vie | Extraction causale dans la littérature |
Liste évolutive
Ce paysage bouge vite : cette liste est un instantané, à réviser régulièrement.
Tous ces outils traitent de l'analyse du réel : partir de données observées pour expliquer pourquoi un phénomène se produit, ou ce qui se passerait si un paramètre changeait.
2. Les moteurs de gouvernance
En parallèle, des moteurs de gouvernance encadrent le cycle de vie des modèles, sous trois formes : cadres normatifs (règles, normes), plateformes logicielles (audit, supervision, risque), et solutions sur site. Ils répondent à des questions de contrôle et de conformité — mais n'offrent pas toujours une preuve attachée à CHAQUE réponse.
3. BATEN et le Causal Seal
- BATEN est une couche de gouvernance placée au-dessus d'un modèle interchangeable : le modèle qui écrit peut changer ; la gouvernance, la mémoire et le sceau restent.
- Un Causal Seal est attaché à chaque réponse : il enregistre les paramètres qui l'ont produite (Super Agent, réglages, contraintes, contexte).
- Le choix du Super Agent est déterministe : soit par un routeur déterministe, soit par désignation explicite de l'utilisateur.
Cette approche ne cherche pas à découvrir des causes dans des données : elle garantit COMMENT et POURQUOI une réponse a été générée, pour qu'elle puisse être vérifiée indépendamment.
4. La distinction fondamentale
5. Complémentarités
Les deux logiques se combinent : établir un fait causal avec un outil dédié (ex. DoWhy), le charger dans un agent BATEN via une Cartouche de connaissances, puis produire une réponse accompagnée de son Causal Seal pour en vérifier la provenance. En résumé : l'IA causale apporte la connaissance ; BATEN apporte la preuve de la production.
En une phrase
L'IA causale explique le monde ; la gouvernance scellée prouve la production. Elles ne s'opposent pas — elles se complètent.