Modèles à Goulot d'Étranglement Conceptuel Crédule pour la Décomposition de l'Incertitude Épistémique et Aléatoire

Résumé

Les modèles à goulot d'étranglement conceptuel (CBM) prédisent via des concepts interprétables par l'homme, mais ils produisent typiquement des probabilités conceptuelles ponctuelles qui confondent l'incertitude épistémique (sous-spécification réductible du modèle) avec l'incertitude aléatoire (ambiguïté irréductible de l'entrée). Cela rend l'incertitude au niveau conceptuel difficile à interpréter et, plus important encore, difficile à exploiter. Nous présentons CREDENCE (Credal Ensemble Concept Estimation), un cadre CBM qui décompose l'incertitude conceptuelle par construction. CREDENCE représente chaque concept comme une prédiction crédale (un intervalle de probabilité), dérive l'incertitude épistémique du désaccord entre différentes têtes conceptuelles, et estime l'incertitude aléatoire via une sortie d'ambiguïté dédiée entraînée à correspondre au désaccord des annotateurs lorsque disponible. Les signaux résultants soutiennent des décisions prescriptives : automatiser les cas à faible incertitude, prioriser la collecte de données pour les cas à forte incertitude épistémique, acheminer les cas à forte incertitude aléatoire vers une revue humaine, et s'abstenir lorsque les deux sont élevées. Sur plusieurs tâches, nous montrons que l'incertitude épistémique est positivement associée aux erreurs de prédiction, tandis que l'incertitude aléatoire suit étroitement le désaccord des annotateurs, fournissant une guidance au-delà de la corrélation d'erreur. Notre implémentation est disponible à l'adresse suivante : https://github.com/Tankiit/Credal_Sets/tree/ensemble-credal-cbm

English

Concept Bottleneck Models (CBMs) predict through human-interpretable concepts, but they typically output point concept probabilities that conflate epistemic uncertainty (reducible model underspecification) with aleatoric uncertainty (irreducible input ambiguity). This makes concept-level uncertainty hard to interpret and, more importantly, hard to act upon. We introduce CREDENCE (Credal Ensemble Concept Estimation), a CBM framework that decomposes concept uncertainty by construction. CREDENCE represents each concept as a credal prediction (a probability interval), derives epistemic uncertainty from disagreement across diverse concept heads, and estimates aleatoric uncertainty via a dedicated ambiguity output trained to match annotator disagreement when available. The resulting signals support prescriptive decisions: automate low-uncertainty cases, prioritize data collection for high-epistemic cases, route high-aleatoric cases to human review, and abstain when both are high. Across several tasks, we show that epistemic uncertainty is positively associated with prediction errors, whereas aleatoric uncertainty closely tracks annotator disagreement, providing guidance beyond error correlation. Our implementation is available at the following link: https://github.com/Tankiit/Credal_Sets/tree/ensemble-credal-cbm