Attributions SHAP : valeurs de référence, unités de sortie et limites causales

Ce que SHAP explique

SHAP attribue des contributions aux variables pour une prédiction précise d'un modèle, à l'aide d'un cadre apparenté aux valeurs de Shapley. Dans une explication additive, la valeur de référence additionnée des contributions des variables reconstitue la sortie expliquée, sous réserve des hypothèses de l'explainer et de l'approximation numérique. Une contribution décrit la répartition d'une prédiction par rapport à une référence ; ce n'est ni l'importance universelle d'une variable ni automatiquement un effet causal. [1]

Choisir la cible de l'explication

Il faut indiquer quelle sortie du modèle est expliquée. Pour un classifieur, une marge brute, une probabilité et une perte sont des grandeurs différentes, et leurs attributions n'ont pas les mêmes unités. Dans les configurations prises en charge de TreeExplainer, les explications en probabilité ont pour somme la probabilité prédite, alors que les sorties brutes dépendent du modèle et peuvent représenter des log-odds. [2]

Il faut aussi préciser les données d'arrière-plan (background) et la manière dont la dépendance entre variables est traitée. Lorsque les entrées sont corrélées, il faut faire des hypothèses sur ce que signifie inclure ou exclure une variable. Modifier les données d'arrière-plan ou le paramètre de dépendance peut changer la valeur de référence et la répartition. [2]

Un workflow pratique

Validez les performances prédictives avant d'expliquer le modèle. Choisissez une population de référence documentée et un explainer compatible, puis consignez la version du modèle, la représentation des variables, l'échantillon d'arrière-plan et les paramètres de l'explication. Examinez plusieurs cas ordinaires et les principaux cas d'échec plutôt que de considérer un seul graphique flatteur comme une validation.

Vérifiez que les contributions et la référence reconstituent la sortie choisie dans la tolérance numérique de la méthode. Examinez si les explications changent sensiblement avec d'autres échantillons d'arrière-plan raisonnables. Si vous présentez des valeurs SHAP absolues moyennes, précisez qu'elles résument l'amplitude des contributions, et non le fait qu'une variable augmente ou diminue en général les prédictions. [1][2]

Exemple de décomposition

Imaginons un modèle de délai de livraison expliqué en jours : prédiction de référence 5, contribution de la distance +2 et contribution de la disponibilité du stock −1, soit 5 + 2 - 1 = 6 jours. Ces valeurs inventées illustrent la comptabilité additive ; aucun modèle n'a été entraîné. Elles ne montrent pas que raccourcir un véritable itinéraire de livraison ferait gagner exactement deux jours. D'autres variables opérationnelles et la manière dont les données ont été collectées peuvent expliquer le schéma de prédiction observé.

Limites causales et interprétation

Un modèle prédictif peut exploiter des variables proxy et des relations de confusion. L'expliquer fidèlement ne permet pas d'identifier ce qui se passerait après une intervention. Même un paramètre d'explainer nommé interventional ne transforme pas un modèle prédictif ordinaire en modèle causal identifié. Les affirmations causales exigent un plan d'étude approprié et des hypothèses explicites. [2][3]

Utilisez SHAP pour inspecter le comportement du modèle et formuler des questions à approfondir. Indiquez la référence, les unités de sortie et les principaux résultats de sensibilité avec l'attribution. Cet article est une synthèse de sources primaires ; aucune expérience d'explication n'a été réalisée en local.

Sources

[1] Lundberg and Lee (2017): A Unified Approach to Interpreting Model Predictions

[2] SHAP API: shap.TreeExplainer

[3] SHAP: Be Careful When Interpreting Predictive Models in Search of Causal Insights