SHAP-Attributionen: Referenzwerte, Ausgabeeinheiten und kausale Grenzen

Was SHAP erklärt

SHAP weist einer einzelnen Modellvorhersage Beiträge der Merkmale zu und stützt sich dabei auf ein Framework, das mit den Shapley-Werten verwandt ist. Bei einer additiven Erklärung ergeben der Referenzwert und die Merkmalsbeiträge zusammen die erklärte Ausgabe, abhängig von den Annahmen des Explainers und von numerischen Näherungen. Ein Beitrag beschreibt, wie sich eine Vorhersage relativ zu einer Referenz aufteilt. Er ist weder die allgemeine Wichtigkeit eines Merkmals noch automatisch ein kausaler Effekt. [1]

Erklärungsziel festlegen

Die Modellausgabe, die erklärt wird, ist explizit anzugeben. Bei einem Klassifikator sind ein Roh-Margin, eine Wahrscheinlichkeit und ein Loss verschiedene Grössen. Ihre Attributionen haben unterschiedliche Einheiten. In unterstützten Konfigurationen von TreeExplainer summieren sich Wahrscheinlichkeitserklärungen zur vorhergesagten Wahrscheinlichkeit, während Rohausgaben vom Modell abhängen und Log-Odds darstellen können. [2]

Zudem sind die Hintergrunddaten festzulegen und ist zu bestimmen, wie mit Abhängigkeiten zwischen Merkmalen umgegangen wird. Bei korrelierten Eingaben braucht es Annahmen darüber, was das Einbeziehen oder Weglassen eines Merkmals bedeutet. Wer den Hintergrund oder die Einstellung zur Abhängigkeit ändert, kann damit den Referenzwert und die Aufteilung verändern. [2]

Ein praxistauglicher Ablauf

Vor dem Erklären des Modells ist dessen Vorhersageleistung zu validieren. Danach werden eine dokumentierte Referenzpopulation und ein dazu passender Explainer gewählt; festzuhalten sind Modellversion, Merkmalsdarstellung, Hintergrundstichprobe und Einstellungen der Erklärung. Mehrere gewöhnliche Fälle und wichtige Fehlerfälle sind zu prüfen, statt ein einzelnes ansprechendes Diagramm als Validierung zu behandeln.

Zu prüfen ist, ob Beiträge und Referenz die gewählte Ausgabe im Rahmen der numerischen Toleranz der Methode rekonstruieren. Ausserdem ist zu untersuchen, ob sich die Erklärungen bei vernünftigen alternativen Hintergrundstichproben wesentlich ändern. Werden mittlere absolute SHAP-Werte berichtet, ist darauf hinzuweisen, dass sie die Grösse der Beiträge zusammenfassen und nicht aussagen, ob ein Merkmal Vorhersagen generell erhöht oder senkt. [1][2]

Illustrative Zerlegung

Angenommen, ein Modell für die Lieferzeit erklärt die Ausgabe in Tagen: Referenzvorhersage 5, Beitrag der Distanz +2 und Beitrag der Lagerverfügbarkeit −1, ergibt 5 + 2 - 1 = 6 Tage. Diese erfundenen Werte veranschaulichen die additive Buchführung; es wurde kein Modell trainiert. Sie belegen nicht, dass das Verkürzen einer realen Lieferroute genau zwei Tage einsparen würde. Andere betriebliche Variablen und die Art der Datenerhebung können das beobachtete Vorhersagemuster erklären.

Kausale Grenzen und Interpretation

Ein Vorhersagemodell kann Stellvertretermerkmale (Proxies) und Confounding-Beziehungen ausnutzen. Es getreu zu erklären, zeigt nicht, was nach einer Intervention geschehen würde. Auch eine Explainer-Einstellung namens interventional macht aus einem gewöhnlichen Vorhersagemodell kein identifiziertes Kausalmodell. Kausale Aussagen erfordern ein geeignetes Studiendesign und explizite Annahmen. [2][3]

SHAP dient dazu, das Modellverhalten zu untersuchen und Fragen für weitere Analysen zu gewinnen. Zusammen mit der Attribution sind Referenz, Ausgabeeinheiten und wichtige Sensitivitätsbefunde anzugeben. Dieser Artikel fasst Primärquellen zusammen; es wurde kein eigenes Experiment zur Erklärung durchgeführt.

Quellen

[1] Lundberg and Lee (2017): A Unified Approach to Interpreting Model Predictions

[2] SHAP API: shap.TreeExplainer

[3] SHAP: Be Careful When Interpreting Predictive Models in Search of Causal Insights