Atribuciones SHAP: valores de referencia, unidades de salida y límites causales

Qué explica SHAP

SHAP asigna contribuciones de cada variable a una predicción concreta del modelo, mediante un marco relacionado con los valores de Shapley. En una explicación aditiva, el valor de referencia más las contribuciones de las variables reconstruye la salida explicada, sujeto a los supuestos del explicador y a la aproximación numérica. Una contribución describe cómo se reparte una predicción respecto a una referencia; no es la importancia universal de una variable ni, de forma automática, un efecto causal. [1]

Elegir el objetivo de la explicación

Hay que declarar qué salida del modelo se está explicando. En un clasificador, el margen sin transformar (raw margin), la probabilidad y la pérdida son magnitudes distintas, y sus atribuciones tienen unidades diferentes. En las configuraciones compatibles de TreeExplainer, las explicaciones en probabilidad suman la probabilidad predicha, mientras que las salidas sin transformar dependen del modelo y pueden representar log odds (logaritmo de las razones de probabilidades). [2]

Especifique también los datos de fondo (background) y cómo se trata la dependencia entre variables. Cuando las entradas están correlacionadas, hay que hacer suposiciones sobre qué significa incluir o excluir una variable. Cambiar el conjunto de fondo o la configuración de dependencia puede modificar el valor de referencia y el reparto de las contribuciones. [2]

Un flujo de trabajo práctico

Antes de explicar el modelo, valide su rendimiento predictivo. Elija una población de referencia documentada y un explicador compatible, y registre la versión del modelo, la representación de las variables, la muestra de fondo y la configuración de la explicación. Revise varios casos ordinarios y casos de fallo importantes, en lugar de tomar un único gráfico atractivo como validación.

Compruebe que las contribuciones y la referencia reconstruyen la salida seleccionada dentro de la tolerancia numérica del método. Examine si las explicaciones cambian de forma apreciable con muestras de fondo alternativas razonables. Si se informa del valor SHAP absoluto medio, hay que aclarar que resume la magnitud de las contribuciones, no si una variable tiende en general a aumentar o a reducir las predicciones. [1][2]

Descomposición ilustrativa

Imagine un modelo de plazo de entrega explicado en días: predicción de referencia 5, contribución de la distancia +2 y contribución de la disponibilidad de stock −1, lo que da 5 + 2 - 1 = 6 días. Estos valores inventados ilustran la contabilidad aditiva; no se entrenó ningún modelo. No demuestran que acortar una ruta de entrega real ahorraría exactamente dos días. Otras variables operativas y la forma en que se recopilaron los datos pueden explicar el patrón de predicción observado.

Límites causales e interpretación

Un modelo predictivo puede aprovechar variables sustitutas (proxies) y relaciones de confusión. Explicarlo con fidelidad no permite identificar qué ocurriría tras una intervención. Incluso una opción del explicador llamada interventional no convierte un modelo predictivo ordinario en un modelo causal identificado. Las afirmaciones causales requieren un diseño de estudio adecuado y supuestos explícitos. [2][3]

Use SHAP para inspeccionar el comportamiento del modelo y generar preguntas que investigar. Junto con la atribución, informe de la referencia, de las unidades de la salida y de los hallazgos relevantes de sensibilidad. Este artículo sintetiza fuentes primarias; no se realizó ningún experimento local de explicación.

Fuentes

[1] Lundberg and Lee (2017): A Unified Approach to Interpreting Model Predictions

[2] SHAP API: shap.TreeExplainer

[3] SHAP: Be Careful When Interpreting Predictive Models in Search of Causal Insights