Using interpretability methods to determine when a neural network learns variable interactions

P. Morala Miguélez, J. A. Cifuentes Quintero, R. E. Lillo Rodríguez, I. Úcar Marqués

En este trabajo presentamos una comparación entre métodos de interpretabilidad aplicados a redes neuronales, especialmente aplicados a la detección de interacciones de variables. Generalmente, los métodos de interpretabilidad locales SHAP (Explicaciones Aditivas de SHapley) o LRP (Propagación de Relevancia por Capas) se han desarrollado buscando la importancia de variables por separado, pero puede ser aplicadas para intentar detectar efectos de interacciones. Veremos la comparación entre este tipo de métodos y los resultados obtenidos con NN2Poly, un nuevo método de interpretabilidad global capaz de representar redes neuronales (bajo ciertas restricciones) en forma de polinomios, de manera que es capaz de detectar las interacciones entre variables de manera explícita.

Keywords: Interpretabilidad, Redes Neuronales, Aprendizaje Automático

GT03.AMC1 Machine Learning
November 7, 2023  6:40 PM
CC2: Conference Room

M. Navarro García, V. Guerrero, M. Durbán, A. del Cerro

R. Blanquero, E. Carrizosa, N. Gómez Vargas

S. Pineda, J. M. Morales, A. Jiménez Cordero

C. D'Ambrosio, V. Guerrero, R. Spencer Trindade