Download - eXplainable Machine Learning - cs.us.es
![Page 1: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/1.jpg)
eXplainable Machine LearningSeminario (I+A)A
![Page 2: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/2.jpg)
¿Qué vamos a ver?
¿Cuáles son mis objetivos?
¿Quién soy yo?
¿Qué es el eXplainable Machine Learning y por qué es necesario?
¿Qué es la explicación?
¿Cómo podemos conseguirla con ML?
¿Me lo demuestras?
Conclusiones
?
![Page 3: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/3.jpg)
Mis Creencias, Deseos e Intenciones
Haceros ver la importancia del XML
Haceros pensar cuál es el camino correcto
¡Es mi TFG! Vuestra ayuda está genial
Enseñaros mi Bitmoji
Crear debate
Relajar el nivel
?
![Page 4: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/4.jpg)
¿Quién soy yo?
7 de Junio de 1991 - 2,7 Kg
?
![Page 5: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/5.jpg)
¿Qué es la pregunta correcta? ?
vs.
![Page 6: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/6.jpg)
TU TURNO
?
![Page 7: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/7.jpg)
ML como herramienta al conocimiento ?
![Page 8: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/8.jpg)
Ejemplos ?
vs.
![Page 9: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/9.jpg)
Regresión Lineal ?
![Page 10: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/10.jpg)
Árboles de decisión ?
![Page 11: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/11.jpg)
Bootstrap ?
T
f (x) f (x)
e1 en
...
Z
Z*1 Z*B
![Page 12: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/12.jpg)
Bagging ?
Z*1
Z*B
f*1(x)
f*M(x)
.
.
.
.
.
.
![Page 13: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/13.jpg)
Boosting ?
Training Sample
Weighted Sample
Weighted Sample
Weighted Sample
+-
+
-
-+
+
+ +
-
-
![Page 14: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/14.jpg)
Random Forest ?
Árboles de decisión + Bootstrap + BaggingT
...
Z
Z*1 Z*B
X1
X2
X3
X4
X5
X6
XP...
X3
X5
X2
X4
X2
XP
rand(x, sqrt(p)) rand(x, sqrt(p))
![Page 15: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/15.jpg)
Gradient Boosting ?
Árboles de decisión + Boosting + Descenso de gradiente
Training Sample
Weighted Sample
Weighted Sample
Weighted Sample
1 2
=
![Page 16: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/16.jpg)
SVM ?
![Page 17: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/17.jpg)
TU TURNO
?
![Page 18: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/18.jpg)
Y ¿Qué usamos? ?
https://www.kaggle.com/msjgriffiths/r-what-algorithms-are-most-successful-on-kaggle/notebook
![Page 19: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/19.jpg)
Vale, vale… ya entiendo…
vs.
?
![Page 20: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/20.jpg)
?
“Explicar un evento es proveer alguna información sobre su historia causal. En un acto
de explicación, alguien que está en posesión de alguna información sobre la historia
causal de algún evento – información explicativa, lo llamaré – intenta transmitírselo a
otra persona”.
¿Qué es la explicación? Según la filosofía...
- Lewis
![Page 21: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/21.jpg)
?¿Qué es la causalidad? Dependencia y Contrafácticos
T1 T2
C E
dependencia
C ETeoría de la regularidad de la causa
Hume, Beauchamp
![Page 23: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/23.jpg)
?¿Qué es la causalidad? Dependencia y Estadística
C E E
La teoría del intervencionismo de la causalidad.
C E P[ ]E C
La teoría probabilística.
![Page 24: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/24.jpg)
?¿Qué es la causalidad? Cadenas causales
C1
C2
C3
C4
E
![Page 25: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/25.jpg)
TU TURNO
?
![Page 26: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/26.jpg)
?¿Por qué necesitamos explicación?
PARA APRENDER
![Page 27: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/27.jpg)
?¿Por qué necesitamos explicación?
“Las explicaciones tienen un rol en el aprendizaje inferencial porque son
explicaciones, no sólo revelan información causal”
- Lombrozo
![Page 28: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/28.jpg)
?¿Por qué necesitamos explicación?
● Encontrar sentido para disminuir las contradicciones o
inconsistencias entre elementos de nuestra estructura de
conocimiento.
● Gestionar interacciones sociales para crear un significado
compartido de algo
- Malle
![Page 29: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/29.jpg)
TU TURNO
?
![Page 30: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/30.jpg)
?La explicación contrastiva
¿Por qué en lugar de ?P Q
evento objetivo caso contrafáctico
hecho foil Lipton
![Page 31: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/31.jpg)
?Procesos cognitivos. Atribución social
La atribución social es la percepción de la persona.
- Helder
![Page 32: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/32.jpg)
?Procesos cognitivos. Psicología popular
Aunque no son las verdaderas causas del comportamiento humano, son las que se usan para modelar y
predecir el comportamiento de los demás.
1. Precondición de la acción
2. La acción en sí misma
3. Los efectos de la acción
![Page 33: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/33.jpg)
?Procesos cognitivos. BDI
● Creencias
● Deseos
● Intenciones
COMPRENDER
PREDECIR
EXPLICAR
- Kashima
![Page 34: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/34.jpg)
?Procesos cognitivos. Normas y Moral
Efecto de Knohe
- Uttich y Lombrozo
![Page 35: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/35.jpg)
TU TURNO
?
![Page 36: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/36.jpg)
?Explicación Social.
“Hay tantas causas de x como explicaciones de x. Considerar cómo la causa de la muerte pudo haber sido
establecida por el médico como ‘hemorragia múltiple’, por el abogado como ‘negligencia por parte del
conductor’, por el fabricante de coches como ‘defecto en la construcción de los frenos’, por un ingeniero civil
como ‘la presencia de arbustos altos en ese momento’. Ninguno es más cierto que cualquiera de los otros,
pero el contexto particular de la pregunta hace de algunas explicaciones más relevantes que otras.”
- Hanson
![Page 37: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/37.jpg)
?Explicación Social. Mutabilidad
Anormalidad
- Heurísticos de simulación. Kahneran y Tversky
Q Q
![Page 38: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/38.jpg)
?Explicación Social. Mutabilidad
Temporalidad
- Miller y Gunasegaram
C1
C2
C3
C4
C5
![Page 39: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/39.jpg)
?Explicación Social. Mutabilidad
Norma
- McCloy y Byme
![Page 40: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/40.jpg)
?Explicación Social. Mutabilidad
k-propiedades y t-propiedad
conexiones de principios
- Prasada y Dilinghan
Eres un personaje de los Simpsons si...
conexiones fácticas
Anomalía
2D
![Page 41: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/41.jpg)
?Explicación Social. Selección
- Hesslow <- Lipton le apoya
a{ E }
R
R
R
R
R
R1
R
R
Clases de referencias
![Page 42: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/42.jpg)
?Explicación Social. Selección
Anormalidad
- Hilton y Slugoski. Modelo de condiciones anómalas
C C
CCC
CC C
![Page 43: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/43.jpg)
?Explicación Social. Evaluación
● Probabilidad. No siempre la más probable o verdadera es la mejor (Hilton): Juzgan más
por su utilidad o relevancia
● Simplicidad
● Generalización
● Coherencia con creencias previas (Teoría para la coherencia explicativa - Thagard)
![Page 44: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/44.jpg)
TU TURNO
?
![Page 45: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/45.jpg)
?Interpretación agnóstica de modelos
● Flexibilidad del modelo
● Flexibilidad de la explicación
● Flexibilidad en la representación
![Page 46: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/46.jpg)
?Contribución de características
p
c
El número de instancias que pasa por p que pertenece a la clase Ck
![Page 47: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/47.jpg)
?L.I.M.ELocal Interpretable Model-agnostic Explanations
1. Se centra en una instancia o conjunto de ellas de la misma clase y crea
datos fake a partir de ellas.
2. Calcula la distancia entre los datos fake y los reales.
3. Usa el modelo black-box para crear las predicciones del nuevo dataset
4. Con distintos modelos conoce las m características más importantes
(Lasso)
5. Crea un regresor lineal para sacar los coeficientes
6. Crea una explicación con esos coeficientes
![Page 48: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/48.jpg)
?Detección automática de ciberbullying
![Page 49: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/49.jpg)
?Datos
2000 tuplas con dataset compensado
![Page 50: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/50.jpg)
?Modelos
![Page 51: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/51.jpg)
?Interpretación
Primer árbol de RF de 100!
![Page 52: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/52.jpg)
?InterpretaciónCiberbullying
![Page 53: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/53.jpg)
?Interpretación
![Page 54: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/54.jpg)
?Explicación
“Today I see you with your boyfriend... doesn’t matter. you're still a fake bitch.”
SVM RF GBM
![Page 55: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/55.jpg)
?Explicación
“Today I see you with your boyfriend... doesn’t matter. you're still a fake bitch.”
RF GBM
![Page 56: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/56.jpg)
?Explicación
“Today I see you with your boyfriend... doesn’t matter. you're still a fake bitch.”
t-propiedades(con. fácticas)
k-propiedades(con. de principios)
![Page 57: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/57.jpg)
?Explicación
“Today I see you with your sister... doesn’t matter. you're still a fake bitch.”
![Page 58: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/58.jpg)
?Explicación
“Today I see you with your boyfriend... doesn’t matter. you're still a beautiful princess.”
![Page 59: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/59.jpg)
?Conclusiones...
ROPINION
![Page 60: eXplainable Machine Learning - cs.us.es](https://reader036.vdocuments.pub/reader036/viewer/2022081522/62bb78d8fbf97f04d46691f7/html5/thumbnails/60.jpg)
¡GRACIAS!
Sergio Jiménez Barrio