1 diplomado "gestión de negocios con data warehouse y data mining". clase 2 técnicas y...

1

Diplomado "Gestión de Negocios con Data Warehouse y Data

Mining".

Clase 2 Técnicas y conceptos de

modelamiento

José Antonio Lipari A.

2

Tipos de problemas en Data Mining

Problemas

ClasificaciónRegresión

Agrupamiento

Reglas de asociación

Análisis correlacional

Predictivos (supervisados)

Descriptivos

(no Supervisados)

3

Tipos de problemas

Predictivo

(Supervisado)

Descriptivo

(No supervisado)

Se sabe lo que se busca

No se sabe lo que se busca

Se utiliza información histórica para ajustar un modelo

Se utiliza información disponible en busca de recurrencias o similitudes

4

Problemas Predictivos o Supervisados

Modelos de Clasificación

Buscan Predecir un clase a partir de la información disponible

Modelos de regresión

Buscan predecir un valor continuo a partir de la información disponibles

5

Problemas Descriptivos no supervisados

Agrupamiento (clustering)

Busca formar grupos que reúnen a elementos con características comunes

Reglas de asociaciónBusca identificar reglas que involucran la ocurrencia de eventos simultáneos.

Análisis correlacionalBusca identificar correlaciones entre variables de interés

6

Ejemplos:

Se requiere conocer la demanda de yogurt de frutilla diaria en un supermercado Problema supervisado de

regresión

Se requiere saber con un mes de anticipación si un clientes renunciará a la compañía.Problema Predictivo de clasificación

Se requiere segmentar la base de clientes de un banco para ofrecer productos diferenciados

Problema no supervisado de agrupamiento

7

Ejemplos

Se requiere saber que productos se venden juntos en un supermercado

Problema descriptivo de reglas de asociación

Se requiere saber que factores influyen en el riesgo de contraer cáncer al pulmón

Modelo no supervisado de análisis correlacional

Método versus algoritmo

Un método es una forma de conceptualizar la resolución de un problema de Data Mining. Un método puede permitir la resolución de distintos problemas de Data Mining mediante el uso de distintos algoritmos

9

Árboles de decisión

Método Concepto

Realizar divisiones sucesivas al conjunto de datos disponible

Redes neuronales

Utilizar una simulación matemática de las neuronas que permiten el aprendizaje humano

Estimar un conjunto de constantes que pertenecen a un polinimio de grado 1

Regresión lineal

10

Concepto Algoritmo

Utilizar una simulación matemática de las neuronas que permiten el aprendizaje humano

Perceptron Multicapa ,utilizado en problemas supervisados

Mapas auto-organizados de Kohonen, utilizado en problemas no supervisados

“REDES NEURONALES”

11

El problema de identificar un patrón

Un patrón puede tener cualquier forma y complejidad, la elección del método adecuado puede hacer la diferencia entre identificar un patrón o No (la detección de un patrón puede requerir la elección de un método adecuado).

Por lo tanto, es importante entender en términos generales como funcionan los distintos métodos utilizados en Data Mining, y comprender sus ventajas y desventajas

12

Patrón discontinuo

13

Patrón Lineal

14

Patrón no lineal

15

Patrón en espiral

16

Conceptos importantes en la detección de patrones

Sobre ajuste: Situación en la que un modelo predictivo aprende con demasiada fidelidad el comportamiento de los datos perdiendo generalidad y por lo tanto disminuye la calidad de predicciones futurasPara enfrentar el sobre ajuste, por lo general, se dividen los datos disponibles en validación, entrenamiento y testeo, de esta formar se rescatan únicamente los patrones que aparecen en las bases de entrenamiento y validación, para finalmente evaluar el modelo con la base de testeo .

17


Sobre Muestro: Técnica utilizada cuando la ocurrencia del fenómeno a predecir es muy baja, por ejemplo, la fuga de clientes es del orden de 0,5% contra un 99,5% de no fugados.

En este caso se acostumbra modificar la proporción de fugados (sobremuestreo) hasta llegar a 50% fugados y 50% no fugados. Por lo general esta técnica facilita la detección de patrones y disminuye los tiempos de proceso.

18


Outliers o datos fuera de rango: Se trata de registros que presentan valores que se alejan por mucho de los rangos de normalidad. Por ejemplo, clientes con edades de 1.500 años

Esta clase de registros pueden distorsionar mucho el ajuste de los modelos predictivos , por lo que generalmente son eliminados

19

Principales métodos y algoritmos utilizados en Data Mining

K-medias


Regresión Lineal y Logística

Redes Neuronales

Reglas de Asociación

Vector Suport Machine

20

Algoritmo K medias

El algoritmo K medias, identifica los centros de un número datos de grupos o cluster ( C ) , a partir de los cuales es posible asignar un grado de pertenencia de cada elemento del conjunto a cada uno de los C cluster definidos.

Este algoritmo es usado en problemas no supervisados de agrupamiento.

21

Concepto de lógica difusa o Fuzzy Logic

Este concepto da una definición “difusa” de pertenencia a un conjunto, a diferencia de la logica tradicional en que un elemento pertenece o no pertenece a un conjunto, en lógica difusa un elemento tiene distintos grados de pertenencia a todos los conjuntos.

22

Por ejemplo, si segmentamos la base clientes de un banco, según la edad.

Joven Adulto

25 18 30

Joven

Adulto

24 años 365 días25 años

50% joven 50%

adulto

49% joven 51%

adulto

Lógica tradicional Lógica difusa

23

1. Determina una matriz U con ui,j [0,1; =1

2. Determina los centros de las clases:

cj =

3. Actualiza los grados de pertenencia:

ui,j = Uk = matriz en iteración k

4. Criterio para detener: Uk+1 - Uk <

c

k ki

jim

cxdcxd

1

1

2

),(),(

1

n

i

ji

n

i

iji

m

m

u

xu

1

,

1

,

c

j

jiu1

,

Etapas del algoritmo K-medias

24

C= 2 (2 clases) Iteración 0

Se cuenta con un conjunto de datos y se desea encontrar 2 clases o cluster

25


C1

C2

En la primera iteración se asignan aleatóriamente 2 centros de cada clase y se asocia cada elemento como perteneciente a la clase del centro mas cercano.

26


C1

C2

En la segunda iteración se reposicionan los centros en las coordenadas promedio de los elementos pertenecientes a su clase y luego se reasignan los elementos pertenecientes a cada clase.

27


C1 C2

En la tercera iteración se repite lo mismo que en la iteración anterior y se seguirá repitiendo hasta que se cumpla con la condición de salida

28


C1C2

Finaliza el proceso iterativo porque los centros se mueven menos que un mínimo definido (condición salida)

29


El método consiste en realizar sucesivas particiones o “ramificaciones” sobre los datos con el objetivo de formar subconjuntos de datos o “hojas” en las que existan, idealmente, elementos de solo una clase

Pueden ser usados en problemas supervisados tanto de regresión como de clasificación

30

Tronco

Ramas

Hojas

Todos los datos

Particiones

Subconjuntos de clases puras idealmente

31

Principales características (árboles de decisión)Son fáciles de entender

Las reglas extraídas son fácilmente programables por lo que es fácil aplicar las predicciones

Son poco intensivos en uso de recursos computacionales

Pueden ser utilizados con muchas variables y gran cantidad de datos

No se requieren datos muy depurados

En muchos casos se utilizan para seleccionar las variables de mayor importancia para realizar una predicción

32

Regresión lineal

El método consiste en ajustar un polinomio de grado 1 con los datos disponibles

Puede ser usada en problemas supervisados de clasificación y regresión.

34

Principales características de la regresión lineal

Una vez identificadas las constantes del polinomio son fáciles de implementar

Son bastante intensivas en uso de recursos computacionales

Entregan información adicional sobre correlaciones entre las variables utilizadas, lo que resulta muy útil para entender el fenómeno a predecir

35

Redes Neuronales

El método consiste en una simulación matemática del método de aprendizaje que ocurre en el cerebro humano

Se utiliza normalmente en problemas supervisados de clasificación y regresión, además hay algunas aplicaciones en problemas no supervisados de agrupamiento.

36

Natural

Conexiones con pesos

Neurona

Artificial

Redes Neuronales

37

Entrenamiento de una red neuronal

1 Se presentan los datos de un registro

4 Se repiten los pasos 123 para el siguiente registro

3 Se modifican los valores de la constantes

2 Se evalúa la diferencia con variable objetivo

5 Se repiten los pasos 1234 hasta que la diferencia del error entre validación y entrenamiento se mayor que un cierto límite

Conexiones con pesos

Neurona

38

Principales características

Si se utiliza una topología de red adecuada una red neuronal es capaz de ajustarse a cualquier función no lineal por lo que potencialmente son capaces hacer muy buenas predicciones

Son muy complejas de entender y no entregan información derivada para entender el problema

Las predicciones realizadas con redes neuronales son difíciles de implementar sin uso de un software adecuado

Son muy intensivas en uso de recursos

Su uso requiere datos muy depurados

39


El método consiste en identificar un conjunto de reglas que se observan con cierta recurrencia en los datos, para seleccionar las reglas relevantes se utilizan dos conceptos que son la confianza y soporte.

Este método se utiliza en problemas no supervisados de reglas de asociación.

40


“Confianza”: La regla X ==>Y tiene “confianza” c si c% de las transacciones en T con X también contienen Y.

Ejemplo: Productos : {1, 2, 3, 4, 5} Transacciones : T = {(1, 3, 4), (2, 3, 5), (1, 2, 3, 5), (2, 5)}(2, 3) ==> (5) tiene “confianza” 100% (2 de 2 transacciones que contienen (2, 3)

también contienen (5))

41

“Soporte”:La regla X==>Y tiene “soporte” s en el conjunto de transacciones D si s% de las transacciones en T contienen (X e Y).

Ejemplo: Productos : {1, 2, 3, 4, 5} Transacciones : T = {(1, 3, 4), (2, 3, 5), (1, 2, 3, 5), (2, 5)}

(2, 3) ==> (5) tiene “support” 50% (2 de 4 transacciones de T contienen (2, 3, 5))


42

Podemos decir, entonces, que la Confianza nos indica que tan fiable es una regla y el Soporte nos indica cuan importante es esta regla dentro del total de transacciones.

Utilizando estos 2 indicadores podemos seleccionar las reglas que nos interezará gestionar.


43

Son fáciles de entender, verificar y demostrar económicamente.

Son poco intensivas en uso de recursos

No requieren datos muy depurados


44

Vector suport machine

(maquinas de soporte vectorial)

Este es un método busca mejorar lo realizado por los métodos mencionados antes, el objetivo es lograr la mejor clasificación consiguiendo además la mayor generalidad posible, es decir, minimizar el sobre ajuste.

Es usado por general en problemas supervisados de clasificación

45

V1

V2 Árbol 1 Árbol 2

Regresión 1

Regresión 2

?

46

V1

V2 Vector suport machine

D

D

Máxima generalidad en la solución

47


Es intensivo en uso de recursos

Las reglas encontradas son difíciles de entender

Requiere datos depurados

La predicción es difícil de aplicar sin uso de software apropiado

Potencialmente es capaz de generar mejores modelos predictivos que los otros método estudiados

48

FIN

1 diplomado "gestión de negocios con data warehouse y data mining". clase 2 técnicas y...

Documents