![Page 1: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/1.jpg)
Metodos de Agrupamento (Clustering)
Aula 18
Prof. Dr. Paulo A. V. de MirandaInstituto de Matematica e Estatıstica (IME),
Universidade de Sao Paulo (USP)[email protected]
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 2: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/2.jpg)
Agrupamento hierarquico
Existem duas classes naturais de algoritmos para agrupamento:
◮ Agrupamento aglomerativo (agglomerative clustering):Cada item de dados e considerado como um grupo individual,e grupos sao recursivamente fundidos ate produzir um bomagrupamento final.
◮ Agrupamento por divisao (divisive clustering):Inicialmente, o conjunto de todos os dados e consideradocomo sendo um unico grupo e, em seguida ele erecursivamente dividido para produzir um bom agrupamentofinal.
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 3: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/3.jpg)
Agrupamento hierarquico
Algoritmo: Agrupamento aglomerativo (bottom-up)
Faca de cada ponto um grupo separado.Ate que o agrupamento seja satisfatorio
Junte os dois grupos com a menor distancia inter-cluster.fim
Algoritmo: Agrupamento por divisao (top-down)
Construa um unico grupo contendo todos os pontos.Ate que o agrupamento seja satisfatorio
Divida o grupo que produz os dois componentes com a maiordistancia inter-cluster.
fim
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 4: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/4.jpg)
Agrupamento hierarquico
Exemplo:
Um dendrograma nos permite reconstruir o historico de fusoes, queresultou no agrupamento representado.
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 5: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/5.jpg)
Agrupamento hierarquico
Exemplo:
Uma outra representacao e baseada em conjuntos por Diagrama deVenn.
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 6: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/6.jpg)
Agrupamento hierarquico
Exemplos de medidas de distancia D(X ,Y ) entre agrupamentos(clusters) X e Y :
Dmin(X ,Y ) = minx∈X ,y∈Y
d(x , y)
Dmax(X ,Y ) = maxx∈X ,y∈Y
d(x , y)
Davg (X ,Y ) =1
|X | · |Y |
∑
x∈X
∑
y∈Y
d(x , y)
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 7: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/7.jpg)
Agrupamento hierarquico
Exemplo:
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 8: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/8.jpg)
Agrupamento hierarquico
Exemplo: single linkage ou nearest neighbour - Dmin(X ,Y )
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 9: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/9.jpg)
Agrupamento hierarquico
Exemplo: complete linkage ou farthest neighbour - Dmax(X ,Y )
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 10: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/10.jpg)
Agrupamento hierarquico
Exemplo: single linkage ou nearest neighbour - Dmin(X ,Y )
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 11: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/11.jpg)
Agrupamento hierarquico
Exemplo: complete linkage ou farthest neighbour - Dmax(X ,Y )
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 12: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/12.jpg)
Agrupamento hierarquico
Outras maneiras de dividir o grafo da Arvore de EspalhamentoMınima em subgrafos:
Agrupamento pela remocao de arestas inconsistentes, cujocomprimento e significativamente maior do que a media de todasoutras arestas incidentes nos seus nos.
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 13: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/13.jpg)
Agrupamento hierarquico
Exemplo: Agrupamento pelo uso de dados estatısticos (e.g.,distribuicao do comprimento das arestas):
Ao apagar todas arestas com valores elevados, podemos entaoextrair os conjuntos densos como os maiores componentes conexosdo grafo restante.
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18
![Page 14: M todos de Agrupamento (Clustering ... - vision.ime.usp.brpmiranda/mac6903_2s12/aulas/aula18.pdf · M´etodos de Agrupamento (Clustering) Aula 18 Prof. Dr. Paulo A. V. de Miranda](https://reader030.vdocuments.pub/reader030/viewer/2022021801/5b1f8a5c7f8b9ab9748b4f44/html5/thumbnails/14.jpg)
Bibliografia
◮ L.M. Rocha, F.A.M. Cappabianco, A. X. Falcao,Data clustering as an optimum-path forest problem withapplications in image analysisInternational Journal of Imaging Systems and Technology, vol.19, no. 2, pp. 50-68, 2009.http://onlinelibrary.wiley.com/doi/10.1002/ima.20191/abstract
◮ L.M. Rocha, A.X. Falcao, L.G.P. Meloni,A Robust Extension of the Mean Shift Algorithm usingOptimum Path Forest,Proc. of the 12th Intl. Workshop on Combinatorial ImageAnalysis, pp. 29-38, 2008.
◮ Richard O. Duda, Peter E. Hart, David G. Stork,Pattern Classification, Segunda edicao,Wiley-Interscience Publication, John Wiley & Sons, Inc., 2001.
Prof. Dr. Paulo A. V. de Miranda Instituto de Matematica e Estatıstica (IME), Universidade de Sao Paulo (USP) [email protected] de Agrupamento (Clustering) Aula 18