list ranking: um estudo experimental dissertação de mestrado orientando: guilherme pereira vanni...
TRANSCRIPT
List Ranking: Um Estudo Experimental
Dissertação de Mestrado
Orientando: Guilherme Pereira Vanni
Orientador: Prof. Siang Wung Song
Departamento de Ciência da Computação
Instituto de Matemática e Estatística
Universidade de São Paulo
Introdução
Definição
Lista ligada: uma seqüência de nós tal que cada nó aponta para outro nó, chamado seu sucessor, e não há ciclo em tal lista.
O problema de List Ranking consiste em determinar o rank para todos os nós, isto é, a distância para o último nó da lista.
6 5 4 3 2 1 0Rank:
4 2 0 5 1 6 3
Importância
Síntese de algoritmos paralelos para grafos
[Reif 1993]
Modelo CGM
- Arquitetura: Memória distribuída.
- Problema de tamanho n
- p processadores cada um com memória local O(n/p).
- Rodada de computação + rodada de comunicação.
- Em cada rodada cada processador envia e recebe O(n/p) dados.
- Algoritmo eficiente minimizar o nº rodadas de comunicação bem como o tempo de computação local total.
- parâmetros: n e p.
Algoritmos paralelos CGM para LR
Autor Número de Rodadas Algoritmo
Denhe e Song O(log p + log log n) probabilístico
Denhe e Song O(ln* n log p) probabilístico
Sibeyn O(p) determinístico
Denhe et al. O(log p) determinístico
Lista ligada armazenada em 4 proc.
P1 P2 P3 P4
1º
n
Algoritmo seqüencial O(n).
2 2 2 2 2 2 1 0
4 4 4 4 3 2 1 0
7 6 5 4 3 2 1 0
1 1 1 1 1 1 1 0
Algoritmo paralelo usando “pointer jumping” O(log n).
Cada sucessor pode estar em outro proc. O(log n) rodadas de comunicação.
m = distância máxima entre 2 pivôs
m <= 3 p ln n com alta probabilidade
nó da amostra = pivô
Prob. {m > c(3 p ln n)} <= 1/ n^c, c >2
Amostra: cada nó é escolhido com probabilidade de 1/p.
[Dehne e Song 1997]
Algoritmo Probabilístico - nomenclatura
mnextPivot(x)
distToPivot(x)
x
nextPivot(x) = pivô mais próximo a direita
distToPivot(x) = distância entre x e nextPivot(x)
List ranking modificado
Determinar para cada x:
nextPivot(x) e distToPivot(x)
Algoritmo Probabilístico
1. Cada processador seleciona nós como pivô com probabilidade 1/p.
2. Todos processadores resolvem o problema do list ranking Modificado.
3. Os valores de nextPivot(x) e distToPivot(x) de todo pivô são enviados de cada processador a todos os outros.
4. Cada processador resolve seqüencialmente o problema do list ranking para seus nós.
n – nós, p – processadores, O(n/p) – nós por processador
passo nº rodadas
1 –
2 log 3 p + log ln n
3 1
4 –
total 1 + log 3 p + log ln n
O(log p + log log n) rodadas de comunicação com alta prob.
Número de rodadas do algoritmo
r-ruling set: subconjunto de elementos selecionados de L, onde:
1. Dois vizinhos nunca são selecionados.
2. A distância de qualquer elemento ao próximo elemento selecionado é no máximo r.
L
R
3 2 3 2 2
Exemplo: uma lista L e um 3-ruling set R
Algoritmo Determinístico - definições[Dehne et al. 2002]
Algoritmo Determinístico
5. Calcular em cada processador os ranks dos seus elementos.
1. Computar O(p²)-ruling set R com |R| = O(n/p).
2. Fazer um broadcast de R para todos os processadores.
3. Calcular seq., em cada processador o List Ranking de R.
4. Obter para (L - R) a dist. para o próx. elemento de R (pointer jumping).
12 9 7 4 2
3 2 3 2 2
2 1 1 2 1 1 1
12 9 7 4 2
12 11 10 9 8 7 6 5 4 3 2 1
12 9 7 4 2
Número de rodadas do algoritmo
passo nº rodadas
1 log p ?
2 log p
3 –
4 log p²
5 –
total 2 log p + log p²
O(log p) rodadas de comunicação
O(p²)-ruling set
Rotular cada elemento de L com o índice do processador no máximo p rótulos
L(s[i])
L(i) L(s[s[i]])
s[i] é um máximo local
distância máxima de 2 (p - 1)p-1 p-1
nº máx. de elementos selecionados = O(n)
Quebra de simetria
Denote por s[i] o sucessor do elemento i
Selecionar inicialmente todos os máximos locais
Algoritmo para determinar O(p²)-ruling set
1. Marcar todos os elementos da lista como nós não selecionados.
2. Para todo i em L fazer em paralelo Se L(i) < L(s[i]) > L(s[s[i]]) então marcar s[i] como selecionado.
3. Seqüencialmente, em cada processador, processar as sublistas de elementos subseqüentes que estão armazenados no mesmo processador. Para cada sublista, marcar todo segundo elemento. Se a sublista tem somente dois elementos, e ambos os vizinhos não possuem um rótulo menor, marcar os elementos da sublista como não selecionado.
4. Para k = 1 ... log p fazer
4.1. Para todo elemento i em L fazer em paraleloSe s[i] é não selecionado então
s[i] s[s[i]].
4.2. Para todo elemento i em L fazer em paralelo Se (i, s[i], s[s[i]] são selecionados) e not ( L(i) < L(s[i]) > L(s[s[i]]) ) e ( L(i) <> L(s[i]) ) e ( L(s[i]) <> L(s[s[i]]) ) então marcar s[i] como não selecionado.
4.3. Seqüencialmente, em cada processador, processar as sublistas de elementos selecionados subseqüentes da lista que estão
armazenados no mesmo processador. Para cada sublista marcar todo segundo elemento como não selecionado. Se a sublista tem apenas dois elementos e ambos os vizinhos não possuem rótulos menores, então
marcar ambos elementos da lista como não selecionado.
5. Marcar o último elemento como selecionado.
Algoritmo O(p²)-ruling set (continuação)
Resultados Experimentais
Reid-Miller algoritmos PRAM com resultados satisfatórios para o Cray C-90, mas específicos para a máquina.
Gustedt apresenta dois algoritmos CGM (PC-cluster): probabilístico e um determinístico.
Sibeyn algoritmo CGM com O(p) rodadas de comunicação. Para p = 36 e n = 600 mil aceleração de aproximadamente 5.
Chan e Dehne algoritmo com O(log p) rodadas de comunicação. Resultados conhecidos mais eficientes.
Tempo de execução por elemento para o programa determinístico
Gustedt - desempenho do programa determinístico
Gustedt - desempenho do programa probabilístico
Tempo de execução por elemento para o programa probabilístico
Curva dos tempos observados na plataforma ultra (switch de 100Mb)
Chan e Dehne - desempenho do programa determinístico
Curva dos tempos observados na plataforma thoga (switch de 1Gb)
Chan e Dehne - desempenho do programa determinístico
0
2
4
6
0 2 4 6 8
No. Processadores
Se
gu
nd
os
Total
Comp
Comum
Resultados obtidos neste trabalho
Programa Probabilístico com n = 1M
Curva dos tempos observados para o algoritmo probabilístico com entrada n = 1M.
0
20
40
60
80
100
0 2 4 6 8
No. Processadores
Se
gu
nd
os
Total
Comp
Comum
Resultados obtidos neste trabalho
Programa Probabilístico com n = 32M
Curva dos tempos observados para o algoritmo probabilístico com entrada n = 32M.
0
1
2
3
4
2 4 6 8
No. Processadores
Ace
lera
ções
Resultados obtidos neste trabalho
Programa Probabilístico com n = 32M
Acelerações (speedups) obtidas para o algoritmo probabilístico para n = 32M.
0
20
40
60
80
100
120
0 2 4 6 8
No. Processadores
Se
gu
nd
os
Total
Comp
Comum
Resultados obtidos neste trabalho
Programa Determinístico com n = 32M
Curva dos tempos observados para o algoritmo determinístico com entrada n = 32M.
0
20
40
60
80
100
120
0 2 4 6 8
No. Processadores
Se
gu
nd
os
Total
Comp
Comum
Resultados obtidos neste trabalho
Programa Determinístico Modificado com n = 32M
Curva dos tempos observados para o algoritmo probabilístico com entrada n = 32M.
Conclusão
• Os dados experimentais obtidos mostram um desempenho satisfatório dos programas.
• Os programas são mais eficientes para maiores valores da entrada (n).
• O tempo de execução diminui com o aumento do número de processadores, exceto para n = 1M, onde o tempo de comunicação não é compensado pela quantidade de dados. Para p = 8 e n = 16M todos os programas paralelos são mais rápidos que o programa seqüencial.
• Programa determinístico modificado é um pouco mais rápido que o programa determinístico.
• A implementação do algoritmo probabilístico (que possui na teoria maior número de rodadas de comunicação) obteve melhor desempenho que a do algoritmo determinístico.