prof. amit bhaya, programa de engenharia elétrica, coppe ...amit/cpaadia1.pdf · 2 conteúdo do...
TRANSCRIPT
![Page 1: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/1.jpg)
1
Computação Paralela: Algoritmos e Aplicações
Prof. Amit Bhaya,Programa de Engenharia Elétrica, COPPE/UFRJ
09/05/2000 -- 12/05/2000
![Page 2: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/2.jpg)
2
Conteúdo do minicursoConteúdo do minicurso•Computação paralela e de alto desempenho. Taxonomia básica. A experiência da COPPE.• Justificativa e ganhos com o paralelismo.•Algoritmos numéricos paralelos síncronos eassíncronos.•Modelos matemáticos. Análise de convergência.Exemplos.• Resolução de sistemas complexos de grande porte.•Algoritmos combinados. Critérios de partição.•Distribuição de carga. Exemplos.• Técnicas de otimização natural. Meta-heurística.• Adequação às máquinas paralelas e de altodesempenho.•Exemplos.• Perspectivas futuras . Novas Aplicações.•Discussão final. Avaliação.
![Page 3: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/3.jpg)
3
HIPÓTESESHIPÓTESES
Os alunos (não) têm noções de computação paralela – o grupo é heterogêneo
Os alunos têm algum conhecimento de métodos numéricos simples
![Page 4: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/4.jpg)
4
BibliografiaBibliografia
!T.L. Freeman & C. Phillips, “Parallel Numerical Algorithms”, Prentice Hall,1993*
•F.Thomson Leighton, “Introduction to Parallel Algorithms and Architectures:Arrays. Trees. Hypercubes, Morgan Kaufmann Publishers, 1992•Dan I. Moldovan, “Parallel Processing from Applications to Systems”, MorganKaufmann Publishers, 1993•Daniel E. Lenoski & Wolf-Dietrich Weber, “Scalable Share-MemoryMultiprocessing”, Morgan Kaufmann Publishers, 1995•Geoffrey G. Fox, Roy D. Williams and Paul C. Messina, “Parallel ComputingWorks!”, Morgan Kaufmann Publishers, 1994•Russ Miller & Quentin F. Stout, “Parallel Algorithms for Regular Architectures:Meshes and Pyramids”, MIT Press Cambridge, 1996•Kai Hwang, “Advanced Computer Architecture: Parallelism, Scalability,Programmability”, McGraw-Hill Series in Computer Engineering, 1993•A. Cichocki & R. Unbehauen, “Neural Networks for Optimization and SignalProcessing”, John Wiley & Sons, 1993•Artigos
Obs.: A cada ano os livros vão ficando rapidamente obsoletos
![Page 5: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/5.jpg)
5
Noções e conceitosNoções e conceitos
•Noções e Conceitos de Paralelismo /Taxonomia / Arquiteturas (fundamentos)
•Algumas considerações sobre software
•Paralelismo na resolução (iterativa) deequações simultâneas
•Condições de convergência assíncrona
![Page 6: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/6.jpg)
6
ParalelismoParalelismo
O paralelismo é natural no dia a dia !!
Exemplos:
"""" Caixas de supermercado ou banco
♦ pouca ou nenhuma comunicação entre osagentes
♦ com supervisor/ou não
♦ múltiplas tarefas/ou não
![Page 7: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/7.jpg)
7
Paralelismo (continuação)Paralelismo (continuação)
Serviço de despertador (7h)
♦ não pode ser feito sequencialmente (porrazões óbvias)
♦ nenhuma comunicação entre os agentes
♦ embarassing parallelism
" Aula de ginástica
ginastas líder/instrutor/coordenador
mesmas “operações”/sincronizadamente
![Page 8: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/8.jpg)
8
No contexto dos computadoresNo contexto dos computadores
Pergunta: se é tão comum e importante porque éque os computadores eram puramente sequenciais?
Resposta: o paralelismo trazia problemas extras de:
comunicaçãosincronizaçãohardware/software
que somente mais recentemente foram resolvidos.
![Page 9: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/9.jpg)
9
No contexto dos computadores( continuação)No contexto dos computadores( continuação)
O modelo de Von Neumann de apenas uma CPU
Memória CPU
execução
(uma instrução a cada intervalo de tempo)
![Page 10: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/10.jpg)
10
No contexto dos computadores( continuação)No contexto dos computadores( continuação)
Mais tarde surgiram os “Pipelines”
Performance :• Megaflops (Millions of floating pointoperations per second)• Mips Millions of instructions per second)
Nominais (pico)X
Linpack (benchmark)
![Page 11: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/11.jpg)
11
Evolução de computadores.Evolução de computadores.
#1946 – ENIAC Pennsylvania
#1953 – IBM 701
#(Evolução nos semicondutores)
# 1975 – CRAY – supercomputadores ( Megaflops)
# 1985 – CRAY 2/Y-MP (Gigaflops)
♦ paralelismo limitado♦ paralelismo a nível de instruções básicas/pipelines♦ unidades de processamento poderosas ecaras/trabalhando em paralelo
Objetivo # (Teraflops)
![Page 12: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/12.jpg)
12
Evolução de computadores.( contimuação )Evolução de computadores.( contimuação )
Caltech cube (Fox)
# 1985 – Multiprocessadores/Intel (128 nós)/N Cube etc.
♦ arranjos de múltiplos processadores/CPU’s♦ para competir com o preço dos supercomputadores (namesma faixa de Flopagem)
#Hoje a Silicon Graphics/CRAY aumenta o número deprocessadores
#Tendência é de Multiprocessadores/Multicomputadores/ escaláveis (centenas de nós)
♦ a programação dependente das arquiteturas?♦ algoritmos clássicos necessitam ser rederivados?
![Page 13: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/13.jpg)
13
Evolução de alguns computadores de alto desempenhoEvolução de alguns computadores de alto desempenho
![Page 14: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/14.jpg)
14
Processadores vetoriais (com Pipelines)Processadores vetoriais (com Pipelines)
Cada instrução é dividida em quatro fases
−busca de instrução−cálculo do endereço do operando−busca do operando−operação aritmética
♦ Algumas dessas fases podem ser feitas concorrentemente
(pipelining in vector operations)
CRAY $$$$ (system and pipeline/paralelismo)*
discussão da taxonomia shared/distributed/vector ficou misturada, todavia éutilizada como referênciaFUJITSU
HITACHI (CRAY 1 (SIMD)) #### (CRAY 2 MIMD))NEC
![Page 15: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/15.jpg)
15
Processadores vetoriais (com Pipelines)Processadores vetoriais (com Pipelines)
![Page 16: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/16.jpg)
16
Evolução de flopagemEvolução de flopagem
![Page 17: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/17.jpg)
17
Objetivos do ParalelismoObjetivos do Paralelismo
♦ Reduzir tempos
(Possibilidades de cálculos em “tempo real”) / simulação emtempo real. Meteorologia. Previsão de tempo (em tempo hábil).
•Viabilizar a resolução de problemas que nãopoderiam ser considerados anteriormente
•Maior precisão (no mesmo tempo)
(refinar malhas)
•superar limites físicos na velocidade deprocessamento sequencial
Desejável ➜➜➜➜ (1015 operações por segundo)
Hoje ➜➜➜➜ (109 operações por segundo)
![Page 18: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/18.jpg)
18
Aplicações mais usuaisAplicações mais usuais
♦ Previsão do tempo/simulação de fenômenos globais(El Niño)♦ Engenharia: modelos de turbulência/aviões♦ Física do plasma: gases ionizados em altastemperaturas♦ Ciência dos Materiais, “Automated Reasoning”♦ Economia: modelos nacionais♦ Inteligência Artificial♦ Sistemas de Defesa
Obs.: (MULTI + vector )
(VECTOR + multi)
![Page 19: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/19.jpg)
19
Aplicações mais usuaisAplicações mais usuais
![Page 20: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/20.jpg)
20
Aplicações de Computação de Alto DesempenhoAplicações de Computação de Alto Desempenho
![Page 21: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/21.jpg)
21
Mercados da Silicon GraphicsMercados da Silicon Graphics
![Page 22: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/22.jpg)
22
Capacidade de MemóriaCapacidade de Memória
10 Mb
1 Gb
100 Gb
Airfoil
1980
48- Hour
WeatherOil Reservoir
Modeling
1988
3d plasmaModeling
10 Gb
1991
1000 Gb
Global change.Human genone.
Fluid turbulence.VehicicleDinamics .
Oceancirculation.
viscous FluidsDynamics.
super conductormodeling.
Semiconductormodeling.
Quantumchromodynamicsvision.
StructuralBiology
PharmaceuticalDesign
ChemicalDynamics
1995 and beyond
100 Moflops 1 Gflops 10 Gflops 1 TflopsSystem speed
Memory capacity
1993
100 Gflops
![Page 23: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/23.jpg)
23
Linguagem de programação no ambiente paraleloLinguagem de programação no ambiente paralelo• “vetorial” #### mais software disponível
•“paralelo” #### menos software disponível
• Em geral são extensões (versões paralelas)
FORTRAN / (90) (vector)PASCAL /BASIC /C /ADA /OCCAM / (Transputers) (message passing) 80’s
•Compiladores têm a capacidade de gerar um código paralelo a partir de um códigosequencial (vetorização)
BIBLIOTECAS BLAS
BASICLINEARALGEBRASUBPROGRAMS
![Page 24: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/24.jpg)
24
Estilos de ProgramaçãoEstilos de Programação
![Page 25: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/25.jpg)
25
Programação ParalelaProgramação Paralela
![Page 26: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/26.jpg)
26
Taxonomia de FlynnTaxonomia de Flynn
•Classificação baseada nas relações entre dados e instruções
•Single instruction stream -- single data stream (SISD)
( Modelo de Von Neumann )
•Single stream-- multiple datas stream (simd)
•( inclui máquinas do tipo array )
•Multiple instruction stream -- multiple data stream ( mimd )
•( Os sistemas multiprocessadores mais difundidos )
Ponto de partida util.
![Page 27: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/27.jpg)
27
ArquiteturasArquiteturas
![Page 28: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/28.jpg)
28
Arquiteturas (continuação)Arquiteturas (continuação)
![Page 29: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/29.jpg)
29
Arquiteturas (continuação)Arquiteturas (continuação)
![Page 30: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/30.jpg)
30
Sistemas de memória localSistemas de memória local
![Page 31: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/31.jpg)
31
Arquiteturas híbridasArquiteturas híbridas
![Page 32: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/32.jpg)
32
Arquiteturas híbridasArquiteturas híbridas
![Page 33: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/33.jpg)
33
Arquitetura hipercúbicaArquitetura hipercúbica
![Page 34: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/34.jpg)
34
Arquitetura hipercúbicaArquitetura hipercúbica
![Page 35: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/35.jpg)
35
Arquitetura de transputerArquitetura de transputer
![Page 36: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/36.jpg)
36
Arquiteturas do ponto de vista de programasArquiteturas do ponto de vista de programas
![Page 37: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/37.jpg)
37
Array de trnasputersArray de trnasputers
![Page 38: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/38.jpg)
38
Conexão via barramentoConexão via barramento
![Page 39: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/39.jpg)
39
Conexão via chaves “crossbar”Conexão via chaves “crossbar”
![Page 40: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/40.jpg)
40
Redes de interconexãoRedes de interconexão
![Page 41: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/41.jpg)
41
Redes de interconexãoRedes de interconexão
![Page 42: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/42.jpg)
42
Redes de interconexãoRedes de interconexão
![Page 43: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/43.jpg)
43
Redes de interconexãoRedes de interconexão
![Page 44: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/44.jpg)
44
Comparação de arquiteturas (tempo)Comparação de arquiteturas (tempo)
![Page 45: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/45.jpg)
45
Arquitetura heterogêneaArquitetura heterogênea
![Page 46: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/46.jpg)
46
Tipos de paralelismo (granularidade)Tipos de paralelismo (granularidade)
![Page 47: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/47.jpg)
47
Sistemas heterogêneosSistemas heterogêneos
![Page 48: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/48.jpg)
48
Níveis de paralelismoNíveis de paralelismo
![Page 49: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/49.jpg)
49
Conceito de speedupConceito de speedup
![Page 50: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/50.jpg)
50
Lei de AmdahlLei de Amdahl
![Page 51: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/51.jpg)
51
Redes de interconexãoRedes de interconexão
![Page 52: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/52.jpg)
52
Laborarório de computação de alto desempenho coppe/UFRJ
Laborarório de computação de alto desempenho coppe/UFRJ
1988 #### INÍCIO DO PROJETO “COMPUTAÇÃO PARALELA”Transputer / INMOSTransistor for multicomputer
NCP construído na COPPE (08 nós)
1990 #### INTEL – IPSC 860 / 08 nósCaracterísticas:Memória: 8 x 8 Mb = 64 MbFlopagem: 8 x 80 MFlops = 640 MFlops
1995 #### CRAY J90 / 04 processadoresCaracterísticas:Memória: 2 Gb memória RAMFlopagem: 4 x 200 MFlops = 800 MFlops
1996 #### IBM SP-2 / 04 processadoresCaracterísticas:Memória: 4 x 128 Mb = 512 MbFlopagem: 4 x 266 MFlops = 1064 MFlops
![Page 53: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/53.jpg)
53
Pesquisadores envolvidos Pesquisadores envolvidos
INICIAL: 13 (com Doutorado)
30 alunos
SISTEMAS E COMPUTAÇÃO: HARDWARE
ENGENHARIA CIVIL: CÁLCULO, SIMULAÇÃO E OTIMIZAÇÃO DE ESTRUTURAS
ENGENHARIA ELÉTRICA: SIMULAÇÃO E OTIMIZAÇÃO DE REDES ELÉTRICAS
ESTATÍSTICAS
Período 1990 a 1996
Publicações
PeríodosInternacionais
Congressos
19 26 21
M.Sc. D.Sc.
32 11
Número de
teses
Defendidas
Nacionais Internacionais
![Page 54: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/54.jpg)
54
Decomposição para programação paralelaDecomposição para programação paralela
![Page 55: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/55.jpg)
55
Integração numéricaIntegração numérica
![Page 56: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/56.jpg)
56
Mapeamento do problemaMapeamento do problema
![Page 57: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/57.jpg)
57
Mapeamento do problemaMapeamento do problema
![Page 58: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/58.jpg)
58
Programa paralelo (hípercubo)Programa paralelo (hípercubo)
![Page 59: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/59.jpg)
59
Ajuste fino de um programa paraleloAjuste fino de um programa paralelo
![Page 60: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/60.jpg)
60
Ajuste finoAjuste fino
![Page 61: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/61.jpg)
61
Aplicação: Simulação de tráfego aéreoAplicação: Simulação de tráfego aéreo
![Page 62: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/62.jpg)
62
Aplicação: Simulação de tráfego aéreoAplicação: Simulação de tráfego aéreo
![Page 63: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/63.jpg)
63
Aplicação: Simulação de tráfego aéreoAplicação: Simulação de tráfego aéreo
![Page 64: Prof. Amit Bhaya, Programa de Engenharia Elétrica, COPPE ...amit/cpaadia1.pdf · 2 Conteúdo do ... • Justificativa e ganhos com o paralelismo. ... •Daniel E. Lenoski & Wolf-Dietrich](https://reader031.vdocuments.pub/reader031/viewer/2022013017/5bd60d3609d3f2583e8cfc2a/html5/thumbnails/64.jpg)
64
Fim da primeira aulaFim da primeira aula