A apresentação está carregando. Por favor, espere

A apresentação está carregando. Por favor, espere

MPI – Comunicações Com. Colectiva esquecida Barrier não há troca de dados, apenas sincroniza os processos int MPI_Barrier( MPI_Comm, comm) T com = T lat.

Apresentações semelhantes


Apresentação em tema: "MPI – Comunicações Com. Colectiva esquecida Barrier não há troca de dados, apenas sincroniza os processos int MPI_Barrier( MPI_Comm, comm) T com = T lat."— Transcrição da apresentação:

1 MPI – Comunicações Com. Colectiva esquecida Barrier não há troca de dados, apenas sincroniza os processos int MPI_Barrier( MPI_Comm, comm) T com = T lat + Bandwidth*tamanho mensagem ~10 s 1000Mb/s Menor número de comunicações

2 Medidas de Performance Parallel SpeedupRazão entre o tempo de execução sequencial T(N,1) e o tempo de execução do algoritmo paralelo em P processadores N = tamanho do problema S(N,P) = Pspeedup linear ou perfect speedup S(N,P) > P superlinear speedu

3 GRANULARIDADE De um conjunto de tarefas paralelas é o trabalho da mais pequena tarefa que pode ser realizado independentemente de todas as outras tarefas SequencialParalelo N = k*P k = granularidade T 1 = NT(N,P)= C*P + N/P S(N,P) = 1 / [ (1/P) + C*P/N ] = P/[ 1 + C*P 2 /N ]

4 S'(N,P) = 0 S(N,P) max =

5 Eficiência Paralela Speedup por processador E(N,P) = S(N,P) / P

6 Limitações à Performance Lei de Amdahl T 1 = tempo de execução em 1 processador f = fracção do código que não pode ser paralelizado f T 1 = tempo de execução da fracção sequencial não paralizável (1-f) T 1 = tempo de execução da restante parte do código T P f T 1 + (1-f) T 1 / P ( f + (1-f) / P ) S P S P < 1 / [ f + (1-f) / P ] < 1/f

7 Algoritmos Nem sempre é possível paralelizar o melhor algoritmo Comunicações T P = T Com + T Cal T 1 < P*T Cal S P < P*T Cal / [ T Com + T Cal ] = 1 / [ 1 + (T Com / T Cal )] Load Balance T P proporcional tempo de execução do processador com mais trabalho Sincronização Falta de sincronização pode levar a que alguns processadores fiquem à espera (idle), levando ao aumento do tempo de execução

8 Algoritmo Escalável Um algoritmo diz-se escalável se existir uma eficiência mínima tal que, para qualquer tamanho do problema N, há um número de processadores que cresce com N, P(N), tal que E( N, P(N) ) >= para N suficientemente grande S(N,P) = P/[ 1 + C*P 2 /N]P = N 1/2 S(N,P) = N 1/2 / [ 1 + C] = P / [ 1 + C]

9 Álgebra Linear I Multiplicação Matriz-VectorY i = A ij X j Solução I > X cópia em todos os processos > cada processo tem uma ou várias linhas inteiras da matriz N multiplicações + (N-1) somas 2N-1 operações vírgula flutante N = k*P Y calculado em 2(N-1) T vf N / P ~ 2N 2 T vf / P

10 Matriz * Vector (master/slave) Slave: i) Recebe X ii) while (não fim programa) recebe linha A; multiplica Aij Xj; devolve resultado; Master: i) Ler matriz A e vector X ii) Broadcast X iii) Envia linha da matriz A cada processo MPI iv) for (i=nproc; i < linhas; i++) recebe linha de slave; envia nova linha v) envia mensagem finalização Um processo (master) coordena o trabalho realizado pelos outros processos (slaves)

11 int MPI_Bcast(void *buf, int count, MPI_Datatype datatype, int root, MPI_Comm comm) int MPI_Send(void *buf, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm) int MPI_Recv(void *buf, int count, MPI_Datatype datatype, int source, int tag, MPI_Comm comm, MPI_Status *status) typedef struct MPI_Status { int count; int cancelled; int MPI_SOURCE; int MPI_TAG; int MPI_ERROR; } MPI_Status;

12 #include #include "mpi.h" main( int argc, char *argv[] ) { int master, nprocs, myid, linhas, colunas, emissor, tipo_resposta, nova_linha, i, j; static int NLINHAS = 300, NCOLUNAS = 400; double A[NLINHAS][NCOLUNAS], buffer[NCOLUNAS], X[NCOLUNAS], B[NCOLUNAS], resposta; MPI_Status status; master = 0; MPI_Init( &argc, &argv); MPI_Comm_size( MPI_COMM_WORLD, &nprocs ); MPI_Comm_rank( MPI_COMM_WORLD, &myid );

13 if (myid == master) { /* ======================= MASTER */ printf("Introduza o número linhas e colunas "); scanf("%ld %ld",&linhas,&colunas); printf("%ld %ld\n\n",linhas, colunas); } MPI_Bcast( &linhas, 1, MPI_INT, master, MPI_COMM_WORLD ); MPI_Bcast( &colunas, 1, MPI_INT, master, MPI_COMM_WORLD ); if (linhas > NLINHAS){ printf(" ERRO: linhas excedem o maximo permitido (%ld) \n", NLINHAS); MPI_Abort( MPI_COMM_WORLD, i); return 1; } if (colunas > NCOLUNAS){ printf(" ERRO: colunas excedem o maximo permitido (%ld) \n", NCOLUNAS); MPI_Abort( MPI_COMM_WORLD, i); return 2; }

14 if (myid == master) { /* ======================= MASTER */ } else { /* ============================================= Slave */ } if (myid == 0){ for (i=0; i

15 Master I printf(" \n Numero de linhas e colunas dentro dos limites \n"); for (i=0; i

16 Master II for (i=nprocs-1; i

17 Slave MPI_Bcast( &X, colunas, MPI_DOUBLE, master, MPI_COMM_WORLD ); while ( status.MPI_TAG < linhas ){ MPI_Recv( &buffer, colunas, MPI_DOUBLE, master, MPI_ANY_TAG, MPI_COMM_WORLD, &status ); if (status.MPI_TAG < linhas ){ resposta = 0.0; for (i=0; i

18 Exercício Escreva um código paralelo para a multiplicação de uma matriz por um vector sem usar o paradigma Master/Slave, isto é distribuindo o cálculo por todos os processadores.

19 Multiplicação Matriz-Vector Y i = A ij X j Solução II > A divida por colunas > X dividido por blocos N ( N/P multiplicações + (N/P-1) somas ) Soma Colectiva N = k*P Y calculado em ~ 2N 2 T vf / P + comunicações =

20 Exercício Implemente a multiplicação de uma matriz por um vector usando a decomposição discutida no slide anterior. int MPI_Allreduce ( void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op, MPI_Comm comm )

21 Multiplicação Matriz -Vector Y i = A ij X j Solução III > A (e X divididos) por blocos > cada processo tem um só bloco N/P multiplicações + (N/P-1) somas 2N/P - 1 operações vírgula flutuante N = k*P Y calculado em ~ 2N 3 T vf / P 3 + comunicações 1 Comm Multiple Comm


Carregar ppt "MPI – Comunicações Com. Colectiva esquecida Barrier não há troca de dados, apenas sincroniza os processos int MPI_Barrier( MPI_Comm, comm) T com = T lat."

Apresentações semelhantes


Anúncios Google