Message Passing Interface (MPI)

Quickstart - MPI na Zeusie

1. Dostęp do ścieżek konfigurujemy poprzez mechanizm modules
   Np. Intel MPI w wersji domyślnej

   [plgrycerz@zeus mytest]$ module add plgrid/tools/impi
   

2. Przygotowywujemy plik wejściowy hello.c

   ---

   #include <stdio.h>
   #include <mpi.h>
   
   int main (int argc, char * argv[])
   {
     int rank, size;
   
     MPI_Init (&argc, &argv);  /* starts MPI */
     MPI_Comm_rank (MPI_COMM_WORLD, &rank);  /* get current process id */
     MPI_Comm_size (MPI_COMM_WORLD, &size);  /* get number of processes */
     printf( "Hello world from process %d of %d\n", rank, size );
     MPI_Finalize();
     return 0;
   }
   
   

   ---

3. Kompilujemy

   [plgrycerz@zeus mytest]$ mpicc hello.c -o hello
   

4. Przygotowywujemy plik run.sh opisujący zadanie uruchomienia dla systemu kolejkowego

   ---

   #!/bin/bash -l
   ## Nazwa zlecenia
   #SBATCH -J MPIMytest
   ## Liczba alokowanych węzłów
   #SBATCH -N 2
   ## Liczba zadań per węzeł (domyślnie jest to liczba alokowanych rdzeni na
   ##węźle)
   #SBATCH --ntasks-per-node=6
   ## Maksymalny czas trwania zlecenia (format HH:MM:SS)
   #SBATCH --time=00:00:10
   ## Specyfikacja partycji
   #SBATCH -p plgrid-testing
   ## Plik ze standardowym wyjściem
   #SBATCH --output="output.out"
   ## Plik ze standardowym wyjściem błędów
   #SBATCH --error="error.err"
   
   srun /bin/hostname
   
   ## Zaladowanie modulu IntelMPI w wersji domyslnej
   module add plgrid/tools/impi
   
   ## przejscie do katalogu z ktorego wywolany zostal sbatch
   cd $SLURM_SUBMIT_DIR
   
   mpiexec ./hello
   
   

   ---

5. Uruchamiamy zadanie poprzez system kolejkowy

   [plgrycerz@zeus mytest]$ sbatch run.sh 
   

6. Status zadania można podglądać

   [plgrycerz@zeus mytest]$ squeue
                JOBID PARTITION     NAME     USER ST       TIME  NODES NODELIST(REASON)
              5596299 plgrid-te MPIMytes plgrycer PD       0:00      2 (None)
   

7. Po pewnym czasie w katalogu powinny pojawić się pliki output.out i error.err

   [plgrycerz@zeus mytest]$ cat output.out
   n1049-amd
   n1050-amd
   n1049-amd
   n1049-amd
   n1049-amd
   n1049-amd
   n1049-amd
   n1050-amd
   n1050-amd
   n1050-amd
   n1050-amd
   n1050-amd
   Hello world from process 0 of 12
   Hello world from process 6 of 12
   Hello world from process 1 of 12
   Hello world from process 7 of 12
   Hello world from process 2 of 12
   Hello world from process 8 of 12
   Hello world from process 3 of 12
   Hello world from process 9 of 12
   Hello world from process 4 of 12
   Hello world from process 10 of 12
   Hello world from process 5 of 12
   Hello world from process 11 of 12
   

   [plgrycerz@zeus mytest]$ cat error.err
    plgrid/tools/impi/2018 unloaded.
    plgrid/tools/impi/2018 loaded.
   

MPI - dalsze informacje, rózne języki itd

• jak uruchamiac MPI- przypomnienie tutorialu z TPR
  Uwaga: Na klastrze ZEUS zamiast PBS nalezy uzywac SLURM i stosować się do zasad !
• Dokumentacja z MPI Forum
• manual z Edinburg Parallel Computing Centre oraz
• slajdy zEPCC .

Cwiczenia laboratoryjne

1. Napisać program, gdzie każdy z procesów wypisuje informację który ma numer, ile jest procesów w sumie oraz nazwę procesora na którym działa (MPI_Get_processor_name)
   
2. Napisać program ping pong: Procesor A wysyla do procesora B pewna ilosc danych, procesor B odsyla je z powrotem do procesora A
   
3. Napisać program o nazwie ring, gdzie N procesów komunikujw się w kółko przesyłając swoj numer. Proces M realizuje następujacy algorytm:

   DANE=MOJNUMER
   AKUMULATOR=0
   
   POWTORZ N razy
   	wyslij DANE do procesu (M+1)%N (prawy sąsiad). 
   	odbierz DANE2 od procesu (M-1)%N (lewy sąsiad)
   	AKUMULATOR=AKUMULATOR+DANE2
           DANE=DANE2
   KONIEC POWTORZ
   
   wypisz AKUMULATOR
   
   

   Każdy proces dodaje otrzymaną liczbę do lokalnego akumulatora. Na koncu kazdy powinien wypisac sume wszystkich numerów procesów. Uwaga na deadlock !

1. Zmienic program ring tak, aby przesylana byla struktura danych (integer,double). Kazdy element tej struktury to inna reprezentacja numeru procesu (raz jako integer, raz jako double). Kazdy z procesow powinien policzyc dwie sumy (int i double).
2. Zmienic program ring tak, aby robil to samo, za pomoca wirtualnej topologii jednowymiarowego torusa.
3. Zmienic program ring tak, aby robil to samo za pomoca komunikacji kolektywnej.