Algumas apostilas sobre programação paralela utilizando MPI:

Apostila 1

Apostila 2

Apostila 3

Apostila 4