Могу еще добавить: С.А. Лупин М.А. Посыпкин - Технологии параллельного программирования. Рассмотр MPI & OpenMP.