1、MPI簡介MPI及其歷史消息傳遞接口（Message Passing Interface，簡稱MPI）是一種編程接口標(biāo)準(zhǔn)，而不是一種具體的編程語言。由消息傳遞接口論壇（Message Passing Interface Forum，簡稱MPIF）發(fā)起討論并進(jìn)行規(guī)范化的。MPI標(biāo)準(zhǔn)如今已經(jīng)成為事實(shí)意義上的消息傳遞并行編程標(biāo)準(zhǔn)，也是最為流行的并行編程接口。MPI標(biāo)準(zhǔn)定義了一組具有可移植性的編程接口。典型的實(shí)現(xiàn)包括開源的MPICH、LAM MPI以及不開源的INTEL MPI。MPICH由美國Argonne國家實(shí)驗(yàn)室開發(fā)，影響最大、用戶最多的MPI實(shí)現(xiàn)開源與MPI標(biāo)準(zhǔn)同步發(fā)展支持多程序多數(shù)據(jù)編程和異

2、構(gòu)集群系統(tǒng)支持c/c+，fortran 77和fortran 90。支持類UNIX和windows NT平臺(tái)支持環(huán)境廣泛，包括多核、SMP、集群和大規(guī)模并行計(jì)算系統(tǒng)軟件包繼承了并行程序設(shè)計(jì)環(huán)境組件Intel MPI提供Direct Access Programming Library (DAPL) 中間層支持，有效的支持多種高性能互聯(lián)系統(tǒng)透明的支持TCP/IP、共享內(nèi)存優(yōu)點(diǎn)：無需對通信協(xié)議的選擇進(jìn)行額外設(shè)置，可以自動(dòng)選擇MPI間最快的傳輸協(xié)議MPI程序特點(diǎn)消息傳遞指的是并行執(zhí)行的各個(gè)進(jìn)程具有自己獨(dú)立的堆棧和代碼段。進(jìn)程之間通過顯式地調(diào)用通信函數(shù)來完成。分類：單程序多數(shù)據(jù)（Single Prog

3、ram Multiple Data，簡稱SPMD）prog_aLoadProcessStoreprocess 0process 1process 2LoadProcessGatherStoreMPI程序特點(diǎn)(續(xù))多程序多數(shù)據(jù)MPMD(a) MPMDMaster/Worker(b) MPMDCoupled AnalysisNode 1Node 2Node 3Node 1Node 2Node 3prog_aprog_bprog_aprog_bprog_c(c) MPMDStreamlineprog_aprog_bprog_cNode 1Node 2Node 3MPI程序的四個(gè)基本函數(shù)MPI_Ini

4、t和MPI_FinalizeMPI_Init初始化MPI執(zhí)行環(huán)境，建立多個(gè)MPI進(jìn)程之間的聯(lián)系，為后續(xù)通信做準(zhǔn)備。而MPI_Finalize則是結(jié)束MPI執(zhí)行環(huán)境。MPI_Comm_rank來標(biāo)識(shí)各個(gè)MPI進(jìn)程MPI_Comm_size用來標(biāo)識(shí)相應(yīng)進(jìn)程組中有多少個(gè)進(jìn)程MPI編程基礎(chǔ)簡單的MPI程序示例#include #include mpi.hint main（ int argc, char *argv ） int rank;int size; MPI_Init（ argc, argv ）; MPI_Comm_rank（MPI_COMM_WORLD, &rank）; MPI_Comm_siz

5、e（MPI_COMM_WORLD, &size）; printf（ Hello world from process %d of %dn, rank, size ）; MPI_Finalize（）; return 0;Hello world from process 0 of 4 Hello world from process 1 of 4 Hello world from process 2 of 4 Hello world from process 3 of 4MPI的點(diǎn)對點(diǎn)通信兩個(gè)最重要的MPI函數(shù)MPI_Send和MPI_Recv。int MPI_SEND(buf, count, d

6、atatype, dest, tag, comm)這個(gè)函數(shù)的含義是向通信域comm中的dest進(jìn)程發(fā)送數(shù)據(jù)。消息數(shù)據(jù)存放在buf中，類型是datatype，個(gè)數(shù)是count個(gè)。這個(gè)消息的標(biāo)志是tag，用以和本進(jìn)程向同一目的進(jìn)程發(fā)送的其他消息區(qū)別開來。int MPI_RECV(buf,count,datatype,source,tag,comm,status)MPI_Recv絕大多數(shù)的參數(shù)和MPI_Send相對應(yīng)，有相同的意義，很好理解。唯一的區(qū)別就是MPI_Recv里面多了一個(gè)參數(shù)status。status主要顯示接收函數(shù)的各種錯(cuò)誤狀態(tài)。消息管理7要素MPI最重要的功能莫過于消息傳遞。正如我們

7、先前看到一樣，MPI_Send和MPI_Recv負(fù)責(zé)在兩個(gè)進(jìn)程間發(fā)送和接收消息?？偨Y(jié)起來，點(diǎn)對點(diǎn)消息通信的參數(shù)主要是由以下7個(gè)參數(shù)組成：發(fā)送或者接收緩沖區(qū)buf；數(shù)據(jù)數(shù)量count；數(shù)據(jù)類型datatype；目標(biāo)進(jìn)程或者源進(jìn)程destination/source；消息標(biāo)簽tag；通信域comm；.消息狀態(tài)字status，只在接收的函數(shù)中出現(xiàn)。消息管理7要素 消息數(shù)據(jù)類型原因支持異構(gòu)平臺(tái)計(jì)算將非連續(xù)內(nèi)存區(qū)中的數(shù)據(jù)、具有不同數(shù)據(jù)類型的內(nèi)容組成消息基本數(shù)據(jù)類型與C語言對應(yīng)關(guān)系（參考表7.3）與fortran77對應(yīng)關(guān)系（參考表7.4）導(dǎo)出數(shù)據(jù)類型將不連續(xù)的、甚至不同類型的數(shù)據(jù)元素組合在一起形成新的數(shù)

8、據(jù)類型需要用戶使用MPI提供的構(gòu)造函數(shù)使用規(guī)則有類型數(shù)據(jù)的通信，發(fā)送方和接收方均使用相同的數(shù)據(jù)類型無類型數(shù)據(jù)的通信，發(fā)送方和接收方均已MPI_BYTE為數(shù)據(jù)類型打包數(shù)據(jù)通信，發(fā)送方和接收方均使用消息管理7要素 消息標(biāo)簽作用 程序在同一接收者的情況下，用來標(biāo)識(shí)不同類型消息的一個(gè)整數(shù)。實(shí)例 Process P: send (A, 32, Q); send (B, 16, Q) Process Q: recv (X, 32, P); recv (Y, 16, P) Process P: send (A, 32, Q, tag1); send (B, 16, Q, tag2) Process Q: r

9、ecv (X, 32, P, tag1); recv (Y, 16, P, tag2)消息管理7要素 通信域一個(gè)通信域包含一個(gè)進(jìn)程組及其上下文，限定了消息傳遞的范圍進(jìn)程組是有限有序集，編號(hào) 0，1，2，。，n-1組大小和進(jìn)程號(hào)分別通過MPI_comm_size和MPI_comm_rank獲得兩個(gè)預(yù)定義的組MPI_COMM_SELF 和 MPI_COMM_WORLD管理函數(shù)：通信域比較 int MPI_comm_compare(comm1, comm2, result)通信域復(fù)制 int MPI_comm_dup(comm, newcom)通信域分裂 int MPI_comm_split(com

10、m, color, key, newcomm)通信域銷毀 int MPI_comm_free(comm)消息管理的7要素 狀態(tài)字Status結(jié)構(gòu)定義Typedef struct MPI_Status int count; int cancelled; int MPI_SOURCE; /發(fā)送的數(shù)據(jù)進(jìn)程號(hào) int MPI_TAG; /發(fā)送數(shù)據(jù)使用的tag int MPI_ERROR; /錯(cuò)誤代碼MPI_Status消息管理的7要素 狀態(tài)字實(shí)例 while(true) MPI_Recv(received_request, 100, MPI_BYTE, MPI_ANY_SOURCE, MPI_ANY_

11、TAG, comm, &status);Switch(Status. MPI_TAG) case tag_0: perform service type0; case tag_1: perform service type1; case tag_2: perform service type2;統(tǒng)計(jì)時(shí)間MPI提供了兩個(gè)時(shí)間函數(shù) MPI_Wtime ：返回雙精度數(shù)，標(biāo)識(shí)從過去的某點(diǎn)的時(shí)間到當(dāng)前時(shí)間所消耗的時(shí)間秒數(shù)MPI_Wtick：返回MPI_Wtime函數(shù)結(jié)果的精度例子：。T1= MPI_Wtime();.T2=MPI_Wtime();T=T2-T1;錯(cuò)誤管理MPI在錯(cuò)誤管理方面提供了豐富的接

12、口函數(shù)，這里我們介紹其中最簡單的部分接口。用status.MPI_ERROR來獲取錯(cuò)誤碼。MPI終止MPI程序執(zhí)行的函數(shù)MPI_Abort。 int MPI_Abort（MPI_Comm comm, int errorcode）它使comm通信域的所有進(jìn)程退出，返回errorcode給調(diào)用的環(huán)境。通信域comm中的任一進(jìn)程調(diào)用此函數(shù)都能夠使該通信域內(nèi)所有的進(jìn)程結(jié)束運(yùn)行。MPI群集通信同步本函數(shù)接口是：int MPI_Barrier（MPI_Comm comm）在操作中，通信子comm中的所有進(jìn)程相互同步，即它們相互等待，直到所有進(jìn)程都執(zhí)行了他們各自的MPI_Barrier函數(shù)，然后再各自接著開

13、始執(zhí)行后續(xù)的代碼。廣播從一個(gè)root進(jìn)程向組內(nèi)所有其他的進(jìn)程發(fā)送一條消息。接口是：int MPI_Bcast（ void *buffer, int count, MPI_Datatype datatype, int root, MPI_Comm comm ）MPI群集通信(續(xù))聚集聚集函數(shù)MPI_Gather是一個(gè)多對一的通信函數(shù)。其接口為：int MPI_Gather（void *sendbuf, int sendcnt, MPI_Datatype sendtype, void *recvbuf, int recvcnt, MPI_Datatype recvtype, int root, M

14、PI_Comm comm）MPI群集通信(續(xù))播撒MPI_Scatter是一對多的傳遞消息。但是它和廣播不同，root進(jìn)程向各個(gè)進(jìn)程傳遞的消息是可以不同的。Scatter實(shí)際上執(zhí)行的是與Gather相反的操作。MPI群集通信(續(xù))擴(kuò)展的聚集和播撒操作MPI_Allgather的作用是每一個(gè)進(jìn)程都收集到其他所有進(jìn)程的消息，它相當(dāng)于每一個(gè)進(jìn)程都執(zhí)行了MPI_Gather執(zhí)行完了MPI_Gather之后，所有的進(jìn)程的接收緩沖區(qū)的內(nèi)容都是相同的，也就是說每個(gè)進(jìn)程給所有進(jìn)程都發(fā)送了一個(gè)相同的消息。int MPI_Allgather（void *sendbuf, int sendcount, MPI_Da

15、tatype sendtype, void *recvbuf, int recvcount, MPI_Datatype recvtype, MPI_Comm comm）MPI群集通信(續(xù))全局交換MPI_Alltoall的每個(gè)進(jìn)程可以向每個(gè)接收者發(fā)送數(shù)目不同的數(shù)據(jù)，第i個(gè)進(jìn)程發(fā)送的第j塊數(shù)據(jù)將被第j個(gè)進(jìn)程接收并存放在其接收消息緩沖區(qū)recvbuf的第i塊，每個(gè)進(jìn)程的sendcount和sendtype的類型必須和所有其他進(jìn)程的recvcount和recvtype相同，這也意謂著在每個(gè)進(jìn)程和根進(jìn)程之間發(fā)送的數(shù)據(jù)量必須和接收的數(shù)據(jù)量相等。int MPI_Alltoall（void *sendbuf

16、, int sendcount, MPI_Datatype sendtype, void *recvbuf, int recvcount, MPI_Datatype recvtype, MPI_Comm comm）MPI群集通信(續(xù))規(guī)約 int MPI_Reduce(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op, int root, MPI_Comm comm)規(guī)約操作包括：MPI_MAXMPI_MINMPI_SUMMPI_PRODMPI群集通信(續(xù))掃描 int MPI_Scan(void * sendbuf, void * recvbuf, int count, MPI_Datatype data