并行存储器系统课件.pptVIP

分佈存儲的兩種編程方法： （1）message-passing，用send，receive原語實現通信，要求程式員在進程的整個運行期間對數據的移動都很清楚； （2）romoteprocedurecall，語言一級傳送控制與數據，可以看作是本地調用，但透明度有限。 缺點： 這兩種方法都是用來解決不同地址空間的問題，在接點間傳遞複雜數據結構時都比較困難，需要打包，傳遞指針也不可能實現。由於個處理機擁有不同的地址空間，使得進程遷移時，該進程所分配到的操作系統資源也得一起移動（打開得檔、檔存取控制塊等），這很費時。 5.4.2DSM與SVM 1.DSM和SVM的提出 如何把共用和分佈的優點結合起來，取長補短？ 共用分佈記憶體（DistributedsharedMemory，DSM） 虛擬共用記憶體（SharedVirtualMemory，SVM） ——基於分佈記憶體的多處理機上，實現物理上分佈但邏輯上共用的記憶體系統。 虛擬共用記憶體的邏輯結構：CPU1……虛擬共用記憶體LM1CPU2LM2CPUnLMn地址映射部件地址映射部件……地址映射部件 MIMD機器存儲系統的發展方向：共用記憶體分佈記憶體共用分佈記憶體 2.DSM系統的特點 在DSM系統中，每一臺處理機都可以訪問全局記憶體的任一位置，用戶可以把它當成全局共用記憶體系統。 優點： 編程容易 系統結構靈活 可擴展性好 系統價格低 有較好的軟體移植性 DSM系統編制的程式比用消息傳遞方式編制的程式效率高： （1）在DSM系統中，數據都是以塊的方式進行傳送，如果一個程式具有較高的局部性，則當把一個數據塊傳送到一個結點後，該結點對它的訪問就成為本地訪問，而消息傳遞方式的每次訪問都需要通訊。 （2）許多並行應用程式都是分階段執行的，每次執行前，都有一個數據交換階段，其時間受通訊限制。在DSM系統中，數據只有用到的時候才傳送，取消了數據交換階段，把通訊時間加以分散，提高了並行性。 （3）DSM提供的虛存空間比單個結點的存儲空間大得多，減少了換頁操作。 3.實現DSM的途徑 主要有三種： （1）硬體實現：將傳統的cache技術擴展應用到松耦合分佈式存儲多處理機。要增加專用部件以取得高效的實現。 （2）操作系統和庫實現：利用虛擬存儲管理機制取得共用（sharing）和一致（coherence）。 （3）編譯實現：自動將共用訪問轉換成同步和一致原語。用戶需要顯式控制全局數據，當傳遞大量數據時或試圖進行進程遷移時極其複雜。 4.主要技術 結構（structure） 粒度（granularity） 數據訪問與一致性（accessandcosistency） 一致性語義（coherencesemantics） 可擴展性（scalability） 異構性（heterogeneity） 結構——指共用數據在記憶體中的框架（如對象和語言的類型）； 粒度——指基本共用單位長度（如位元組、字、頁或複雜數據結構）。第五章並行記憶體系統 5.1記憶體系統的層次結構 5.2包含性、一致性和局部性 5.3記憶體容量的規劃 5.4虛擬記憶體技術 5.5交叉訪問的記憶體 5.5.1兩種組織方式 5.5.2兩種方式的比較 5.3.3帶寬和容錯5.5交叉訪問的記憶體 主記憶體由多個模組構成。 假設主記憶體包含m=2a個記憶體模組，每個模組包含w=2b個存儲單元（字），則總存儲容量為 5.5.1兩種組織方式 交叉訪問的記憶體可以分為兩種： (1)低位交叉方式 (2)高位交叉方式*並行記憶體系統5.1記憶體系統的層次結構 記憶體系統的層次結構如下圖所示：CPU內的寄存器高速緩存主記憶體磁片記憶體磁帶機層0：M0層1：M1層2：M2層3：M3層4：M4容量和存取時間增加每位成本增加五個參數： 存取時間ti：從CPU到第i層記憶體的往返時間 記憶體容量Si：第i層的位元組或字的數量 每位元組成本Ci：第i層記憶體的成本為CiSi 傳輸帶寬bi：相鄰層之間傳送資訊的速率 傳輸單位Xi：i和i+1層之間數據傳送的粒度 對記憶體系統中各層次記憶體的特性，1993年的統計數據如下表：記憶體層次特性第0層CPU寄存器第1層高速緩存第2層主記憶體第3層磁片記憶體第4層磁帶記憶體設備工藝存取時間容量(位元組)成本(美