存储层次课件.pptVIP

3.舉例(圖示)5.4.3請求字處理技術1.請求字從下一級記憶體調入Cache的塊中，只有

一個字是立即需要的。這個字稱為請求字。2.應儘早把請求字發送給CPU◆儘早重啟動：調塊時，從塊的起始位置開

始讀起。一旦請求字到達，就立即發送給

CPU，讓CPU繼續執行。◆請求字優先：調塊時，從請求字所在的位

置讀起。這樣，第一個讀出的字便是請求

字。將之立即發送給CPU。3.這種技術在以下情況下效果不大：◆Cache塊較小◆下一條指令正好訪問同一Cache塊的另

一部分。5.4.4非阻塞Cache技術1.非阻塞Cache：Cache失效時仍允許CPU進行

其他的命中訪問。即允許“失效下命中”2.進一步提高性能：“多重失效下命中”，

“失效下失效”(記憶體必須能夠處理多個失效)3.重疊失效個數對平均訪問時間的影響3.例題例5.6假設當在按直接映象找到的位置處沒有發

現匹配、而在另一個位置才找到數據(偽命中)

需要2個額外的週期。仍用上個例子中的數據，

問：當Cache容量分別為2KB和128KB時，直接

映象、兩路組相聯和偽相聯這三種組織結構中，

哪一種速度最快？首先考慮標準的平均訪存時間公式：平均訪存時間偽相聯

＝命中時間偽相聯＋失效率偽相聯×失效開銷偽相聯由於：失效率偽相聯＝失效率2路命中時間偽相聯＝命中時間1路＋偽命中率偽相聯×2；偽命中率偽相聯＝命中率2路－命中率1路＝(1－失效率2路)－(1－失效率1路)＝失效率1路－失效率2路解：故：平均訪存時間偽相聯

＝命中時間1路＋(失效率1路－失效率2路)×2

＋失效率2路×失效開銷1路將表5－5中的數據代入上面的公式，得：平均訪存時間偽相聯，2KB

＝1＋(0.098－0.076)×2＋(0.076×50)

＝4.844平均訪存時間偽相聯，128KB

＝1＋(0.010－0.007)×2＋(0.007×50)

＝1.356根據上一個例子中的表5－8，對於2KBCache，

可得：平均訪存時間1路＝5.90個時鐘平均訪存時間2路＝4.90個時鐘對於128KB的Cache有，可得：平均訪存時間1路＝1.50個時鐘平均訪存時間2路＝1.45個時鐘可見，對於這兩種Cache容量，偽相聯Cache

都是速度最快的。缺點：多種命中時間5.3.5硬體預取技術依據：空間局部性思想：在Cache訪問失效時，不但從記憶體中取入對應的塊，而且將它的鄰近塊(通常為後繼塊)取入一個速度快於主存的緩衝器中，這樣當對後繼塊的訪問發生時，可通過訪問該緩衝器進行塊替換。1.指令和數據都可以預取2.預取內容既可放入Cache，也可放在

外緩衝器(速度快於主存)中例如：指令流緩衝器3.預取效果

(1)Jouppi的研究結果

◆指令預取：(4KB，直接映象Cache,

塊大小＝16位元組)1個塊的指令流緩衝器：捕獲15％～25％

的失效4個塊的指令流緩衝器：捕獲50％16個塊的指令流緩衝器：捕獲72％◆數據預取：(4KB,直接映象Cache)1個數據流緩衝器：捕獲25％的失效還可以採用多個數據流緩衝器(2)Palacharla和Kessler的研究結果流緩衝器：既能預取指令又能預取數據對於兩個64KB四路組相聯Cache來說：8個流緩衝器能捕獲50％～70％的失效。4.例題例5.7AlphaAXP21064採用指令預取技術，其實際

失效率是多少？若不採用指令預取技術，Alpha

APX21064的指令Cache必須為多大才能保持平均訪

存時間不變？解：假設從預取緩衝器中找到所需指令(並進行替換)需多花1個時鐘週期。平均訪存時間預取

＝命中時間＋失效率×預取命中率×1

＋失效率×(1－預取命中率)×失效開銷假設：

預取命中率＝25％

命中時間＝1個時鐘週期失效開銷＝50個時鐘週期由表5－4可知，8KB指令Cache的失效率＝1.10％故平