Tìm hiểu về bộ nhớ Cache
Tìm hi u v b nh Cacheể ề ộ ớ
B n đã bao gi b l c trong m t núi các thông s , thu t ng k thu t ạ ờ ị ạ ộ ố ậ ữ ỹ ậ
trên máy tính hay đi n tho i ch a? N u r i thì nên tham kh o bài vi tệ ạ ư ế ồ ả ế
d i đây. L u ý ch ng ch đ nh v i nh ng ng i không quan tâm, vì ướ ư ố ỉ ị ớ ữ ườ
nó s r t bu n t đ y.ẽ ấ ồ ẻ ấ
Trên th c t , các thi t k c a chip SoC (h th ng trên m t chip) có m t ự ế ế ế ủ ệ ố ộ ộ
v n đ r t l n, đó là B nh Truy c p Ng u nhiên RAM (Random Access ấ ề ấ ớ ộ ớ ậ ẫ
Memory) ch m, quá ch m. Vì v y, ng i ta ph i đ a ra m t cách gi i ậ ậ ậ ườ ả ư ộ ả
quy t khác và nó đ c g i là b nh đ m. N u b n mu n bi t v b nh ế ượ ọ ộ ớ ệ ế ạ ố ế ề ộ ớ
đ m, hãy đ c bài d i đây.ệ ọ ướ
Có th b n th y l khi nghe nói RAM ch m. B n đã t ng nghe c ng ể ạ ấ ạ ậ ạ ừ ổ ứ
ch m, CDROM ch m, nh ng b nh chính thì không th tin đ c. ậ ổ ậ ư ộ ớ ể ượ
Nh ng đó l i là s th c.ư ạ ự ự
T i trung tâm c a chip SoC là CPU. Nó n m quy n chi ph i t i cao v i ạ ủ ắ ề ố ố ớ
thi t b và t c đ c a nó đòi h i ph i r t cao. M t CPU trung bình c a di ế ị ố ộ ủ ỏ ả ấ ộ ủ
đ ng có xung nh p t 1,5 GHz đ n kho ng 2,2 GHz. Trong khi đó, xung ộ ị ừ ế ả
nh p trung bình c a module RAM ch kho ng 200 MHz. V y đi u đó nghĩa ị ủ ỉ ả ậ ề
là thanh RAM trung bình ch y t c đ xung nh p ch m h n kho ng 10 l nạ ở ố ộ ị ậ ơ ả ầ
so v i CPU. Đi u này qu th t nh m t kho ng th i gian vô t n. M i khi ớ ề ả ậ ư ộ ả ờ ậ ỗ
CPU c n cái gì đó t RAM, nó s ph i ch đ i, ch đ i và ch đ i trong ầ ừ ẽ ả ờ ợ ờ ợ ờ ợ
khi d li u đ c n p.ữ ệ ượ ạ
Đáng l ra th i gian đó CPU có th làm đi u gì đó khác, nh ng không th ẽ ờ ể ề ư ể
vì nó ph i ch đ i.ả ờ ợ
S chênh l ch gi a t c đ xung nh p c a CPU và c a RAM.ự ệ ữ ố ộ ị ủ ủ
Nh v y chúng ta đã th y đ c m u ch t c a v n đ . Tuy nhiên, tình hìnhư ậ ấ ượ ấ ố ủ ấ ề
không th c s x u đ n m c nh v y, b i vì nh ng công ngh nh Double-ự ự ấ ế ứ ư ậ ở ữ ệ ư
Data-Rate (DDR) RAM có th g i đi l ng d li u g p đôi trong m i chu ể ử ượ ữ ệ ấ ỗ
kỳ xung nh p. T ng t nh v y, các thông s k thu t nh LPDDR3 (Lowị ươ ự ư ậ ố ỹ ậ ư
Power DDR3) cho phép truy n d li u v i t c đ g p 8 l n so v i xung ề ữ ệ ớ ố ộ ấ ầ ớ
nh p bên trong. Ngoài ra còn các k thu t đ c tích h p bên trong CPU, đ ị ỹ ậ ượ ợ ể
đ m b o d li u s đ c yêu c u s m nh t có th , tr c khi nó th c s ả ả ữ ệ ẽ ượ ầ ớ ấ ể ướ ự ự
c n đ n.ầ ế
T i th i đi m c a bài vi t, các chip SoC m i nh t đang s d ng LPDDR4 ạ ờ ể ủ ế ớ ấ ử ụ
v i t c đ hi u qu lên đ n 1866 MHz, v y n u xung nh p c a CPU là ớ ố ộ ệ ả ế ậ ế ị ủ
1,8GHz ho c ch m h n, b nh gi ch c h n s đu i k p CPU r i ch ? ặ ậ ơ ộ ớ ờ ắ ẳ ẽ ổ ị ồ ứ
Không h n v y, v n đ là các b x lý hi n đ i s d ng 4 đ n 8 nhân, vì ẳ ậ ấ ề ộ ử ệ ạ ử ụ ế
v y s không ch có m t CPU truy c p vào b nh , mà s có 8 CPU, chúngậ ẽ ỉ ộ ậ ộ ớ ẽ
đ u c n d li u, và chúng c n nó càng nhanh càng t t.ề ầ ữ ệ ầ ố
S h n ch hi u năng này đ c g i là nút th t c chai Von Neumann, l y ự ạ ế ệ ượ ọ ắ ổ ấ
theo tên c a m t trong nh ng ng i ch ch t phát minh ra máy tính hi n ủ ộ ữ ườ ủ ố ệ
đ i ngày nay. Nh c đi m c a ki n trúc Von Neumann là nút th t c chai ạ ượ ể ủ ế ắ ổ
v hi u năng xu t hi n khi d li u đi qua b gi i h n do s khác bi t ề ệ ấ ệ ữ ệ ị ớ ạ ự ệ
t ng đ i v t c đ gi a CPU và RAM.ươ ố ề ố ộ ữ
Có m t s ph ng pháp đ c i thi n tình tr ng này và gi m s khác bi t ộ ố ươ ể ả ệ ạ ả ự ệ
v hi u năng, m t trong s đó là s d ng b nh đ m. V y b nh đ m làề ệ ộ ố ử ụ ộ ớ ệ ậ ộ ớ ệ
gì? Nói m t cách đ n gi n, nó là m t l ng nh c a b nh đ c đ t trên ộ ơ ả ộ ượ ỏ ủ ộ ớ ượ ặ
chip SoC, và ch y cùng t c đ v i CPU. Đi u này có nghĩa là CPU không ạ ố ộ ớ ề
c n ph i ch đ i m i khi c n d li u t b nh đ m n a, d li u s đ cầ ả ờ ợ ỗ ầ ữ ệ ừ ộ ớ ệ ữ ữ ệ ẽ ượ
g i th ng t i CPU v i cùng t c đ mà CPU ho t đ ng. H n n a, b nh ử ẳ ớ ớ ố ộ ạ ộ ơ ữ ộ ớ
đ m đ c cài đ t trên m i m t nhân CPU, nên m i nhân CPU s có b ệ ượ ặ ỗ ộ ỗ ẽ ộ
nh đ m riêng và s không có b t kỳ tranh ch p nào v vi c ai đ c truy ớ ệ ẽ ấ ấ ề ệ ượ
c p vào nó.ậ
N u v y, sao không làm t t c b nh gi ng nh b nh đ m. Câu tr l i ế ậ ấ ả ộ ớ ố ư ộ ớ ệ ả ờ
r t đ n gi n. B nh đ m có th ch y v i t c đ đó r t đ t. Giá thành (và ấ ơ ả ộ ớ ệ ể ạ ớ ố ộ ấ ắ
do nh ng gi i h n c a công ngh ch t o) là m t rào c n th c s . Đó là lýữ ớ ạ ủ ệ ế ạ ộ ả ự ự
do t i sao trên di đ ng, l ng b nh đ m trung bình th ng đ c tính ạ ộ ượ ộ ớ ệ ườ ượ
b ng Kilobyte, có th 32K hay 64K, thay vì hàng Megabyte nh th ng ằ ể ư ườ
th y.ấ
M t CPU v i b nh đ m 256KB.ộ ớ ộ ớ ệ
V y gi m i nhân CPU s có vài Kilobyte b nh siêu nhanh, có th dùng ậ ờ ỗ ẽ ộ ớ ể
đ l u b n sao c a m t ph n trên b nh chính. N u b n sao trong vùng ể ư ả ủ ộ ầ ộ ớ ế ả
đ m th c s là b nh mà CPU c n, nó s không c n truy c p vào b nh ệ ự ự ộ ớ ầ ẽ ầ ậ ộ ớ
chính ch m ch p đ l y d li u n a. T t nhiên, th thu t là đ m b o r ngậ ạ ể ấ ữ ệ ữ ấ ủ ậ ả ả ằ
b nh trên vùng đ m là d li u t t nh t và đ c t i u, đ CPU có th ộ ớ ệ ữ ệ ố ấ ượ ố ư ể ể
s d ng b nh đ m nhi u h n và b nh chính ít h n.ử ụ ộ ớ ệ ề ơ ộ ớ ơ
Do b nh đ m ch có vài Kilobyte nên s có nh ng lúc vùng đ m có đúng ộ ớ ệ ỉ ẽ ữ ệ
n i dung b nh , còn đ c bi t đ n nh m t “cache hit” (trùng b nh ộ ộ ớ ượ ế ế ư ộ ộ ớ
đ m), và có nh ng lúc không, còn đ c g i là “cache miss” (l ch b nh ệ ữ ượ ọ ệ ộ ớ
đ m). T l trùng b nh đ m càng cao càng t t.ệ ỷ ệ ộ ớ ệ ố
Phân chia b nh đ m và h th ng phân c pộ ớ ệ ệ ố ấ
Đ giúp c i thi n s l n hit so v i miss, có m t s k thu t đ c s d ng.ể ả ệ ố ầ ớ ộ ố ỹ ậ ượ ử ụ
M t trong s đó là chia b nh đ m thành hai, m t cho các câu l nh và m tộ ố ộ ớ ệ ộ ệ ộ
cho d li u. Nguyên nhân c a vi c này là do vi c l p đ y m t vùng đ m ữ ệ ủ ệ ệ ấ ầ ộ ệ
câu l nh s d h n nhi u so v i d li u, khi câu l nh ti p theo đ c th c ệ ẽ ễ ơ ề ớ ữ ệ ệ ế ượ ự
thi có th là câu l nh k ti p trong b nh . Đi u đó cũng có nghĩa là câu ể ệ ế ế ộ ớ ề
l nh k ti p đ c th c thi, có th đ c truy xu t t vùng đ m câu l nh ệ ế ế ượ ự ể ượ ấ ừ ệ ệ
trong khi CPU v n đang làm vi c trên ph n b nh trong vùng đ m d ẫ ệ ầ ộ ớ ệ ữ
li u. (Do c hai vùng đ m là đ c l p).ệ ả ệ ộ ậ
B nh đ m L1 và L2 trên chíp ARM Cortex-A72.ộ ớ ệ
M t k thu t khác là c i thi n s l n trúng b nh đ m cache hit là s ộ ỹ ậ ả ệ ố ầ ộ ớ ệ ử
d ng h th ng phân c p c a các b nh đ m, th ng đ c g i là b nh ụ ệ ố ấ ủ ộ ớ ệ ườ ượ ọ ộ ớ
đ m L1 (level 1) và b nh đ m L2 (level 2). L2 th ng có b nh đ m ệ ộ ớ ệ ườ ộ ớ ệ
l n h n (th ng là 4MB, nh ng có th còn l n h n), tuy nhiên nó l i ch mớ ơ ườ ư ể ớ ơ ạ ậ
h n (nghĩa là chi phí r h n) và nó đ c dùng chung b i t t c các nhân ơ ẻ ơ ượ ở ấ ả
CPU, làm nó tr thành m t b nh đ m duy nh t cho toàn b chip SoC.ở ộ ộ ớ ệ ấ ộ
Ý t ng dành cho vi c phân c p này là, n u d li u đòi h i không n m ưở ệ ấ ế ữ ệ ỏ ằ
trên b nh đ m L1, CPU s c l y ra d li u t b nh đ m L2, tr c ộ ớ ệ ẽ ố ấ ữ ệ ừ ộ ớ ệ ướ
khi th trên b nh chính. Cho dù L2 ch m h n L1, nh ng nó v n nhanh ử ộ ớ ậ ơ ư ẫ
h n b nh chính, và do có kích th c tăng lên nên nó có c h i cao h n ơ ộ ớ ướ ơ ộ ơ
đ d li u n m trên đó. M t s thi t k chíp th m chí còn s d ng b nhể ữ ệ ằ ộ ố ế ế ậ ử ụ ộ ớ
đ m L3. Cũng nh L2 ch m h n nh ng l n h n L1, L3 l n h n nh ng ệ ư ậ ơ ư ớ ơ ớ ơ ư
ch m h n L2. Trên di đ ng, L3 th ng không đ c s d ng, tuy nhiên, ậ ơ ộ ườ ượ ử ụ
trên các b x lý ki n trúc ARM dùng cho máy ch (nh chíp SoC 24 lõi ộ ử ế ủ ư
c a Qualcomm s p ra m t hay chíp Opteron 1100 c a AMD) có tùy ch n ủ ắ ắ ủ ọ
b sung b nh đ m L3 32MB.ổ ộ ớ ệ
Tính liên k tế
V n còn m t m nh ghép trong b x p hình v b nh đ m. Đó là làm th ẫ ộ ả ộ ế ề ộ ớ ệ ế
nào CPU bi t n i dung t b nh chính đ c l u đâu trên b nh đ m? ế ộ ừ ộ ớ ượ ư ở ộ ớ ệ
N u vùng đ m ch là m t danh sách dài (m t b ng tính) c a các khe c m ế ệ ỉ ộ ộ ả ủ ắ
b nh đ m, CPU c n tìm ki m trong danh sách đó, t đ u đ n cu i đ ộ ớ ệ ầ ế ừ ầ ế ố ể
tìm n i dung nó c n. T t nhiên, vi c đó s ch m h n là truy xu t nh ng ộ ầ ấ ệ ẽ ậ ơ ấ ữ
n i dung t b nh chính. V y đ đ m b o r ng n i dung b nh có th ộ ừ ộ ớ ậ ể ả ả ằ ộ ộ ớ ể
đ c tìm th y m t cách nhanh chóng, m t k thu t đ c g i là hashing ượ ấ ộ ộ ỹ ậ ượ ọ
(k thu t băm) c n đ c s d ng.ỹ ậ ầ ượ ử ụ
M t hàm băm (hash function) s l y m t giá tr (trong tr ng h p này s làộ ẽ ấ ộ ị ườ ợ ẽ
đ a ch c a n i dung b nh , đang đ c ph n chi u trong b nh đ m) và ị ỉ ủ ộ ộ ớ ượ ả ế ộ ớ ệ
t o ra m t giá tr riêng cho nó. Cùng m t đ a ch s luôn t o ra cùng m t ạ ộ ị ộ ị ỉ ẽ ạ ộ
giá tr băm. Vì v y, cách b nh đ m làm vi c là đ a ch c a n i dung b ị ậ ộ ớ ệ ệ ị ỉ ủ ộ ộ
nh s đ c băm, và nó đ a ra m t câu tr l i c đ nh, có th v a v n v iớ ẽ ượ ư ộ ả ờ ố ị ể ừ ặ ớ
kích th c c a b nh đ m, (ví d nh 32K). Do 32K s nh h n nhi u soướ ủ ộ ớ ệ ụ ư ẽ ỏ ơ ề
v i kích th c c a RAM, giá tr băm đó c n đ c l p, nghĩa là sau 32768 ớ ướ ủ ị ầ ượ ặ
đ a ch , hash (d li u băm) s cho ra cùng k t qu m t l n n a. Đi u này ị ỉ ữ ệ ẽ ế ả ộ ầ ữ ề
còn đ c g i là phép ánh x tr c ti p (direct mapping).ượ ọ ạ ự ế
Nh c đi m c a cách ti p c n này là khi có n i dung c a hai đ a ch c n ượ ể ủ ế ậ ộ ủ ị ỉ ầ
đ c l u trên b nh đ m nh ng hai đ a ch này tr v cùng m t khe trên ượ ư ộ ớ ệ ư ị ỉ ả ề ộ
b nh đ m (ví d chúng có cùng giá tr băm). Trong nh ng tr ng h p ộ ớ ệ ụ ị ữ ườ ợ
nh v y, ch m t v trí trên b nh đ m có th đ c l u và đ a ch còn l i ư ậ ỉ ộ ị ộ ớ ệ ể ượ ư ị ỉ ạ
s v n n m trên b nh chính.ẽ ẫ ằ ộ ớ
Cách ti p c n khác là s d ng m t hash (giá tr băm) đi thành c p, vì v y ế ậ ử ụ ộ ị ặ ậ
b t c đ a ch nào cũng có th là m t trong m t c p v trí trên b nh đ m,ấ ứ ị ỉ ể ộ ộ ặ ị ộ ớ ệ
ví d nh giá tr hash và hash 1. Đi u đó nghĩa là hai đ a ch tr c đây có ụ ư ị ề ị ỉ ướ
th b xung đ t, do có cùng giá tr hash, gi có th cùng t n t i. Nh ng gi ể ị ộ ị ờ ể ồ ạ ư ờ
đ tìm th y đúng ch trên b nh đ m, CPU c n ph i ki m tra hai v trí, ể ấ ỗ ộ ớ ệ ầ ả ể ị
tuy nhiên đi u này v n nhanh h n nhi u so v i tìm ki m trong 32768 đ a ề ẫ ơ ề ớ ế ị
ch ! Tên c a k thu t ánh x này đ c g i là liên k t 2 chi u (2-way ỉ ủ ỹ ậ ạ ượ ọ ế ề
associative). Cách ti p c n theo h ng liên k t này có th m r ng lên ế ậ ướ ế ể ở ộ
thành 4 chi u, 8 chi u và 16 chi u, tuy nhiên, có nh ng gi i h n c a cách ề ề ề ữ ớ ạ ủ
ti p c n này khi hi u su t tăng thêm không bù đ p đ c s ph c t p và ế ậ ệ ấ ắ ượ ự ứ ạ
chi phí.
T ng k tổ ế
Có m t nút th t c chai v hi u su t trên m i thi t k chip SoC, do s ộ ắ ổ ề ệ ấ ọ ế ế ự
khác bi t v t c đ gi a b nh chính và CPU. Nó còn đ c bi t đ n d iệ ề ố ộ ữ ộ ớ ượ ế ế ướ
tên nút th t c chai Von Neumann và nó t n t i trên các máy ch , máy bàn ắ ổ ồ ạ ủ
cũng nh các thi t b di đ ng. M t trong nh ng cách đ gi m b t nút th t ư ế ị ộ ộ ữ ể ả ớ ắ
c chai là s d ng b nh đ m, m t l ng nh b nh có hi u su t cao, ổ ử ụ ộ ớ ệ ộ ượ ỏ ộ ớ ệ ấ
đ c đ t trên con chip v i CPU.ượ ặ ớ
có thể bạn quan tâm
Tìm hiểu bộ nhớ cache
0
522
313
Cơ sở dữ liệu
(New)
Tìm hiểu về tấn công Man-in-the-Middle – Giả mạo ARP Cache
12
1.191
296
An ninh, bảo mật
12
(New)
Xóa cookie, cache Internet an toàn bằng Privazer
8
838
254
Tài liệu CNTT khác
8
(New)
Tìm hiểu linh kiện trong máy tính và giải mã tín hiệu những lỗi cơ bản
6
1.008
288
Tài liệu CNTT khác
6
(New)
Luận văn: Những vấn đề cơ bản về hiệu quả huy động vốn của NHCTVN và t...
109
805
324
Kinh tế quản lý
109
(New)
Nghiên cứu sự tạo thành hạt hiếu khí trong xử lý nước thải giết mổ gia...
68
833
312
Kỹ thuật
68
(New)
Đánh giá hiệu quả hoạt động tín dụng Công Thương nghiệp tại Ngân hàng...
75
700
273
Kinh tế quản lý
75
(New)
Nghiên cứu thách thức, cơ hội, tìm hiểu danh mục đầu tư quốc gia và ca...
33
855
272
Báo cáo, luận văn khác
33
(New)
thông tin tài liệu
Tài liệu cung cấp kiến thức cơ bản về bộ nhớ cache
Mở rộng để xem thêm
tài liệu mới trong mục này
tài liệu hot trong mục này
tài liệu giúp tôi
Nếu bạn không tìm thấy tài liệu mình cần có thể gửi yêu cầu ở đây để chúng tôi tìm giúp bạn!
×
