The evolution of cache organization

The evolution of cache organization is seen clearly in the evolution of Intel microprocessors
(Table 4.4). The 80386 does not include an on-chip cache. The 80486
includes a single on-chip cache of 8 KBytes, using a line size of 16 bytes and a four-way
4.4 / PENTIUM 4 CACHE ORGANIZATION 141
set-associative organization. All of the Pentium processors include two on-chip L1
caches, one for data and one for instructions. For the Pentium 4, the L1 data cache
is 16 KBytes, using a line size of 64 bytes and a four-way set-associative organization.
The Pentium 4 instruction cache is described subsequently. The Pentium II
also includes an L2 cache that feeds both of the L1 caches. The L2 cache is eightway
set associative with a size of 512 KB and a line size of 128 bytes. An L3 cache
was added for the Pentium III and became on-chip with high-end versions of the
Pentium 4.
Figure 4.18 provides a simplified view of the Pentium 4 organization, highlighting
the placement of the three caches.The processor core consists of four major
components:
• Fetch/decode unit: Fetches program instructions in order from the L2 cache,
decodes these into a series of micro-operations, and stores the results in the L1
instruction cache.
• Out-of-order execution logic: Schedules execution of the micro-operations
subject to data dependencies and resource availability; thus, micro-operations
may be scheduled for execution in a different order than they were fetched
from the instruction stream. As time permits, this unit schedules speculative
execution of micro-operations that may be required in the future.
Table 4.4 Intel Cache Evolution
Problem Solution
Processor on which
Feature First Appears
External memory slower than the system
bus.
Add external cache using faster
memory technology.
386
Increased processor speed results in
external bus becoming a bottleneck for
cache access.
Move external cache on-chip, operating
at the same speed as the
processor.
486
Internal cache is rather small, due to
limited space on chip
Add external L2 cache using faster
technology than main memory
486
Contention occurs when both the Instruction
Prefetcher and the Execution Unit
simultaneously require access to the cache.
In that case, the Prefetcher is stalled while
the Execution Unit’s data access takes
place.
Create separate data and instruction
caches.
Pentium
Increased processor speed results in
external bus becoming a bottleneck for L2
cache access.
Create separate back-side bus that
runs at higher speed than the main
(front-side) external bus. The BSB
is dedicated to the L2 cache.
Pentium Pro
Move L2 cache on to the processor
chip.
Pentium II
Some applications deal with massive databases
and must have rapid access to large
amounts of data. The on-chip caches are
too small.
Add external L3 cache. Pentium III
Move L3 cache on-chip. Pentium 4

Kết quả (Việt) 1:

Sự tiến hóa của tổ chức bộ nhớ cache được nhìn thấy rõ ràng trong sự tiến hóa của vi xử lý Intel(Bảng 4.4). 80386 không bao gồm một bộ nhớ cache trên chip. Các 80486bao gồm một bộ nhớ cache trên chip đơn của 8 KBytes, bằng cách sử dụng một kích thước đường 16 byte và bốn chiều4.4 / PENTIUM 4 BỘ NHỚ CACHE TỔ CHỨC 141thiết lập kết hợp tổ chức. Tất cả các bộ xử lý Pentium bao gồm hai trên chip L1lưu trữ, một cho dữ liệu và một để được hướng dẫn. Cho Pentium 4, bộ nhớ cache dữ liệu L1là 16 KBytes, bằng cách sử dụng một kích thước đường 64 byte và một 4-cách thiết lập kết hợp tổ chức.Bộ nhớ cache của Pentium 4 hướng dẫn được mô tả sau đó. Pentium IIcũng bao gồm một bộ nhớ cache L2 nguồn cấp dữ liệu cả hai L1 cache. Bộ nhớ cache L2 là eightwaythiết lập kết hợp với một của 512 KB và một đường kích thước của 128 byte. Một bộ nhớ cache L3đã được bổ sung cho Pentium III và trở thành trên chip với các phiên bản cao cấp của cácPentium 4.Con 4.18 cung cấp một cái nhìn đơn giản của các tổ chức Pentium 4, làm nổi bậtvị trí của các lưu trữ ba. Bộ vi xử lý lõi bao gồm bốn chínhthành phần:• Tìm nạp/giải mã đơn vị: Fetches chương trình hướng dẫn theo thứ tự từ bộ nhớ cache L2,giả mã các thành một loạt các hoạt động vi mô, và lưu trữ các kết quả trong L1bộ nhớ cache chỉ dẫn.• Ra thứ tự thực hiện logic: lịch thực hiện các hoạt động vitùy thuộc vào phụ thuộc dữ liệu và nguồn lực sẵn có; như vậy, vi hoạt độngcó thể lên lịch chạy theo một thứ tự khác nhau hơn so với họ đã được tải vềtừ dòng lệnh. Như thời gian cho phép, đơn vị này lịch trình suy đoánthực hiện các hoạt động vi mô có thể được yêu cầu trong tương lai.Bảng 4.4 Intel Cache EvolutionGiải pháp vấn đềBộ vi xử lý trên đóTính năng lần đầu tiên xuất hiệnBộ nhớ ngoài chậm hơn so với các hệ thốngxe buýt.Thêm bộ nhớ cache bên ngoài bằng cách sử dụng nhanh hơncông nghệ bộ nhớ.386Bộ vi xử lý tăng tốc độ kết quả trongxe buýt bên ngoài, trở thành một bottleneck chotruy cập bộ nhớ cache.Di chuyển bên ngoài bộ nhớ cache trên chip, điều hànhvới tốc độ tương tự như cácbộ xử lý.486Nội bộ nhớ cache là khá nhỏ, doCác không gian hạn chế trên chipThêm bộ nhớ cache L2 bên ngoài bằng cách sử dụng nhanh hơncông nghệ hơn bộ nhớ chính486Ganh đua xảy ra khi cả hai hướng dẫnPrefetcher và các đơn vị thực hiệnđồng thời yêu cầu quyền truy cập vào bộ nhớ cache.Trong trường hợp đó, Prefetcher được ngừng lại trong khitruy cập dữ liệu của đơn vị thi công phải mấtvị trí.Tạo dữ liệu riêng biệt và hướng dẫnlưu trữ.PentiumBộ vi xử lý tăng tốc độ kết quả trongxe buýt bên ngoài, trở thành một bottleneck cho L2truy cập bộ nhớ cache.Tạo riêng biệt phía sau xe buýtchạy ở tốc độ cao hơn so với chínhxe buýt bên ngoài (phía trước). BSBlà dành riêng cho bộ nhớ cache L2.Pentium ProDi chuyển L2 cache cho bộ vi xử lýchip.Pentium IIMột số ứng dụng đối phó với cơ sở dữ liệu lớnvà phải có quyền truy cập nhanh chóng đến lớnsố lượng dữ liệu. Cache trên chipquá nhỏ.Thêm external L3 cache. Pentium IIIDi chuyển L3 cache trên chip. Pentium 4

Kết quả (Việt) 2:

Sự phát triển của tổ chức bộ nhớ cache được thấy rõ trong sự phát triển của bộ vi xử lý Intel
(Bảng 4.4). Các 80386 không bao gồm một bộ nhớ cache trên chip. 80486
bao gồm một bộ nhớ cache trên chip đơn của 8 KBytes, sử dụng một kích thước dòng 16 byte và bốn chiều
4.4 / PENTIUM 4 CACHE TỔ CHỨC 141
thiết kết hợp tổ chức. Tất cả các bộ vi xử lý Pentium bao gồm hai L1 trên chip
bộ nhớ đệm, một cho dữ liệu và một để được hướng dẫn. Đối với Pentium 4, dữ liệu bộ nhớ cache L1
là 16 KBytes, sử dụng một kích thước dòng 64 byte và bốn chiều để tổ chức thiết kết.
Pentium 4 Cache lệnh được mô tả sau đó. Pentium II
cũng bao gồm một bộ nhớ cache L2 mà ăn cả hai cache L1.
Các bộ nhớ cache L2 được eightway thiết lập kết hợp với một kích thước 512 KB và kích thước một dòng 128 byte. Một bộ nhớ cache L3
đã được bổ sung cho Pentium III và trở thành on-chip với các phiên bản cao cấp của
Pentium 4.
Hình 4.18 cung cấp một cái nhìn đơn giản của các tổ chức Pentium 4, làm nổi bật
vị trí của các bộ vi xử lý lõi ba caches.The bao gồm bốn chính
thành phần:
• Fetch / khối giải mã: lấy về hướng dẫn chương trình theo thứ tự từ bộ nhớ cache L2,
giải mã này vào một loạt các vi hoạt động, và lưu trữ các kết quả trong L1
instruction cache.
• Out-of-trật tự thực hiện logic: Lịch thi hành vi hoạt động
phụ thuộc vào phụ thuộc dữ liệu và nguồn lực sẵn có; do đó,
vi hoạt động có thể được dự kiến để thực hiện theo một thứ tự khác nhau hơn so với họ đã lấy
từ dòng lệnh. Như thời gian cho phép, điều này lịch trình đơn vị đầu cơ
thực hiện vi hoạt động có thể cần thiết trong tương lai.
Bảng 4.4 Intel cache Tiến hóa
Vấn đề Giải pháp
xử lý trên mà
Tính năng đầu tiên Xuất hiện
bộ nhớ ngoài chậm hơn so với các hệ thống
xe buýt.
Thêm bộ nhớ cache từ các ứng dụng nhanh hơn
công nghệ bộ nhớ.
386
Tăng xử lý kết quả tốc độ trong
xe buýt bên ngoài trở thành một nút cổ chai cho
truy cập bộ nhớ cache.
Di chuyển bộ nhớ cache bên ngoài trên chip, hoạt động
với tốc độ tương tự như các
bộ xử lý.
486
bộ nhớ cache nội bộ là khá nhỏ,
do không gian hạn chế trên chip
Thêm bộ nhớ cache L2 bên ngoài sử dụng nhanh
công nghệ hơn so với bộ nhớ chính
486
Contention xảy ra khi cả hai Huấn
Prefetcher và các đơn vị thi công
đồng thời yêu cầu truy cập vào bộ nhớ cache.
Trong trường hợp đó, Prefetcher đang bị đình trệ trong khi
truy cập dữ liệu các đơn vị thi công của mất
chỗ.
Tạo dữ liệu và hướng dẫn riêng
cache.
Pentium
Tăng tốc độ xử lý kết quả trong
xe buýt bên ngoài trở thành một nút cổ chai cho L2
truy cập bộ nhớ cache.
Tạo xe buýt trở lại phía riêng biệt mà
chạy ở tốc độ cao hơn so với chính
(front-side) xe buýt bên ngoài. BSB
là dành riêng cho bộ nhớ cache L2.
Pro Pentium
bộ nhớ cache L2 Di chuyển trên các bộ xử lý
chip.
Pentium II
Một số ứng dụng đối phó với cơ sở dữ liệu khổng lồ
và phải có quyền truy cập nhanh chóng đến lớn
lượng của dữ liệu. Cache trên chip là
quá nhỏ.
Thêm bộ nhớ cache L3 bên ngoài. Pentium III
Move L3 cache trên chip. Pentium 4