Cache MemoryMost PCs are held back

Cache Memory
Most PCs are held back not by the speed of their main processor, but by the time it takes to move data in and out of memory. One of the most important techniques for getting around this bottleneck is the memory cache.

The idea is to use a small number of very fast memory chips as a buffer or cache between main memory and the processor. Whenever the processor needs to read data it looks in this cache area first. If it finds the data in the cache then this counts as a 'cache hit' and the processor need not go through the more laborious process of reading data from the main memory. Only if the data is not in the cache does it need to access main memory, but in the process it copies whatever it finds into the cache so that it is there ready for the next time it is needed. The whole process is controlled by a group of logic circuits called the cache controller.

One of the cache controller's main jobs is to look after 'cache coherency' which means ensuring that any changes written to main memory are reflected within the cache and vice versa. There are several techniques for achieving this, the most obvious being for the processor to write directly to both the cache and main memory at the same time. This is known as a 'write-through' cache and is the safest solution, but also the slowest.

The main alternative is the 'write-back' cache which allows the processor to write changes only to the cache and not to main memory. Cache entries that have changed are flagged as 'dirty', telling the cache controller to write their contents back to main memory before using the space to cache new data. A write-back cache speeds up the write process, but does require a more intelligent cache controller.

Most cache controllers move a 'line' of data rather than just a single item each time they need to transfer data between main memory and the cache. This tends to improve the chance of a cache hit as most programs spend their time stepping through instructions stored sequentially in memory, rather than jumping about from one area to another. The amount of data transferred each time is known as the 'line size'.

How a Disk Cache Works

Disk caching works in essentially the same way whether you have a cache on your disk controller or you are using a software-based solution. The CPU requests specific data from the cache. In some cases, the information will already be there and the request can be met without accessing the hard disk.

If the requested information isn't in the cache, the data is read from the disk along with a large chunk of adjacent information. The cache then makes room for the new data by replacing old. Depending on the algorithm that is being applied, this may be the information that has been in the cache the longest, or the information that is the least recently used. The CPU's request can then be met, and the cache already has the adjacent data loaded in anticipation of that information being requested next.

Kết quả (Việt) 1:

Bộ nhớ cacheHầu hết các máy tính được tổ chức trở lại chứ không phải bởi tốc độ của bộ xử lý chính của họ, nhưng do thời gian để di chuyển dữ liệu vào và ra khỏi bộ nhớ. Một trong các kỹ thuật quan trọng nhất để nhận được xung quanh thành phố nút cổ chai này là bộ nhớ cache.Mục đích là để sử dụng một số lượng nhỏ của chip bộ nhớ rất nhanh như một bộ đệm hoặc bộ nhớ cache giữa bộ nhớ chính và bộ vi xử lý. Bất cứ khi nào các bộ xử lý cần phải đọc dữ liệu có vẻ trong lĩnh vực bộ nhớ cache này lần đầu tiên. Nếu nó tìm thấy các dữ liệu trong bộ nhớ cache sau đó điều này tính như một bộ nhớ cache hit' và bộ vi xử lý không cần đi qua quá trình mất thời gian hơn để đọc dữ liệu từ bộ nhớ chính. Chỉ khi các dữ liệu không phải là trong bộ nhớ cache hiện nó cần để truy cập vào bộ nhớ chính, nhưng trong quá trình nó sao chép bất cứ điều gì nó tìm thấy vào bộ nhớ cache để cho nó có sẵn sàng cho thời gian tiếp theo nó cần thiết. Toàn bộ quá trình được điều khiển bởi một nhóm các mạch điện logic được gọi là bộ điều khiển bộ nhớ cache.Một trong các công việc chính của bộ điều khiển bộ nhớ cache là để chăm sóc 'bộ nhớ cache sự liên lạc' có nghĩa là đảm bảo rằng bất kỳ thay đổi nào ghi vào bộ nhớ chính được phản ánh trong bộ nhớ cache và ngược lại. Có rất nhiều kỹ thuật để đạt được điều này, rõ ràng nhất là cho bộ vi xử lý được ghi trực tiếp vào bộ nhớ cache và bộ nhớ chính cùng một lúc. Điều này được gọi là một 'viết qua' bộ nhớ cache và các giải pháp an toàn nhất, nhưng cũng chậm nhất.Khác chính là bộ nhớ cache 'ghi lại' cho phép bộ xử lý để ghi các thay đổi chỉ để bộ nhớ cache và không để bộ nhớ chính. Bộ nhớ cache mục có thay đổi được gắn cờ là 'bẩn', nói cho bộ điều khiển bộ nhớ cache để viết nội dung của họ lại cho bộ nhớ chính trước khi sử dụng không gian để bộ nhớ cache dữ liệu mới. Một bộ nhớ cache ghi lại tốc độ quá trình ghi, nhưng yêu cầu một bộ điều khiển bộ nhớ cache thông minh hơn.Hầu hết bộ nhớ cache bộ điều khiển di chuyển một 'đường' của dữ liệu chứ không phải là chỉ có một mục duy nhất mỗi khi họ cần để chuyển dữ liệu giữa bộ nhớ cache và bộ nhớ chính. Điều này có xu hướng để cải thiện cơ hội của một bộ nhớ cache hit như hầu hết các chương trình chi tiêu của họ thời gian bước qua hướng dẫn lưu trữ tuần tự trong bộ nhớ, chứ không phải là nhảy về từ một khu vực khác. Số lượng dữ liệu chuyển mỗi khi được gọi là 'kích thước dòng'.Cách thức hoạt động của một bộ nhớ Cache đĩaĐĩa bộ nhớ đệm công trình trong về cơ bản theo cùng một cách cho dù bạn có một bộ nhớ cache trên bộ điều khiển đĩa của bạn hoặc bạn đang sử dụng một giải pháp dựa trên phần mềm. CPU yêu cầu cụ thể dữ liệu từ bộ nhớ cache. Trong một số trường hợp, các thông tin sẽ đã ở đó và yêu cầu có thể được đáp ứng mà không cần truy cập vào đĩa cứng.Nếu các thông tin được yêu cầu không phải là trong bộ nhớ cache, dữ liệu được đọc từ đĩa cùng với một đoạn lớn của lân cận thông tin. Bộ nhớ cache sau đó làm cho căn phòng cho các dữ liệu mới bằng cách thay thế cũ. Tùy thuộc vào các thuật toán đang được áp dụng, điều này có thể thông tin đã là trong bộ nhớ cache dài nhất, hoặc về thông tin là các ít mới được sử dụng. Yêu cầu của CPU sau đó có thể được đáp ứng, và bộ nhớ cache đã có dữ liệu liền kề nạp với dự đoán của thông tin đó được yêu cầu tiếp theo.

Kết quả (Việt) 2:

Bộ nhớ Cache
Hầu hết các máy tính được tổ chức lại không bằng tốc độ của bộ vi xử lý chính của họ, nhưng theo thời gian nó cần để di chuyển dữ liệu vào và ra khỏi bộ nhớ. Một trong những kỹ thuật quan trọng nhất để có được xung quanh cổ chai này là bộ nhớ Cache. Ý tưởng này là sử dụng một số lượng nhỏ các chip bộ nhớ rất nhanh như một bộ đệm cache giữa bộ nhớ chính và bộ vi xử lý. Bất cứ khi nào các bộ xử lý cần phải đọc dữ liệu nó sẽ tìm trong khu vực bộ nhớ cache này đầu tiên. Nếu nó tìm thấy các dữ liệu trong bộ nhớ cache sau đó điều này được tính như là một "bộ nhớ cache hit 'và bộ xử lý không cần phải đi qua quá trình mất thời gian hơn cho việc đọc dữ liệu từ bộ nhớ chính. Chỉ khi các dữ liệu không có trong bộ nhớ cache hiện nó cần phải truy cập vào bộ nhớ chính, nhưng trong quá trình nó sao chép bất cứ điều gì nó tìm thấy vào bộ nhớ cache để nó là có sẵn sàng cho lần tiếp theo nó là cần thiết. Toàn bộ quá trình được điều khiển bởi một nhóm các mạch logic được gọi là bộ điều khiển bộ nhớ cache. Một trong những công việc chính của bộ điều khiển bộ nhớ cache là để chăm sóc 'bộ nhớ cache sự mạch lạc "có nghĩa là đảm bảo rằng bất kỳ thay đổi ghi vào bộ nhớ chính được phản ánh trong bộ nhớ cache và ngược lại. Có một số kỹ thuật để đạt được điều này, các phúc rõ ràng nhất cho các bộ vi xử lý để viết trực tiếp cho cả bộ nhớ cache và bộ nhớ chính cùng một lúc. Điều này được biết đến như một bộ nhớ cache "write-through" và là giải pháp an toàn nhất, nhưng cũng là chậm nhất. Việc thay thế chính là "viết lại" bộ nhớ cache cho phép bộ vi xử lý để ghi các thay đổi chỉ để bộ nhớ cache và không nhớ chính. Mục cache đó đã thay đổi được đánh dấu là 'bẩn', nói với các bộ điều khiển bộ nhớ cache để viết nội dung của họ trở lại vào bộ nhớ chính trước khi sử dụng không gian để lưu trữ dữ liệu mới. Một bộ nhớ cache write-back tăng tốc quá trình ghi, nhưng mà không đòi hỏi một bộ điều khiển bộ nhớ cache thông minh hơn. Hầu hết các bộ điều khiển bộ nhớ cache di chuyển một 'dòng' của dữ liệu chứ không phải chỉ là một mặt hàng duy nhất mỗi khi họ cần để chuyển dữ liệu giữa bộ nhớ chính và bộ nhớ cache. Điều này có xu hướng cải thiện các cơ hội của một bộ nhớ cache hit như hầu hết các chương trình dành thời gian của họ bước qua hướng dẫn tuần tự được lưu trữ trong bộ nhớ, thay vì nhảy về từ vùng này sang vùng khác. Số lượng dữ liệu chuyển mỗi lần được gọi là 'kích thước đường'. Làm thế nào một đĩa Cache bộ nhớ đệm đĩa làm việc tại cơ bản theo cùng một cách cho dù bạn có một bộ nhớ cache trên bộ điều khiển đĩa cứng của bạn hoặc bạn đang sử dụng một giải pháp dựa trên phần mềm. Các CPU yêu cầu dữ liệu cụ thể từ bộ nhớ cache. Trong một số trường hợp, các thông tin đã có ở đây và yêu cầu có thể được đáp ứng mà không cần truy cập vào đĩa cứng. Nếu các thông tin được yêu cầu không có trong bộ nhớ cache, dữ liệu được đọc từ đĩa cùng với một lượng lớn thông tin liền kề. Các bộ nhớ cache sau đó làm cho căn phòng cho các dữ liệu mới bằng cách thay thế cũ. Tùy thuộc vào các thuật toán đang được áp dụng, điều này có thể là thông tin có được trong bộ nhớ cache dài nhất, hoặc các thông tin đó là gần đây nhất được sử dụng. Yêu cầu của CPU sau đó có thể được đáp ứng, và bộ nhớ cache đã có các dữ liệu được nạp liền kề với dự đoán của các thông tin đó được yêu cầu tiếp theo.