Types of Parallel Processor Systems

Types of Parallel Processor Systems
A taxonomy first introduced by Flynn [FLYN72] is still the most common way of
categorizing systems with parallel processing capability. Flynn proposed the following
categories of computer systems:
• Single instruction, single data (SISD) stream: A single processor executes
a single instruction stream to operate on data stored in a single memory.
Uniprocessors fall into this category.
• Single instruction, multiple data (SIMD) stream: A single machine instruction
controls the simultaneous execution of a number of processing elements
on a lockstep basis. Each processing element has an associated data memory,
so that instructions are executed on different sets of data by different processors.
Vector and array processors fall into this category, and are discussed in
Section 18.7.
• Multiple instruction, single data (MISD) stream: A sequence of data is transmitted
to a set of processors, each of which executes a different instruction
sequence. This structure is not commercially implemented.
• Multiple instruction, multiple data (MIMD) stream: A set of processors simultaneously
execute different instruction sequences on different data sets.
SMPs, clusters, and NUMA systems fit into this category.
With the MIMD organization, the processors are general purpose; each is able to
process all of the instructions necessary to perform the appropriate data transformation.
MIMDs can be further subdivided by the means in which the processors communicate
(Figure 17.1). If the processors share a common memory, then each processor
accesses programs and data stored in the shared memory, and processors communicate
with each other via that memory. The most common form of such system is known
as a symmetric multiprocessor (SMP), which we examine in Section 17.2. In an SMP,
multiple processors share a single memory or pool of memory by means of a shared
bus or other interconnection mechanism; a distinguishing feature is that the memory
access time to any region of memory is approximately the same for each processor.
A more recent development is the nonuniform memory access (NUMA) organization,
which is described in Section 17.5. As the name suggests, the memory access time
to different regions of memory may differ for a NUMA processor.
A collection of independent uniprocessors or SMPs may be interconnected to
form a cluster. Communication among the computers is either via fixed paths or via
some network facility.
Parallel Organizations
Figure 17.2 illustrates the general organization of the taxonomy of Figure 17.1.
Figure 17.2a shows the structure of an SISD. There is some sort of control unit (CU)
that provides an instruction stream (IS) to a processing unit (PU). The processing
unit operates on a single data stream (DS) from a memory unit (MU). With an

Kết quả (Việt) 1:

Loại hệ thống bộ xử lý song songMột phân loại đầu tiên được giới thiệu bởi Flynn [FLYN72] là cách vẫn còn nhiều nhất phổ biến củaphân loại hệ thống với khả năng xử lý song song. Flynn đề xuất sau đâythể loại của hệ thống máy tính:• Chỉ dẫn duy nhất, dòng dữ liệu duy nhất (SISD): một bộ xử lý duy nhất thực hiệnmột dòng duy nhất chỉ dẫn để hoạt động trên dữ liệu được lưu trữ trong một ký ức duy nhất.Uniprocessors rơi vào loại này.• Chỉ dẫn duy nhất, nhiều luồng dữ liệu (SIMD): một hướng dẫn máyđiều khiển đồng thời thực hiện một số yếu tố chế biếntrên cơ sở lockstep. Mỗi phần tử xử lý có một bộ nhớ dữ liệu liên quan,do đó, rằng hướng dẫn này được thực hiện trên bộ khác nhau của dữ liệu của bộ vi xử lý khác nhau.Bộ vi xử lý vector và mảng rơi vào loại này, và sẽ được thảo luận trongPhần 18.7.• Nhiều hướng dẫn, dòng dữ liệu duy nhất (MISD): một chuỗi các dữ liệu được truyền điđể một bộ vi xử lý, mỗi trong số đó thực hiện một chỉ dẫn khác nhautrình tự. Cấu trúc này không được thực hiện thương mại.• Nhiều hướng dẫn, nhiều luồng dữ liệu (MIMD): A thiết lập bộ vi xử lý cùng một lúcthực hiện trình tự hướng dẫn khác nhau trên bộ dữ liệu khác nhau.Mini, cụm và NUMA hệ thống phù hợp với thể loại này.Tổ chức MIMD, bộ vi xử lý là trơn; mỗi có thểxử lý tất cả các hướng dẫn cần thiết để thực hiện việc chuyển đổi dữ liệu thích hợp.MIMDs có thể được chia một phần bởi các phương tiện mà trong đó các bộ vi xử lý giao tiếp(Hình 17.1). Nếu các bộ vi xử lý chia sẻ một bộ nhớ phổ biến, sau đó mỗi bộ vi xử lýtruy cập chương trình và dữ liệu được lưu trong bộ nhớ dùng chung, và bộ vi xử lý giao tiếplẫn nhau thông qua bộ nhớ điều đó. Các hình thức phổ biến nhất của hệ thống như vậy được biết đếnnhư là một đối xứng sự (SMP), mà chúng ta xem xét phần 17.2. Trong một SMP,bộ vi xử lý nhiều chia sẻ bộ nhớ đơn hoặc hồ bơi của bộ nhớ bằng phương tiện của một chia sẻxe buýt hoặc cơ chế kết nối khác; một tính năng phân biệt là bộ nhớthời gian truy cập để bất kỳ khu vực của bộ nhớ là khoảng tương tự cho mỗi bộ vi xử lý.Một phát triển gần đây là tổ chức truy cập (NUMA) nonuniform bộ nhớ,mà được mô tả trong phần 17,5. Như tên cho thấy, thời gian truy cập bộ nhớcác khu vực khác nhau của bộ nhớ có thể khác nhau cho một bộ xử lý NUMA.Một bộ sưu tập độc lập uniprocessors hoặc mini có thể được nối liền với nhau đểtạo thành một cụm. Liên lạc giữa các máy tính là thông qua con đường cố định hoặc thông quamột số cơ sở mạng.Tổ chức song songCon số 17.2 minh hoạ tổ chức chung của phân loại hình 17.1.Hình vẽ 17.2a Hiển thị cấu trúc của một SISD. Có một số loại đơn vị kiểm soát (CU)cung cấp một hướng dẫn dòng (IS) để một đơn vị xử lý (PU). Việc xử lýđơn vị hoạt động trên một dòng dữ liệu duy nhất (DS) từ một đơn vị bộ nhớ (MU). Với một