2.3.2 Probability ModelsThe simples

2.3.2 Probability Models
The simplest statistical model for the source is to assume that each letter that is generated by
the source is independent of every other letter, and each occurs with the same probability.
We could call this the ignorance model, as it would generally be useful only when we know
nothing about the source. (Of course, that really might be true, in which case we have a rather
unfortunate name for the model!) The next step up in complexity is to keep the independence
assumption, but remove the equal probability assumption and assign a probability of
occurrence to each letter in the alphabet. For a source that generates letters from an alphabet
 = a1a2     aM, we can have a probability model  = Pa1 Pa2     PaM.
Given a probability model (and the independence assumption), we can compute the
entropy of the source using Equation (2.4). As we will see in the following chapters using
the probability model, we can also construct some very efficient codes to represent the letters
in . Of course, these codes are only efficient if our mathematical assumptions are in accord
with reality

Kết quả (Việt) 1:

2.3.2 xác suất mô hìnhCác mô hình thống kê đơn giản nhất cho nguồn là giả định rằng mỗi lá thư đó được tạo ra bởinguồn là độc lập của mỗi chữ và từng xảy ra với xác suất tương tự.Chúng tôi có thể gọi đây là mô hình vô minh, vì nó thường sẽ được hữu ích chỉ khi chúng ta biếtkhông có gì về nguồn gốc. (Tất nhiên, đó thực sự có thể đúng, trong trường hợp chúng tôi có một kháđáng tiếc cái tên cho các mô hình!) Bước tiếp theo lên phức tạp là để giữ cho sự độc lậpgiả định, nhưng loại bỏ giả định xác suất bằng nhau và gán một xác suấtsự xuất hiện để mỗi chữ cái trong bảng chữ cái. Cho một nguồn tạo ra các ký tự từ một bảng chữ cái= a1 a2 là, chúng tôi có thể có một mô hình xác suất = P a1 a2 P P là.Đưa ra một mô hình xác suất (và các giả định độc lập), chúng tôi có thể tính toán cácEntropy của nguồn bằng cách sử dụng phương trình (2.4). Như chúng ta sẽ thấy trong các chương sau đây bằng cách sử dụngmẫu xác suất, chúng tôi cũng có thể xây dựng một số mã rất hiệu quả để đại diện cho các chữ cáitrong. Tất nhiên, các mã chỉ có hiệu quả nếu chúng tôi giả định toán học phù hợpvới thực tế

Kết quả (Việt) 2:

2.3.2 Xác suất Mô hình
Mô hình thống kê đơn giản cho nguồn là giả định rằng mỗi lá thư được tạo ra bởi
các nguồn độc lập của từng bức thư khác, và từng xảy ra với xác suất như nhau.
Chúng ta có thể gọi đây là mô hình của sự thiếu hiểu biết, vì nó sẽ nói chung là chỉ có ích khi chúng ta biết
gì về nguồn gốc. (Tất nhiên, đó thực sự có thể là đúng, trong trường hợp này chúng ta có một thay
tên không may cho các mô hình!) Các bước tiếp theo trong sự phức tạp là để giữ sự độc lập
giả định, nhưng loại bỏ các giả định xác suất bằng nhau và gán một xác suất
xảy ra để mỗi chữ cái trong bảng chữ cái. Đối với một nguồn mà tạo ra chữ từ một bảng chữ cái
? =? A1? A2? ? ? ? ? aM ?, chúng ta có thể có một mô hình xác suất? =? P? A1 ?? P? A2 ?? ? ? ? ? P? AM ??.
Với một mô hình xác suất (và các giả định độc lập), chúng ta có thể tính toán
entropy của nguồn sử dụng phương trình (2.4). Như chúng ta sẽ thấy trong các chương tiếp theo sử dụng
các mô hình xác suất, chúng ta cũng có thể xây dựng một số mã rất hiệu quả để đại diện cho các chữ cái
trong?. Tất nhiên, những mã này chỉ hiệu quả nếu giả định toán học của chúng tôi là phù hợp
với thực tế