Note that we have not specified the

Note that we have not specified the base of the log function. We will discuss this in more
detail later in the chapter. The use of the logarithm to obtain a measure of information
was not an arbitrary choice as we shall see later in this chapter. But first let’s see if the
use of a logarithm in this context makes sense from an intuitive point of view. Recall
that log1 = 0, and −logx increases as x decreases from one to zero. Therefore, if the
probability of an event is low, the amount of self-information associated with it is high; if
the probability of an event is high, the information associated with it is low. Even if we
ignore the mathematical definition of information and simply use the definition we use in
everyday language, this makes some intuitive sense. The barking of a dog during a burglary
is a high-probability event and, therefore, does not contain too much information. However,
if the dog did not bark during a burglary, this is a low-probability event and contains a lot of
information. (Obviously, Sherlock Holmes understood information theory!)1 Although this
equivalence of the mathematical and semantic definitions of information holds true most of
the time, it does not hold all of the time. For example, a totally random string of letters
will contain more information (in the mathematical sense) than a well-thought-out treatise
on information theory.
Another property of this mathematical definition of information that makes intuitive
sense is that the information obtained from the occurrence of two independent events is the
sum of the information obtained from the occurrence of the individual events. Suppose A
and B are two independent events. The self-information associated with the occurrence of
both event A and event B is, by Equation (2.1),

Kết quả (Việt) 1:

Lưu ý rằng chúng tôi đã không chỉ định là cơ sở của chức năng đăng nhập. Chúng tôi sẽ thảo luận về điều này trong nhiều hơn nữaXem chi tiết sau này trong các chương. Việc sử dụng các logarit để có được một biện pháp của thông tinđã không một sự lựa chọn tùy ý như chúng ta sẽ thấy sau này trong chương này. Nhưng trước tiên chúng ta hãy xem nếu cácsử dụng một logarit trong bối cảnh này có ý nghĩa từ một quan điểm trực quan. Nhớ lạimà đăng 1 = 0, và −log x tăng khi x giảm từ một đến số không. Vì vậy, nếu cácxác suất của một sự kiện là thấp, lượng tự thông tin gắn liền với nó là cao; Nếuxác suất của một sự kiện là cao, các thông tin liên kết với nó là thấp. Thậm chí nếu chúng tôibỏ qua định nghĩa toán học thông tin và chỉ đơn giản là sử dụng định nghĩa chúng tôi sử dụng trongngôn ngữ hàng ngày, điều này làm cho một số ý thức trực quan. Tiếng sủa của một con chó trong một vụ trộmlà một sự kiện xác suất cao, và do đó, không chứa thông tin quá nhiều. Tuy nhiên,Nếu con chó đã không vỏ cây trong một vụ trộm, đây là một sự kiện xác suất thấp và chứa rất nhiềuthông tin. (Rõ ràng, Sherlock Holmes hiểu lý thuyết thông tin!) 1 mặc dù điều nàytương đương của các định nghĩa toán học và ngữ nghĩa của thông tin chứa hầu hết các sự thậtthời gian, nó không giữ tất cả các thời gian. Ví dụ, một chuỗi chữ hoàn toàn ngẫu nhiênsẽ có thêm thông tin (theo nghĩa toán học) hơn một luận cũng-nghĩ-ratrên lý thuyết thông tin.Các tài sản khác của định nghĩa toán học này thông tin làm cho trực quannghĩa là các thông tin thu được từ sự xuất hiện của hai biến cố độc lập là cácTổng hợp các thông tin thu được từ sự xuất hiện của sự kiện cá nhân. Giả sử Avà B là hai biến cố độc lập. Thông tin tự liên kết với sự xuất hiện củacả hai sự kiện A và B sự kiện là, bởi phương trình (2.1),

Kết quả (Việt) 2:

Lưu ý rằng chúng tôi đã không quy định các cơ sở của các chức năng đăng nhập. Chúng tôi sẽ thảo luận điều này trong nhiều
chi tiết hơn ở chương này. Việc sử dụng logarit để có được một biện pháp của thông tin
không phải là một lựa chọn tùy ý như chúng ta sẽ thấy sau này trong chương này. Nhưng trước tiên chúng ta hãy xem nếu
sử dụng một logarit trong bối cảnh này có ý nghĩa từ một quan điểm trực quan của xem. Nhớ lại
mà đăng nhập? 1? = 0, và -log? X? tăng lên khi x giảm từ một số không. Do đó, nếu
xác suất của một sự kiện là thấp, lượng tự thông tin liên kết với nó là cao; nếu
xác suất của một sự kiện là cao, thông tin liên kết với nó là thấp. Ngay cả nếu chúng ta
bỏ qua những định nghĩa toán học của thông tin và chỉ đơn giản là sử dụng định nghĩa chúng tôi sử dụng trong
ngôn ngữ hàng ngày, điều này làm cho một số trực giác. Sủa của một con chó trong một vụ trộm
là một sự kiện xác suất cao và, do đó, không chứa quá nhiều thông tin. Tuy nhiên,
nếu con chó không sủa trong một vụ trộm, đây là một sự kiện xác suất thấp và chứa rất nhiều
thông tin. (Rõ ràng, Sherlock Holmes hiểu lý thuyết thông tin!) 1 Mặc dù điều này
tương đương của các định nghĩa toán học và ngữ nghĩa của thông tin đúng nhất của
thời gian, nó không giữ tất cả thời gian. Ví dụ, một chuỗi hoàn toàn ngẫu nhiên của các chữ cái
sẽ có thêm thông tin (theo nghĩa toán học) so với một luận cũng suy nghĩ ra
trên lý thuyết thông tin.
Một căn nhà khác của định nghĩa toán học thông tin này mà làm cho trực quan
cảm giác là các thông tin thu được từ các xảy ra hai sự kiện độc lập là
tổng của các thông tin thu được từ sự xuất hiện của các sự kiện cá nhân. Giả sử A
và B là hai sự kiện độc lập. Việc tự thông tin liên quan đến sự xuất hiện của
cả hai sự kiện A và B là sự kiện, bởi phương trình (2.1),