Mọi người đều có một số ý tưởng trực quan của thông tin là gì. Nó sẽ là cần thiết, tuy nhiên, để nêu một biện pháp định lượng hay định nghĩa của thông tin để sử dụng trong tương lai của chúng tôi. Một dự báo thời tiết trong 12 ngày mát mẻ, ngâm mưa cho các sa mạc Sahara rõ ràng sẽ mang nhiều thông tin hơn so với dự báo thông thường rõ ràng, nóng và khô. Vì vậy, chúng tôi mong chờ thông tin có thể lớn hơn cho các tin nhắn với xác suất nhỏ xảy ra. Hơn nữa, từ trực giác, chúng tôi hy vọng rằng những thông tin chứa đựng trong hai sự kiện riêng biệt và độc lập cần được tổng của các thông tin trong cả hai sự kiện. Cuối cùng, chúng tôi mong chờ thông tin để có một lượng tích cực và là số không khi một sự kiện là chắc chắn xảy ra. Chỉ có một chức năng đáp ứng tất cả bốn trong số những điều kiện [23, tr. 343]. Nó là logarit, và cơ sở lựa chọn xác định đơn vị thông tin. Cơ sở 2 thường được sử dụng trong các hệ thống truyền thông bởi vì nó đại diện cho các biện pháp nhỏ nhất của sự lựa chọn.
đang được dịch, vui lòng đợi..