đó xn là nguyên tố thứ n của chuỗi ban đầu và rn là nguyên tố thứ n của dư
chuỗi. Mô hình này được gọi là mô hình tĩnh vì các thông số của nó không thay đổi với n.
Một mô hình có các tham số thay đổi và thích nghi với n với đặc điểm thay đổi của
dữ liệu được gọi là một mô hình thích ứng.
Về cơ bản, chúng ta thấy rằng việc biết điều gì đó về cấu trúc của dữ liệu có thể giúp đỡ để
"làm giảm entropy." Chúng tôi đã "làm giảm entropy" trong dấu ngoặc kép vì entropy của
nguồn là một thước đo về số lượng thông tin được tạo ra bởi nguồn. Miễn
là thông tin được tạo ra bởi các nguồn được bảo quản (trong bất cứ đại diện), các
dữ liệu ngẫu nhiên vẫn giữ nguyên. Những gì chúng tôi đang giảm là ước tính của chúng ta về entropy. Các "thực tế"
cấu trúc của dữ liệu trong thực tế là thường không thể biết, nhưng bất cứ điều gì chúng ta có thể tìm hiểu về
các dữ liệu có thể giúp chúng ta ước tính entropy nguồn thực tế. Về mặt lý thuyết, như đã thấy trong phương trình
(2.2), chúng tôi thực hiện điều này trong định nghĩa của chúng ta về entropy bằng cách chọn các khối lớn hơn và lớn hơn
của dữ liệu để tính toán xác suất hơn, cho phép kích thước của khối đi đến vô cùng.
Hãy xem xét các chuỗi trù sau đây:
đang được dịch, vui lòng đợi..
