3.4 Hidden Markov Model (HMM)Based

3.4 Hidden Markov Model (HMM)
Based on the clusters’ labels coming from K-means clustering, HMMs are built up. We had applied the method of leave-one-out cross validation to increase the operation of HMM. In our project, the training data of HMM is calculated from 9 out of 10 folders in a database of an action while the remaining folders are used as validation data, which has illustrated in below figure 3.7:

Figure 3. 7 Different sets of training sequence are taken from 100 videos of a gait
By repeating this process, we create 10 x 20 = 200 different HMM models for testing purpose.
An HMM is completely characterized by [28] a set λ = {A, B, π } where A = transition matrix = {aij} with aij being the transition probability from state qi to qj, (i, j)∈ [1:N ] ; B: observation matrix = {bj(k)} with bj(k) being the probability of observed output symbol ; vk at state qj, k ∈ [1:M ] ; π = { πi } with π being the initial state probability.
The HMM we employed are left right 5 state ones. A condition is added to the elements in matrix B to avoid the transition of more than 2 states. The observation number M is chosen as 64. Each code word is vector of 7 elements corresponding to 7 Hu’s moments value.
Table 3. 1 Transition probability matrix
FUTURE STATES
State 1 State 2 State 3 State 4 State 5
PRESENT STATES State 1 0.5 0.5 0 0 0
State 2 0 0.5 0.5 0 0
State 3 0 0 0.5 0.5 0
State 4 0 0 0 0.5 0.5
State 5 0 0 0 0 1
The emission matrix is a 5 by 64 matrix with sum of every row equals 1. A number in a specific row of the emission matrix represents the probability of a specific state emitting a symbol in the 64 symbol groups. The model of transition probability matrix used to train HMM is shown table 3.1. Moreover, the default initial state distribution defines that the sequences of states always start at state 1.


Figure 3. 8 The five-state of HMM

In Figure 3.8, x(t) is the state at time t; y(t) is the output symbol being emitted at time t. This figure shows the initial HMM where all probabilities represents in the diagram are initial values used for training procedure.
The HMM training algorithm uses the initial transition and emission matrices to estimate the most probable transition and emission probability matrices that produce the training sequences. Each state emits one symbol out of 64 possibilities (the number of clusters for the vector quantization). The corresponding probabilities for all possible emission are defined by the emission matrix.
Table 3. 2 Emission probability matrix
Label 1 Label 2 Label 3 … Label 64
State 1 1/64 1/64 1/64 … 1/64
State 2 1/64 1/64 1/64 … 1/64
State 3 1/64 1/64 1/64 … 1/64
State 4 1/64 1/64 1/64 … 1/64
State 5 1/64 1/64 1/64 … 1/64

In reality, the training data in emission matrix sometimes is so small that Matlab assign as 0. One technique of handling the effects of insufficient training data is to add an extra constraint to the matrix B to ensure that no estimated parameters fall below a predefined level ε[8]. The value of ε is set to be 1e-06 in our project.
The resulting estimated transition and emission matrices are organized to a cell array and the indices of these matrices are those of gait video. Therefore, a test video has the same index as the trained parameters and testing process is easier to control.
Finally, all steps of gait detection of a specific video are:
Choosing testing video
Feature extraction Hu’s moment
Constructing test sequence by comparing with precomputed codebook
Calculating log-likehood with 200 HMMs of 2 different gaits
Checking which log-likehood is maximum so this testing video perform this gait

Kết quả (Việt) 1:

3.4 mô hình Markov ẩn (HMM)Dựa trên nhãn các cụm từ có nghĩa là K clustering, HMMs đang xây dựng. Chúng tôi đã áp dụng phương pháp xác nhận qua để lại-một-out để tăng sự vận hành của HMM. Trong dự án của chúng tôi, các dữ liệu đào tạo của HMM tính từ 9 trong số 10 thư mục trong cơ sở dữ liệu của một hành động trong khi các thư mục còn lại được sử dụng như là dữ liệu xác nhận, đã minh họa ở dưới con số 3,7: Hình 3. 7 bộ khác nhau của trình tự đào tạo được thực hiện từ 100 video một dáng điLặp đi lặp lại quá trình này, chúng tôi tạo ra 10 x 20 = 200 HMM mô hình thử nghiệm mục đích khác nhau. HMM một hoàn toàn được đặc trưng bởi [28] thiết lập λ = {A, B, π} nơi một ma trận chuyển tiếp = = {aij} với aij là khả năng chuyển đổi từ nhà nước Tề để qj, (i, j) ∈ [1:N]; B: ma trận quan sát = {bj(k)} với bj(k) là xác suất của các quan sát đầu ra biểu tượng; VK tại bang qj, k ∈ [1:M]; Π = {πi} với π là xác suất ban đầu nhà nước.HMM chúng tôi sử dụng là trái phải 5 bang người. Một điều kiện được thêm vào các yếu tố trong ma trận B để tránh sự chuyển tiếp của nhiều hơn 2 kỳ. Quan sát số M được chọn là 64. Mỗi từ mã là vector 7 yếu tố tương ứng với 7 Hu khoảnh khắc giá trị. Bảng 3. 1 quá trình chuyển đổi xác suất ma trận TƯƠNG LAI KỲ Bang 1 2 bang 3 bang 4 bang 5 Nhà nước hiện tại kỳ 1 0,5 cách 0.5 0 0 0 Nhà nước 2 0 0.5 cách 0.5 0 0 Nhà nước 3 0 0 0,5 cách 0.5 0 Nhà nước 4 0 0 0 cách 0.5 0,5 Bang 5 0 0 0 0 1Ma trận khí thải là một ma trận 5 64 với số tiền của mỗi hàng bằng 1. Một số trong một hàng cụ thể của ma trận phát thải đại diện cho xác suất của một nhà nước cụ thể phát ra một biểu tượng trong các nhóm biểu tượng 64. Mô hình ma trận khả năng chuyển đổi được sử dụng để đào tạo HMM Hiển thị bảng 3.1. Hơn nữa, bản phân phối mặc định ban đầu nhà nước xác định trình tự Kỳ luôn bắt đầu tại bang 1. Hình 3. 8 năm-bang HMMTrong hình 3.8, x(t) là nhà nước tại thời điểm t; y(t) là đầu ra ký hiệu được phát ra tại thời điểm t. Con số này cho thấy HMM ban đầu nơi mà tất cả các xác suất đại diện trong sơ đồ ban đầu giá trị được sử dụng cho việc đào tạo các thủ tục.Thuật toán đào tạo HMM sử dụng quá trình chuyển đổi ban đầu và ma trận khí thải để ước tính sự nhất có thể xảy ra quá trình chuyển đổi và phát thải xác suất ma trận sản xuất trình tự đào tạo. Mỗi tiểu bang phát ra một biểu tượng ra khỏi khả năng 64 (số lượng các cụm cho sự lượng tử hóa véc tơ). Xác suất tương ứng cho tất cả các khí thải có thể được định nghĩa bởi ma trận phát thải.Bảng 3. 2 phát thải xác suất ma trận Nhãn 1 nhãn 2 nhãn 3... Nhãn 64 Nhà nước 1 1 1/64/64 1/64... 1/64Nhà nước 2 1/64 1/64 1/64... 1/64 Nhà nước 1 3 1/64/64 1/64... 1/64 Nhà nước 1 4 1/64/64 1/64... 1/64 Nhà nước 1 5 1/64/64 1/64... 1/64 Trong thực tế, dữ liệu đào tạo trong khí thải ma trận đôi khi là như vậy nhỏ rằng Matlab gán là 0. Một kỹ thuật xử lý ảnh hưởng của đào tạo không đủ dữ liệu là để thêm một hạn chế phụ vào ma trận B để đảm bảo rằng không có thông số ước tính khoảng rơi dưới một mức độ định sẵn ε [8]. Giá trị của ε được thiết lập để được 1e-06 thuộc dự án của chúng tôi.Quá trình chuyển đổi ước tính kết quả và phát thải ma trận được tổ chức vào một mảng di động và các chỉ số của các ma trận những dáng đi video. Do đó, một đoạn video thử nghiệm có các chỉ số tương tự như các tham số được đào tạo và kiểm tra quá trình dễ dàng hơn để kiểm soát. Cuối cùng, tất cả các bước trong dáng đi phát hiện của một video cụ thể là: Việc lựa chọn thử nghiệm video Có thời điểm khai thác Hu Xây dựng các trình tự kiểm tra bằng cách so sánh với precomputed DEFCON Đăng nhập-likehood tính toán với 200 HMMs 2 khác nhau gaits Kiểm tra mà đăng nhập-likehood tối đa để thực hiện video này thử nghiệm này dáng đi

Kết quả (Việt) 2:

3.4 Hidden Markov Model (HMM)
Dựa trên nhãn của cụm từ K-means clustering, HMMs được xây dựng lên. Chúng tôi đã áp dụng các phương pháp để lại-một-ra kiểm chứng chéo để tăng hoạt động của HMM. Trong dự án của chúng tôi, các dữ liệu huấn luyện của HMM được tính từ 9 trong 10 thư mục trong một cơ sở dữ liệu của một hành động trong khi các thư mục còn lại được sử dụng như là dữ liệu xác nhận, đã được minh họa ở dưới con số 3,7: Hình 3. 7 bộ khác nhau của chuỗi đào tạo được lấy từ 100 video của một dáng đi bằng cách lặp lại quá trình này, chúng tôi tạo ra 10 x 20 = 200 mô hình HMM khác nhau cho mục đích thử nghiệm. một HMM là hoàn toàn đặc trưng bởi [28] một bộ λ = {A, B, π} trong đó A = ma trận chuyển đổi = {aij} với aij là xác suất chuyển từ trạng thái khí để qj, (i, j) ∈ [1: N]; B: ma trận quan sát = {bj (k)} với bj (k) là xác suất của biểu tượng đầu ra quan sát; vk tại qj nhà nước, k ∈ [1: M]; π = {} πi với π là xác suất trạng thái ban đầu. Các HMM chúng tôi sử dụng được đúng 5 cái nhà nước còn lại. Một điều kiện được thêm vào các yếu tố trong ma trận B để tránh quá trình chuyển đổi của hơn 2 tiểu bang. Số quan sát M được chọn là 64. Mỗi mã từ là vector của các yếu tố 7 tương ứng với 7 giá trị những khoảnh khắc của Hồ Cẩm Đào. Bảng 3. 1 chuyển ma trận xác suất TƯƠNG LAI KỲ Nhà nước 1 State 2 Nhà nước 3 Nhà nước 4 Nhà nước 5 HIỆN TẠI KỲ nhà nước 1 0.5 0.5 0 0 0 State 2 0 0,5 0,5 0 0 Nhà nước 3 0 0 0,5 0,5 0 Nhà nước 4 0 0 0 0,5 0,5 Nhà nước 5 0 0 0 0 1 ma trận phát xạ là một 5 64 ma trận với tổng của mỗi hàng bằng với 1. một số trong một hàng cụ thể của ma trận phát hiện xác suất của một nhà nước cụ thể phát ra một biểu tượng trong nhóm biểu tượng 64. Mô hình ma trận xác suất chuyển dùng để huấn luyện HMM được hiển thị bảng 3.1. Hơn nữa, sự phân bố trạng thái ban đầu mặc định định nghĩa rằng trình tự của các quốc gia luôn luôn bắt đầu ở trạng thái 1. Hình 3. 8 Năm trạng thái của HMM Trong hình 3.8, x (t) là trạng thái tại thời điểm t; y (t) là biểu tượng sản lượng được phát ra tại thời điểm t. Con số này cho thấy các HMM ban đầu, nơi tất cả các xác suất đại diện trong sơ đồ là những giá trị ban đầu được sử dụng cho quy trình đào tạo. Các thuật toán huấn luyện HMM sử dụng ma trận chuyển đổi và phát thải ban đầu để ước tính các ma trận chuyển đổi và xác suất phát xạ có thể xảy ra nhất mà tạo ra các trình tự đào tạo. Mỗi tiểu bang phát ra một biểu tượng trong số 64 khả năng (số lượng các cụm công sự lượng tử hóa vector). Các xác suất tương ứng cho tất cả các khí thải có thể được xác định bởi ma trận phát thải. Bảng 3. 2 phát thải ma trận xác suất Nhãn 1 Nhãn 2 Nhãn hiệu 3 ... Label 64 Nhà nước 1 1/64 1/64 1/64 1/64 ... Nhà nước 2 1/64 1/64 1/64 1/64 ... Nhà nước 3 1/64 1/64 1/64 1/64 ... Nhà nước 4 1/64 1/64 1/64 1/64 ... Nhà nước 5 1/64 1/64 1 / 64 ... 1/64 trong thực tế, các dữ liệu huấn luyện trong ma trận phát thải đôi khi là quá nhỏ mà Matlab chỉ định như là 0. một kỹ thuật xử lý các hiệu ứng không đủ dữ liệu huấn luyện là thêm một ràng buộc bổ sung cho các ma trận B để đảm bảo rằng không có tham số ước tính giảm xuống dưới một mức định sẵn ε [8]. Giá trị của ε được thiết lập để được 1e-06 trong dự án của chúng tôi. Kết quả là ma trận chuyển đổi và phát thải ước tính được tổ chức để một mảng di động và các chỉ số của các ma trận này là những video dáng đi. Do đó, một đoạn video thử nghiệm có chỉ số tương tự như các thông số được đào tạo và quá trình thử nghiệm là dễ dàng hơn để kiểm soát. Cuối cùng, tất cả các bước của phát hiện dáng đi của một video cụ thể là: Chọn thử nghiệm phim khai thác tính năng thời điểm của Hồ Cẩm Đào Xây dựng trình tự kiểm tra bằng cách so sánh với codebook precomputed Tính log-likehood với 200 HMMs của 2 gaits khác nhau kiểm tra mà log-likehood là tối đa vì vậy video thử nghiệm này thực hiện dáng đi này