Abstract— In this paper, we study t

Abstract— In this paper, we study the best rate distortion
performance that an H.264 encoder can possibly achieve. Using
soft decision quantization rather than the standard hard decision
quantization, we first establish a general framework for jointly
designing motion compensation, quantization, and entropy coding
in the hybrid coding structure of H.264 to minimize a true
rate distortion cost. We then propose three rate distortion
optimization algorithms—a graph-based algorithm for optimal
soft decision quantization in H.264 baseline profile encoding given
motion compensation and quantization step sizes, an iterative
algorithm for optimal residual coding in H.264 baseline profile
encoding given motion compensation, and an iterative overall
algorithm for optimal H.264 baseline profile encoding—with them
embedded in the indicated order. The graph-based algorithm
for optimal soft decision quantization is the core; given motion
compensation and quantization step sizes, it is guaranteed to
perform optimal soft decision quantization to certain degree. The
proposed iterative overall algorithm has been implemented based
on the reference encoder JM82 of H.264. Comparative studies
show that it achieves a significant performance gain, which can be
as high as 25% rate reduction at the same PSNR when compared
to the reference encoder

Kết quả (Việt) 2:

Abstract- Trong bài báo này, chúng tôi nghiên cứu sự biến dạng tỷ lệ tốt nhất
hiệu suất mà một bộ mã hóa H.264 có thể có thể đạt được. Sử dụng
phần mềm quantization quyết định chứ không phải là tiêu chuẩn quyết định khó khăn
quantization, đầu tiên chúng ta thiết lập một khuôn khổ chung để cùng
thiết kế đền bù chuyển động, lượng tử hóa và mã hóa dữ liệu ngẫu nhiên
trong cấu trúc lai của mã hóa H.264 để giảm thiểu một sự thật
méo tỷ lệ chi phí. Sau đó chúng tôi đề xuất ba méo tỷ lệ
tối ưu hóa các thuật toán-một thuật toán dựa trên đồ thị cho tối ưu
lượng tử quyết định mềm trong H.264 mã hóa hồ sơ ban đầu cho
bồi thường chuyển động và kích thước bước quantization, lặp đi lặp lại một
thuật toán mã hóa cho dư tối ưu trong H.264 hồ sơ ban đầu
chuyển động mã hóa cho bồi thường, và một tổng thể lặp đi lặp lại
thuật toán cho cấu hình cơ bản tối ưu H.264 mã hóa-với họ
nhúng trong thứ tự được chỉ. Các thuật toán dựa trên đồ thị
cho tối ưu lượng tử quyết định mềm là cốt lõi; cho chuyển động
bồi thường và kích thước bước lượng tử, nó là bảo đảm để
thực hiện tối ưu mềm quantization quyết định mức độ nhất định. Các
thuật toán tổng thể lặp đi lặp lại đề nghị đã được thực hiện dựa
trên JM82 encoder tham khảo của H.264. Nghiên cứu so sánh
cho thấy nó đạt được một hiệu suất đạt được đáng kể, có thể
cao như giảm tỷ lệ 25% vào PSNR tương tự khi so
với bộ mã hóa tài liệu tham khảo