TipRidge, Lasso, and Elastic netsTh

Tip
Ridge, Lasso, and Elastic nets
These penalized models often go by rather interesting names. The L1 penalized
model is often called the Lasso, while an L2 penalized model is known as Ridge
regression. Of course, we can combine the two and we obtain an Elastic net
model.
Both the Lasso and the Ridge result in smaller coefficients than unpenalized
regression. However, the Lasso has the additional property that it results in more
coefficients being set to zero! This means that the final model does not even use
some of its input features, the model is sparse. This is often a very desirable
property as the model performs both feature selection and regression in a single
step.
You will notice that whenever we add a penalty, we also add a weight λ, which
governs how much penalization we want. When λ is close to zero, we are very
close to OLS (in fact, if you set λ to zero, you are just performing OLS), and when
λ is large, we have a model which is very different from the OLS one.
The Ridge model is older as the Lasso is hard to compute manually. However, with
modern computers, we can use the Lasso as easily as Ridge, or even combine them
to form Elastic nets. An Elastic net has two penalties, one for the absolute value
and another for the squares.

Kết quả (Việt) 1:

MẹoRidge, Lasso và đàn hồi lướiCác mô hình phạt thường đi khá thú vị tên. L1 phaïtMô hình được gọi là Lasso, trong khi một L2 phạt mô hình được biết đến như Ridgehồi quy. Tất nhiên, chúng tôi có thể kết hợp hai và chúng tôi có được một mạng lưới đàn hồiMô hình.Lasso và quả Ridge nhỏ hệ số hơn unpenalizedhồi quy. Tuy nhiên, Lasso có tính chất bổ sung mà nó kết quả trong nhiều hơn nữaHệ số được thiết lập để zero! Điều này có nghĩa rằng các mô hình cuối cùng thậm chí sử dụngmột số các tính năng đầu vào, các mô hình là thưa thớt. Điều này thường rất mong muốnbất động sản như là mô hình thực hiện lựa chọn tính năng và hồi quy trong đĩa đơnbước.Bạn sẽ nhận thấy rằng bất cứ khi nào chúng tôi thêm một hình phạt, chúng tôi cũng thêm một trọng lượng λ, màviệc bao nhiêu penalization chúng tôi muốn. Khi λ là gần bằng không, chúng tôi đang rấtgần OLS (trong thực tế, nếu bạn đặt λ zero, bạn đang chỉ cần thực hiện OLS), và khiΛ là lớn, chúng tôi có một mô hình đó là rất khác nhau từ OLS một.Các mô hình Ridge là lớn như Lasso là khó để tính toán theo cách thủ công. Tuy nhiên, vớimáy tính hiện đại, chúng tôi có thể sử dụng Lasso như dễ dàng như Ridge, hoặc thậm chí kết hợp chúngđể tạo thành đàn hồi lưới. Một mạng lưới đàn hồi có hai hình phạt, một cho giá trị tuyệt đốivà một cho các ô vuông.

Kết quả (Việt) 2:

Mẹo
Ridge, Lasso, và lưới Elastic
Những mô hình phạt thường đi bởi những tên khá thú vị. Các L1 phạt
mô hình thường được gọi là Lasso, trong khi một mô hình phạt L2 được biết đến như Ridge
hồi quy. Tất nhiên, chúng ta có thể kết hợp cả hai và chúng tôi có được một mạng lưới đàn hồi
mô hình.
Cả Lasso và kết quả Ridge hệ số nhỏ hơn unpenalized
hồi quy. Tuy nhiên, các Lasso có tính chất bổ sung mà nó kết quả trong hơn
hệ số được thiết lập để không! Điều này có nghĩa rằng các mô hình cuối cùng không còn sử dụng
một số tính năng đầu vào của nó, mô hình là thưa thớt. Điều này thường là một rất mong muốn
sở hữu như các mô hình thực hiện cả hai lựa chọn tính năng và hồi quy trong một đơn
bước.
Bạn sẽ nhận thấy rằng bất cứ khi nào chúng ta thêm một hình phạt, chúng ta cũng có thêm một λ cân, mà
điều chỉnh việc xử phạt bao nhiêu chúng ta muốn. Khi λ là gần bằng không, chúng tôi rất
gần với OLS (trên thực tế, nếu bạn thiết lập λ bằng không, bạn chỉ cần thực hiện OLS), và khi
λ là lớn, chúng tôi có một mô hình trong đó là rất khác nhau từ một trong các OLS.
Các mô hình Ridge là lớn tuổi như Lasso là khó để tính toán bằng tay. Tuy nhiên, với
các máy tính hiện đại, chúng ta có thể sử dụng Lasso dễ dàng như Ridge, hoặc thậm chí kết hợp chúng
để tạo thành lưới đàn hồi. Một ròng Elastic có hai hình phạt, một cho các giá trị tuyệt đối
và một cho các ô vuông.