In statistics, regression analysis

In statistics, regression analysis is a statistical process for estimating the relationships among variables. It includes many techniques for modeling and analyzing several variables, when the focus is on the relationship between a dependent variable and one or more independent variables (or 'predictors'). More specifically, regression analysis helps one understand how the typical value of the dependent variable (or 'criterion variable') changes when any one of the independent variables is varied, while the other independent variables are held fixed. Most commonly, regression analysis estimates the conditional expectation of the dependent variable given the independent variables – that is, the average value of the dependent variable when the independent variables are fixed. Less commonly, the focus is on a quantile, or other location parameter of the conditional distribution of the dependent variable given the independent variables. In all cases, the estimation target is a function of the independent variables called the regression function. In regression analysis, it is also of interest to characterize the variation of the dependent variable around the regression function which can be described by a probability distribution.

Regression analysis is widely used for prediction and forecasting, where its use has substantial overlap with the field of machine learning. Regression analysis is also used to understand which among the independent variables are related to the dependent variable, and to explore the forms of these relationships. In restricted circumstances, regression analysis can be used to infer causal relationships between the independent and dependent variables. However this can lead to illusions or false relationships, so caution is advisable;[1] for example, correlation does not imply causation.

Many techniques for carrying out regression analysis have been developed. Familiar methods such as linear regression and ordinary least squares regression are parametric, in that the regression function is defined in terms of a finite number of unknown parameters that are estimated from the data. Nonparametric regression refers to techniques that allow the regression function to lie in a specified set of functions, which may be infinite-dimensional.

The performance of regression analysis methods in practice depends on the form of the data generating process, and how it relates to the regression approach being used. Since the true form of the data-generating process is generally not known, regression analysis often depends to some extent on making assumptions about this process. These assumptions are sometimes testable if a sufficient quantity of data is available. Regression models for prediction are often useful even when the assumptions are moderately violated, although they may not perform optimally. However, in many applications, especially with small effects or questions of causality based on observational data, regression methods can give misleading results.[2][3]

Kết quả (Việt) 2:

Trong thống kê, phân tích hồi quy là một quá trình thống kê để ước lượng các mối quan hệ giữa các biến. Nó bao gồm nhiều kỹ thuật để mô hình hóa và phân tích một vài biến số, khi tập trung vào mối quan hệ giữa một biến phụ thuộc và một hoặc các biến độc lập hơn (hoặc 'dự đoán'). Cụ thể hơn, phân tích hồi quy giúp ta hiểu thế nào là giá trị tiêu biểu của biến phụ thuộc (hay 'biến tiêu chí') thay đổi khi bất kỳ một trong các biến độc lập là rất đa dạng, trong khi các biến độc lập khác đang được tổ chức cố định. Thông thường nhất, phân tích hồi quy ước lượng kỳ vọng có điều kiện của biến phụ thuộc cho các biến độc lập - đó là, giá trị trung bình của biến phụ thuộc khi biến độc lập được cố định. Ít phổ biến hơn, tập trung được vào một quantile, hoặc tham số vị trí khác của phân phối có điều kiện của biến phụ thuộc cho các biến độc lập. Trong mọi trường hợp, mục tiêu dự toán là một chức năng của các biến độc lập gọi là hàm hồi quy. Trong phân tích hồi quy, nó là cũng quan tâm đến đặc trưng cho sự biến thiên của biến phụ thuộc xung quanh hàm hồi quy có thể được mô tả bởi một xác suất phân phối. Phân tích hồi quy được sử dụng rộng rãi để dự đoán và dự báo, trong đó việc sử dụng nó có sự chồng chéo đáng kể với các lĩnh vực máy học. Phân tích hồi quy cũng được sử dụng để hiểu được giữa các biến độc lập có liên quan đến biến phụ thuộc, và để khám phá những hình thức của các mối quan hệ. Trong trường hợp bị hạn chế, phân tích hồi quy có thể được sử dụng để suy ra mối quan hệ nhân quả giữa các biến độc lập và phụ thuộc. Tuy nhiên điều này có thể dẫn đến ảo tưởng hoặc các mối quan hệ sai, nên thận trọng là khuyến khích;. [1] Ví dụ như, sự tương quan nào không bao hàm nhân quả Nhiều kỹ thuật để thực hiện phân tích hồi quy đã được phát triển. Phương pháp quen thuộc như hồi quy tuyến tính và hồi quy bình phương nhỏ nhất là tham số, trong đó hàm hồi quy được xác định trong điều khoản của một số hữu hạn các tham số chưa biết được ước tính từ dữ liệu. Hồi quy phi tham số liên quan đến kỹ thuật cho phép các hàm hồi quy định nằm trong một bộ quy định chức năng, trong đó có thể là vô hạn chiều. Việc thực hiện các phương pháp phân tích hồi quy trong thực tế phụ thuộc vào hình thức của quá trình tạo dữ liệu, và làm thế nào nó liên quan đến phương pháp hồi quy được sử dụng. Kể từ khi hình dạng thật của quá trình dữ liệu tạo ra thường không được biết đến, phân tích hồi quy thường phụ thuộc vào mức độ nào đó về làm cho các giả định về quá trình này. Những giả định này đôi khi có thể kiểm chứng nếu đủ số lượng dữ liệu có sẵn. Mô hình hồi quy để dự đoán là rất hữu dụng ngay cả khi giả định này bị vi phạm vừa phải, mặc dù họ có thể không thực hiện tối ưu. Tuy nhiên, trong nhiều ứng dụng, đặc biệt là với các hiệu ứng nhỏ hoặc câu hỏi của quan hệ nhân quả dựa trên các quan sát, phương pháp hồi quy có thể cho kết quả sai lệch. [2] [3]