This implies that ∇g x1(0) is ortho

This implies that ∇g x1(0) is orthogonal to the tangent vector (d/dt)x1(0) for any path x1(t) in the surface defined by g(x) = c.
Conversely, if x0 is any point in the surface g(x) = c and y is any vector such that y•∇g(x0) = 0, then it follows from the Implicit Function Theorem there exists a path x1(t) in the surface g(x) = c such that x1(0) = x0 and (d/dt)x1(0) = y. This result and (3.4) imply that the gradient vector ∇g(x0) is always orthogonal to the surface defined by g(x) = c at x0.
Now let x0 be a solution of (3.3). I claim that ∇f(x0) = λ∇g(x0) for some scalar λ. First, we can always write ∇f(x0) = c∇g(x0) + y where y•∇g(x0) = 0. If x(t) is a path in the surface with x(0) = x0 and (d/dt)x(0)• ∇f(x0) = 06 , it follows from (3.2) with y = (d/dt)x(0) that there are values for f(x) for x = x(t) in the surface that both larger and smaller than f(x0).
Thus, if x0 is a maximum of minimum of f(x) in the surface and ∇f(x0) = c∇g(x0)+y for y•∇g(x0) = 0, then y•∇f(x0) = y•∇g(x0)+y•y = y • y = 0 and y = 0. This means that ∇f(x0) = c∇g(x0), which completes the proof of Lagrange’s Theorem for one constraint (p = 1).
Next, suppose that we want to solve maxf(x) subject to g1(x) = c1, ..., gp(x) = cp (3.5)
for p constraints. Let x0 be a solution of (3.5). Recall that the each vector ∇gj(x0) is orthogonal to the surface gj(x) = cj at x0. Let L be the linear space
L = span{∇gj(x0) : 1 ≤ j ≤ p}
I claim that ∇f(x0) ∈ L. This would imply
Xp
∇f(x0) = λj∇gj(x0)
j=1
for some choice of scalar values λj, which would prove Lagrange’s Theorem.
To prove that ∇f(x0) ∈ L, first note that, in general, we can write ∇f(x0) = w+y where w ∈ L and y is perpendicular to L, which means that y•z = 0 for any z ∈ L. In particular, y•∇gj(x0) = 0 for 1 ≤ j ≤ p. Now find a path x1(t) through x0 in the intersection of the surfaces gj(x) = cj such that x1(0) = x0 and (d/dt)x1(0) = y. (The existence of such a path for sufficiently small t follows from a stronger form of the Implicit Function Theorem.) It then follows from (3.2) and (3.5) that y •∇f(x0) = 0. Since ∇f(x0) = w +y where y•w = 0, it follows that y•∇f(x0) = y•w+y•y = y•y = 0 and y = 0, This implies that ∇f(x0) = w ∈ L, which completes the proof of Lagrange’s Theorem.
4. Warnings. The same warnings apply here as for most methods for finding a maximum or minimum:
The system (1.4) does not look for a maximum (or minimum) of f(x) subject to constraints gj(x) = cj, but only a point x on the set of values determined by gj(x) = cj whose first-order changes in x are zero. This is satisfied by a value x = x0 that provides a minimum or maximum typical for f(x) in a neighborhood of x0, but may only be a local minimum or maximum. There may be several local minima or maxima, each yielding a solution of (1.4). The criterion (1.4) also holds for “saddle points” of f(x) that are local maxima in some directions or coordinates and local minima in others. In these cases, the different values f(x) at the solutions of (1.4) have to be evaluated individually to find the global maximum.
A particular situation to avoid is to look for a maximum value of f(x) by solving (1.4) or (1.3) when f(x) takes arbitrarily large values when any of the components of x are large (as is the case for f(x) in (1.2)) and (1.4) has a unique solution x0. In that case, x0 is probably the global minimum of f(x) subject to the constraints, and not a maximum. In that case, rather than find the best possible value of f(x), one may end up with the worst possible value. After solving (1.3) or (1.4), one often has to look at the problem more carefully to see if it is a global maximum, a global minimum, or neither.
Another situation to avoid is when the maximum or minimum is on the boundary of the values for which f(x) is defined. In that case, the maximum or minimum is not an interior value, and the first-order changes in f(x) (that is, the partial derivatives of f(x)) may not be zero at that point. An example is f(x) = x on the unit interval 0 ≤ x ≤ 1. The minimum value of f(x) = x on the interval is x = 0 and the maximum is x = 1, but neither are solutions of f0(x) = 0.

Kết quả (Việt) 1:

Điều này ngụ ý rằng x1(0) ∇g là vuông góc để véc tơ ốp (d/dt)x1(0) cho bất kỳ con đường x1(t) ở bề mặt được xác định bởi g(x) = c.Ngược lại, nếu x 0 là bất kỳ điểm nào trong bề mặt g(x) = c và y là bất kỳ vector như vậy đó y•∇g(x0) = 0, thì nó theo định lý chức năng Implicit có tồn tại một đường dẫn x1(t) trong g(x) bề mặt = c như vậy đó x1(0) = x 0 và (d/dt)x1(0) = y. Kết quả này và (3,4) ngụ ý rằng ∇g(x0) gradient vector là luôn luôn trực giao với bề mặt được xác định bởi g(x) = c tại x 0.Bây giờ để x 0 là một giải pháp (3,3). Tôi yêu cầu bồi thường đó ∇f(x0) = λ∇g(x0) cho một số λ vô hướng. Trước tiên, chúng tôi luôn luôn có thể viết ∇f(x0) = c∇g(x0) + y nơi y•∇g(x0) = 0. Nếu x(t) là một con đường ở bề mặt với x(0) = x 0 và (d/dt) x (0) • ∇f(x0) = 06, nó sau từ (3.2) với y = (d/dt)x(0) rằng có giá trị cho f (x) cho x = x(t) ở bề mặt mà cả lớn hơn và nhỏ hơn f(x0).Vì vậy, nếu x 0 là một tối đa là tối thiểu của f (x) bề mặt và ∇f(x0) = c∇g (x 0) + y cho y•∇g(x0) = 0, sau đó y•∇f(x0) = y•∇g (x 0) + y•y = y • y = 0 và y = 0. Điều này có nghĩa rằng ∇f(x0) = c∇g(x0), hoàn tất chứng minh định lý Lagrange cho một hạn chế (p = 1).Tiếp theo, giả sử rằng chúng tôi muốn giải quyết maxf(x) tùy thuộc vào g1(x) = c1,..., gp(x) = cp (3.5)cho p ràng buộc. Cho x 0 là một giải pháp (3,5). Nhớ lại rằng ∇gj(x0) vector mỗi là vuông góc để bề mặt gj(x) = cj tại x 0. Giả sử L là không gian tuyến tínhL = span{∇gj(x0): 1 ≤ p ≤ j}Tôi yêu cầu bồi thường đó ∈ ∇f(x0) L. Điều này sẽ ngụ ýXP ∇f(x0) = λj∇gj(x0)j = 1Đối với một số sự lựa chọn của các giá trị vô hướng λj, mà sẽ chứng minh định lý Lagrange.Để chứng minh rằng ∈ ∇f(x0) L, lần đầu tiên lưu ý rằng, nói chung, chúng tôi có thể viết ∇f(x0) = w + y nơi w ∈ L và y là vuông góc với L, có nghĩa là rằng y•z = 0 cho bất kỳ ∈ z L. Trong cụ thể, y•∇gj(x0) = 0 cho 1 ≤ j ≤ p. Bây giờ tìm thấy một đường dẫn x1(t) thông qua x 0 ở giao điểm của bề mặt gj(x) = cj như vậy đó x1(0) = x 0 và (d/dt)x1(0) = y. (sự tồn tại của một con đường cho đủ nhỏ t sau một dạng mạnh hơn của định lý chức năng Implicit.) Nó sau đó sau từ (3.2) và (3.5) rằng •∇f(x0) y = 0. Kể từ khi ∇f(x0) = w + y nơi y•w = 0, nó sau đó y•∇f(x0) = y•w + y•y = y•y = 0 và y = 0, điều này ngụ ý rằng ∇f(x0) = w ∈ L, các chứng minh định lý Lagrange đã hoàn tất.4. cảnh báo. Các cảnh báo tương tự áp dụng ở đây đối với hầu hết các phương pháp cho việc tìm kiếm một tối đa hoặc tối thiểu:Hệ thống (1.4) không nhìn cho một tối đa (hoặc tối thiểu) = f (x) tùy thuộc vào ràng buộc gj(x) cj, nhưng chỉ một điểm x trên tập hợp các giá trị được xác định bởi gj(x) = cj mà thay đổi thứ tự đầu tiên trong x là 0. Điều này là hài lòng bởi một giá trị x = x 0 mà cung cấp một tối thiểu hoặc tối đa là điển hình cho f (x) trong một khu phố của x 0, nhưng chỉ có thể là một địa phương tối thiểu hoặc tối đa. Có thể có một số địa phương cực tiểu hoặc maxima, mỗi yielding một giải pháp (1,4). Các tiêu chí (1.4) cũng giữ cho "saddle điểm" của f (x) mà trong một số hướng dẫn hoặc tọa độ địa phương maxima và minima địa phương trong những người khác. Trong những trường hợp này, giá trị khác nhau f (x) tại các giải pháp của (1.4) phải được đánh giá cá nhân để tìm hết toàn cầu.Một tình hình cụ thể để tránh là để tìm một giá trị tối đa của f (x) bằng cách giải quyết (1.4) hoặc (1.3) khi f (x) có giá trị tùy tiện lớn khi bất kỳ của các thành phần của x lớn (như là trường hợp cho f (x) (1,2)) và (1.4) có một giải pháp độc đáo x 0. Trong trường hợp đó, x 0 có lẽ là tối thiểu toàn cầu của f (x) tùy thuộc vào các khó khăn, và tối đa là không. Trong trường hợp đó, chứ không phải là tìm giá trị có thể tốt nhất của f (x), một trong những có thể kết thúc với giá trị tồi tệ nhất có thể. Sau khi giải quyết (1.3) hoặc (1.4), người ta thường có nhìn vào vấn đề kỹ lưỡng hơn để xem nếu nó là toàn cầu tối đa, tối thiểu toàn cầu, hay không.Một tình huống để tránh là khi tối đa hoặc tối thiểu là ranh giới của các giá trị cho f (x) mà được định nghĩa. Trong trường hợp đó, tối đa hoặc tối thiểu không phải là một giá trị trang trí nội thất, và bộ đầu tiên thay đổi trong f (x) (có nghĩa là, một phần derivatives của f(x)) có thể không phải là số không vào thời điểm đó. Một ví dụ là f (x) = x trên đơn vị khoảng 0 ≤ x ≤ 1. Giá trị tối thiểu của f (x) = x trên đoạn là x = 0 và tối đa là x = 1, nhưng không phải là giải pháp của f0(x) = 0.

Kết quả (Việt) 2:

Điều này ngụ ý rằng (0) ∇g x1 là trực giao với các vector tiếp tuyến (d / dt) x1 (0) cho bất kỳ con đường x1 (t) trên bề mặt được xác định bởi g (x) = c.
Ngược lại, nếu x0 là điểm bất kỳ ở bề mặt g (x) = c và y là vector bất kỳ như vậy mà y • ∇g (x0) = 0, sau đó nó sau từ Định lý Chức năng tiềm ẩn tồn tại một con đường x1 (t) ở bề mặt (x) = g c như vậy mà x1 (0) = x0 và (d / dt) x1 (0) = y. Kết quả này và (3.4) ngụ ý rằng ∇g Gradient vector (x0) luôn là trực giao với các bề mặt được xác định bởi g (x) = c tại x0.
Bây giờ chúng ta hãy x0 là một giải pháp của (3.3). Tôi cho rằng ∇f (x0) = λ∇g (x0) cho một số λ vô hướng. Đầu tiên, chúng ta luôn có thể viết ∇f (x0) = c∇g (x0) + y mà y • ∇g (x0) = 0. Nếu x (t) là một đường dẫn trong các bề mặt bằng (0) x = x0 và (d / dt) x (0) • ∇f (x0) = 06, nó sau từ (3.2) với y = (d / dt) x (0) rằng có những giá trị cho f (x) cho x = x ( t) trên bề mặt mà cả hai lớn hơn và nhỏ hơn f (x0).
Như vậy, nếu x0 là tối đa tối thiểu của f (x) trên bề mặt và ∇f (x0) = c∇g (x0) + y cho y • ∇g (x0) = 0, sau đó y • ∇f (x0) = y • ∇g (x0) + y • y = y • y = 0 và y = 0. Điều này có nghĩa rằng ∇f (x0) = c ∇g (x0), nhằm hoàn tất các giấy tờ chứng minh của định lý Lagrange cho một ràng buộc (p = 1).
Tiếp theo, giả sử rằng chúng ta muốn giải quyết maxf (x) chịu g1 (x) = c1, ..., gp (x ) = cp (3,5)
cho p hạn chế. Hãy x0 là một giải pháp của (3.5). Nhớ lại rằng mỗi vector ∇gj (x0) là trực giao với gj bề mặt (x) = cj tại x0. Hãy L là không gian tuyến tính
L = khoảng {∇gj (x0): 1 ≤ j ≤ p}
Tôi cho rằng ∇f (x0) ∈ L. Điều này ngụ ý
Xp
∇f (x0) = λj∇gj (x0)
j = 1
đối với một số lựa chọn các giá trị vô hướng λj, mà sẽ chứng minh định lý Lagrange.
Để chứng minh rằng ∇f (x0) ∈ L, lưu ý đầu tiên rằng, nói chung, chúng ta có thể viết ∇f (x0) = w + y nơi w ∈ L và y là vuông góc với L, có nghĩa là y • z = 0 với mọi z ∈ L. Đặc biệt, y • ∇gj (x0) = 0 với 1 ≤ j ≤ p. Bây giờ tìm thấy một con đường x1 (t) qua x0 trong các giao lộ của các bề mặt gj (x) = cj như vậy mà x1 (0) = x0 và (d / dt) x1 (0) = y. (Sự tồn tại của một con đường như vậy cho t đủ nhỏ sau từ một hình thức mạnh mẽ của Định lý Chức năng tiềm ẩn.) Sau đó nó sau từ (3.2) và (3.5) mà y • ∇f (x0) = 0. Vì ∇f (x0 ) = w + y mà y • w = 0, nó sau đó y • ∇f (x0) = y • w + y • y = y • y = 0 và y = 0, Điều này ngụ ý rằng ∇f (x0) = w ∈ L, nhằm hoàn tất các giấy tờ chứng minh của định lý Lagrange.
4. Cảnh báo. Những cảnh báo tương tự áp dụng ở đây là đối với hầu hết các phương pháp cho việc tìm kiếm tối đa hoặc tối thiểu:
Hệ thống (1.4) không tìm tối đa (hoặc tối thiểu) của f (x) có thể hạn chế gj (x) = cj, nhưng chỉ có một điểm x trên tập hợp các giá trị được xác định bởi gj (x) = cj có lệnh đầu tiên thay đổi x là số không. Điều này được thỏa mãn bởi một giá trị x = x0 cung cấp tối thiểu hoặc tối đa tiêu biểu cho f (x) trong một khu phố của x0, nhưng chỉ có thể tối thiểu địa phương hoặc tối đa. Có thể có nhiều cực tiểu địa phương hoặc maxima, mang lại từng giải pháp của (1.4). Các tiêu chuẩn (1.4) cũng giữ cho các "điểm yên" của f (x) có cực đại địa phương ở một số hướng dẫn hoặc tọa độ và cực tiểu địa phương ở những người khác. Trong những trường hợp này, các giá trị khác nhau f (x) tại các giải pháp của (1.4) đã được đánh giá riêng để tìm tối đa toàn cầu.
Một tình huống cụ thể để tránh là để tìm giá trị lớn nhất của f (x) bằng cách giải quyết (1,4 ) hoặc (1.3) khi f (x) có giá trị tùy tiện lớn khi bất kỳ thành phần nào của x là lớn (như là trường hợp của f (x) trong (1.2)) và (1.4) có một giải pháp độc đáo x0. Trong trường hợp đó, x0 có lẽ là tối thiểu toàn cầu của f (x) chịu sự ràng buộc, và không phải là một tối đa. Trong trường hợp đó, thay vì tìm thấy những giá trị tốt nhất có thể của f (x), ta có thể kết thúc với giá trị tồi tệ nhất có thể. Sau khi giải quyết (1.3) hoặc (1.4), người ta thường phải xem xét vấn đề một cách cẩn thận hơn để xem nếu nó là một tối đa toàn cầu, tối thiểu toàn cầu, hay không.
Một tình huống khác cần tránh là khi tối đa hoặc tối thiểu là trên ranh giới các giá trị mà f (x) được định nghĩa. Trong trường hợp đó, tối đa hoặc tối thiểu không phải là một giá trị nội thất, và các thay đổi thứ tự đầu tiên trong f (x) (có nghĩa là, các đạo hàm riêng của f (x)) có thể không bằng không tại thời điểm đó. Một ví dụ là f (x) = x trên khoảng đơn vị 0 ≤ x ≤ 1. Giá trị nhỏ nhất của f (x) = x trên khoảng là x = 0 và tối đa là x = 1, nhưng không phải là giải pháp của f0 (x) = 0.