The greedy strategy, considered in

The greedy strategy, considered in the preceding chapter, constructs a solution to an optimization problem piece by piece, always adding a locally optimal piece to a partially constructed solution. In this chapter, we discuss a different approach to designing algorithms for optimization problems. It starts with some feasible solution (a solution that satisfies all the constraints of the problem) and proceeds to improve it by repeated applications of some simple step. This step typically involves a small, localized change yielding a feasible solution with an improved value of the objective function. When no such change improves the value of the objective function, the algorithm returns the last feasible solution as
optimal and stops.

There can be several obstacles to the successful implementation of this idea. First, we need an initial feasible solution. For some problems, we can always start with a trivial solution or use an approximate solution obtained by some other (e.g., greedy) algorithm. But for others, finding an initial solution may require as much effort as solving the problem after a feasible solution has been identified. Second, it is not always clear what changes should be allowed in a feasible solution so that we can check efficiently whether the current solution is locally optimal and, if not, replace it with a better one. Third—and this is the most fundamental difficulty— is an issue of local versus global extremum (maximum or minimum). Think about the problem of finding the highest point in a hilly area with no map on a foggy day. A logical thing to do would be to start walking “up the hill” from the point you are at until it becomes impossible to do so because no direction would lead up. You will have reached a local highest point, but because of a limited feasibility, there will be no simple way to tell whether the point is the highest (global maximum you are after) in the entire area.

Fortunately, there are important problems that can be solved by iterative-improvement algorithms. The most important of them is linear programming.



345

346 Iterative Improvement

We have already encountered this topic in Section 6.6. Here, in Section 10.1, we introduce the simplex method, the classic algorithm for linear programming. Discovered by the U.S. mathematician George B. Dantzig in 1947, this algorithm has proved to be one of the most consequential achievements in the history of algorithmics.

In Section 10.2, we consider the important problem of maximizing the amount of flow that can be sent through a network with links of limited capacities. This problem is a special case of linear programming. However, its special structure makes it possible to solve the problem by algorithms that are more efficient than the simplex method. We outline the classic iterative-improvement algorithm for this problem, discovered by the American mathematicians L. R. Ford, Jr., and D. R. Fulkerson in the 1950s.

Kết quả (Việt) 1:

Các chiến lược tham lam, được coi là trong chương trước, xây dựng một giải pháp cho một vấn đề tối ưu hóa mảnh bằng mảnh, luôn luôn thêm một mảnh tối ưu tại địa phương đến một giải pháp xây dựng một phần. Trong chương này, chúng tôi thảo luận về một cách tiếp cận khác nhau để thiết kế thuật toán cho các vấn đề tối ưu hóa. Nó bắt đầu với một số giải pháp khả thi (một giải pháp đáp ứng tất cả các khó khăn của vấn đề) và tiền thu được để cải thiện nó bằng các ứng dụng lặp đi lặp lại của một số bước đơn giản. Bước này thường liên quan đến một sự thay đổi nhỏ, bản địa hóa năng suất một giải pháp khả thi với một giá trị được cải thiện của hàm mục tiêu. Khi không có thay đổi như vậy cải thiện giá trị của hàm mục tiêu, các thuật toán trả về các giải pháp khả thi cuối nhưtối ưu và dừng lại.Có thể có một số trở ngại cho việc thực hiện thành công của ý tưởng này. Trước tiên, chúng tôi cần một giải pháp khả thi ban đầu. Đối với một số vấn đề, chúng tôi luôn luôn có thể bắt đầu với một giải pháp nhỏ hoặc sử dụng một giải pháp tương đối thu được bằng một số khác (ví dụ như, tham lam) thuật toán. Nhưng đối với những người khác, việc tìm kiếm một giải pháp ban đầu có thể yêu cầu càng nhiều nỗ lực như giải quyết vấn đề sau khi một giải pháp khả thi đã được xác định. Thứ hai, nó không phải luôn luôn là rõ ràng những gì thay đổi nên cho phép trong một giải pháp khả thi để chúng tôi có thể kiểm tra hiệu quả cho dù giải pháp hiện hành là địa phương tối ưu và, nếu không, thay thế nó bằng một một tốt hơn. Thứ ba — và điều này là khó khăn đặt cơ bản-là một vấn đề của địa phương so với toàn cầu extremum (tối đa hoặc tối thiểu). Suy nghĩ về vấn đề của việc tìm kiếm điểm cao nhất trong khu vực đồi núi với bản đồ không vào một ngày sương mù. Một điều hợp lý để làm sẽ là để bắt đầu đi bộ "lên đồi" từ điểm bạn đang ở cho đến khi nó trở nên không thể làm như vậy bởi vì không có hướng sẽ dẫn. Bạn sẽ đạt đến một điểm cao nhất địa phương, nhưng vì một khả năng giới hạn, sẽ có không có cách nào đơn giản để nói cho dù vấn đề là cao nhất (toàn cầu tối đa bạn là sau khi) trong toàn bộ khu vực.May mắn thay, có những vấn đề quan trọng mà có thể được giải quyết bằng thuật toán lặp đi lặp lại cải tiến. Quan trọng nhất trong số đó là tuyến tính lập trình. 345 346 cải thiện lặp đi lặp lạiChúng tôi đã có gặp chủ đề này trong phần 6.6. Ở đây, trong phần 10,1, chúng tôi giới thiệu các phương pháp simplex, thuật toán cổ điển cho lập trình tuyến tính. Phát hiện bởi nhà toán học người Mỹ George B. này là Dantzig năm 1947, thuật toán này đã chứng tỏ là một trong những thành tựu đặt do hậu quả trong lịch sử của algorithmics.Trong phần 10.2, chúng tôi xem xét vấn đề quan trọng của tối đa hóa số lượng lưu lượng mà có thể được gửi thông qua một mạng lưới với các liên kết giới hạn khả năng. Vấn đề này là một trường hợp đặc biệt của tuyến tính lập trình. Tuy nhiên, cấu trúc đặc biệt của nó làm cho nó có thể giải quyết vấn đề bằng thuật toán hiệu quả hơn so với các phương pháp simplex. Chúng tôi phác thảo các thuật toán lặp đi lặp lại cải thiện cổ điển cho vấn đề này, do nhà toán học người Mỹ, L. R. Ford, Jr., và D. R. Fulkerson phát hiện trong những năm 1950.

Kết quả (Việt) 2:

Chiến lược tham lam, xem xét trong chương trước, xây dựng một giải pháp cho một vấn đề tối ưu hóa của mảnh mảnh, luôn thêm vào một mảnh tối ưu tại địa phương để xây dựng một giải pháp một phần. Trong chương này, chúng ta thảo luận một cách tiếp cận khác nhau để thiết kế các thuật toán cho bài toán tối ưu. Nó bắt đầu với một số giải pháp khả thi (một giải pháp thỏa mãn tất cả các khó khăn của vấn đề) và tiền thu được để cải thiện nó bằng cách ứng dụng lặp đi lặp lại của một số bước đơn giản. Bước này thường liên quan đến một nhỏ, khu trú thay đổi năng suất một giải pháp khả thi với một giá trị được cải thiện của hàm mục tiêu. Khi không có sự thay đổi đó cải thiện giá trị của hàm mục tiêu, các thuật toán trả về các giải pháp khả thi nhất là
tối ưu và dừng lại. Có thể có một vài trở ngại cho việc thực hiện thành công ý tưởng này. Đầu tiên, chúng ta cần một giải pháp khả thi ban đầu. Đối với một số vấn đề, ​​chúng tôi luôn luôn có thể bắt đầu với một giải pháp tầm thường hoặc sử dụng một giải pháp gần đúng thu được bằng một số khác (ví dụ, tham lam) thuật toán. Nhưng đối với những người khác, việc tìm kiếm một giải pháp ban đầu có thể đòi hỏi nhiều nỗ lực như giải quyết các vấn đề sau khi một giải pháp khả thi đã được xác định. Thứ hai, nó không phải là luôn luôn rõ ràng những gì thay đổi phải được cho phép trong một giải pháp khả thi để chúng ta có thể kiểm tra hiệu quả cho dù các giải pháp hiện tại là tối ưu cục bộ, và nếu không, hãy thay thế nó bằng một tốt hơn. Thứ ba và đây là difficulty- cơ bản nhất là một vấn đề của địa phương so với cực trị toàn cầu (tối đa hoặc tối thiểu). Hãy suy nghĩ về các vấn đề của việc tìm kiếm điểm cao nhất trong một khu vực đồi núi không có bản đồ vào một ngày đầy sương mù. Một điều hợp lý để làm là nên bắt đầu đi bộ "lên đồi" từ điểm bạn đang ở cho đến khi nó trở thành không thể làm như vậy vì không có hướng sẽ dẫn lên. Bạn sẽ đạt đến một điểm cao nhất ở địa phương, nhưng vì tính khả thi có hạn, sẽ không có cách nào đơn giản để nói cho dù điểm cao nhất (tối đa toàn cầu bạn là sau) trong toàn bộ khu vực. May mắn thay, có những vấn đề quan trọng mà có thể được giải quyết bằng các thuật toán lặp cải thiện. Điều quan trọng nhất của họ là tuyến tính lập trình. 345 346 Cải lặp Chúng ta đã gặp vấn đề này ở Mục 6.6. Ở đây, trong Phần 10.1, chúng tôi giới thiệu các phương pháp simplex, các thuật toán cổ điển dành cho lập trình tuyến tính. Được phát hiện bởi các nhà toán học Mỹ George B. Dantzig năm 1947, thuật toán này đã được chứng minh là một trong những thành tựu do hậu quả nhất trong lịch sử của algorithmics. Trong mục 10.2, chúng ta xem xét các vấn đề quan trọng của việc tối đa hóa số lượng dòng chảy có thể được gửi qua một mạng lưới liên kết với các năng lực hạn chế. Vấn đề này là một trường hợp đặc biệt của chương trình tuyến tính. Tuy nhiên, cấu trúc đặc biệt của nó làm cho nó có thể để giải quyết vấn đề bằng thuật toán hiệu quả hơn các phương pháp simplex. Chúng tôi vạch ra những thuật toán lặp cải thiện kinh điển cho vấn đề này, được phát hiện bởi các nhà toán học người Mỹ LR Ford, Jr., và DR Fulkerson trong những năm 1950.