Метод Коши (метод наискорейшего спуска).

Пусть дана функция f(X), ограниченная снизу на огромном количестве и имеющая непрерывные личные производные во всех его точках.

Требуется отыскать бесспорный минимум функции f(X) на огромном количестве допустимых решений, другими словами отыскать такую точку , что

.

Стратегия поиска

Разложим функцию f(X) в округи точки в ряд Тейлора:

, (4.2)

где — градиент функции Метод Коши (метод наискорейшего спуска). f(X) в точке Xk; — вектор приращения переменных функции f(X); — члены ряда, имеющие 2-ой порядок и выше.

Ограничимся в выражении (4.2) членами не выше первого порядка, тогда выражение (4.2) воспримет вид:

. (4.3)

Приращение вектора переменных должно выбираться таким макаром, чтоб производилось неравенство . Уменьшение значения функции в точке может быть осуществлено за счет Метод Коши (метод наискорейшего спуска). выбора 2-го слагаемого, а конкретно, . В данном случае направление поиска минимума функции будет совпадать с направлением, обратным градиенту . Тогда формула (4.1) воспримет окончательный вид [4,5]:

. (4.4)

Замечания

1. Величина шага α повдоль избранного направления в выражении (4.4) может быть:

- неизменной α=const, и не зависящей от выбора точки Xk и номера итерации; в данном случае Метод Коши (метод наискорейшего спуска). реализуется градиентный способ с неизменным шагом;

- может определяться на каждой итерации, и αk рассчитывается методом решения задачки минимизации функции f(X) повдоль избранного направления на базе способов однопараметрической оптимизации [6]; в данном случае реализуется способ Коши.

Набросок 6 — Приближение к точке минимума функции на базе способа наискорейшего спуска (Коши).

Метод

Шаг 1. Задать Метод Коши (метод наискорейшего спуска). исходную точку X0, ε1>0, ε2>0, предельное число итераций M. Отыскать градиент функции в случайной точке.

Шаг 2. Положить k=0.

Шаг 3. Вычислить

Шаг 4. Проверить выполнение аспекта окончания :

а) если аспект выполнен, то X*=Xk;

б) по другому перейти к шагу 5.

Шаг 5. Проверить выполнение равенства k ≥M:

а) если неравенство выполнено, то X*=Xk;

б) по другому Метод Коши (метод наискорейшего спуска). перейти к шагу 6.

Шаг 6. Вычислить величину αk в соотношении на базе способа квадратичной аппроксимации [6], положив αk1=0, Δα=0,1.

Шаг 7. Вычислить .

Шаг 8. Проверить выполнение критерий:

а) если оба условия выполнены, то расчет окончен и X*=Xk+1;

б) если хотя бы одно из неравенств не выполнено, то положить k=k Метод Коши (метод наискорейшего спуска).+1 и перейти к шагу 3.

Пример 4. Выполнить приближение к локальному минимуму функции f(X)=2x12+x1x2+x22 на базе 2-ух итераций в согласовании с способом наискорейшего спуска (Коши).

1.Зададим X0= , ε1=0,1, ε2=0,15, М=1. Градиент функции в случайной точке равен .

2. Положим k=0.

30. Вычислим .

40. Вычислим . Перейти к шагу 5.

50.Проверим условиеk=0<1, перейти к шагу 6.

60. Вычислим величину шага Метод Коши (метод наискорейшего спуска). повдоль избранного направления α0 на базе способа квадратичной аппроксимации [6]. Для этого выполним последующие деяния.

1) α01=0; ; Значение функции в вычисленной точке равно ;

2) α02= α01+ Δα =0,1;

Значение функции в вычисленной точке равно ;

3) Потому что f 1>f 2, то α03= α01+ 2Δα =0,2;

.

Значение функции в вычисленной точке равно ;

По имеющимся значениям α01, α02 и α03 и значениям функций f 1, f 2 и f Метод Коши (метод наискорейшего спуска). 3 вычисляем значение , минимизирующее функцию повдоль избранного направления .

70.Вычислим координату точки

.

80. Вычислим .

Вычислим . Полагаем k=k+1=1 и перебегаем к шагу 3.

31. Вычислим .

41. Вычислим . Перейти к шагу 5.

51.Проверим условиеk=1<2, перейти к шагу 6.

61. Вычислим величину шага повдоль избранного направления α1 на базе способа квадратичной аппроксимации [6]: .

70.Вычислим координату точки

.

Две итерации выполнены. Считаем точку приближением к минимуму Метод Коши (метод наискорейшего спуска). функции f(X), другими словами .


metod-ocenki-sirya-i-materialov-pri-ih-spisanii-v-proizvodstvo.html
metod-opitnoj-ekspluatacii.html
metod-opredeleniya-pogreshnosti-pri-pomoshi-chastnih-proizvodnih-metod-linearizacii.html