Метод координатного спуска.

Пусть требуется найти минимум f(x, y). Выберем нулевое приближение (x₀, y₀). Рассмотрим функцию одной переменной f(x, y₀) и найдем ее минимум, используя любой из рассмотренных выше способов. Пусть этот минимум оказался в точке (x₁, y₀). Теперь точно так же будем искать минимум функции одной переменной f(x₁, y). Этот минимум окажется в точке (x₁, y₁). Одна итерация спусков завершена. Будем повторять циклы, постепенно приближаясь ко дну котловины, пока не выполнится условие .

x

?

y

Сходимость метода зависит от вида функции и выбора нулевого приближения. Вблизи невырожденного минимума гладкой функции спуск по координатам линейно сходится к минимуму. Если линии уровня образуют истинный овраг, возможен случай, когда спуск по одной координате приводит на дно оврага, а любое движение по следующей координате ведет на подъем. Процесс координатного спуска в данном случае не сходится к минимуму.

При попадании траектории спуска в разрешимый овраг сходимость становится чрезвычайно медленной. В физических задачах овражный рельеф указывает на то, что не учтена какая-то закономерность, определяющая связь между переменными. Явный учет этой закономерности облегчает использование численных методов.