Задачи поиска экстремума функции означают нахождение ее максимума (наибольшего значения) или минимума (наименьшего значения) в некоторой области ее аргументов. Ограничения значений аргументов, задающих эту область, как и прочие дополнительные условия, должны быть определены в виде системы неравенств и (или) уравнений. В таком случае говорят о задаче на условный экстремум. Поиск экстремума функции включает в себя задачи нахождения локального и глобального экстремума. Последние называют еще задачами оптимизации.
Для решения задач поиска максимума и минимума чаще всего применяются те же самые итерационные градиентные численные методы, что и для решения нелинейных уравнений. Для решения задачи на экстремум функции так же следует задать начальное приближение - нулевую итерацию. Отличием является критерий, согласно которому строятся следующие итерации. В случае решения нелинейных уравнений и систем он заключается в поиске точки x, максимально близкой к нулю f(x), а в случае задачи на экстремум - точки, увеличивающей (или уменьшающей) значение функции f(x) от шага к шагу, либо приближающей к нулю ее производную f'(x) (в последнем случае, подразумевающем дифференцируемость функции f, задача поиска экстремума сводится к задаче решения нелинейного уравнения).
Рассмотрим конкретный пример функции f(x)=x4+5x3-10x, на интервале (-2,5). Она имеет глобальный максимум на левой границе интервала, глобальный минимум, локальный максимум, локальный минимум и локальный максимум на правой границе интервала (в порядке слева–направо).
При
помощи градиентных методов можно решить только
задачу поиска локального экстремума. Чтобы найти глобальный максимум (или минимум), требуется либо сначала вычислить все их локальные значения и потом выбрать из них наибольший (наименьший), либо предварительно
просканировать с некоторым шагом рассматриваемую область, чтобы выделить из нее подобласть наибольших (наименьших) значений функции и осуществить поиск глобального экстремума, уже находясь в его окрестности. Последний путь таит в себе некоторую опасность уйти в зону другого локального экстремума, но часто может быть предпочтительнее из соображений экономии времени.
Всем аргументам функции f предварительно следует присвоить некоторые значения, причем для тех переменных, по которым производится минимизация, они будут восприниматься как начальные приближения.
Помните, что существенное влияние на результат оказывает
как раз выбор начального приближения, в зависимости от чего в качестве ответа выдаются различные локальные экстремумы. Возможно,
что численный метод вообще не справится с задачей,
если начальное приближение (например, x=-10 в
рассматриваемом примере) будет выбрано далеко от области локального максимума, и поиск решения уходит в сторону увеличения f(x), т. е. расходится.