Методы
одномерной оптимизации
Пусть
функция f(x) определена
на Задачей одномерной оптимизации будем называть задачу, в
которой требуется найти
max (min) f(x),
Решением или точкой
максимума (минимума) этой задачи назовем такую точку ,
что
для всех
.
Запишем
Методы одномерной
оптимизации условно подразделяются на три группы. К первой группе относятся
методы, основанные лишь на вычислении значений самой функции f(x) (методы
нулевого порядка).
Вторую группу составляют методы, использующие
значения как самой функции, так и ее первой производной (методы первого
порядка). И, наконец, к третьей группе относятся методы, использующие значения
функции, ее первой и второй производной (методы второго порядка).
В
дальнейшем будем считать, что максимизируемая функция является унимодальной.
Определение.
Функция f(x) называется
унимодальной на множестве Р, если существует единственная точка х* ее максимума
на Р и для любых :
Другими
словами, унимодальная функция монотонно возрастает слева от точки максимума и
монотонно убывает справа от нее.
Отметим,
что предположение об унимодальности функции в окрестности точки х* весьма
естественно, поэтому получение информации о таком промежутке является важным
этапом процедуры оптимизации. Обычно в процессе применения методов одномерной
оптимизации можно выделить два этапа: поиск отрезка, содержащего точку
максимума, и уменьшение длины этого отрезка до заранее установленной величины
(уточнение координаты точки максимума на данном отрезке).
Вперед к разделу "Поиск отрезка, содержащего точку максимума. Алгоритм Свенна"