4.4. Методы оценки параметров корреляционных моделей
Для оценки параметров корреляционных моделей в основном используют три метода: моментов, максимального правдоподобия и наименьших квадратов.
Метод моментов был предложен К.Пирсоном. В соответствии с ним первые q моментов случайной величины Х приравниваются q выборочным моментам, полученным по экспериментальным данным. Теоретическим обоснованием метода моментов служит закон больших чисел, согласно которому для рассматриваемого случая при большом объеме выборки выборочные моменты близки к моментам генеральной совокупности.
Для двумерной корреляционной модели согласно методу моментов неизвестное ожидание оценивается средним арифметическим (выборочным начальным моментом первого порядка), а дисперсия - выборочной дисперсией (выборочным центральным моментом второго порядка). Коэффициент корреляции r оценивается выборочным коэффициентом r, который является функцией выборочных начальных моментов первого порядка самих случайных величин и их произведения.
Метод моментов дает возможность получать состоятельные оценки, т.е. надежность выводов, сделанных при его использовании, зависит от количества наблюдений. Использование метода моментов на практике приводит к сравнительно простым вычислениям.
Метод максимального правдоподобия, предложенный английским математиком Р.А.Фишером, часто приводит к более сложным вычислениям, чем метод моментов, однако оценки, получаемые с его помощью, как правило, оказываются более надежными и особенно предпочтительными в случае малого числа наблюдений.
Метод максимального правдоподобия для оценки математического ожидания предполагает использование средней арифметической, которая обладает свойствами несмещенности, состоятельности и эффективности.
Дисперсию генеральной совокупности согласно методу максимального правдоподобия, рекомендуется оценивать выборочной дисперсией, которая удовлетворяет лишь условию состоятельности. Использование исправленной дисперсии позволяет иметь оценку дисперсии, удовлетворяющую условиям несмещенности и состоятельности.
Применение метода максимального правдоподобия часто приводит к решению сложных систем уравнений, поэтому метод наименьших квадратов, использование которого связано с более простыми выкладками, имеет большое практическое применение. Основоположниками этого метода являются Гаусс, Лежандр.
Основная идея метода наименьших квадратов сводится к тому, чтобы в качестве оценки неизвестного параметра принимать значение, которое минимизирует сумму квадратов отклонений между оценкой и параметром для всех наблюдений.
Так как нормальный закон распределения генеральной совокупности является исходной предпосылкой построения корреляционных моделей, метод наименьших квадратов и метод максимального правдоподобия дают одинаковые результаты.
В анализе двумерной корреляционной модели обычно оценку уравнения регрессии производят с помощью метода наименьших квадратов.