Грачева М.В. и др. Моделирование экономических процессов

Подождите немного. Документ загружается.

1.4. Свойства оценок

Эконометрика занимается в основном оценкой параметров

экономических зависимостей и проверкой гипотез, относящихся к

этим параметрам. Например, вновь рассмотрим простейшую кейн-

сианскую функцию потребления, связывающую потребление с до-

ходом:

.У, =Р

+Р

Х,+Е,. (1.13)

В экономической теории предлагается линейная форма функ-

ции потребления и даже обосновывается наличие ограничений на

параметры. Например, если pj интерпретировать как автономное

потребление, а р

— как предельную склонность к потреблению,

то разумно считать, что

р! >0, 0<р

<1.

Однако экономическая теория обычно не отвечает на вопрос о

точных значениях параметров модели. Даже если точное значение

параметра теоретически обосновано, эконометрист все равно может

интересоваться оценкой параметра с целью проверки соответствия

эмпирических данных и теоретических результатов. Таким образом,

назначение эконометрики состоит

в том,

чтобы получать

оценки не-

известных параметров

эмпирических экономических моделях

и прове-

рять

связанные

с ними

гипотезы.

Например, используя ежегодные данные за период 1929—

1940 гг. о совокупном потреблении и доходе в США и учитывая

инфляцию и рост населения, можно получить следующую оценку

уравнения (1.13):

=11,45 +

0,78*,.

(1.14)

Таким образом, оценки автономного потребления р, и пре-

дельной склонности к потреблению р

составили, соответственно

11,45 и 0,78. Эти числа получены по определенным экономет-

рическим формулам. По традиции, сложившейся в русскоязычной

литературе, как сами эти формулы, так и результаты вычислений по

ним, называются

оценками.

В то же время в английской терминоло-

гии используются два разных понятия: estimator — оценка, «оцен-

щик», т.е. формула для оценивания, и

estimate

— оценка, оцененное

значение, т.е. результат оценивания.

Вообще говоря, для оценивания одних и тех же параметров

эконометрической модели могут быть предложены различные фор-

мулы (методы), которые, очевидно, будут приводить к разным ре-

зультатам. Одни из них могут быть явно хуже других, но в некото-

рых случаях предпочтительность одних оценок перед другими не

так очевидна. Таким образом, необходимо иметь набор формальных

критериев, по которым можно было бы «проверить качество» мето-

дов оценивания.

1.4.1. Распределение оценки

Рассмотрим модель:

=frc

+e,,

(1.15)

где s

—

белый шум.

Уравнение (1.15) задает предполагаемый процесс генерации

значений y

. Выберем какой-нибудь метод оценивания параметра

р и обозначим соответствующую формулу для оценки через р .

По конкретным наблюдённым значениям временных радов у и х

можно получить конкретное значение оценки. Однако данные

временные ряды — это одна из возможных реализаций случайных

процессов, поэтому, рассуждая теоретически, мы могли бы вместо

данной реализации иметь несколько другую реализацию и (на ос-

нове той же самой формулы р) получить другой числовой резуль-

тат. Теоретически значение оценки будет меняться в зависимости

от различных реализаций. Это служит основанием для того, чтобы

считать, что оценка р является случайной величиной, имеющей

неконтролируемый разброс, обусловленный случайностью меха-

низма формирования наблюдаемого временного ряда. Так мы

приходим к понятию

распределения

оценки, которое задается зако-

ном распределения вероятностей случайной величины р и позво-

ляет вычислить вероятность попадания оценки в любой указанный

интервал.

Для конкретности предположим, что х является по сути де-

терминированной (неслучайной) переменной с заранее заданны-

ми фиксированными значениями: например, х может быть вре-

менным параметром со значениями 1, 2, 3, ..., п. Тогда, восполь-

зовавшись генератором случайных чисел, мы могли бы произве-

сти серию, например, из 2500 экспериментов Монте-Карло, гене-

рируя в каждом из них реализацию ряда случайных ошибок

8|,...,г

длиной л. Имея фиксированный временной ряд для х и

используя уравнение (1.15), в котором значение р зафиксирова-

но,

например, на уровне Р

3,5, можно рассчитать 2500 времен-

ных радов для у . Поскольку в ходе проведения эксперимента

истинное значение р известно, то, построив 2500 реализаций

оценки р по повторным выборкам, можно определить характер

распределения значений оценки (3 по отношению к р. Для этого

строится гистограмма значений оценки, которая является эмпи-

рической аппроксимацией ее теоретического закона распределе-

ния. Метод Монте-Карло используется для построения эмпи-

рического распределения оценки в том случае, когда модель или

метод оценивания особенно сложны и поведение оценки не под-

дается теоретическому анализу. Однако часто свойства распреде-

ления оценки можно вывести, считая, что для модели выполня-

ются те или иные предположения.

Качество оценки (метода оценивания) обычно проверяется пу-

тем анализа свойств ее распределения. В частности, метод оценива-

ния будет очевидно предпочтительнее, если вероятность того, что

он даст оценку, близкую к истинному (но неизвестному) значению

оцениваемого параметра, будет достаточно велика.

1.4.2. Несмещенность

Первое из рассматриваемых свойств — несмещенность. Оценка

параметра называется

несмещенной,

если ее математическое ожида-

ние равно истинному значению оцениваемого параметра. Это оз-

начает, что положительные и отрицательные отклонения значений

оценки, полученные (по разным выборкам), «взаимно компенсиру-

ются», т.е. осреднение (по всевозможным выборкам) значений

оценки дает истинное значение параметров.

Разумеется, не всякая оценка является несмещенной. Назовем

смещением

оценки разность между ее математическим ожиданием и

истинным значением оцениваемого параметра:

Я=£р-р. (1.16)

При В Ф 0 оценка является

смещенной.

Ясно, что при наличии

достаточно большого смещения и относительно малого разброса

(дисперсии) оценки вокруг своего математического ожидания

значения оценки не будут концентрироваться рядом с истинным

значением параметра. Таким образом, использование несмещенных

оценок часто оказывается более предпочтительным.

Рассмотрим теперь две оценки одного и того же параметра,

распределения которых обладают следующими свойствами: р —

несмещенная оценка с большой дисперсией; р — оценка с не-

большим смещением, но сравнительно малой дисперсией. В дан-

ном случае более предпочтительной будет оценка р , поскольку ее

значения, вычисленные по различным выборкам (теоретически

возможным при повторениях наблюдений), будут чаще оказываться

в окрестности истинного значения параметра р. Данный пример

подчеркивает важную роль дисперсии оценки как измерителя каче-

ства оценивания.

1.4.3. Наилучшая несмещенная оценка

Как было показано выше, решение о том, какой метод оцени-

вания «лучше», должно основываться на рассмотрении не только

математических ожиданий оценок, но и их дисперсий. Однако го-

ворить об оценке с «минимально возможной» дисперсией следует с

осторожностью.

Предположим, например, что для оценки параметра р в мо-

дели (1Л5) используется оценка р =123,4 , принимающая одно и

то же значение вне зависимости от содержательного смысла за-

дачи или имеющихся выборочных данных. Поскольку эта оценка

не меняется, ее дисперсия равна нулю — наименьшему из воз-

можных значений. По этой причине, очевидно, необходимо ог-

раничить поиск минимальной дисперсии каким-либо классом

оценок. Обычно это достигается за счет рассмотрения только не-

смещенных оценок.

Рассмотрим две несмещенные оценки, одна из которых (р) имеет

распределение с меньшей дисперсией, чем другая оценка (р). Ясно,

что более приемлем метод оценивания по формуле р, так как она

чаще будет давать оценку, близкую к истинному значению оцени-

ваемого параметра, чем р.

Оценка, которая имеет наименьшую дисперсию среди оценок

некоторого класса, называется

наиболее эффективной

или

наилучшей

в этом классе.

Вообще говоря, существует общий подход к выбору оценок

—

принцип максимального

правдоподобия,

использование которого во

многих ситуациях позволяет получать наилучшую несмещенную

оценку, если она существует. Однако часто бывает удобно огра-

ничиться рассмотрением оценок, являющихся линейными функ-

циями ошибок. Оценка, которая является линейной, несмещен-

ной и имеет наименьшую дисперсию среди всех линейных не-

смещенных оценок, называется наилучшей линейной несмещённой

оценкой.

Если мы оцениваем более чем один параметр, то понятие эф-

фективности необходимо уточнить. При наличии двух оценок р и р

А;-мерного векторного параметра р обычно сравнивают ковариаци-

онные матрицы этих оценок, имеющие размерности k x к. Если

разность ковариационных матриц

Var(P)

- Var(p) неотрицательно

определена, то говорят, что векторная оценка р является более

эффективной, чем (3.

1.4.4. Асимптотические свойства оценок

Следует подчеркнуть, что рассмотренные выше теоретические

свойства «хорошей» оценки (несмещенность, эффективность)

должны выполняться при любом фиксированном объеме выбо-

рочных наблюдений, используемых при ее вычислении. Так, на-

пример, математическое ожидание несмещенной оценки должно

совпадать с оцениваемым параметром вне зависимости от количе-

ства имеющихся наблюдений. Однако во многих случаях оценка с

такими свойствами не существует. Тогда следует обратиться к

асимптотическим

свойствам оценки, т.е. посмотреть, как она ве-

дет себя, когда используется очень большое (неограниченно рас-

тущее) количество выборочных наблюдений. Иногда, если извест-

ны только асимптотические свойства рассматриваемой оценки, ее

поведение при малых объемах выборки исследуют путем имитации

подходящего механизма получения данных с помощью метода

Монте-Карло.

Интуитивное представление о том, чем занимается асимптоти-

ческая теория, можно получить с помощью все тех же экспери-

ментов Монте-Карло. Пусть данные формируются в соответствии

с уравнением (1.15) при заданном значении параметра р, причем

объясняющая переменная х имеет неслучайный характер (напри-

мер,

является временем) и, таким образом, список ее значений за-

ранее известен и фиксирован. При заданном объеме выборки Т

первый шаг процедуры Монте-Карло состоит в генерации после-

довательности значений случайных ошибок е,, t

—

1, 2, ..., Г и со-

ответствующих значений зависимой переменной y

. На втором ша-

ге по полученным данным и известной формуле оценочной функ-

ции р вычисляется значение оценки параметра р. Многократное

повторение этой двухшаговой процедуры (при одном и том же

объеме выборки Т) позволит получить достаточно длинную серию

реализаций оценки (3 и построить по ней гистограмму распреде-

ления этой оценки.

Изложенная процедура многократной генерации временных

рядов s и у определенной длины Т с последующим вычислением

гистограммы распределения оценки р

может быть реализована

для некоторого начального значения Т = Го, например, для 100

наблюдений. Далее такие же эксперименты Монте-Карло можно

повторить для Т = То + 1, затем для Т = То + 2 и так далее, уве-

личивая Т. При каждом значении Т будет получено отдельное

эмпирическое распределение, соответствующее оценке р

. Если

свойства оценки не зависят от объема выборки Т, то гистограм-

мы распределений будут выглядеть практически одинаково. Если

же объем выборки сказывается на поведении оценки, то вид рас-

пределений (их форма и/или положение) будет меняться при

росте Т.

Осуществление подобных компьютерных экспериментов не-

обходимо далеко не всегда. Во многих случаях поведение оценок

при больших Т можно исследовать математически. Свойства оце-

нок, полученные при Т -»

оо

, называются асимптотическими

свойствами.

Как мы упоминали ранее, форма и положение эмпирического

распределения для малых значений Т может рассматриваться для

того,

чтобы проверить свойства оценки при малом объеме выборки,

если они не могут быть получены математически. Заметим, что после-

довательность р

, Г =

+1, 7J>+2, ..., где р

обозначает оценку

(формулу для оценивания), вычисляемую по выборке объема Г, сама

является случайным процессом, так как каждый член этой последо-

вательности — случайная величина, принимающая те или иные

значения в зависимости от конкретной реализации наблюдаемых

временных рядов.

Предел распределения оценки, если он существует, при стрем-

лении Т к бесконечности, называется

асимптотическим

распределе-

нием оценки. Если математическое ожидание оценки стремится к

истинному значению оцениваемого параметра, то оценка называет-

ся

асимптотически

несмещенной.

Однако чаще нас будет интересо-

вать другое асимптотическое свойство

—

состоятельность.

Образно

говоря, оценка называется

состоятельной,

если по мере увеличения

числа наблюдений Т значения (распределение значений) оценки

все сильнее концентрируются вокруг истинного значения парамет-

pa. Формально

состоятельность

означает, что вероятность того, что

разность между значением оценки и истинным значением парамет-

ра превзойдет произвольно заданную (сколь угодно малую) величи-

ну, должна стремиться к нулю при стремлении объема выборки к

бесконечности:

limP{|p

-p|>s} = 0. (1.17)

Г-»оо

Если оценка состоятельна, т.е. для нее выполняется предельное

соотношение (1.17), то говорят, что ее

предел

по

вероятности

равен

истинному значению оцениваемого параметра, и пишут

/?limp

=p. (1.18)

Таким образом, «состоятельность» и «сходимость по вероятно-

сти»

—

это синонимы.

Если оценивается вектор параметров, то оценка считается со-

стоятельной, если каждая компонента вектора оценок сходится по

вероятности к соответствующей компоненте вектора истинных зна-

чений параметров.

Пусть имеется две оценки, вычисляемые по выборке объема

и р

, такие, что наряду с соотношением (1.18) выполня-

ется также

plimd

=a. (1.19)

Г-»оо

Тогда справедливы следующие свойства пределов по вероятности:

lim(d

) = р lim a

±p

lim

= a

(1.20, а)

p\im(a

)

= {/?limd

}{/?MmP

} = ap . (1.20, b)

Г->оо Г->оо Г-юо

Если р

* 0 и

0, то

^lim(a

) = {/7limd

}/{/?limp

} = a/p. (1.20, с)

Т-+оэ

Г-»оо Г->оо

Если р

>0 и р>0, то

plim(yl^)= //?limp

=VP- (1.20, d)

Г->оо V

T->co

Если у

—

константа, то

/?limy = y. (1.20, ё)

Г->оо

Если ф

—

непрерывная функция, то

/?Ит

(р

) =

ф(Р).

(1.20,/)

Утверждение (1.20, /) называется

теоремой

Слуцкого.

Оно спра-

ведливо не только в случае одного числового параметра р, но и если

р — вектор. Тогда ф — непрерывная функция соответствующего

числа аргументов. Легко заметить, что свойства (1.20, а), (1.20, А),

(1.20,

с) и (1.20, d) являются следствиями теоремы Слуцкого.

Следует обратить внимание на различия между понятиями ма-

тематического ожидания и дисперсии асимптотического распреде-

ления оценки при Г-*оо, пределами математического ожидания и

дисперсии оценки при Т ->

оо

и пределом по вероятности оценки

при Т ->

оо

В некоторых случаях пределы математического ожидания и

дисперсии оценки при Т

—>

оо

могут не существовать, в то время

как математическое ожидание и дисперсия асимптотического рас-

пределения существуют, поэтому использование моментов асимпто-

тического распределения считается более удобным.

Достаточное условие состоятельности оценки состоит в том,

чтобы среднее асимптотического распределения было равно истин-

ному значению параметра и дисперсия асимптотического распреде-

ления равнялась нулю. Приведем пример, показывающий, что это

условие не является необходимым.

Предположим, что распределение оценки |3

при фиксирован-

ном объеме выборки Т с вероятностью, практически равной едини-

це,

концентрируется в малой окрестности точки р, а с оставшейся

(почти нулевой) вероятностью может принимать значения близкие

к Т. Точнее, пусть

/>{|РГ-Р1<^}

1^ИР{|Р

-Г|<^}

Для простоты дальнейших выкладок будем дополнительно считать,

что оценка р

имеет функцию плотности, которая принимает зна-

чение Г— 1 на отрезке длины 1/Гс центром в точке р, значение 1

на отрезке длины 1/Гс центром в точке Г

значение 0 в остальных

случаях. Ясно, что такая оценка является состоятельной, так как

Р<мр

-р|>—

> =

»0 при Г^оо. В результате прямых вычис-

лений нетрудно получить следующие результаты:

lim£(p

) =

p + l

и lim/)(iL)

oo.

Т-+00

Г->оо

Таким образом, предел математического ожидания оценки не сов-

падает с истинным значением оцениваемого параметра (асимптоти-

ческой несмещенности нет) и, более того, асимптотически диспер-

сия оценки бесконечно велика, тем не менее оценка является со-

стоятельной.

1.5. Линейная модель

множественной регрессии

Рассматриваемая ниже линейная модель составляет основу

эконометрики. Базируясь на определенном наборе допущений,

изложим основополагающую процедуру эконометрического оце-

нивания параметров этой модели — метод наименьших квадратов

(МНК). Значительная часть стандартного курса эконометрики по-

священа адаптации этого метода к ситуациям, в которых одна или

несколько так называемых классических предпосылок не работа-

ют. Для того, чтобы предлагаемый обзор имел как можно более

общий характер, далее в этой главе используется в основном мат-

ричная форма записи.

1.5.1. Классические допущения,

МНК и теорема Гаусса—Маркова

Пусть процесс, порождающий значения наблюдаемой перемен-

ной у

есть сумма линейной комбинации к объясняющих пере-

менных

Jt9

7 =

..., к и случайного отклонения u

7, =Рл+Р

*2/+Рз%+-"

РА+^>

* =

V2,...,r, (1.21)

где ру неизвестны.

Главная задача эконометрики состоит в том, чтобы получить

«оптимальные» оценки неизвестных параметров зависимости (1.21).

Имея исходный массив наблюдений {{у

Х\

х^, ..., х^), t— 1, 2, ..:,

7),

можно от системы соотношений (1.21) перейти к записи в мат-

ричной форме:

7 = Zp +

(1.22)

где

У2

КУт.

; х

1т

ът

<*1

£Г_

;Р

ГР.1

Л,

; « =

«2

т;

Таким образом, Y — вектор наблюдаемых значений зависимой

(объясняемой) переменной размерности Гх1 ; X — матрица на-

блюдений объясняющих переменных («регрессоров») размерности

Тхк\ р — вектор неизвестных коэффициентов размерности &xl;

и — вектор ненаблюдаемых случайных отклонений (регрессионных

ошибок) размерности 7x1. Матрицу X иногда также называют

«матрицей плана».

В классической линейной регрессионной модели вводится ряд

допущений, позволяющих установить различные свойства эконо-

метрических оценок коэффициентов.

Все случайные отклонения имеют нулевые математические

ожидания, одинаковые дисперсии а

и являются взаимно некорре-

лированными:

E(u)

Var(w) = a

Объясняющие переменные неслучайны и, таким образом, не

зависят от случайных отклонений:

Е(Х'и)

Объясняющие переменные линейно независимы:

гапк(Х'Х)

гапк(Х)

и, следовательно, существует обратная матрица

(Х'Х)~

]

Важно отметить, что до сих пор не было сделано никаких до-

пущений относительно характера статистического распределения

случайных отклонений. Также не говорилось, что отклонения рас-

пределены независимо (т.е. не требовалось, чтобы функция плот-

ности их совместного распределения была равна произведению

функций плотности отдельных отклонений), хотя при условии

нормальности распределения это свойство следует из нулевой

корреляции.

Оценка по методу наименьших квадратов (МНК-оценка) р

для вектора р является результатом минимизации суммы квадра-