Грачева М.В. и др. Моделирование экономических процессов

Подождите немного. Документ загружается.

деленная квадратичной формой (1.53), имеет

распределение

q степенями свободы:

\{t$-r)XR{XXT

RT\W-r)~x\q).

(1.54)

Так как значение

обычно неизвестно, то выражение (1.53) не

вычислимо. Поэтому взамен а

разумно использовать несмещенную

оценку s

, определенную в (1.35). Однако, поскольку

сама являет-

ся случайной величиной, то такая замена в (1.54) приведет к распреде-

лению, отличному от х

•

Ниже мы получим это распределение.

Найдем вначале распределение величины s

Для этого вос-

пользуемся еще одним известным результатом математической

статистики: для произвольной идемпотентной матрицы М и стан-

дартного тауссовского вектора е ~ N(0, I) величина

e'Afs имеет

^-распределение

числом степеней свободы, равным рангу мат-

рицы М.

Как было показано

параграфе 1.5.3, й

Ми

где

-Х(Х'Х)~

—

симметричная идемпотентная матрица,

— еди-

ничная матрица порядка Т. Из (1.47) следует, что

—

N(0,

—

СТаН-

дартный Г-мерный гауссовский вектор. Легко видеть, что

й'й и'М'Ми и'М

и\,и

, , wx

—

-—

—

— М— ~ х (rank M).

а а

Кроме того, по свойству идемпотентных матриц

TsmkM =

trM

T-k.

Учитывая независимость оценки s

й'й/(Т

к)

к вектора МНК-

оценок р, имеем:

(T-K)s

(T-K).

(1.55)

Из выражений (1.53), (1.54)

(1.55) получаем

(Д

ry[R(XX)R'](Rfl

-r)lq

F(q,T-K).

(1.56)

См. также вывод соотношения (1.36).

Конечно, выражение (1.56) может показаться довольно гро-

моздким, однако оно не содержит неизвестных величин и может

быть непосредственно вычислено по имеющимся выборочным

наблюдениям. Кроме того, при условии нормальности случайных

отклонений и справедливости ограничений на параметры, это

выражение подчиняется известному, затабулированному распре-

делению. Наконец, по величине (1.56) можно судить о степени

соответствия между имеющимися наблюдениями и ограничения-

ми на параметры — если ее значение слишком велико (превосхо-

дит некоторый порог), то с большой долей уверенности можно

утверждать, что ограничения не выполняются. Таким образом,

величину (1.56) можно использовать в качестве критической ста-

тистики при проверке гипотезы о линейных ограничениях.

Ниже приводится удобный способ вычисления данного выра-

жения. Из соотношения (1.46) для МНК-оценок р

, учитывающих

ограничения, следует, что

XX($-$)

R'[R(X'Xy

R-

(R?>-r). (1.57)

Так как Р

должна удовлетворять ограничению R$

= г , то

.(лр-гу

(лр-л^у

(р-р

ул'.-

Умножив (1.57) слева на (Р-рд)', получим

(р

p„ УХ'ХФ

- р

) =

(ДР

- гУЩХХГ

R'T

(ДР

г).

(1.58)

Теперь рассмотрим сумму квадратов остатков в модели с огра-

ничениями (e'

) и сумму квадратов остатков в модели без огра-

ничений

(e'

=(Y-Xp

)'(Y-XP

); (1.59)

e'uR*UR

=(Y-XmY-X£)

(T-k)s

. (1.60)

Преобразуем выражение (1.59):

=(Y-Xp

XV-XP

y(Y-Xp

Q ш

(г-хру(г-хр)+(р~р

ухх(р-р

Здесь мы воспользовались ортогональностью величин Хи и, т.е.

равенством Х'й = X\Y-X$)

0 . Из (1.60) и (1.61) получим

-e

=$-%yXX^-^

или, используя (1.58),

-e'

= {R$-ry[R{XXT

RVW-r).

Следовательно, критическая статистика (1.56) может быть запи-

сана по-другому:

У^)!

~Пя,Т-к).

(1.62)

Формула (1.62) легко интерпретируется. Так как вектор МНК-

оценок в модели без ограничений минимизирует сумму квадратов

остатков, то наложение ограничений приводит к увеличению сум-

мы квадратов. Таким образом, выражение в левой части (1.62) по-

казывает относительную величину прироста суммы квадратов, при-

ходящуюся на одно ограничение.

Мы будем отвергать гипотезу об ограничениях, в случае если

критическая статистика свидетельствует «о слишком большом» уве-

личении суммы квадратов. Пороговое значение критической стати-

стики, превышение которого свидетельствует о несправедливости

гипотезы, определяется из таблиц /'-распределения, соответствую-

щих заданному уровню вероятности ошибочного решения.

1.5.7.

Доверительные интервалы

Рассмотрим снова выражение (1.56). В условиях справедливости

нулевой гипотезы (1.51) для истинных значений параметров р вы-

полняется равенство г =

7?р,

тогда (1.56) можно представить в виде:

ф-№1Я(хх)-кГяф-У1я _

F(qt T

k) (Li3)

Через F

(q, Т-k) обозначим ЮОа-процентную точку ^-распре-

деления (где a

—

уровень значимости критерия), т.е. такую величи-

ну, при которой

P{F(q>

Т-к)> F

(q, T -

к)}

= a . Геометрически это

означает, что область между осью абсцисс и графиком функции

плотности распределения случайной величины F(q, Т-к), распо-

ложенная справа от точкиF

(g, Т-к), имеет площадь а. С помо-

щью процентной точки можно построить

100(1

-а)-процентный до-

верительный эллипсоид:

M-VYnR(XXr

R(W)

uFa(q

аб4)

Дадим интерпретацию выражения (1.64). Предположим, у нас

есть возможность многократной генерации выборки наблюдений

(X, Y) в соответствии с моделью (1.22), причем для получения

реализаций вектора Y используется одна и та же матрица значе-

ний регрессоров 1и одни и те же (истинные) значения коэффи-

циентов р, но разные векторы случайных отклонений и. Тогда

вектор Y от выборки к выборке будет, вообще говоря, меняться,

и, следовательно, будут получаться разные значения оценки р ,

что позволит получить эмпирическое распределение для р . Во-

прос о несмещенности и эффективности МНК-оценок, обсуж-

давшийся ранее, фактически сводится к вопросу о среднем зна-

чении и дисперсии этого выборочного распределения. Предста-

вим себе теперь, что по каждой из выборок на основе неравенст-

ва, стоящего в фигурных скобках в выражении (1.64), построена

область в ^-мерном евклидовом пространстве. Соотношение

(1.64) означает, что приблизительно в 100(1-а) процентах случа-

ев от числа сгенерированных выборок полученная область будет

содержать истинное значение р.

Интересен специальный случай, когда R — единичная матрица.

Тогда выражение (1.64) принимает вид:

M-mxXtf-Wk^b,

T-k)U-a.

(1.65)

Это значит, что для 100(1-а) процентов повторных выборок

вектор истинных значений параметров р будет содержаться внутри

эллипсоида, лежащего в ^-мерном евклидовом пространстве и за-

данного неравенством в фигурных скобках соотношения (1.65).

Другой интересный случай, когда R является А:-мерной строкой

с единицей на /-ом месте и нулями на остальных местах. Тогда вы-

ражение (1.64) будет иметь вид:

\ ,Г1,1-ь ^а(3>

Г-£)^1-а,

(1.66)

«УМ

[(X'Xy%

где [ ].. означает (у,у)-й (т.е. диагональный) элемент матрицы, за-

ключенной в квадратные скобки.

Пользуясь тем, что квадрат случайной величины t (T — к),

имеющей распределение Стьюдента, описывается распределением

Фишера F(l

T— к), можно записать:

-t

(T-K)<

P/)

AT-K)

*[(**)-'$

= l-a,

или

Р{Р

-/^(Г-Л^(Р

)<р

. <р

а/

/(^ВДРу)} = 1--а. (1.67)

Переходя от (1.66) к (1.67), мы воспользовались обозначением

стандартной ошибки se($j) для оценки ру , равной квадратному

корню у-го диагонального элемента матрицы s

(X'X)~

, и полу-

чили двусторонний доверительный интервал. Пусть, например,

Г- к = 60, тогда по таблице процентных точек /-распределения длр

5-процентного уровня значимости найдем /„/(60) = 2 и интервал

[Ру+2^(Р

), p.±2se(Py)], указанный в соотношении (1.67), в среднем

для

95%

повторных выборок, будет содержать истинное значение Р

Следует отметить различия между проверкой каждого ограниче-

ния по отдельности и проверкой совместного выполнения всех ог-

раничений. Рассмотрим, например, отдельные нулевые гипотезы

: р, = 0 и Н

: р, =0 и совместную нулевую гипотезу

: (Р;,Р,) = (0,0)

Допустим, что в 100(1-а) процентах случаев доверительные об-

ласти как для р, так и для р. содержат ноль. Поэтому мы не смо-

жем отклонить ни гипотезу Н

, ни гипотезу Н

на ЮОа-м уровне

значимости. Однако может так оказаться, что двухмерный

100(1-а)-процентный доверительный эллипс для р, и р

не со-

держит начала координат, так что гипотезу Н

придется отвергнуть

на уровне значимости a (т.е. несмотря на то, что мы не можем от-

вергнуть гипотезу о равенстве одного из коэффициентов нулю, мы

сможем отвергнуть гипотезу о совместном равенстве нулю двух ко-

эффициентов).

Построим теперь совместный доверительный эллипс для р, и Р

Пусть R

—

матрица размерности 2 х к с (1, /)- и (2, у)-элементами,

равными единице, и нулями на остальных местах. Обозначив через

Соуф^ру) оцененную ковариацию оценок р, и р

, стоящую на (/,у)-м

месте матрицы s

(XXy

, а арифметические квадратные корни /-го

и у-го диагональных элементов этой матрицы как se($

) и se(fij),

распишем выражение (1.64):

Р{(1/2ХР/ -Р,)

*<Р,)

+(1/2)4- -РуМР/ +'•

(168)

+ (P/-p/XPy-Py)Cov(p

.)<F

(2, Г-*)} = 1-а.

Область, описанная неравенством, стоящим в фигурных скобках

левой части (1.68), — это эллипс с центром в точке (р,, р.). Если

допустить, что CovCP^py) =0, то область, задаваемая (1.68), будет

прямоугольником с центром (Р,, р.) и сторонами, равными длинам

частных доверительных интервалов, построенных для р, и Р

ана-

логично (1.67) с уровнями доверия 100(1-а). Однако если извест-

но,

что р, и Р

имеют положительную ковариацию, тогда переоце-

ненность (недооцененность) р, будет возникать Одновременно с

переоцененностью (недооцененностью) Р

. Это позволяет исклю-

чить окрестности угловых точек прямоугольника и получить эл-

липс,

соответствующий совместной доверительной области с уров-

нем доверия

- а).

Непосредственно также можно построить доверительную об-

ласть для постоянной дисперсии случайных отклонений а

. Из вы-

ражения (1.55) известно, что (T-k)s

имеет %

- распределение

с Т- к степенями свободы. Пусть

(Т-к) и у?

(Т-к) определяют

Of,

соответственно

—

—)100-

--100-

процентные точки х

-распределения

с Т— к степенями свободы, тогда

J v-ktf ^

y-ky*

(L69)

[г\Т-к,

l-a/2)

x\T-k,a/2)\

1.6. Отступление от классических

предпосылок

В этом параграфе рассматриваются следствия и возможные действия

при различных вариантах отступлений от классических предпосылок.

1.6.1. Ошибка спецификации: переменные,

не включенные в модель

До сих пор мы проводили анализ, предполагая, что исходная

модель правильно специфицирована и удовлетворяет классическим

допущениям. Представим себе, однако, что в модели отсутствует

некоторое количество важных объясняющих переменных, а на са-

мом деле истинная модель должна иметь вид:

+ Zy +

u, (1.70)

где Z— (Тх г)-матрица наблюдений; у

—

r-мерный вектор.

Таким образом, вместо уравнения (1.70) мы имеем дело с оши-

бочно специфицированной моделью Y

в которой пропу-

щены г объясняющих переменных (omitted

variables).

Вектор остат-

ков

v =

7- Х$ этой регрессии может быть записан в виде:

где М

=1-Х(ХХУ

Х'.

Подставляя истинное выражение для Y и пользуясь очевидным

равенством М

получим v

(X$

+ u) =

u ц,

следовательно,

E(v)

Zy. (1.71)

Последнее означает, что вектор остатков v содержит пропу-

щенные переменные Z и имеет математическое ожидание, равное

вектору остатков регрессии Zy по X. Это позволяет использовать ос-

татки v при тестировании на ошибки спефикации.

Выясним, являются ли МНК-оценки регрессии Y

Xfi

+ v

не-

смещенными. Подставляя выражение (1.70) в формулу для оценива-

ния $

(XX)~

]

XY -P

Y и используя равенство Р

1, получим

£(p) = p +

/^Z

*p.

Следовательно, наличие пропущенных переменных приводит,

вообще говоря, к смещенным оценкам. Однако, если X и Z ортого-

нальны, т.е. X'Z = 0, то смещения не будет.

1.6.2. Ковариационная матрица неклассического вида

В параграфе 1.5 перечислялись классические условия, наклады-

ваемые на случайные отклонения регрессионной модели

—

наличие

нулевых средних, одинаковых дисперсий и отсутствие коррелиро-

ванное™ между разными случайными отклонениями:

Е(и) = 0, Var(w) = о

/ .

Нарушение предпосылки о нулевых средних не влечет за собой

больших проблем: оно легко преодолевается включением в уравне-

ние регрессии свободного члена. Нарушение свойства гомоскеда-

стичности случайных отклонений, т.е. условия диагональности ко-

вариационной матрицы случайных отклонений и совпадения всех

диагональных элементов, ведет к значительным последствиям.

Каждый диагональный элемент ковариационной матрицы пред-

ставляет собой дисперсию очередного выборочного наблюдения.

Если эти дисперсии разные, то речь идет о свойстве гетероскеда-

стичности случайных отклонений (в противоположность свойству

гомоскедастичности, при котором дисперсии одинаковы). Это оз-

начает, что компоненты вектора случайных отклонений могут

иметь разные распределения.

Каждый недиагональный элемент ковариационной матрицы

является ковариацией между двумя регрессионными отклонения-

ми,

соответствующими двум разным выборочным наблюдениям.

(Например, элемент матрицы, стоящий в третьей строке и втором

столбце - это ковариация отклонений, относящихся к третьему и

второму наблюдениям.) Если все недиагональные элементы равны

нулю,

то говорят, что отклонения

некоррелированы,

в противном

случае имеет место сериальная

коррелированностъ

регрессионных

отклонений.

Если вектор отклонений обладает свойством гетероскедастично-

сти и/или сериальной коррелированное™, то ковариационная мат^

рица не будет иметь классического «скалярного» вида:

£(шО

П*.а

/. (1-72)

Так как доказательство несмещенности оценок, полученных

обычным МНК, строится только на свойствах моментов первого

порядка, то и в этом случае (несмотря на нарушения классических

условий) мы также получим несмещенные и состоятельные оцен-

ки параметров модели. Однако распределение вектора обычных

МНК-оценок будет другим, в частности, ковариационная матрица

оценок р будет иметь вид:

Var(P) =

Е[ф

РХР

р)']

Е[(Х'ХУ

Х'ии'Х{Х'Ху

]

(ХХУ

Х'

ОХ(ХХу\ (1.73)

т.е.

будет отличаться от аналогичной матрицы, полученной ранее в клас-

сическом случае, s

(X'Xy

Существуют два возможных способа разрешения этой пробле-

мы.

Первый способ

—

преобразовать модель таким образом, чтобы

ковариационная матрица остатков стала «скалярной» и затем при-

менять МНК. Это — так называемый

обобщенный

МНК (ОМНК).

Заметим, что этот метод предполагает знание структуры ковариа-

ционной матрицы

Q,.

Второй способ

—

оценить р обычным МНК,

так как полученные оценки будут несмещенными и состоятель-

ными, но использовать состоятельную оценку матрицы Q для по-

лучения (с помощью формулы (1.73)) состоятельной оценки кова-

риационной матрицы Var(P) обычных МНК-оценок. Так как ин-

формация о структуре Q во втором подходе не используется, то

будут получены менее эффективные оценки, чем при первом спо-

собе.

В то же время второй способ представляется более удобным,

поскольку состоятельное оценивание матрицы Q достигается вне

зависимости от знания формы гетероскедастичности или сериаль-

ной коррелированности.

1.6.3. Обобщенный метод наименьших квадратов

Рассмотрим вариант обобщенной модели линейной регрессии

£(«) =

£(ш/) = о

П, (1.74)

в котором предполагается, что р и а

неизвестны, a Q известна.

В рамках модели (1.74) ковариационная матрица зависит только от

одного неизвестного числового параметра а

, поэтому реализация

ОМНК (оценка ковариационной матрицы отклонений) сведется к

оцениванию а

Пусть Q

—

положительно определенная матрица, тогда, как из-

вестно из курса линейной алгебры, существует невырожденная мат-

рица Р, такая что

PQP'

откуда следует, что

Р'Р

П~

]

Умножив (1.74) на Р, получим:

РУ =

РХ$

+ Рщ

или

= Х*р

+ и*,

(1.75)

где I* = PY, X* = РХ, и* = Ри.

Вычислим коварационную матрицу остатков и заметим, что она

имеет классический «скалярный вид»:

Е(и *

и*')

= Е{Рии'Р') = a

PQP' = а

Тогда, в соответствии с теоремой Гаусса—Маркова, применив к

(1.75) обычный МНК, получим наилучшие линейные, несмещен-

ные оценки р:

Ромнк = {X

Х*У

Г*

(Х'Р'РХГ

XT'PY =

Интуитивно понятно, что обобщенный МНК дает более эффектив-

ные оценки, чем обычный МНК, потому что он в определенном смысле

«взвешивает» данные. Например, в случае гетероскедастичных и сериаль-

но некоррелированных регрессионных отклонений, наблюдения, соответ-

ствующие большим значениям дисперсии отклонений, будут вносить

меньший вклад в формирование оценок (получат меньший вес), чем на-

блюдения, соответствующие меньшим дисперсиям отклонений.

Заметим, что для реализации ОМНК требуется знание матрицы Q .

Вообще говоря, исследователь должен сначала оценить матрицу Q , а

потом использовать эту оценку в дальнейшем анализе, например при

вычислении соотношений типа (1.76). Таким образом, мы приходим

практически реализованной

или доступной ОМНК-оценке. Способ

оценивания матрицы Q. будет зависеть от того, предполагает ли ис-

следователь наличие гетероскедастичности, автокоррелированности

или их сочетания.

1.6.4.

Гетероскедастичность

Рассмотрим снова кейнсианскую функцию потребления, в ко-

торой считается, что текущее потребление y

зависит от текущего

дохода x

^=Pi+Mr+«r (1.77)

При этом разумно предположить, что дисперсия случайных от-

клонений растет по мере роста дохода. Действительно, в соответст-

вии с общей теорией потребления, индивидуум, имеющий больший

доход, имеет и большие возможности разнообразить свое потребле-

ние.

Предположим, к примеру, что дисперсия случайного отклоне-

ния пропорциональна квадрату дохода:

=оа:

. (1.78)

Разделим (1.77) на x

л=р!*;+р

+£;, о-

где у*

;

= 1/х, ; e* = z