Обобщенный метод моментов - Generalized method of moments

В эконометрики и статистики , то обобщенный метод моментов ( ОММ ) является универсальным методом оценки параметров в статистических моделях . Обычно он применяется в контексте полупараметрических моделей , где интересующий параметр является конечномерным, тогда как полная форма функции распределения данных может быть неизвестна, и поэтому оценка максимального правдоподобия не применима.

Метод требует, чтобы для модели было указано определенное количество моментов . Эти моментные условия являются функциями параметров модели и данных, так что их математическое ожидание равно нулю при истинных значениях параметров. Метод ГММ затем минимизирует определенную норму образца средних от моментных условий, и , следовательно , можно рассматривать как частный случай из оценки минимального расстояния .

Известно, что оценщики GMM являются непротиворечивыми , асимптотически нормальными и эффективными в классе всех оценщиков, которые не используют никакой дополнительной информации, кроме той, которая содержится в моментных условиях. GMM был предложен Ларсом Питером Хансеном в 1982 году как обобщение метода моментов , введенного Карлом Пирсоном в 1894 году. Однако эти оценки математически эквивалентны оценкам, основанным на «условиях ортогональности» (Sargan, 1958, 1959) или «беспристрастности». оценивающие уравнения »(Huber, 1967; Wang et al., 1997).

Описание

Предположим, что доступные данные состоят из T наблюдений { Y _t  } _{t  = 1, ..., T} , где каждое наблюдение Y _t является n- мерной многомерной случайной величиной . Мы предполагаем, что данные поступают из определенной статистической модели , определенной с точностью до неизвестного параметра θ ∈ Θ . Цель задачи оценивания - найти «истинное» значение этого параметра θ ₀ или, по крайней мере, достаточно близкую оценку.

Общее предположение GMM состоит в том, что данные Y _t генерируются слабо стационарным эргодическим случайным процессом . (Случай независимых и одинаково распределенных (iid) переменных Y _t является частным случаем этого условия.)

Чтобы применить GMM, нам нужно иметь «моментные условия», то есть нам нужно знать вектор-функцию g ( Y , θ ) такую, что

${\ Displaystyle м (\ тета _ {0}) \ Equiv \ OperatorName {E} [\, g (Y_ {t}, \ theta _ {0}) \,] = 0,}$

где E обозначает ожидание , а Y _t - общее наблюдение. Более того, функция m ( θ ) должна отличаться от нуля при θ ≠ θ ₀ , иначе параметр θ не будет точечно- идентифицированным .

Основная идея GMM - заменить теоретическое ожидаемое значение E [⋅] его эмпирическим аналогом - выборочным средним:

${\ displaystyle {\ hat {m}} (\ theta) \ Equiv {\ frac {1} {T}} \ sum _ {t = 1} ^ {T} g (Y_ {t}, \ theta)}$

а затем минимизировать норму этого выражения по θ . Минимизирующее значение θ - это наша оценка для θ ₀ .

По закону больших чисел , для больших значений T , и поэтому мы этого ожидаем . Обобщенный метод моментов ищет число, которое было бы как можно ближе к нулю. Математически это эквивалентно минимизации определенной нормы (норма m , обозначенная как || m ||, измеряет расстояние между m и нулем). Свойства полученной оценки будут зависеть от конкретного выбора функции нормы, и поэтому теория GMM рассматривает все семейство норм, определяемых как ${\ Displaystyle \ scriptstyle {\ шляпа {m}} (\ theta) \, \ приблизительно \; \ OperatorName {E} [g (Y_ {t}, \ theta)] \, = \, m (\ theta)}$${\ displaystyle \ scriptstyle {\ hat {m}} (\ theta _ {0}) \; \ приблизительно \; m (\ theta _ {0}) \; = \; 0}$${\ displaystyle \ scriptstyle {\ hat {\ theta}}}$${\ displaystyle \ scriptstyle {\ hat {m}} (\; \! {\ hat {\ theta}} \; \!)}$${\ displaystyle \ scriptstyle {\ hat {m}} (\ theta)}$

${\ displaystyle \ | {\ hat {m}} (\ theta) \ | _ {W} ^ {2} = {\ hat {m}} (\ theta) ^ {\ mathsf {T}} \, W { \ hat {m}} (\ theta),}$

где W - положительно определенная матрица весов, а означает транспонирование . На практике весовая матрица W вычисляется на основе доступного набора данных, который будет обозначаться как . Таким образом, оценщик GMM можно записать как ${\ Displaystyle м ^ {\ mathsf {T}}}$${\ displaystyle \ scriptstyle {\ hat {W}}}$

${\ displaystyle {\ hat {\ theta}} = \ operatorname {arg} \ min _ {\ theta \ in \ Theta} {\ bigg (} {\ frac {1} {T}} \ sum _ {t = 1 } ^ {T} g (Y_ {t}, \ theta) {\ bigg)} ^ {\ mathsf {T}} {\ hat {W}} {\ bigg (} {\ frac {1} {T}} \ sum _ {t = 1} ^ {T} g (Y_ {t}, \ theta) {\ bigg)}}$

При подходящих условиях эта оценка является непротиворечивой , асимптотически нормальной и при правильном выборе весовой матрицы также асимптотически эффективной . ${\ displaystyle \ scriptstyle {\ hat {W}}}$

Характеристики

Последовательность

Согласованность - это статистическое свойство оценщика, утверждающее, что, имея достаточное количество наблюдений, оценщик сойдется по вероятности к истинному значению параметра:

${\ displaystyle {\ hat {\ theta}} {\ xrightarrow {p}} \ theta _ {0} \ {\ text {as}} \ T \ to \ infty.}$

Достаточные условия для согласованности оценки GMM следующие:

1. ${\ displaystyle {\ hat {W}} _ {T} {\ xrightarrow {p}} W,}$где W - положительно полуопределенная матрица ,
2. ${\ Displaystyle \, W \ OperatorName {E} [\, g (Y_ {t}, \ theta) \,] = 0}$  только для ${\ Displaystyle \, \ theta = \ theta _ {0},}$
3. Пространство возможных параметров является компактным ,${\ Displaystyle \ Theta \ subset \ mathbb {R} ^ {k}}$
4. ${\ Displaystyle \, г (Y, \ theta)}$  непрерывна при каждом θ с вероятностью единица,
5. ${\ displaystyle \ operatorname {E} [\, \ textstyle \ sup _ {\ theta \ in \ Theta} \ lVert g (Y, \ theta) \ rVert \,] <\ infty.}$

Второе условие здесь (так называемое условие глобальной идентификации ) часто особенно трудно проверить. Существуют более простые необходимые, но недостаточные условия, которые могут быть использованы для обнаружения проблемы неидентификации:

• Условие заказа . Размерность моментной функции m (θ) должна быть не меньше размерности вектора параметров θ .
• Локальная идентификация . Если g (Y, θ) непрерывно дифференцируемо в окрестности , то матрица должна иметь полный ранг столбца .${\ displaystyle \ theta _ {0}}$${\ displaystyle W \ operatorname {E} [\ nabla _ {\ theta} g (Y_ {t}, \ theta _ {0})]}$

На практике эконометристы-прикладники часто просто предполагают, что глобальная идентификация имеет место, не доказывая ее на самом деле.

Асимптотическая нормальность

Асимптотическая нормальность - полезное свойство, поскольку оно позволяет нам строить доверительные интервалы для оценщика и проводить различные тесты. Прежде чем мы сможем сделать утверждение об асимптотическом распределении оценки GMM, нам необходимо определить две вспомогательные матрицы:

${\ Displaystyle G = \ OperatorName {E} [\, \ nabla _ {\! \ theta} \, g (Y_ {t}, \ theta _ {0}) \,], \ qquad \ Omega = \ operatorname { E} [\, g (Y_ {t}, \ theta _ {0}) g (Y_ {t}, \ theta _ {0}) ^ {\ mathsf {T}} \,]}$

Тогда при условиях 1–6, перечисленных ниже, оценка GMM будет асимптотически нормальной с предельным распределением :

${\ displaystyle {\ sqrt {T}} {\ big (} {\ hat {\ theta}} - \ theta _ {0} {\ big)} \ {\ xrightarrow {d}} \ {\ mathcal {N} } {\ big [} 0, (G ^ {\ mathsf {T}} WG) ^ {- 1} G ^ {\ mathsf {T}} W \ Omega W ^ {\ mathsf {T}} G ​​(G ^ {\ mathsf {T}} W ^ {\ mathsf {T}} G) ^ {- 1} {\ big]}.}$

Условия:

1. ${\ displaystyle {\ hat {\ theta}}}$ согласован (см. предыдущий раздел),
2. Множество возможных параметров является компактным ,${\ Displaystyle \ Theta \ subset \ mathbb {R} ^ {k}}$
3. ${\ Displaystyle \, г (Y, \ theta)}$непрерывно дифференцируема в некоторой окрестности N от с вероятностью единица,${\ displaystyle \ theta _ {0}}$
4. ${\ Displaystyle \ OperatorName {E} [\, \ lVert g (Y_ {t}, \ theta) \ rVert ^ {2} \,] <\ infty,}$
5. ${\ displaystyle \ operatorname {E} [\, \ textstyle \ sup _ {\ theta \ in N} \ lVert \ nabla _ {\ theta} g (Y_ {t}, \ theta) \ rVert \,] <\ infty ,}$
6. матрица невырожденная.${\ displaystyle G'WG}$

Эффективность

Пока мы ничего не сказали о выборе матрицы W , за исключением того, что она должна быть положительно полуопределенной. Фактически, любая такая матрица будет давать непротиворечивую и асимптотически нормальную оценку GMM, единственная разница будет заключаться в асимптотической дисперсии этой оценки. Можно показать, что взяв

${\ Displaystyle W \ propto \ \ Omega ^ {- 1}}$

приведет к наиболее эффективной оценке в классе всех асимптотически нормальных оценок. Эффективность в этом случае означает, что такая оценка будет иметь наименьшую возможную дисперсию (мы говорим, что матрица A меньше матрицы B, если B – A является положительно полуопределенным).

В этом случае формула для асимптотического распределения оценки GMM упрощается до

${\ displaystyle {\ sqrt {T}} {\ big (} {\ hat {\ theta}} - \ theta _ {0} {\ big)} \ {\ xrightarrow {d}} \ {\ mathcal {N} } {\ big [} 0, (G ^ {\ mathsf {T}} \, \ Omega ^ {- 1} G) ^ {- 1} {\ big]}}$

Доказательство того, что такой выбор весовой матрицы действительно является оптимальным, часто принимается с небольшими изменениями при установлении эффективности других оценок. Как показывает опыт, матрица взвешивания является оптимальной, когда она превращает «формулу сэндвича» для сжатия дисперсии в более простое выражение.

Доказательство . Мы рассмотрим разницу между асимптотической дисперсией с произвольным W и асимптотической дисперсией с. Если мы можем разложить эту разницу на симметричное произведение формы CC ' для некоторой матрицы C , то это будет гарантировать, что эта разность неотрицательно определена и, таким образом,будет оптимальной по определению. ${\ Displaystyle W = \ Omega ^ {- 1}}$${\ Displaystyle W = \ Omega ^ {- 1}}$
${\ Displaystyle \, V (W) -V (\ Omega ^ {- 1})}$	${\ displaystyle \, = (G ^ {\ mathsf {T}} WG) ^ {- 1} G ^ {\ mathsf {T}} W \ Omega WG (G ^ {\ mathsf {T}} WG) ^ { -1} - (G ^ {\ mathsf {T}} \ Omega ^ {- 1} G) ^ {- 1}}$
	${\ Displaystyle \, = (G ^ {\ mathsf {T}} WG) ^ {- 1} {\ Big (} G ^ {\ mathsf {T}} W \ Omega WG-G ^ {\ mathsf {T} } WG (G ^ {\ mathsf {T}} \ Omega ^ {- 1} G) ^ {- 1} G ^ {\ mathsf {T}} WG {\ Big)} (G ^ {\ mathsf {T} } WG) ^ {- 1}}$
	${\ Displaystyle \, = (G ^ {\ mathsf {T}} WG) ^ {- 1} G ^ {\ mathsf {T}} W \ Omega ^ {1/2} {\ Big (} I- \ Omega ^ {- 1/2} G (G ^ {\ mathsf {T}} \ Omega ^ {- 1} G) ^ {- 1} G ^ {\ mathsf {T}} \ Omega ^ {- 1/2} {\ Big)} \ Omega ^ {1/2} WG (G ^ {\ mathsf {T}} WG) ^ {- 1}}$
	${\ Displaystyle \, = A (IB) A ^ {\ mathsf {T}},}$
где мы ввели матрицы A и B , чтобы немного упростить обозначения; I - единичная матрица . Мы можем видеть , что матрица B здесь симметрична и идемпотентная : . Это означает , что I-B является симметричным и идемпотентным , а также: . Таким образом, мы можем продолжить факторизацию предыдущего выражения как ${\ displaystyle B ^ {2} = B}$${\ Displaystyle IB = (IB) (IB) ^ {\ mathsf {T}}}$
	${\ Displaystyle \, = A (IB) (IB) ^ {\ mathsf {T}} A ^ {\ mathsf {T}} = {\ Big (} A (IB) {\ Big)} {\ Big (} A (IB) {\ Big)} ^ {\ mathsf {T}} \ geq 0}$

Реализация

Одна из трудностей с реализацией описанного метода состоит в том, что мы не можем взять W = Ω ^−1, потому что по определению матрицы Ω нам нужно знать значение θ ₀ , чтобы вычислить эту матрицу, а θ ₀ - это именно та величина, которую мы не знают и пытаются оценить в первую очередь. В случае, когда Y _t iid, мы можем оценить W как

${\ displaystyle {\ hat {W}} _ {T} ({\ hat {\ theta}}) = {\ bigg (} {\ frac {1} {T}} \ sum _ {t = 1} ^ { T} g (Y_ {t}, {\ hat {\ theta}}) g (Y_ {t}, {\ hat {\ theta}}) ^ {\ mathsf {T}} {\ bigg)} ^ {- 1}.}$

Существует несколько подходов к решению этой проблемы, первый из которых является наиболее популярным:

Другая важная проблема в реализации процедуры минимизации заключается в том, что функция должна перебирать (возможно, многомерное) пространство параметров Θ и находить значение θ, которое минимизирует целевую функцию. Общих рекомендаций для такой процедуры не существует, это предмет отдельной области, численной оптимизации .

J -тест Саргана – Хансена

Когда количество моментов больше, чем размерность вектора параметров θ , модель считается переидентифицированной . Сарган (1958) предложил тесты для переопределения ограничений, основанные на оценках инструментальных переменных, которые распределяются в больших выборках как переменные хи-квадрат со степенями свободы, которые зависят от количества переопределенных ограничений. Впоследствии Хансен (1982) применил этот тест к математически эквивалентной формулировке оценок GMM. Обратите внимание, однако, что такая статистика может быть отрицательной в эмпирических приложениях, где модели указаны неправильно, и тесты отношения правдоподобия могут дать понимание, поскольку модели оцениваются как при нулевой, так и при альтернативной гипотезе (Bhargava and Sargan, 1983).

Концептуально мы можем проверить, достаточно ли близко к нулю, чтобы предположить, что модель хорошо соответствует данным. Затем метод GMM заменил задачу решения уравнения , которое выбирает точное соответствие ограничениям, расчетом минимизации. Минимизацию всегда можно провести, даже если такого не существует . Это то, что делает J-test. J-тест также называется тестом на переопределение ограничений . ${\ displaystyle {\ hat {m}} ({\ hat {\ theta}})}$${\ Displaystyle {\ шляпа {м}} (\ тета) = 0}$${\ displaystyle \ theta}$${\ displaystyle \ theta _ {0}}$${\ Displaystyle м (\ тета _ {0}) = 0}$

Формально мы рассматриваем две гипотезы :

• ${\ displaystyle H_ {0}: \ m (\ theta _ {0}) = 0}$  ( нулевая гипотеза о том, что модель «действительна»), и
• ${\ Displaystyle H_ {1}: \ м (\ theta) \ neq 0, \ \ forall \ theta \ in \ Theta}$  ( альтернативная гипотеза о том, что модель «недействительна»; данные не подходят для соответствия ограничениям)

Согласно гипотезе следующая так называемая J-статистика имеет асимптотическое распределение хи-квадрат с k – l степенями свободы. Определите J как: ${\ displaystyle H_ {0}}$

${\ Displaystyle J \ Equiv T \ cdot {\ bigg (} {\ frac {1} {T}} \ sum _ {t = 1} ^ {T} g (Y_ {t}, {\ hat {\ theta} }) {\ bigg)} ^ {\ mathsf {T}} {\ hat {W}} _ {T} {\ bigg (} {\ frac {1} {T}} \ sum _ {t = 1} ^ {T} g (Y_ {t}, {\ hat {\ theta}}) {\ bigg)} \ {\ xrightarrow {d}} \ \ chi _ {k- \ ell} ^ {2}}$   под ${\ displaystyle H_ {0},}$

где - оценка параметра GMM , k - количество моментов (размерность вектора g ), а l - количество оцениваемых параметров (размерность вектора θ ). Матрица должна сходиться по вероятности к эффективной матрице взвешивания (обратите внимание, что ранее мы требовали только, чтобы W была пропорциональна, чтобы оценка была эффективной; однако для проведения J-теста W должно быть точно равно , а не просто пропорционально). ${\ displaystyle {\ hat {\ theta}}}$${\ displaystyle \ theta _ {0}}$${\ displaystyle {\ hat {W}} _ {T}}$${\ displaystyle \ Omega ^ {- 1}}$${\ displaystyle \ Omega ^ {- 1}}$${\ displaystyle \ Omega ^ {- 1}}$

Согласно альтернативной гипотезе J-статистика асимптотически неограничена: ${\ displaystyle H_ {1}}$

${\ Displaystyle J \ {\ xrightarrow {p}} \ \ infty}$  под ${\ displaystyle H_ {1}}$

Для проведения теста мы вычисляем значение J из данных. Это неотрицательное число. Мы сравниваем его с (к примеру) на 0,95 квантиль в распределении: ${\ displaystyle \ chi _ {k- \ ell} ^ {2}}$

• ${\ displaystyle H_ {0}}$ отклоняется с доверительной вероятностью 95%, если ${\ displaystyle J> q_ {0.95} ^ {\ chi _ {k- \ ell} ^ {2}}}$
• ${\ displaystyle H_ {0}}$ не может быть отклонен с доверительной вероятностью 95%, если ${\ Displaystyle J <q_ {0,95} ^ {\ chi _ {k- \ ell} ^ {2}}}$

Объем

Многие другие популярные методы оценки могут быть применены с точки зрения оптимизации GMM:

Реализации

• Викибук по программированию на R, Метод моментов
• р
• Stata
• EViews
• SAS
• Гретл

Смотрите также

• Метод максимального правдоподобия
• Обобщенное эмпирическое правдоподобие
• Оценка Ареллано – Бонда
• Приближенное байесовское вычисление

использованная литература

дальнейшее чтение

• Хубер, П. (1967). Поведение оценок максимального правдоподобия в нестандартных условиях. Труды Пятого симпозиума Беркли по математической статистике и вероятности 1, 221-233.

• Ньюи В., Макфадден Д. (1994). Оценка большой выборки и проверка гипотез , Справочник по эконометрике, глава 36. Elsevier Science.

• Имбенс, Гвидо В .; Spady, Ричард Х .; Джонсон, Филипп (1998). "Теоретико-информационные подходы к выводу в моделях моментных состояний" (PDF) . Econometrica . 66 (2): 333–357. DOI : 10.2307 / 2998561 . JSTOR  2998561 .

• Сарган, JD (1958). Оценка экономических отношений с использованием инструментальных переменных. Econometrica, 26, 393-415.

• Сарган, JD (1959). Оценка взаимосвязей с автокоррелированными остатками с использованием инструментальных переменных. Журнал Королевского статистического общества B, 21, 91-105.

• Ван, CY, Ван, С., и Кэрролл, Р. (1997). Оценка при выборке на основе выбора с ошибкой измерения и бутстрап-анализом. Журнал эконометрики, 77, 65-86.

• Бхаргава А. и Сарган Дж. Д. (1983). Оценка динамических случайных эффектов на основе панельных данных за короткие периоды времени. Econometrica, 51, 6, 1635–1659.

• Хаяси, Фумио (2000). Эконометрика . Принстон: Издательство Принстонского университета. ISBN 0-691-01018-8.
• Хансен, Ларс Питер (2002). «Метод моментов». В Смелсере, штат Нью-Джерси ; Бейтс, ПБ (ред.). Международная энциклопедия социальных и поведенческих наук . Оксфорд: Пергамон.
• Холл, Аластер Р. (2005). Обобщенный метод моментов . Продвинутые тексты по эконометрике. Издательство Оксфордского университета. ISBN 0-19-877520-2.
• Faciane, Кирби Адам младший (2006). Статистика для эмпирических и количественных финансов . Статистика для эмпирических и количественных финансов. ХК Бэрд. ISBN 0-9788208-9-4.
• Специальные выпуски журнала Business and Economic Statistics: vol. 14, вып. 3 и т. 20, нет. 4 .

• Краткое введение в обобщенный метод моментов