F -тест - F-test
F -test любой статистический тест , в котором тестовая статистика имеет F -распределение под нулевой гипотезой . Чаще всего он используется при сравнении статистических моделей , которые были подогнаны к набору данных , чтобы определить модель, которая наилучшим образом соответствует совокупности, из которой были взяты данные. Точные « F- тесты» в основном возникают, когда модели подгоняются к данным с использованием метода наименьших квадратов . Название было придумано Джорджем В. Снедекором в честь сэра Рональда А. Фишера . Фишер первоначально разработал статистику как коэффициент дисперсии в 1920-х годах.
Общие примеры
Распространенные примеры использования F- тестов включают изучение следующих случаев:
- Гипотеза о том, что средние значения данного набора нормально распределенных популяций, имеющих одинаковое стандартное отклонение , равны. Это, пожалуй, самый известный F- тест, который играет важную роль в дисперсионном анализе (ANOVA).
- Гипотеза о том, что предложенная регрессионная модель хорошо соответствует данным . См. Неподходящая сумма квадратов .
- Гипотеза о том, что набор данных в регрессионном анализе следует более простой из двух предложенных линейных моделей, вложенных друг в друга.
Кроме того, некоторые статистические процедуры, такие как метод Шеффе для корректировки множественных сравнений в линейных моделях, также используют F- тесты.
F -тест равенства двух дисперсий
F -test является чувствительным к ненормальности . В дисперсионном анализе (ANOVA), альтернативные тесты включают тест Левена в , тест Бартлетта , и тест Брауна-Форсайт . Однако, когда любой из этих тестов проводится для проверки основного предположения о гомоскедастичности ( т. Е. Однородности дисперсии) в качестве предварительного шага к проверке средних эффектов, наблюдается увеличение экспериментальной частоты ошибок типа I.
Формула и расчет
Большинство F- тестов возникает при рассмотрении разложения вариативности набора данных на суммы квадратов . Тестовая статистика в F -test представляет собой отношение двух масштабированных сумм квадратов , отражающие различные источники изменчивости. Эти суммы квадратов построены так, что статистика имеет тенденцию быть больше, когда нулевая гипотеза не верна. Для того чтобы статистика следовала F- распределению при нулевой гипотезе, суммы квадратов должны быть статистически независимыми , и каждая из них должна соответствовать масштабированному χ²-распределению . Последнее условие гарантируется, если значения данных независимы и нормально распределены с общей дисперсией .
Задачи ANOVA с множественным сравнением
F -test в одну сторону дисперсионного анализа используется для оценки ли ожидаемые значения количественной переменной в пределах нескольких предварительно определенных групп отличаются друг от друга. Например, предположим, что медицинское испытание сравнивает четыре лечения. F- тест ANOVA может быть использован для оценки того, является ли какое-либо лечение в среднем лучше или хуже других по сравнению с нулевой гипотезой о том, что все четыре лечения дают одинаковый средний ответ. Это пример «комплексного» теста, означающего, что один тест выполняется для обнаружения любого из нескольких возможных различий. В качестве альтернативы, мы могли бы провести попарные тесты между лечением (например, в примере медицинского испытания с четырьмя курсами лечения мы могли бы провести шесть тестов среди пар курсов лечения). Преимущество F- теста ANOVA заключается в том, что нам не нужно заранее указывать, какие методы лечения следует сравнивать, и нам не нужно настраивать для проведения множественных сравнений . Недостатком F- теста ANOVA является то, что, если мы отвергаем нулевую гипотезу , мы не знаем, какие методы лечения могут значительно отличаться от других, а также, если F- тест выполняется на уровне α, мы не можем утверждать что пара лечения с наибольшей разницей в средних значимо отличается на уровне α.
Формула для одностороннего дисперсионного анализа F -теста статистики является
или же
«Объясненная дисперсия» или «межгрупповая изменчивость» - это
где обозначает выборочное среднее значение в i -й группе, является количеством наблюдений в i -ой группе, обозначает общее среднее значение данных и обозначает количество групп.
«Необъяснимая дисперсия» или «внутригрупповая изменчивость» - это
где - j- е наблюдение в i- й из групп, а - общий размер выборки. Эта F- статистика следует за F- распределением со степенями свободы и при нулевой гипотезе. Статистика будет большой, если вариабельность между группами велика по сравнению с вариабельностью внутри группы, что маловероятно, если средние значения совокупности групп имеют одинаковое значение.
Обратите внимание, что, когда есть только две группы для F- теста однофакторного дисперсионного анализа , где t - статистика Стьюдента .
Проблемы регрессии
Рассмотрим две модели, 1 и 2, где модель 1 «вложена» в модель 2. Модель 1 - это ограниченная модель, а модель 2 - неограниченная. То есть модель 1 имеет параметры p 1 , а модель 2 имеет параметры p 2 , где p 1 < p 2 , и для любого выбора параметров в модели 1 такая же кривая регрессии может быть получена путем некоторого выбора параметров модели. 2.
Одним из общих контекстов в этом отношении является решение о том, соответствует ли модель данным значительно лучше, чем наивная модель, в которой единственным поясняющим термином является термин перехват, так что все прогнозируемые значения для зависимой переменной устанавливаются равными значениям этой переменной. выборочное среднее. Наивная модель - это модель с ограничениями, поскольку коэффициенты всех потенциальных независимых переменных ограничены равными нулю.
Другой общий контекст - это решение, есть ли структурный разрыв в данных: здесь ограниченная модель использует все данные в одной регрессии, тогда как неограниченная модель использует отдельные регрессии для двух разных подмножеств данных. Такое использование F-теста известно как тест Чоу .
Модель с большим количеством параметров всегда сможет соответствовать данным как минимум так же хорошо, как модель с меньшим количеством параметров. Таким образом, как правило, модель 2 дает лучшее (то есть меньшую ошибку) соответствие данным, чем модель 1. Но часто требуется определить, дает ли модель 2 значительно лучшее соответствие данным. Один из подходов к этой проблеме - использовать F -тест.
Если имеется n точек данных для оценки параметров обеих моделей, то можно рассчитать статистику F , заданную следующим образом:
где RSS i - остаточная сумма квадратов модели i . Если регрессионная модель была рассчитана с весами, замените RSS i на χ 2 , взвешенную сумму квадратов остатков. При нулевой гипотезе о том, что модель 2 не обеспечивает значительно лучшего соответствия, чем модель 1, F будет иметь F- распределение с ( p 2 - p 1 , n - p 2 ) степенями свободы . Нулевая гипотеза отклоняется, если F, вычисленное на основе данных, больше критического значения F- распределения для некоторой желаемой вероятности ложного отклонения (например, 0,05). F -test является тест Вальда .
Смотрите также
Рекомендации
дальнейшее чтение
- Фокс, Карл А. (1980). Промежуточная экономическая статистика (второе изд.). Нью-Йорк: Джон Вили и сыновья. С. 290–310. ISBN 0-88275-521-8 .
- Джонстон, Джон (1972). Эконометрические методы (второе изд.). Нью-Йорк: Макгроу-Хилл. С. 35–38.
- Кмента, Ян (1986). Элементы эконометрики (второе изд.). Нью-Йорк: Макмиллан. С. 147–148. ISBN 0-02-365070-2 .
- Маддала, GS ; Лахири, Каджал (2009). Введение в эконометрику (Четвертое изд.). Чичестер: Вайли. С. 155–160. ISBN 978-0-470-01512-4 .