Таблица измерения информации в информатике. Единицы измерения информации в информатике. Минимальная единица измерения информации. Обратный перевод числа из бинарной в десятичную систему

Критерий Дарбина - Уотсона

Одним из самых простых, а потому широко применяемых на практике критериев проверки на наличие (отсутствие) автокорреляции является критерий Дарбина - Уотсона

и .

Критерий h Дарбина применяется для выявления автокорреляции остатков в модели с распределёнными лагами:

где n - число наблюдений в модели;

V - стандартная ошибка лаговой результативной переменной.

При увеличении объёма выборки распределение h -статистики стремится к нормальному с нулевым математическим ожиданием и дисперсией , равной 1. Поэтому гипотеза об отсутствии автокорреляции остатков отвергается, если фактическое значение h -статистики оказывается больше, чем критическое значение нормального распределения.

Критерий Дарбина-Уотсона для панельных данных

Для панельных данных используется немного видоизменённый критерий Дарбина-Уотсона:

В отличие от критерия Дарбина-Уотсона для временных рядов в этом случае область неопределенности является очень узкой, в особенности, для панелей с большим количеством индивидуумов.

2. Рассмотрим уравнение регрессии вида:

y t = a + ∑ b j ⋅ x jt + ε t

Для каждого момента (периода) времени t = 1,..., n значение компоненты εt

определяется из соотношения

ε t = y t − y t = y t − (a + ∑ b j ⋅ x jt).

Рассматривая последовательность остатков как временной ряд, можно построить график их зависимости от времени. В соответствии с предпосылками

МНК остатки εt должны быть случайными. Однако при моделировании временных рядов нередко встречается ситуация, когда остатки содержат тенденцию или циклические колебания. Что свидетельствует о том, что каждое следующее значение остатков зависит от предшествующих. В этом случае говорят о наличии автокорреляции остатков.

Автокорреляция остатков может быть вызвана несколькими причинами,

имеющими различную природу:

1) наличие ошибок измерения в значениях результативного признака;

2) модель может не включать фактор, окапывающий существенное воздействие на результат, влияние которого отражается в остатках, вследствие чего последние могут оказаться автокоррелированными. Очень часто этим фактором является фактор времени t. Кроме того, в качестве таких существенных факто-

ров могут выступать лаговые значения переменных, включенных в модель;

3) модель не учитывает несколько второстепенных факторов, совместное

влияние которых на результат существенно ввиду совпадения тенденций их изменения или фаз циклических колебаний;

4) неправильная спецификация функциональной формы модели. В этом

случае следует изменить форму связи факторных и результативного признаков,

а не использовать специальные методы расчета параметров уравнения регрессии при наличии автокорреляции остатков.

Существуют два наиболее распространенных метода определения авто-

корреляции остатков.

Первый метод - это построение графика зависимости остатков от време-

ни и визуальное определение наличия или отсутствия автокорреляции.

Второй метод – использование критерия Дарбина - Уотсона и расчет

величины

∑ (ε t − ε t −1)2

Величина d есть отношение суммы квадратов разностей последовательных значений остатков к остаточной сумме квадратов по модели регрессии. Практически во всех статистических ППП значение критерия Дарбина – Уотсона указывается наряду с коэффициентом детерминации, значения-

ми t- и F-критериев.

Коэффициент автокорреляции остатков первого порядка определяется как

∑ (ε t − ε 1)(ε t −1 − ε 2)

Между критерием Дарбина–Уотсона и коэффициентом автокорреляции остатков первого порядка имеет место следующее соотношение:

d ≈ 2 ⋅ (1 − r1ε).

Таким образом, если в остатках существует полная положительная автокорреляция и rε1 = 1, то d = 0. Если в остатках полная отрицательная автокорреляция, то rε1 = – 1 и, следовательно, d = 4. Если автокорреляция остатков отсутствует, то rε1 = 0 и d = 2. Следовательно,

Алгоритм выявления автокорреляции остатков на основе критерия Дарбина–Уотсона следующий. Выдвигается гипотеза Н0 об отсутствии автокорреляции остатков. Альтернативные гипотезы Н1 и Н1* состоят, соответственно, в наличии положительной или отрицательной автокорреляции в остатках. Далее по специальным таблицам определяются критические значения критерия Дарбина–Уотсона dL и dU для заданного числа наблюдений n, числа независимых переменных модели k и уровня значимости α. По этим значениям числовой промежуток разбивают на пять отрезков.

Если фактическое значение критерия Дарбина – Уотсона попадает в зону

неопределенности, то на практике предполагают существование автокорреляции остатков и отклоняют гипотезу H0.

y t = a + b ⋅ xt + ε t ;

Примем некоторые допущения относительно этого уравнения:

Пусть уt и хt не содержат тенденции, например, представляют собой отклонения выровненных по трендам значений от исходных уровней временных

Пусть оценки а и b параметров уравнения регрессии найдены обычным

Пусть критерий Дарбина – Уотсона показал наличие автокорреляции в

остатках первого порядка.

Основной подход к оценке параметров модели регрессии в случае, когда

имеет место автокорреляция остатков, заключается в следующем: исходная модель регрессии (6.1) с помощью замены переменных приводится к виду

y t′ = a ′ + b ⋅ x t′ + u t , где y t′ = y t − r1ε ⋅ y t −1 ; x t′ = x t − r1ε ⋅ x t −1 ;

u t = ε t − r1ε ⋅ ε t −1 ; a ′ = a (1 − r1ε).

Здесь rε1 – коэффициент автокорреляции первого порядка.

Поскольку ut, – случайная ошибка, то для оценки параметров преобразованного уравнения можно применять обычный МНК.

Итак, если остатки по исходному уравнению регрессии содержат автокор-

реляцию, то для оценки параметров уравнения используют обобщенный МНК.

Его реализация разбивается на следующие этапы:

1. Перейти от исходных переменных уt и хt к переменным у’t и х’t по фор-

2. Применив обычный МНК к уравнению, определить оценки пара-

a = a ′ /(1 − r1ε).

Одним из методов расчета параметров уравнения авторегрессии является

метод инструментальных переменных. Сущность этого метода состоит в том,

чтобы заменить переменную yt-1 из правой части модели, для которой нарушаются предпосылки МНК, на новую переменную ŷt-1, включение которой в модель регрессии не приводит к нарушению его предпосылок.

Искомая новая переменная, которая будет введена в модель вместо yt-1,

должна иметь два свойства.

Во-первых, она должна тесно коррелировать с yt-1, во-вторых, она не должна коррелировать с остатками ut.

Существует несколько способов получения такой инструментальной переменной.

1 способ. Поскольку в модели переменная yt зависит не только от yt-1, но и от xt, можно предположить, что имеет место зависимость yt-1 от xt-1, т. е.

y t −1 = d 0 + d 1 ⋅ x t −1 + u t .

Таким образом, переменную yt-1 можно выразить следующим образом:

y t −1 = y t −1 + u t , где

y t −1 = d 0 + d 1 ⋅ x t −1 .

Распределение этой величины приблизительно можно аппроксимировать

стандартизованным нормальным распределением. Поэтому для проверки гипотезы о наличии автокорреляции остатков можно либо сравнивать полученное фактическое значение критерия h с табличным, воспользовавшись таблицами

стандартизованного нормального распределения, либо действовать в соответствии со следующим правилом принятия решения.

1. Если h > 1,96, нуль–гипотеза об отсутствии положительной автокорреляции остатков отклоняется.

3. Если –1,96

Список использованной литературы:

1. Суслов В. И., Ибрагимов Н. М., Талышева Л. П., Цыплаков А.А. Эконометрия. - Новосибирск: СО РАН, 2005. - 744 с.

2. Эконометрика. Учебник / Под ред. Елисеевой И.И.. - 2-е изд. - М.: Финансы и статистика, 2006. - 576 с.

3. Кремер Н.Ш., Путко Б.А. Эконометрика. - М.: Юнити-Дана, 2003-2004. - 311 с.

4. Ратникова Т.А. Введение в эконометрический анализ панельных данных (рус.) // Экономический журнал ВШЭ. - 2006. - № 3. - С. 492-519.

Важной предпосылкой построения качественной регрессионной модели по МНК является независимость значений случайных отклонений от значений отклонений во всех других наблюдениях. Отсутствие зависимости гарантирует отсутствие коррелированности между любыми отклонениями, т.е. и, в частности, между соседними отклонениями .

Автокорреляция (последовательная корреляция ) остатков определяется как корреляция между соседними значениями случайных отклонений во времени (временные ряды) или в пространстве (перекрестные данные). Она обычно встречается во временных рядах и очень редко – в пространственных данных.

Возможны следующие случаи :

Эти случаи могут свидетельствовать о возможности улучшить уравнение путём оценивания новой нелинейной формулы или включения новой объясняющей переменной.

В экономических задачах значительно чаще встречается положительная автокорреляция, чем отрицательная автокорреляция.

Если же характер отклонений случаен , то можно предположить, что в половине случаев знаки соседних отклонений совпадают, а в половине – различны.

Автокорреляция в остатках может быть вызвана несколькими причинами, имеющими различную природу.

1. Она может быть связана с исходными данными и вызвана наличием ошибок измерения в значениях результативного признака.

2. В ряде случаев автокорреляция может быть следствием неправильной спецификации модели. Модель может не включать фактор, который оказывает существенное воздействие на результат и влияние которого отражается в остатках, вследствие чего последние могут оказаться автокоррелированными. Очень часто этим фактором является фактор времени .

От истинной автокорреляции остатков следует отличать ситуации, когда причина автокорреляции заключается в неправильной спецификации функциональной формы модели. В этом случае следует изменить форму модели, а не использовать специальные методы расчета параметров уравнения регрессии при наличии автокорреляции в остатках.

Для обнаружения автокорреляции используют либо графический метод. Либо статистические тесты.

Графический метод заключается в построении графика зависимости ошибок от времени (в случае временных рядов) или от объясняющих переменных и визуальном определении наличия или отсутствия автокорреляции.

Наиболее известный критерий обнаружения автокорреляции первого порядка – критерий Дарбина-Уотсона . Статистика DW Дарбина-Уотсона приводится во всех специальных компьютерных программах как одна из важнейших характеристик качества регрессионной модели.

Сначала по построенному эмпирическому уравнению регрессии определяются значения отклонений . А затем рассчитывается статистика Дарбина-Уотсона по формуле:

.

Статистика DW изменяется от 0 до 4. DW =0 соответствует положительной автокорреляции, при отрицательной автокорреляции DW =4 . Когда автокорреляция отсутствует , коэффициент автокорреляции равен нулю, и статистика DW = 2 .

Алгоритм выявления автокорреляции остатков на основе критерия Дарбина-Уотсона следующий.

Выдвигается гипотеза об отсутствии автокорреляции остатков . Альтернативные гипотезы и состоят, соответственно, в наличии положительной или отрицательной автокорреляции в остатках. Далее по специальным таблицам определяются критические значения критерия Дарбина-Уотсона (- нижняя граница признания положительной автокорреляции) и (-верхняя граница признания отсутствия положительной автокорреляции) для заданного числа наблюдений , числа независимых переменных модели и уровня значимости . По этим значениям числовой промежуток разбивают на пять отрезков. Принятие или отклонение каждой из гипотез с вероятностью осуществляется следующим образом:

– положительная автокорреляция, принимается ;

– зона неопределенности;

– автокорреляция отсутствует;

– зона неопределенности;

– отрицательная автокорреляция, принимается .

Если фактическое значение критерия Дарбина-Уотсона попадает в зону неопределенности, то на практике предполагают существование автокорреляции остатков и отклоняют гипотезу .

Можно показать, что статистика DW тесно связана с коэффициентом автокорреляции первого порядка:

Связь выражается формулой: .

Значения r изменяются от –1 (в случае отрицательной автокорреляции) до +1 (в случае положительной автокорреляции). Близость r к нулю свидетельствует об отсутствии автокорреляции.

При отсутствии таблиц критических значений DW можно использовать следующее «грубое» правило: при достаточном числе наблюдений (12-15), при 1-3 объясняющих переменных, если , то отклонения от линии регрессии можно считать взаимно независимыми.

Либо применить к данным уменьшающее автокорреляцию преобразование (например автокорреляционное преобразование или метод скользящих средних).

Существует несколько ограничений на применение критерия Дарбина-Уотсона.

1. Критерий DW применяется лишь для тех моделей, которые содержат свободный член.

2. Предполагается, что случайные отклонения определяются по итерационной схеме

,

3. Статистические данные должны иметь одинаковую периодичность (не должно быть пропусков в наблюдениях).

4. Критерий Дарбина – Уотсона не применим к авторегрессионным моделям, которые содержат в числе факторов также зависимую переменную с временным лагом (запаздыванием) в один период.

,

где – оценка коэффициента автокорреляции первого порядка, D(c) – выборочная дисперсия коэффициента при лаговой переменной y t -1 , n – число наблюдений.

Обычно значение рассчитывается по формуле , а D(c) равна квадрату стандартной ошибки S c оценки коэффициента с .

В случае наличия автокорреляции остатков полученная формула регрессии обычно считается неудовлетворительной. Автокорреляция ошибок первого порядка говорит о неверной спецификации модели. Поэтому следует попытаться скорректировать саму модель. Посмотрев на график ошибок, можно поискать другую (нелинейную) формулу зависимости, включить неучтённые до этого факторы, уточнить период проведения расчётов или разбить его на части.

Если все эти способы не помогают и автокорреляция вызвана какими–то внутренними свойствами ряда {e i }, можно воспользоваться преобразованием, которое называется авторегрессионной схемой первого порядка AR(1 ). (Авторегрессией это преобазование называется потому, что значение ошибки определяется значением той же самой величины, но с запаздыванием.Т.к. максимальное запаздывание равно 1, то это авторегрессияпервого порядка).

Формула AR(1 ) имеет вид: . .

Где -коэффициент автокорреляции первого порядка ошибок регрессии.

Рассмотрим AR(1) на примере парной регрессии:

.

Тогда соседним наблюдениям соответствует формула:

(1),

(2).

Умножим (2) на и вычтем из (1):

Сделаем замены переменных

получим с учетом :

(6) .

Поскольку случайные отклонения удовлетворяют предпосылкам МНК, оценки а * и b будут обладать свойствами наилучших линейных несмещенных оценок. По преобразованным значениям всех переменных с помощью обычного МНК вычисляются оценки параметров а* и b , которые затем можно использовать в регрессии.

Т.о. если остатки по исходному уравнению регрессии автокоррелированы, то для оценки параметров уравнения используют следующие преобразования:

1) Преобразовать исходные переменные у и х к виду (3), (4).

2) Обычным МНК для уравнения (6) определить оценки а * и b.

4) Записать исходное уравнение (1) с параметрами а и b (где а - из п.3, а b берётся непосредственно из уравнения (6)).

Для преобразования AR(1) важно оценить коэффициент автокорреляции ρ . Это делается несколькими способами. Самое простое – оценить ρ на основе статистики DW :

,

где r берется в качестве оценки ρ . Этот метод хорошо работает при большом числе наблюдений.

В случае, когда есть основания считать, что положительная автокорреляция отклонений очень велика (), можно использовать метод первых разностей (метод исключения тенденции) , уравнение принимает вид

.

Из уравнения по МНК оценивается коэффициент b . Параметр а здесь не определяется непосредственно, однако из МНК известно, что .

В случае полной отрицательной автокорреляции отклонений ()

Получаем уравнение регрессии:

или .

Вычисляются средние за 2 периода, а затем по ним рассчитывают а и b . Данная модель называется моделью регрессии по скользящим средним .