Возможно, одним из самых известных и наиболее изученных подходов к работе с временными рядами, который до сих пор широко используется, являются модели ARMA(p,q) и их производные. Как вы можете догадаться, они, по сути, представляют собой обобщение процессов AR (1) и MA (1), которые мы видели ранее. Прежде чем мы начнем, давайте познакомимся с некоторыми полезными операторами, которые позволят нам упростить наши обозначения.
Операторы авторегрессии и скользящего среднего
Проще говоря, эти операторы не более чем полиномы, определенные выше. Теперь у нас есть все необходимое для определения процесса ARMA.
Процессы ARMA(p,q)
стационарный процесс называется ARMA(p,q), обозначается {X_t} ~ ARMA(p,q),если он удовлетворяет для всех t :
где B — оператор обратного сдвига, а Phi и Theta — операторы, которые мы определили выше.
Ясно, что мы также можем записать процесс ARMA(p,q) как
.В этой форме мы можем видеть, что наш процесс моделируется как имеющий зависимость не только q шагов от прошлого шума, но также и от pнаблюдений в прошлом. Мы будем менять обозначения и использовать операторные выражения, когда это будет удобно. Вы можете убедиться, что оба выражения действительно эквивалентны!
Процессы AR(p) и MA(q)
Теперь, когда мы понимаем форму процесса ARMA(p,q), мы можем сразу увидеть два тривиальных случая:
Другими словами,
- Процесс AR(p) означает, что помимо X_{t} , объясняемого некоторым случайным шумом, вся ковариация/корреляция в процессе может быть объяснена p отстает от предыдущего.
- Процесс MA(p) говорит о том, что X_{t}зависит не только от текущего шума, но и от прошлого шума.
- Модель ARMA(p,q) подразумевает, что даже если мы делаем поправку на автокорреляцию предыдущих наблюдений, все равно существует зависимость от прошлого шума.
Изменены процессы ARMA
Несколько более общее определение процесса ARMA(p,q) звучит так:
Другими словами, мы можем просто вычесть среднее значение, чтобы получить фактический процесс ARMA.
Причинность, обратимость и стационарность процесса ARMA(1,1)
До сих пор мы подразумевали, что процесс ARMA(p,q) является стационарным. Однако когда это действительно так? Другими словами, какие условия необходимы для обеспечения стационарности процесса ARMA? Кроме того, как мы можем узнать, зависит ли наш процесс только от наблюдений из прошлого (то есть является ли он каузальным процессом) и что мы действительно можем инвертировать такой процесс (решить в терминах Z_{t})? Оказывается, мы должны ограничить значения коэффициентов полиномов, которые определяют процесс ARMA, чтобы гарантировать это. Чтобы проиллюстрировать это, мы сначала исследуем причинно-следственную связь, обратимость и стационарность ARMA(1,1).
Причинно-следственные процессы
Временной ряд X_{t}называется причинным, если он зависит только от прошлого, то есть если {X_{t}} представляет собой линейный процесс вида
где
Действительно, причинный процесс — это линейный процесс, коэффициенты которого не принимают отрицательных индексов. Теперь давайте посмотрим на пример.
Причинность процесса ARMA(1,1)
Мы рассматриваем процесс ARMA(1,1), определяемый как
что подразумевает, что
Тогда при каких значениях фи и тета процесс будет причинным и стационарным?
Это,
Теперь заметьте, что
, из чего следует, что
т. е. выглядит так, как будто определенный нами оператор Chi taht является (левым) обратным оператором к Phi! Вооружившись этим фактом, мы имеем, что
i.e.
удовлетворяющий
и так
что является своего рода процессом MA(infinity), который зависит только от прошлого! Обратите внимание, что для того, чтобы этот процесс был стационарным, нам нужна суммируемость ряда, поэтому мы можем видеть, что процесс является причинным и стационарным, если
Некаузальный процесс ARIMA(1,1)
Возникает естественный вопрос: существует ли процесс не причинный, а стационарный? Самое смешное, что такие процессы действительно возможны, но я сомневаюсь, что они действительно полезны. Посмотрим, что может пойти не так. Еще раз рассмотрим процесс ARIMA(1,1):
с участием
. Что произойдет, если мы поместим ограничение
? Как в этом случае определить оператор Чи? Учитывать:
Таким образом, мы можем определить в этом случае
Можно показать, как и прежде, что
держится, и поэтому мы имеем это
Еще раз, применяя определения и упрощая выражения, можно показать, что это эквивалентно (вы должны попробовать) к
, так что наше наблюдение X_{t} зависит от шума МА будущего!!! (неудобно…). Если вас это не устраивает, не волнуйтесь, я тоже не чувствую. Оказывается, этот процесс является стационарным, но не причинным!
Примечание
Если модуль фи равен единице, ряд, очевидно, расходится, поэтому процесс даже не является стационарным. Короче говоря, у нас есть
Обратимость процесса ARMA(1,1)
Давайте теперь исследуем, что делает процесс обратимым, иллюстрируя ARMA(1,1). Еще раз, у нас есть
с участием
. Теперь мы исследуем, какие значения тета сделают наш процесс обратимым.
это,
Обратите внимание, что это выражение суммируемо тогда и только тогда, когда
Тогда у нас есть это
То есть мы правильно определили обратный оператор Theta. С этим знанием мы должны иметь
где
это,
Используя те же методы, что и раньше, мы можем показать, что когда абсолютное значение тета меньше 1, Z_{t}может быть выражено как
Следовательно, ARMA(1,1) обратим всякий раз, когда выражение является суммируемым, и мы можем выразить Z_{t} как функцию X_{t}. Если, наоборот,
процесс ARMA(1,1) называется необратимым,поскольку снова результатом будет выражение
что подразумевает, что шум в момент времени t зависит от наблюдений из будущего???? (более чем неловко...).
В следующий раз
И на этом пока все!! В следующей статье мы обобщим эти идеи на более общий процесс ARMA(p,q). Для этого воспользуемся комплексными числами, обзор которых вы можете найти здесь. До скорого!
Последний раз
Главная страница
Следуй за мной в
- https://blog.jairparraml.com/
- https://www.linkedin.com/in/hair-parra-526ba19b/
- https://github.com/JairParra
- https://medium.com/@hair.parra
