時系列分析メモ:差分方程式(2)

・本稿の内容
時系列分析で使用する差分方程式のメモです。前回は逐次的に代入を行う形で差分方程式の解を求めました。今回からは差分方程式の同次部分( $y_{t}=a_{0}+a_{1}y_{t-1}+\varepsilon_{t}$ の $a_{1}y_{t-1}$ の部分)の解(以下、同次解)と特殊解の和が一般解となることを確認していきます。今回は、同次解の求め方に焦点を当てていきます。本稿の内容の多くは、ウォルター・エンダース著,新谷元嗣・薮友良訳 (2019)『実証のための計量時系列分析』有斐閣の第1章に基づいています。
・本文

Ⅰ:1次の差分方程式の同次解
Ⅱ:2次の差分方程式の同次解
Ⅲ:同次解の時間経路
Ⅳ:参考文献

Ⅰ:1次の差分方程式の同次解

定数項と誤差項を持つ1次の差分方程式

$y_{t}=a_{0}+a_{1}y_{t-1}+\varepsilon_{t}・・・①$

の $a_{0}$ , $\varepsilon_{t}$ を $0$ とした式

$y_{t}=a_{1}y_{t-1}・・・②$

のことを同次方程式と呼ぶ。②式の解(同次解)を求めていく。 $y_{t}=y_{t-1}=\cdots=0$ が同次解であることは明らかである。前回導出した以下の式

$y_{t}=a_{0}\sum\limits_{i=0}^{t-1} a_{1}^{i}+a_{1}^{t}y_{0}+\sum\limits_{i=0}^{t-1} a_{1}^{i}\varepsilon_{t-i}・・・③$

を再掲する。③式で $a_{0}=0$ , $\varepsilon_{t}$ をすべての $t$ に関して $0$ とおくと、

$y_{t}=a_{1}^{t}y_{0}・・・④$

となる。②式の同次解は④式だけではない。任意の定数 $A$ を $a_{1}^{t}に$ かけた $y_{t}=Aa_{1}^{t}$ も解である。このことを確認する。 $y_{t}=Aa_{1}^{t}$ を②式に代入すると

$\begin{eqnarray} Aa_{1}^{t}&=&a_{1}Aa_{1}^{t-1}\\ &=&Aa_{1}^{t} \end{eqnarray}$

となり、両辺が等しくなるから、 $y_{t}=Aa_{1}^{t}$ は②式の解であることが確認できた。 $A=0$ のとき、 $y_{t}=0$ となり、 $A=y_{0}$ のとき、 $y_{t}=a_{1}^{t}y_{0}$ となる。前回導出した以下の式を再掲する。

$y_{t}=\dfrac{a_{0}}{1-a_{1}}+\sum\limits_{i=0}^{\infty} a_{1}^{i}\varepsilon_{t-i}・・・⑤$

$y_{t}=Aa_{1}^{t}$ と⑤式を足した式は前回導出した以下の式

$y_{t}=Aa_{1}^{t}+\dfrac{a_{0}}{1-a_{1}}+\sum\limits_{i=0}^{\infty} a_{1}^{i}\varepsilon_{t-i}・・・⑥$

と等しくなる。⑤式は⑥式で $A=0$ とした場合に相当する特殊な形であるという意味で、特殊解と呼ばれる。⑥式は同次解である $y_{t}=Aa_{1}^{t}$ と特殊解である $\dfrac{a_{0}}{1-a_{1}}+\sum\limits_{i=0}^{\infty} a_{1}^{i}\varepsilon_{t-i}$ の和となっている。同次解と特殊解の和を一般解とよぶ。

$\underbrace{y_{t}}_{\text{一般解}}=\underbrace{Aa_{1}^{t}}_{\text{同次解}}+\underbrace{\dfrac{a_{0}}{1-a_{1}}+\sum\limits_{i=0}^{\infty} a_{1}^{i}\varepsilon_{t-i}}_{\text{特殊解}}$

Ⅱ:2次の差分方程式の同次解

定数項と誤差項を持つ2次の差分方程式

$y_{t}=a_{0}+a_{1}y_{t-1}+a_{2}y_{t-2}+\varepsilon_{t}・・・⑦$

の同次部分は $a_{0}$ , $\varepsilon_{t}$ を $0$ とした式

$y_{t}=a_{1}y_{t-1}+a_{2}y_{t-2}・・・⑧$

である。⑧式の右辺の項を左辺に移行する

$y_{t}-a_{1}y_{t-1}-a_{2}y_{t-2}=0・・・⑨$

1次の差分方程式の同次解を求めた際の類推で適当なパラメータ $\lambda$ を用いて $y_{t}=A\lambda^{t}$ を⑨式に代入する。

$A\lambda^{t}-a_{1}A\lambda^{t-1}-a_{2}A\lambda^{t-2}=0・・・⑩$

⑩式の両辺を $A\lambda^{t-2}$ で割ると

$\lambda^{2}-a_{1}\lambda-a_{2}=0・・・⑪$

となる。⑪式を満たす $\lambda$ が存在するなら、 $y_{t}=A\lambda^{t}$ は⑧式の同次解であると言える。この⑪式のことを特性方程式とよぶ。そして⑪式を満たす根のことを特性根とよぶ。⑪式を満たす根は2次方程式の解の公式を用いて、

$\lambda_{1}=\dfrac{-(-a_{1})+\sqrt{(-a_{1})^{2}-4×1×(-a_{2})}}{2×1}=\dfrac{a_{1}+\sqrt{a_{1}^{2}+4a_{2}}}{2}\\ \lambda_{2}=\dfrac{-(-a_{1})-\sqrt{(-a_{1})^{2}-4×1×(-a_{2})}}{2×1}=\dfrac{a_{1}-\sqrt{a_{1}^{2}+4a_{2}}}{2}$

となる。 $A\lambda_{1}^{t}$ 、 $A\lambda_{2}^{t}$ は⑨式の同次解であるが、これらの線形結合 $A_{1}\lambda_{1}^{t}+A_{2}\lambda_{2}^{t}(A_{1},A_{2}は任意の定数)$ も⑨式の同次解である。このことを確認する。⑨式に $y_{t}=A_{1}\lambda_{1}^{t}+A_{2}\lambda_{2}^{t}$ を代入して整理すると

$A_{1}\lambda_{1}^{t}+A_{2}\lambda_{2}^{t}-a_{1}(A_{1}\lambda_{1}^{t-1}+A_{2}\lambda_{2}^{t-1})-a_{2}(A_{1}\lambda_{1}^{t-2}+A_{2}\lambda_{2}^{t-2})=0\\ A_{1}(\lambda_{1}^{t}-a_{1}\lambda_{1}^{t-1}-a_{2}\lambda_{1}^{t-2})+A_{2}(\lambda_{2}^{t}-a_{1}\lambda_{2}^{t-1}-a_{2}\lambda_{2}^{t-2})=0・・・⑫$

となる。⑩式に注意すると⑫式の左辺は0となることが分かる。よって $A_{1}\lambda_{1}^{t}+A_{2}\lambda_{2}^{t}$ が⑨式の同次解であることが確認できた。以下では、この同次解の線形結合のことを完全な同次解と呼ぶことにする。完全な同次解 $A_{1}\lambda_{1}^{t}+A_{2}\lambda_{2}^{t}$ は判別式 $D=a_{1}^{2}+4a_{2}$ の値によって性質が異なる。以下では $D>0$ , $D=0$ , $D<0$ の3パターンで確認していく。

Ⅱ-1: $D>0$ の場合(特性根が相異なる実根)

$D>0$ の場合、特性根は、

$\lambda_{1}=\dfrac{a_{1}+\sqrt{D}}{2}\\ \lambda_{2}=\dfrac{a_{1}-\sqrt{D}}{2}$

である。よって、完全な同次解は

$y_{t}=A_{1}\left(\dfrac{a_{1}+\sqrt{D}}{2}\right)^{t}+A_{2}\left(\dfrac{a_{1}-\sqrt{D}}{2}\right)^{t}$

である。具体例として、

$y_{t}=0.75y_{t-1}-0.125y_{t-2}・・・⑬\\ y_{t}=0.7y_{t-1}-0.35y_{t-2}・・・⑭$

の2式を見ていく。⑬式の判別式 $D$ は $D=(0.75)^{2}-4×0.125=0.0625$ であり、特性根は相異なる実根

$\lambda_{1}=\dfrac{0.75+\sqrt{0.0625}}{2}=0.5\\ \lambda_{2}=\dfrac{0.75-\sqrt{0.0625}}{2}=0.25$

である。よって、完全な同次解は任意の定数 $A_{1},A_{2}$ を用いて

$y_{t}=A_{1}(0.5)^{t}+A_{2}(0.25)^{t}・・・⑮$

となる。⑭式の判別式 $D$ は $D=(0.7)^{2}+4×0.35=1.89$ であり、特性根は相異なる実根

$\lambda_{1}=\dfrac{0.7+\sqrt{1.89}}{2}=1.04\\ \lambda_{2}=\dfrac{0.7-\sqrt{1.89}}{2}=-0.34$

である。よって、完全な同次解は任意の定数 $A_{1},A_{2}$ を用いて

$y_{t}=A_{1}(1.04)^{t}+A_{2}(-0.34)^{t}・・・⑯$

となる。

Ⅱ-2: $D=0$ の場合(特性根が実重根)

$D=0$ の場合、 $\lambda_{1}=\lambda_{2}=\dfrac{a_{1}}{2}$ となり、同次解は $\left(\dfrac{a_{1}}{2}\right)^{2}$ となるが、 $\left(\dfrac{a_{1}}{2}\right)^{2}$ に $t$ をかけた、 $t\left(\dfrac{a_{1}}{2}\right)^{2}$ も同次解となる。(⑨式に代入して式を整理することで確認できる。計算は省略。)よって、完全な同次解は

$y_{t}=A_{1}\left(\dfrac{a_{1}}{2}\right)^{t}+A_{2}t\left(\dfrac{a_{1}}{2}\right)^{t}$

である。具体例として、

$y_{t}=1.8y_{t-1}-0.81y_{t-2}・・・⑰\\ y_{t}=8y_{t-1}-16y_{t-2}・・・⑱$

の2式を見ていく。⑰式の判別式 $D$ は $D=(1.8)^{2}-4×0.81=0$ であり、特性根は実重根

$\lambda_{1}=\lambda_{2}=\dfrac{1.8}{2}=0.9\\$

である。よって、完全な同次解は任意の定数 $A_{1},A_{2}$ を用いて

$y_{t}=A_{1}\left(0.9\right)^{t}+A_{2}t\left(0.9\right)^{t}・・・⑲$

となる。⑰式の判別式 $D$ は $D=(8)^{2}+4×(-16)=0$ であり、特性根は実重根

$\lambda_{1}=\lambda_{2}=\dfrac{8}{2}=4\\$

である。よって、完全な同次解は任意の定数 $A_{1},A_{2}$ を用いて

$y_{t}=A_{1}\left(4\right)^{t}+A_{2}t\left(4\right)^{t}・・・⑳$

となる。

Ⅱ-3: $D<0$ の場合(特性根が複素根)

$D<0$ の場合、特性根は

$\lambda_{1}=\dfrac{a_{1}+i\sqrt{-D}}{2}\\ \lambda_{2}=\dfrac{a_{1}-i\sqrt{-D}}{2}$

である。よって、完全な同次解は

$y_{t}=A_{1}\left(\dfrac{a_{1}+i\sqrt{-D}}{2}\right)^{t}+A_{2}\left(\dfrac{a_{1}-i\sqrt{-D}}{2}\right)^{t}$

となる。さらに、ド・モアブルの定理により、

$y_{t}=C_{1}r^{t}\cos(\theta t+C_{2})$

となる。*1ここで、 $C_{1},C_{2}$ は任意の定数、 $r$ は $r=\sqrt{-a_{2}}$ 、 $\theta$ は $\cos\theta =\dfrac{1_{1}}{2\sqrt{-a_{2}}}$ を満たす。具体例として、

$y_{t}=1.6y_{t-1}-0.9y_{t-2}・・・㉑\\ y_{t}=1.6y_{t-1}-1.2y_{t-2}・・・㉒$

の2式を見ていく。㉑式の判別式 $D$ は $D=(1.6)^{2}-4×0.9=-1.04$ であり、特性根は複素根

$\lambda_{1}=\dfrac{1.6+i\sqrt{-(-1.04)}}{2}\\ \lambda_{2}=\dfrac{1.6-i\sqrt{-(-1.04)}}{2}$

である。 $r=\sqrt{0.9}=0.949$ 、 $\theta$ は $\cos\theta =\dfrac{1.6}{2×\sqrt{0.9}}=0.843$ を満たすように決定され、 $\theta=0.567$ である。よって、完全な同次解は任意の定数 $C_{1},C_{2}$ を用いて

$y_{t}=C_{1}(0.949)^{t}\cos(0.567t+C_{2})・・・㉓$

となる。㉒式の判別式 $D$ は $D=(1.6)^{2}-4×1.2=-2.24$ であり、特性根は複素根

$\lambda_{1}=\dfrac{1.6+i\sqrt{-(-1.04)}}{2}\\ \lambda_{2}=\dfrac{1.6-i\sqrt{-(-1.04)}}{2}$

である。 $r=\sqrt{1.2}=1.1$ 、 $\theta$ は $\cos\theta =\dfrac{1.6}{2×\sqrt{1.2}}=0.727$ を満たすように決定され、 $\theta=0.757$ である。よって、完全な同次解は任意の定数 $C_{1},C_{2}$ を用いて

$y_{t}=C_{1}(1.1)^{t}\cos(0.757t+C_{2})・・・㉔$

となる。

Ⅲ:同次解の時間経路

式⑮、⑯、⑲、⑳、㉓、㉔時間経路を確認していく。式⑮、⑯、⑲、⑳では $A_{1}=A_{2}=1$ とし、式㉓、㉔では $C_{1}=1$ 、 $C_{1}=0$ とする。時間経路を確認するためのPythonコードを下記に記載する。

import matplotlib.pyplot as plt
import math

#x:横軸(時間)y:縦軸(yの値)
x=[]
y=[]

#同次解
def homosolu(t):
  #15式
  return 0.5**t+(0.25)**t
  #16式
  #return 1.04**t+(-0.34)**t  
  #19式        
  #return (0.9)**t+t*(0.9)**t    
  #20式     
  #return 4**t+t*(4**t)　
  #23式　　　　　　 
  #return 0.949**t*math.cos(0.567*t)
  #24式
  #return 1.1**t*math.cos(0.757*t)

#ループ
for i in range(1,30):
  x.append(i)
  y.append(homosolu(i))

#グラフ描画
plt.plot(x,y) 
plt.ylabel("y")
plt.xlabel("t")