文章目录
@[toc]1 什么是自相关1.1 自相关概念1.2 自相关产生的原因1.3 自相关表现形式2 自相关后果2.1 对估计参数的影响2.2 对模型检验的影响3自相关检验3.1相关图示法3.2 DW检验3.3 DW检验局限4 自相关补救4.1 广义差分法4.2 Cochrane—Orcutt迭代法4.3 差分法4.4 德宾两步法
1 什么是自相关
1.1 自相关概念
自相关(auto correlation)又称序列相关（serial correlation），即总体回归模型的随机扰动项μi\mu_iμi之间存在相关关系。在经典线性回归模型中，无自相关假定为
Cov(ui,uj)=E(ui,uj)=0(i≠j)\operatorname{Cov}\left(u_{i}, u_{j}\right)=E\left(u_{i}, u_{j}\right)=0 \quad(i \neq j) Cov(ui,uj)=E(ui,uj)=0(i=j)
如果该假定不能满足，就称μi\mu_iμi与μj\mu_jμj存在自相关，即不同观测点上的误差项彼此相关。随机误差项μt\mu_tμt与滞后一期的μt−1\mu_{t-1}μt−1的自相关系数为
ρ=∑t=2nutut−1∑t=2nut2∑t=2nut−12\rho=\frac{\sum_{t=2}^{n} u_{t} u_{t-1}}{\sqrt{\sum_{t=2}^{n} u_{t}^{2}} \sqrt{\sum_{t=2}^{n} u_{t-1}^{2}}} ρ=∑t=2nut2∑t=2nut−12∑t=2nutut−1
其中−1<ρ<1-1<\rho <1−1<ρ<1,ρ\rhoρ称为一阶自相关系数。
当ρ>0\rho >0ρ>0,μt\mu_tμt与μt−1\mu_{t-1}μt−1为正相关；当ρ<0\rho <0ρ<0,μt\mu_tμt与μt−1\mu_{t-1}μt−1为负相关；当ρ=0\rho = 0ρ=0,μt\mu_tμt与μt−1\mu_{t-1}μt−1不相关。
1.2 自相关产生的原因
经济系统的惯性,例如通货膨胀不仅受到货币供给的影响，还受到过去通货膨胀的影响经济活动的滞后效应。例如经济学中蛛网模型数据处理造成的相关。模型设定偏误。1.3 自相关表现形式
样本观测期为nnn的时间序列数据，总体回归模型的随机误差项为μ1,μ2,…μn\mu_1,\mu_2,\dots \mu_nμ1,μ2,…μn,自相关形式为
ut=ρut−1+vt(1)u_{t}=\rho u_{t-1}+v_{t} \tag{1} ut=ρut−1+vt(1)
其中ρ\rhoρ为自相关系数，vtv_tvt满足古典假设，即E(vt)=0E(v_t) = 0E(vt)=0,Var(vt)=σ2Var(v_t) = \sigma^2Var(vt)=σ2,Cov(vt,vs)=0(t≠s)Cov(v_t,v_s) = 0(t\ne s)Cov(vt,vs)=0(t=s)。上述模型包含μt\mu_tμt与μt−1\mu_{t-1}μt−1形式，故称(1)为一阶自回归模型，记作AR(1)AR(1)AR(1)。若vtv_tvt中包含utu_tut的成分，则需要从vtv_tvt中提取ut−2u_{t-2}ut−2，得到
ut=ρ1ut−1+ρ2ut−2+vt′(2)u_{t}=\rho_{1} u_{t-1}+\rho_{2} u_{t-2}+v_{t}^{\prime}\tag{2} ut=ρ1ut−1+ρ2ut−2+vt′(2)
式中ρ1\rho_1ρ1为一阶自相关系数，ρ2\rho_2ρ2为二阶自相关系数，vt′v_t^{'}vt′满足古典假设误差项。并将(2)(2)(2)称为误差项的二阶自回归，记作AR(2)AR(2)AR(2)。一般地，若μ1,μ2,…μn\mu_1,\mu_2,\dots \mu_nμ1,μ2,…μn满足
ut=ρ1ut−1+ρ2ut−2+⋯+ρmut−m+vtu_{t}=\rho_{1} u_{t-1}+\rho_{2} u_{t-2}+\cdots+\rho_{m} u_{t-m}+v_{t} ut=ρ1ut−1+ρ2ut−2+⋯+ρmut−m+vt
其中vtv_tvt为古典假设误差项，ρi(i=1,2,…m)\rho_i(i = 1,2,\dots m)ρi(i=1,2,…m)为iii阶自回归系数。
2 自相关后果
自相关与异方差均不服从球形扰动项假设，故自相关的的后果与异方差相同。以一元回归模型为例
Yt=β1+β2Xt+utY_{t}=\beta_{1}+\beta_{2} X_{t}+u_{t} Yt=β1+β2Xt+ut
其中μt\mu_tμt存在一阶自相关，即ut=ρut−1+vtu_{t}=\rho u_{t-1}+v_{t}ut=ρut−1+vt，其中E(vt)=0E(v_t) = 0E(vt)=0,Var(vt)=σ2Var(v_t) = \sigma^2Var(vt)=σ2,Cov(vt,vs)=0(t≠s)Cov(v_t,v_s) = 0(t\ne s)Cov(vt,vs)=0(t=s)。在大样本条件下，ρ\rhoρ的估计量为
ρ^=∑utut−1∑ut−12\hat{\rho}=\frac{\sum u_{t} u_{t-1}}{\sum u_{t-1}^{2}} ρ^=∑ut−12∑utut−1
在大样本条件下，μt\mu_tμt与μt−1\mu_{t-1}μt−1的相关系数为
ρ=∑utut−1∑ut2∑ut−12≈∑utut−1∑ut−12=ρ^\rho=\frac{\sum u_{t} u_{t-1}}{\sqrt{\sum u_{t}^{2}} \sqrt{\sum u_{t-1}^{2}}} \approx \frac{\sum u_{t} u_{t-1}}{\sum u_{t-1}^{2}}=\hat{\rho} ρ=∑ut2∑ut−12∑utut−1≈∑ut−12∑utut−1=ρ^
由(1)式迭代得
ut=vt+ρvt−1+ρ2vt−2+⋯=∑r=0∞ρrvt−r(3)u_{t}=v_{t}+\rho v_{t-1}+\rho^{2} v_{t-2}+\cdots=\sum_{r=0}^{\infty} \rho^{r} v_{t-r}\tag{3} ut=vt+ρvt−1+ρ2vt−2+⋯=r=0∑∞ρrvt−r(3)
式表明，误差项可以由服从独立同分布（iidiidiid）的随机误差序列vt−r(r=1,2,…)v_{t-r}(r=1,2,\dots)vt−r(r=1,2,…)表示，其中权重为ρr(r=1,2,…)\rho^r(r= 1,2,\dots)ρr(r=1,2,…)。当ρ∈(0,1)\rho\in(0,1)ρ∈(0,1)时表明权数为几何递减，当ρ∈(−1,0)\rho \in(-1,0)ρ∈(−1,0)时表明权数为震荡交错衰减。μt\mu_tμt的期望与方差为
E(ut)=∑r=0∞ρrE(vt−r)=0E\left(u_{t}\right)=\sum_{r=0}^{\infty} \rho^{r} E\left(v_{t-r}\right)=0 E(ut)=r=0∑∞ρrE(vt−r)=0
Var(ut)=∑r=0∞ρ2nVar(vt−r)=σv21−ρ2=σu2\operatorname{Var}\left(u_{t}\right)=\sum_{r=0}^{\infty} \rho^{2 n} \operatorname{Var}\left(v_{t-r}\right)=\frac{\sigma_{v}^{2}}{1-\rho^{2}}=\sigma_{u}^{2} Var(ut)=r=0∑∞ρ2nVar(vt−r)=1−ρ2σv2=σu2
当存在自相关时，扰动项的期望值为0，同方差。但方差协方差矩阵非对角线元素，即扰动项的协方差为
Cov(ut,ut−k)=ρkVar(ut−k)=ρkσv21−ρ2≠0\operatorname{Cov}\left(u_{t}, u_{t-k}\right)=\rho^{k} \operatorname{Var}\left(u_{t-k}\right)=\frac{\rho^{k} \sigma_{v}^{2}}{1-\rho^{2}}\ne 0 Cov(ut,ut−k)=ρkVar(ut−k)=1−ρ2ρkσv2=0
当k=1k= 1k=1时称为扰动项μt\mu_tμt一阶协方差，k=nk = nk=n称为扰动项μt\mu_tμt的nnn阶协方差。
2.1 对估计参数的影响
一元线性回归模型在满足经典假设条件下，斜率估计量为
Var(β^2)=σ2∑xt2(4)\operatorname{Var}\left(\hat{\beta}_{2}\right)=\frac{\sigma^{2}}{\sum x_{t}^{2}}\tag{4} Var(β^2)=∑xt2σ2(4)
存在自相关时，估量的期望E(β^2)=β2E(\hat{\beta}_2) = \beta_2E(β^2)=β2，即无偏。但估量的方差推导过程利用了无自相关假设，即E(ui,uj)=0(i≠j)E\left(u_{i}, u_{j}\right)=0 \quad(i \neq j)E(ui,uj)=0(i=j)，于是
Var(β^2)≠σ2∑xt2\operatorname{Var}\left(\hat{\beta}_{2}\right)\ne \frac{\sigma^{2}}{\sum x_{t}^{2}} Var(β^2)=∑xt2σ2
可以证明，当随机扰动项μt\mu_tμt存在一阶自相关时，估计量的方差为
Var(β^2)=σu2∑t=1nxt2(1+2ρ∑t=1n−1xtxt+1∑t=1nxt2+2ρ2∑t=1n−2xtxt+2∑t=1nxt2+⋯+2ρn−1x1xn∑t=1nxt2)(5)\operatorname{Var}\left(\hat{\beta}_{2}\right)=\frac{\sigma_{u}^{2}}{\sum_{t=1}^{n} x_{t}^{2}}\left(1+2 \rho \frac{\sum_{t=1}^{n-1} x_{t} x_{t+1}}{\sum_{t=1}^{n} x_{t}^{2}}+2 \rho^{2} \frac{\sum_{t=1}^{n-2} x_{t} x_{t+2}}{\sum_{t=1}^{n} x_{t}^{2}}+\cdots+2 \rho^{n-1} \frac{x_{1} x_{n}}{\sum_{t=1}^{n} x_{t}^{2}}\right) \tag{5} Var(β^2)=∑t=1nxt2σu2(1+2ρ∑t=1nxt2∑t=1n−1xtxt+1+2ρ2∑t=1nxt2∑t=1n−2xtxt+2+⋯+2ρn−1∑t=1nxt2x1xn)(5)
当ρ=0\rho = 0ρ=0,此时Var(β^2)=σ2/∑xt2\operatorname{Var}\left(\hat{\beta}_{2}\right)=\sigma^2/\sum x_{t}^{2}Var(β^2)=σ2/∑xt2。不难看出，(5)的方差大于(4)式的方差，故在自相关条件下，估计量Var(β^2)\operatorname{Var}\left(\hat{\beta}_{2}\right)Var(β^2)不再是最小的。方差增大，回归系数的标准误增大。当存在自相关时，容易证明，
E(∑et2)=σ2[(n−2)−(2ρ∑XtXt+1∑Xt2+2ρ2∑XtXt+2∑Xt2+⋯+2ρn−1∑XtXn∑Xt2)](6)E\left(\sum e_{t}^{2}\right)=\sigma^{2}\left[(n-2)-\left(2 \rho \frac{\sum X_{t} X_{t+1}}{\sum X_{t}^{2}}+2 \rho^{2} \frac{\sum X_{t} X_{t+2}}{\sum X_{t}^{2}}+\cdots+2 \rho^{n-1} \frac{\sum X_{t} X_{n}}{\sum X_{t}^{2}}\right)\right]\tag{6} E(∑et2)=σ2[(n−2)−(2ρ∑Xt2∑XtXt+1+2ρ2∑Xt2∑XtXt+2+⋯+2ρn−1∑Xt2∑XtXn)](6)
当XtX_tXt与μt\mu_tμt为正相关时，(6)式E(∑et2)E\left(\sum e_{t}^{2}\right)E(∑et2)与σ2^=∑et2/(n−2)\hat{\sigma^2} = \sum e_{t}^{2}/(n-2)σ2^=∑et2/(n−2)相比降低，进而低估了真实的σ2\sigma^2σ2,最终低估了(4)式的方差。
2.2 对模型检验的影响
自相关问题将低估参数的方差((5)与(6)表现），根据系数检验统计量t=(β^2−β2)/SE(β^2)∼t(n−2)t=\left(\hat{\beta}_{2}-\beta_{2}\right) / \operatorname{SE}\left(\hat{\beta}_{2}\right) \sim t(n-2)t=(β^2−β2)/SE(β^2)∼t(n−2)，ttt统计量被夸大，显著性夸大。类似的，模型显著性检验以及拟合优度也是不可靠的。模型预测方面，其预测精度降低，预测置信区间扩大。
3自相关检验
3.1相关图示法
ete_tet与et−1e_{t-1}et−1散点图：根据残差 ete_tet与et−1e_{t-1}et−1的走势判断正相关还是负相关
ete_tet与ttt散点图：如果ete_tet随着时间的变化频繁地变化符号，说明ete_tet存在负自相关；几个正的ete_tet跟着几个负的ete_tet,表明ete_tet存在正相关。
3.2 DW检验
DW检验是J.Durbin(杜宾)和G.S.Watson(沃特森)于1951 年提出的一种适用于小样本的检验方法。DW检验的条件为
自变量XXX非随机
随机误差仅为一阶自相关，即ut=ρut−1+vtu_{t}=\rho u_{t-1}+v_{t}ut=ρut−1+vt（不能处理高阶自相关情形）
线性模型不包含被解释变量滞后项(不能处理动态模型情形)
模型必须存在截距项
数据无缺失项
定义DW统计量
DW=∑t=2n(et−et−1)2∑t=1net2D W=\frac{\sum_{t=2}^{n}\left(e_{t}-e_{t-1}\right)^{2}}{\sum_{t=1}^{n} e_{t}^{2}} DW=∑t=1net2∑t=2n(et−et−1)2
其中et=Yt−Y^te_t = Y_t-\hat{Y}_tet=Yt−Y^t(t=1,2,…n)(t=1,2,\dots n)(t=1,2,…n)，将DW统计量展开，在大样本条件下∑t=2net2≈∑t=2net−12≈∑t=1net2\sum_{t=2}^{n} e_{t}^{2} \approx \sum_{t=2}^{n} e_{t-1}^{2} \approx \sum_{t=1}^{n} e_{t}^{2}∑t=2net2≈∑t=2net−12≈∑t=1net2，则
DW≈2[1−∑i=2netet−1∑t=1net2]D W \approx 2\left[1-\frac{\sum_{i=2}^{n} e_{t} e_{t-1}}{\sum_{t=1}^{n} e_{t}^{2}}\right] DW≈2[1−∑t=1net2∑i=2netet−1]
同理，在∑t=2net2≈∑t=2net−12≈∑t=1net2\sum_{t=2}^{n} e_{t}^{2} \approx \sum_{t=2}^{n} e_{t-1}^{2} \approx \sum_{t=1}^{n} e_{t}^{2}∑t=2net2≈∑t=2net−12≈∑t=1net2条件下，
ρ^≈∑t=2netet−1∑t=1net2\hat{\rho} \approx \frac{\sum_{t=2}^{n} e_{t} e_{t-1}}{\sum_{t=1}^{n} e_{t}^{2}} ρ^≈∑t=1net2∑t=2netet−1
从而有
DW≈2(1−ρ^)DW \approx 2(1-\hat{\rho}) DW≈2(1−ρ^)
由于−1<ρ^<1-1<\hat{\rho}<1−1<ρ^<1,故0≤DW≤40\le DW\le 40≤DW≤4。根据样本容量nnn、解释变量个数k′k'k′(不包括常数)，查DW分布表可得临界值dL,dUd_L,d_UdL,dU，然后依据以下规则考察DWDWDW值
0≤DW≤dL0\le DW \le d_L0≤DW≤dL,误差项μi\mu_iμi存在正相关
dL≤DW≤dUd_L\le DW \le d_UdL≤DW≤dU，无法判断
dU≤DW≤4−dUd_U \le DW \le 4-d_UdU≤DW≤4−dU,无自相关
4−dU≤DW≤4−dL4-d_U \le DW \le 4-d_L4−dU≤DW≤4−dL，无法判断
4−dL≤DW≤44-d_L\le DW \le 44−dL≤DW≤4,误差项μi\mu_iμi存在负相关
显然，当DW值接近0时，存在正相关，接近4时存在负相关，接近2时，不存在相关。注意：DW存在无法判断区域。
3.3 DW检验局限
DW统计量具有前置条件
DW检验上下界要求样本容量n≥15n\ge 15n≥15
DW检验不适用于随机误差的高阶相关
DW检验存在两个未知区域不能判定
4 自相关补救
4.1 广义差分法
一元线性回归模型
Yt=β1+β2Xt+ut(7)Y_{t}=\beta_{1}+\beta_{2} X_{t}+u_{t}\tag{7} Yt=β1+β2Xt+ut(7)
随机扰动项ut=ρut−1+vtu_{t}=\rho u_{t-1}+v_{t}ut=ρut−1+vt，∣ρ∣<1|\rho|<1∣ρ∣<1,vtv_tvt满足经典假设条件。将(7)滞后一期为
Yt−1=β1+β2Xt−1+ut−1(8)Y_{t-1}=\beta_{1}+\beta_{2} X_{t-1}+u_{t-1}\tag{8} Yt−1=β1+β2Xt−1+ut−1(8)
将(8)乘以相关系数ρ\rhoρ并用(7)减之，得
Yt−ρYt−1=β1(1−ρ)+β2(Xt−ρXt−1)+ut−ρut−1Y_{t}-\rho Y_{t-1}=\beta_{1}(1-\rho)+\beta_{2}\left(X_{t}-\rho X_{t-1}\right)+u_{t}-\rho u_{t-1} Yt−ρYt−1=β1(1−ρ)+β2(Xt−ρXt−1)+ut−ρut−1
其中vt=ut−ρut−1v_t =u_{t}-\rho u_{t-1}vt=ut−ρut−1满足经典假设条件,无自相关。令Yt∗=Yt−ρYt−1Y_{t}^{*}=Y_{t}-\rho Y_{t-1}Yt∗=Yt−ρYt−1 ,Xt∗=Xt−ρXt−1X_{t}^{*}=X_{t}-\rho X_{t-1}Xt∗=Xt−ρXt−1, β1∗=β1(1−ρ)\beta_{1}^{*}=\beta_{1}(1-\rho)β1∗=β1(1−ρ),β2=β2∗\beta_{2}=\beta_{2}^{*}β2=β2∗,得到
Yt∗=β1∗+β2∗Xt∗+vt(9)Y_{t}^{*}=\beta_{1}^{*}+\beta_{2}^{*} X_{t}^{*}+v_{t}\tag{9} Yt∗=β1∗+β2∗Xt∗+vt(9)
对(9)使用OLS得到参数最佳线性无偏估计量。由于广义差分失去了第一个观测值，一般使用Y11−ρ2Y_1\sqrt{1-\rho^2}Y11−ρ2与X11−ρ2X_1\sqrt{1-\rho^2}X11−ρ2作为相应得补充。
4.2 Cochrane—Orcutt迭代法
ρ\rhoρ一般未知，最简单得方法时通过DW计算，即
ρ^≈1−DW2\hat{\rho}\approx1-\frac{DW}{2} ρ^≈1−2DW
但该方法较为粗略。一种精确度较高得方法是Cochrane—Orcutt迭代法。步骤如下
使用OLS估计模型Yt=β1+β2Xt+utY_{t}=\beta_{1}+\beta_{2} X_{t}+u_{t}Yt=β1+β2Xt+ut，并计算残差et(1)e_t^{(1)}et(1)
利用残差et(1)e_t^{(1)}et(1)作如下回归
et(1)=ρ^(1)et−1(1)+vte_{t}^{(1)}=\hat{\rho}^{(1)} e_{t-1}^{(1)}+v_{t} et(1)=ρ^(1)et−1(1)+vt
利用上步计算的ρ^(1)\hat{\rho}^{(1)}ρ^(1)对模型Yt=β1+β2Xt+utY_{t}=\beta_{1}+\beta_{2} X_{t}+u_{t}Yt=β1+β2Xt+ut作广义差分，令Yt∗=Yt−ρ^(1)Yt−1Y_{t}^{*}=Y_{t}-\hat{\rho}^{(1)} Y_{t-1}Yt∗=Yt−ρ^(1)Yt−1, Xt∗=Xt−ρ^(1)Xt−1X_{t}^{*}=X_{t}-\hat{\rho}^{(1)} X_{t-1}Xt∗=Xt−ρ^(1)Xt−1, β1∗=β1(1−ρ^(1))\beta_{1}^{*}=\beta_{1}\left(1-\hat{\rho}^{(1)}\right)β1∗=β1(1−ρ^(1)),从而得到样本回归函数
Yt∗=β1∗+β2∗Xt∗+et(2)Y_{t}^{*}=\beta_{1}^{*}+\beta_{2}^{*} X_{t}^{*}+e_t^{(2)} Yt∗=β1∗+β2∗Xt∗+et(2)
利用β^1=β^1∗/(1−ρ^(1))\hat{\beta}_{1}=\hat{\beta}_{1}^{*} /\left(1-\hat{\rho}^{(1)}\right)β^1=β^1∗/(1−ρ^(1))与β^2=β^2∗\hat{\beta}_2=\hat{\beta}_2^{*}β^2=β^2∗，将β^1，β^2\hat{\beta}_{1}，\hat{\beta}_{2}β^1，β^2代入原回归模型得新的残差et(3)e_t^{(3)}et(3)
et(3)=Yt−β1−β2Xte_{t}^{(3)}=Y_{t}-\beta_{1}-\beta_{2} X_{t} et(3)=Yt−β1−β2Xt
利用残差et(3)e_t^{(3)}et(3)作回归
et(3)=ρ(2)et−1(3)+vte_{t}^{(3)}=\rho^{(2)} e_{t-1}^{(3)}+v_{t} et(3)=ρ(2)et−1(3)+vt
用 OLS法估计的ρ^(2)\hat{\rho}^{(2)}ρ^(2)是对ρ\rhoρ的第二轮估计值。给定误差项δ\deltaδ,当∣ρ^k−ρ^k−1∣<δ|\hat{\rho}^{k}-\hat{\rho}^{k-1}|<\delta∣ρ^k−ρ^k−1∣<δ时，停止迭代。
4.3 差分法
使用条件：完全正自相关，即ρ=1\rho =1ρ=1。设一阶线性回归模型Yt=β1+β2Xt+utY_{t}=\beta_{1}+\beta_{2} X_{t}+u_{t}Yt=β1+β2Xt+ut，ut=ρut−1+vtu_{t}=\rho u_{t-1}+v_{t}ut=ρut−1+vt。将模型滞后一期并作差分得到
ΔYt=β2ΔXt+ut−ut−1\Delta Y_{t}=\beta_{2} \Delta X_{\mathrm{t}}+u_{t}-u_{t-1} ΔYt=β2ΔXt+ut−ut−1
此时扰动项vt=ut−ut−1v_t = u_t-u_{t-1}vt=ut−ut−1满足经典假设条件。从而消除自相关。但这种方法假定了扰动项存在完全正自相关，不具有推广性。
4.4 德宾两步法
自相关系数ρ\rhoρ未知，可用德宾两步法消除自相关。将广义差分模型变形得到
Yt=β1(1−ρ)+β2Xt−ρβ2Xt−1+ρYt−1+vtY_{t}=\beta_{1}(1-\rho)+\beta_{2} X_{t}-\rho \beta_{2} X_{t-1}+\rho Y_{t-1}+v_{t} Yt=β1(1−ρ)+β2Xt−ρβ2Xt−1+ρYt−1+vt
将上式视为多元线性回归模型，利用ols法得到ρ^\hat{\rho}ρ^，视为参数ρ\rhoρ得估计，但却时有偏但一致得估计。
利用ρ^\hat{\rho}ρ^进行广义差分求出序列Yt∗=Yt−ρYt−1Y_{t}^{*}=Y_{t}-\rho Y_{t-1}Yt∗=Yt−ρYt−1 ,Xt∗=Xt−ρXt−1X_{t}^{*}=X_{t}-\rho X_{t-1}Xt∗=Xt−ρXt−1, 然后使用olsOLS对广义差分进行估计，求得最佳线性无偏估计。
-END-
参考文献
庞皓. 计量经济学[M].科学出版社
