ARMA模型识别与选择

ARMA模型识别与选择

要为一个平稳的非白噪声序列选择合适的ARMA模型，我们需要工具来识别其内在结构。自相关函数（ACF） 和偏自相关函数（PACF） 就是这样的工具，它们的作用类似于“指纹”，不同的模型会留下独特的ACF和PACF模式。

核心思想 ${X_t}$ ${X_{t-k}}$ 之间的总体线性相关性。

定义 ${X_t}$ $k$ $k$ $ρ_k$ $ρ_k = Corr(X_t, X_{t-k})$ $X_t$ $X_{t-k}$ 之间的简单相关系数。
计算 $ρ_k = Cov(X_t, X_{t-k}) / Var(X_t)$ （由于序列平稳，方差恒定）
样本ACF $ρ_k$ $r_k = [ Σ_{t=k+1}^T (X_t - X̄)(X_{t-k} - X̄) ] / [ Σ_{t=1}^T (X_t - X̄)^2 ]$ $T$ 是样本总量。
关键点：
- $X_t$ $X_{t-k}$ 所有路径 $X_{t-1}, X_{t-2}, ..., X_{t-k+1}$ 的间接影响。
- 必须用于平稳序列。非平稳序列的ACF会衰减得非常慢，没有参考意义。
- 白噪声序列 $ρ_k$ (k≥1) 都等于0。

核心思想 $X_{t-1}, X_{t-2}, ..., X_{t-k+1}$ $X_t$ $X_{t-k}$ 之间的纯粹线性相关性。

下表总结了不同模型下ACF和PACF的典型理论模式，这是模型识别的基石。

模型	ACF (自相关图)	PACF (偏自相关图)	直观理解
AR(p) (自回归模型)	拖尾呈指数衰减、正弦波动或两者混合。衰减速度由模型参数决定。	p阶后截尾 $p$ 期之后突然急剧地降至接近零。	ACF拖尾：一个AR过程的影响会持续到未来，导致自相关关系缓慢消失。 PACF截尾 $p$ 期的影响后，更早的滞后项对当前值没有直接解释力。
MA(q) (移动平均模型)	q阶后截尾 $q$ 期之后突然急剧地降至接近零。	拖尾呈指数衰减或振荡衰减。	ACF截尾 $q$ $q$ 期后，过去的冲击与当前值不再相关。 PACF拖尾：由于MA模型可转换为无穷阶的AR模型，所以偏自相关关系是逐渐衰减的。
ARMA(p, q) (混合模型)	拖尾 $q$ 期后开始呈指数或振荡衰减。	拖尾 $p$ 期后开始呈指数或振荡衰减。	拖尾 $p$ $q$ 变得困难。

重要提示：

当通过ACF/PACF初步确定模型范围后，或者面对多个备选模型时，我们需要一个客观的统计标准来选择“最佳”模型。这就是AIC（赤池信息准则） 和BIC（贝叶斯信息准则）。

核心问题：如何在模型的拟合优度和复杂度之间取得平衡？更复杂的模型（参数更多）拟合效果更好，但可能过拟合。

AIC (Akaike Information Criterion) $AIC = 2k - 2ln(L)$
- $k$ ：模型中参数的个数（AR阶数p + MA阶数q + 常数项等）。
- $L$ $L$ 越大，拟合越好）。
BIC (Bayesian Information Criterion) / SBC (Schwarz Bayesian Criterion) $BIC = ln(T) * k - 2ln(L)$
- $T$ ：样本观测值的总数。

使用规则：

选小原则：在多个候选模型中，选择AIC或BIC值最小的模型。
AIC vs. BIC：
- $ln(T)*k$ $2k$ $T ≥ 8$ $ln(T) > 2$ ）。
- 因此，BIC对模型复杂度的惩罚更重，倾向于选择更简洁（参数更少）的模型，理论上更具一致性。
- AIC倾向于选择拟合更好的模型，但可能在样本量较大时选择稍复杂的模型。

实践建议：通常同时计算AIC和BIC，如果两者选出的模型一致，则结果非常稳健。如果不一致，需结合业务背景、模型简洁性和预测效果综合判断，但BIC通常是更保守可靠的选择。

平稳化：确保时间序列是平稳的（通过差分等方法）。这是所有后续分析的基础。
白噪声检验：如果是白噪声，则停止分析。
模型识别：
- 绘制平稳序列的ACF和PACF图。
- $(p, q)$ 。
参数估计：使用极大似然估计（MLE） 等算法（由软件完成）对候选模型的参数进行估计。
模型诊断：
- 残差检验：检查模型残差是否为白噪声（如Ljung-Box检验）。如果残差是白噪声，说明模型已充分提取信息；否则，需要回到第3步重新调整模型。
- 离群值检查：观察是否有异常参数估计。
模型选择：在通过诊断的模型中，比较AIC和BIC，选择信息准则值最小的作为最终模型。
预测：使用最终模型进行预测。