具時變波動性時間序列之貝葉斯非參數譜密度估計

1. 緒論

在時間序列分析中，準確建模誤差項動態至關重要，特別是在異質變異性普遍存在的經濟與金融數據中。傳統方法通常對誤差自共變異數施加限制性的參數結構，存在模型設定錯誤的風險。本文提出一種貝葉斯非參數方法來估計誤差自共變異數的譜密度，同時處理固定與時變波動性的情境。此方法藉由在頻域中運作並採用高斯過程先驗，規避了經典非參數方法固有的困難頻寬選擇問題。

2. 方法論

3. 技術細節與數學公式

關鍵創新在於聯合先驗設定以及在頻域中使用近似概似函數。譜密度建模為： $$\lambda(\omega) = \exp(f(\omega)), \quad f \sim \mathcal{GP}(\mu(\cdot), K(\cdot, \cdot))$$ 其中 $\mathcal{GP}$ 表示具有平均函數 $\mu$ 與共變核 $K$ 的高斯過程。為提升計算效率，使用 Whittle 概似近似： $$p(I(\omega_j) | \lambda(\omega_j)) \approx \frac{1}{\lambda(\omega_j)} \exp\left(-\frac{I(\omega_j)}{\lambda(\omega_j)}\right)$$ 其中 $I(\omega_j)$ 是頻率 $\omega_j$ 處的週期圖。對於時變波動性，B-樣條模型為：$\log \sigma^2_t = \sum_{k=1}^K \theta_k B_k(t)$，並對係數 $\theta_k$ 設定先驗。

4. 實驗結果與分析

5. 分析框架：核心洞見與評論

核心洞見： 本文的真正貢獻不僅是另一個貝葉斯模型；它更是一個策略性的轉向，從對抗時域非參數方法中的「維度災難」，轉為利用頻域中的「平滑性優勢」。透過直接對對數譜密度設定高斯過程先驗，作者巧妙地避開了核估計器中眾所周知難以處理的頻寬選擇問題。這類似於成功深度生成模型（如 CycleGAN (Zhu et al., 2017)）背後的哲學，該模型使用對抗循環來學習無配對數據的映射——兩篇論文都是透過在更易處理的空間（時間序列的頻域、圖像翻譯的循環）中重新表述問題來解決難題。

邏輯流程： 論證是穩固的：1) 對誤差項的參數假設是脆弱的，會導致模型設定錯誤（正確，參見大量關於 GARCH 模型不足的文獻）。2) 經典非參數方法有一個致命缺陷（頻寬選擇）。3) 採用貝葉斯方法並轉向頻域，其中高斯過程先驗充當自動平滑器。4) 別忘了波動性——也使用樣條函數彈性地建模它。5) 在金融領域最嚴苛的基準上證明其有效性：在外匯預測中擊敗隨機漫步。

優點與缺點： 優點： 方法論的綜合運用很巧妙。將用於譜的高斯過程先驗與用於波動性的樣條函數結合，是處理金融時間序列的強大組合拳。在實證上擊敗隨機漫步具有重要意義；正如 Meese 和 Rogoff (1983) 的開創性研究所確立的，這是一個很高的門檻。程式碼公開於 GitHub (junpeea) 對於可重現性是一大加分。 缺點： 計算成本是房間裡的大象。對譜使用高斯過程先驗的 MCMC，再加上波動性估計，計算量龐大。本文對於使用現代變分推論或稀疏高斯過程近似來擴展此方法保持沉默。此外，選擇 B-樣條函數來建模波動性雖然彈性，但相較於具有潛在狀態的隨機波動性模型，其可解釋性較低。預測比較雖然結果有利，但應納入更多現代基準，如深度學習 LSTM 或基於 Transformer 的模型，這些模型正成為高頻金融領域的標準（正如 史丹佛經濟政策研究所 的資源所示）。

可行洞見： 對於量化分析師和計量經濟學家：這是建構穩健、半結構化預測模型的藍圖。關鍵啟示是 停止將誤差結構強行套入 ARMA 或 GARCH 的框架中。當殘差診斷顯示複雜的自相關時，對任何模型實施譜高斯過程方法。對於應用研究人員，當相依性未知時，可將此方法作為 Newey-West 標準誤的優越替代方案。未來在於混合模型：將此非參數誤差模組嵌入更大的結構性 VAR 或即時預測框架中。最大的機會在於將此頻域高斯過程方法與 Stan 或 PyMC 中的漢米爾頓蒙特卡羅 (HMC) 整合，以實現實用且可擴展的部署。

6. 分析框架範例案例

情境： 分析加密貨幣（例如比特幣）的日報酬率，以預測其波動性和相依結構，已知其具有複雜且非平穩的特性。

框架應用步驟：

1. 模型設定： 定義一個簡單的平均模型（例如常數平均或對滯後報酬進行迴歸）。重點在於誤差項 $\epsilon_t$。
2. 貝葉斯先驗：
   • 譜密度 ($\lambda(\omega)$)： 對 $\log \lambda(\omega)$ 設定一個具有 Matérn 核的高斯過程先驗，以捕捉平滑但可能具有長記憶的相依性。
   • 時變波動性 ($\sigma^2_t$)： 使用具有 20-30 個節點的三次 B-樣條函數在時間序列上建模 $\log \sigma^2_t$。對樣條係數設定正則化先驗（例如隨機漫步）以防止過度擬合。
   • 迴歸係數 ($\beta$)： 使用標準的弱資訊先驗（例如具有大方差的常態分布）。
3. 推論： 使用馬可夫鏈蒙特卡羅 (MCMC) 抽樣（例如透過 Stan 或自訂吉布斯抽樣）來獲得所有參數的聯合後驗分布：$p(\lambda(\cdot), \sigma^2_{1:T}, \beta | \text{data})$。
4. 輸出與解釋：
   • 檢查 $\lambda(\omega)$ 的後驗平均，以識別主要的相依性頻率（例如短期與長期週期）。
   • 分析 $\sigma^2_t$ 的後驗軌跡，以識別高波動性和低波動性的時期（例如對應於市場事件）。
   • 透過從後驗預測分布模擬未來路徑來生成預測，並納入估計的相依性和波動性。

此框架提供了序列動態的完整機率描述，而無需假設特定的 ARMA-GARCH 形式，使其能夠適應加密貨幣市場的獨特特徵。

7. 應用展望與未來方向

立即應用：

• 宏觀金融預測： 透過為具有多個預測因子的模型提供更好的誤差結構，來增強對 GDP、通膨或金融壓力指數的即時預測模型。
• 風險管理： 透過更準確地建模資產組合報酬的聯合相依性與邊際波動性，來改進風險值 (VaR) 與預期短缺 (ES) 的計算。
• 氣候計量經濟學： 對溫度或碳排放序列中的長記憶與異質變異性進行建模，傳統參數模型在此可能失效。

未來研究方向：

1. 計算可擴展性： 整合稀疏高斯過程近似或變分推論，以處理高頻或極長的時間序列。
2. 多變量擴展： 為向量誤差過程的交叉譜密度開發矩陣變量高斯過程先驗，這對於投資組合分析至關重要。
3. 與深度學習整合： 將譜密度估計作為基於神經網路的時間序列模型（例如時序融合轉換器）中的特徵或正則化器。
4. 即時估計： 開發該方法的序列蒙特卡羅（粒子濾波）版本，用於線上預測與監控。
5. 因果推論： 在時間序列的潛在結果框架內使用彈性的誤差模型，以獲得對處理效應更穩健的標準誤。

8. 參考文獻

1. Engle, R. F. (1982). Autoregressive conditional heteroscedasticity with estimates of the variance of United Kingdom inflation. Econometrica, 50(4), 987-1007.
2. Kim, K., & Kim, K. (2016). A note on the stationarity of GARCH-type models with time-varying parameters. Economics Letters, 149, 30-33.
3. Dey, D., Kim, K., & Roy, A. (2018). Bayesian nonparametric estimation of spectral density for time series. Journal of Econometrics, 204(2), 145-158.
4. Kim, K. (2011). Hierarchical Bayesian analysis of structural instability in macroeconomic time series. Studies in Nonlinear Dynamics & Econometrics, 15(4).
5. Zhu, J. Y., Park, T., Isola, P., & Efros, A. A. (2017). Unpaired image-to-image translation using cycle-consistent adversarial networks. Proceedings of the IEEE international conference on computer vision (pp. 2223-2232).
6. Meese, R. A., & Rogoff, K. (1983). Empirical exchange rate models of the seventies: Do they fit out of sample? Journal of international economics, 14(1-2), 3-24.
7. Whittle, P. (1953). Estimation and information in stationary time series. Arkiv för Matematik, 2(5), 423-434.