시계열-주파수 영역에서의 환율 변동성 모델링 및 예측

목차

1. 서론 및 개요

본 논문은 고빈도 데이터 분석과 시계열-주파수 분해 기법을 통합하여, 특히 환율을 대상으로 금융 변동성을 모델링하고 예측하는 새로운 접근법을 제시합니다. 핵심 혁신은 웨이블릿으로 분해된 실현 변동성 측정치와 특화된 점프 추정기를 Realized GARCH 프레임워크에 통합한 데 있습니다. 이를 통해 모델은 변동성을 서로 다른 투자 기간(시간 척도)에 해당하는 구성 요소로 분해하고, 불연속적인 가격 급등락(점프)의 영향을 별도로 고려할 수 있습니다. 이 연구는 고빈도 트레이더부터 장기 투자자에 이르기까지 다양한 시간 지평에서 활동하는 시장 참여자들의 이질적 특성에서 동기를 얻었습니다.

저자들은 최대우도추정법과 일반화 자기회귀 점수(Generalized Autoregressive Score, GAS) 프레임워크를 통해 추정한 제안된 "점프-GARCH" 모델이 기존 GARCH 및 널리 사용되는 실현 변동성 모델에 비해 통계적으로 우수한 예측력을 제공함을 입증합니다. 분석에는 2007-2008 금융 위기를 포함한 외환 선물 데이터가 사용되어 방법론에 대한 강력한 스트레스 테스트를 제공합니다.

2. 방법론 및 기술 프레임워크

2.1 Realized GARCH 프레임워크

Realized GARCH 모델은 실현 변동성 측정치 $RV_t$를 변동성 방정식에 직접 통합함으로써 기존 GARCH 모델과 고빈도 데이터 간의 간극을 메웁니다. 기본 구조는 수익률 방정식, 잠재 변동성에 대한 GARCH 방정식, 그리고 잠재 변동성과 실현 측정치를 연결하는 측정 방정식으로 이루어져 있습니다.

2.2 웨이블릿 기반 다중 스케일 분해

변동성의 다중 시간 지평 특성을 포착하기 위해 저자들은 웨이블릿 변환을 사용합니다. 이 수학적 도구는 실현 변동성 시계열을 서로 다른 시간 척도(예: 일중, 일간, 주간 역학)를 나타내는 직교 성분으로 분해합니다. $RV_t$가 실현 변동성이라면, 그 웨이블릿 분해는 다음과 같이 표현될 수 있습니다:

$RV_t = \sum_{j=1}^J D_{j,t} + S_{J,t}$

여기서 $D_{j,t}$는 척도 $j$(특정 주파수 대역에 해당)에서의 변동성 구성 요소("디테일")를 나타내며, $S_{J,t}$는 장기 추세를 포착하는 평활 구성 요소입니다. 각 $D_{j,t}$는 특정 투자 기간에서의 거래 활동과 정보 흐름을 근사합니다.

2.3 점프 탐지 및 JTSRV 추정기

중요한 발전은 점프 변동의 통합입니다. 저자들은 점프 투 스케일 실현 변동성(Jump Two Scale Realized Volatility, JTSRV) 추정기를 활용합니다. 이 추정기는 총 이차 변동을 연속적인 적분 변동(Integrated Variance, IV)과 불연속적인 점프 변동(Jump Variance, JV)으로 분리합니다:

$RV_t \approx IV_t + JV_t$

이러한 분리는 점프와 연속 변동성이 종종 다른 지속성과 예측 특성을 가지기 때문에 중요합니다.

2.4 추정: MLE 대 GAS

제안된 점프-GARCH 모델은 두 가지 방법으로 추정됩니다: 1) 준최대우도추정(Quasi-Maximum Likelihood Estimation, QMLE), 2) 관측치 주도형 일반화 자기회귀 점수(Generalized Autoregressive Score, GAS) 프레임워크. Creal 등(2013)이 소개한 GAS 프레임워크는 우도 함수의 점수(score)를 기반으로 매개변수를 업데이트하여 모델 오지정에 대한 잠재적 강건성과 적응성을 제공합니다.

3. 실증 분석 및 결과

3.1 데이터 및 실험 설정

본 연구는 외환 선물(아마도 EUR/USD와 같은 주요 통화쌍)에 대한 고빈도 데이터를 사용합니다. 표본 기간에는 2007-2009년 금융 위기가 포함되어 있어 극단적 스트레스 상황에서의 모델 성능을 검토할 수 있습니다. 예측은 1일 후 및 다중 기간 후 지평에 대해 평가됩니다.

3.2 예측 성능

제안된 모델은 GARCH(1,1) 및 HAR-RV와 같은 표준 모델을 벤치마크로 비교 평가됩니다. 평가에는 통계적 손실 함수(예: 평균제곱오차(MSE), QLIKE)가 사용됩니다. 주요 결과는 비교표(아래 시뮬레이션)로 제시됩니다:

참고: 값은 GARCH(1,1) 벤치마크 대비 예시적인 비율입니다.

3.3 주요 발견 및 통찰

• 점프 분리가 핵심: 적분 변동에서 점프 변동을 분리하는 것은 예측 정확도를 지속적으로 향상시킵니다.
• 고빈도 구성 요소의 우세: 미래 변동성에 대한 가장 유익한 시간 척도는 웨이블릿 분해의 고빈도(단기 지평) 구성 요소입니다.
• 모델 우월성: 웨이블릿 분해를 적용한 새로 제안된 점프-GARCH 모델은 통계적으로 기존 GARCH 및 표준 Realized GARCH 모델을 모두 능가합니다.
• 위기 상황에서의 강건성: 모델들은 금융 위기 기간 동안 강건한 성능을 보여줍니다.

4. 핵심 통찰 및 애널리스트 관점

핵심 통찰: 이 논문은 강력하지만 제대로 평가받지 못한 메시지를 전달합니다: 변동성은 단일한 과정이 아니라 층위화된 과정이라는 것입니다. 저자들은 시장을 단일하고 동질적인 실체로 취급하기를 거부하고, 대신 웨이블릿을 사용하여 이를 구성 투자 지평으로 해부함으로써 변동성 역학의 블랙박스를 열어젖힙니다. 단기, 고빈도 구성 요소가 예측을 주도한다는 발견은 장기 추세에 과도하게 의존하는 모델들에 대한 직접적인 도전이며, 가격 발견과 변동성 형성에서 알고리즘 및 고빈도 거래의 지배력이 증가하고 있음을 강조합니다.

논리적 흐름: 논증은 우아하게 구성되어 있습니다. 이질적인 시장 행위자들(코르시의 HAR 모델에서 비롯된)이라는 잘 정립된 실증적 사실에서 출발합니다. 그런 다음 논리적으로 묻습니다: 행위자들이 서로 다른 시간 척도에서 활동한다면, 우리의 모델도 이를 반영해야 하지 않을까? 웨이블릿 분해는 이에 대한 완벽한 기술적 답변입니다. 이후 시장의 또 다른 비정규적이고 불연속적인 현실인 점프 위험의 통합은 그림을 완성합니다. 경제적 직관(이질성)에서 수학적 도구(웨이블릿)를 거쳐 실증적 결과(예측 향상)로 이어지는 흐름은 설득력이 있습니다.

강점과 한계: 주요 강점은 정교한 계량경제학(Realized GARCH, 웨이블릿, 점프 탐지)을 일관되고 실증적으로 성공적인 프레임워크로 성공적으로 융합했다는 점입니다. 이는 단순한 모델 비교를 넘어 예측 가능성의 근원에 대한 진정한 통찰을 제공합니다. GAS 프레임워크의 사용 또한 선견지명이 있습니다. 주요 한계는 이 분야 문헌에서 흔히 나타나는 "표본 내" 느낌의 강건성 검증입니다. 위기 기간이 포함되어 있지만, 완전히 새로운 데이터(예: 2020년 코로나19 충격)에 대한 진정한 표본 외 검증이 더 설득력 있을 것입니다. 더욱이 웨이블릿-GARCH-점프 모델의 계산 복잡성은 일부 거래 시스템에서의 실시간 적용을 제한할 수 있으며, 이는 다루지 않은 실용적 장애물입니다.

실행 가능한 통찰: 퀀트와 리스크 관리자에게 이 논문은 청사진입니다. 첫째, 분해한 후 모델링하라. 선호하는 머신러닝이나 계량경제 모델에 입력하기 전에 변동성 시계열에 간단한 웨이블릿 필터를 적용하는 것만으로도 즉각적인 성과 향상을 얻을 수 있습니다. 둘째, 점프를 별도로 처리하라. JTSRV에서와 같이 점프 탐지를 위한 전용 신호를 구축하고 그 영향을 독립적으로 모델링하는 것은 2008년 이후의 진지한 변동성 모델에 있어 필수적인 모범 사례입니다. 마지막으로, 예측 에너지를 고빈도 층위에 집중하라. 가장 중요한 예측 신호가 존재하는 곳이므로, 일중 변동성 역학을 이해하고 예측하는 데 더 많은 연구 및 계산 자원을 할당하십시오.

5. 기술적 세부사항 및 수학적 공식화

웨이블릿 구성 요소를 포함한 핵심 점프-GARCH 모델은 다음과 같이 요약될 수 있습니다:

수익률 방정식: $r_t = \sqrt{h_t} z_t$, 여기서 $z_t \sim i.i.d.(0,1)$.

GARCH 방정식: $h_t = \omega + \beta h_{t-1} + \gamma \xi_{t-1}$.

측정 방정식 (향상된):
$\log(RV_t) = \xi + \phi \log(h_t) + \tau_1 z_t + \tau_2 (z_t^2 - 1) + \sum_{j=1}^J \delta_j D_{j,t} + \lambda J_t + u_t$
여기서 $u_t \sim i.i.d.(0, \sigma_u^2)$. 이때, $D_{j,t}$는 $RV_t$의 웨이블릿 디테일 구성 요소이며, $J_t$는 JTSRV 추정기에 의해 식별된 유의미한 점프 구성 요소입니다.

이 모델은 잠재 변동성, 실현 측정치, 점프, 다중 스케일 구성 요소 간의 역학 관계를 포착하기 위해 매개변수 $\theta = (\omega, \beta, \gamma, \xi, \phi, \tau_1, \tau_2, \{\delta_j\}, \lambda)$를 추정합니다.

6. 분석 프레임워크: 예시 사례

시나리오: 정량적 헤지펀드가 EUR/USD 거래 포지션에 대한 일일 위험가치(Value-at-Risk, VaR) 예측을 개선하고자 합니다.

1단계 - 데이터 준비: EUR/USD의 5분 일중 수익률을 획득합니다. 기준 실현 변동성(예: RV)을 계산하고 웨이블릿 변환(Python의 PyWavelets와 같은 라이브러리 사용)을 적용하여 이를 3개의 척도로 분해합니다: D1 (2-4시간 역학), D2 (4-8시간), D3 (8-16시간). 별도로 JTSRV 추정기를 적용하여 일일 점프 시계열 $J_t$를 추출합니다.

2단계 - 모델 명세 및 추정: 5절의 점프-GARCH 모델을 추정합니다. 이때 측정 방정식에는 D1, D2, D3 및 $J_t$가 외생 변수로 포함됩니다. 로그우도와 정보 기준을 표준 Realized GARCH 모델과 비교합니다.

3단계 - 예측 및 적용: 추정된 모델에서 1일 후 변동성 예측치 $\hat{h}_{t+1}$을 생성합니다. 이 예측치를 사용하여 VaR를 계산합니다(예: $VaR_{t+1}^{\alpha} = -\Phi^{-1}(\alpha) \sqrt{\hat{h}_{t+1}}$). 실제 손익에 대해 VaR 예측을 백테스트하여 커버리지 정확도를 평가합니다.

기대 결과: 웨이블릿을 적용한 점프-GARCH 모델의 VaR 예측은 더 정확한 커버리지(예외 발생이 더 적음)를 보여주고, 높은 점프나 특정 일중 변동성 패턴이 발생한 후 위험을 과소평가하는 경향이 더 적어야 합니다.

7. 향후 응용 및 연구 방향

• 머신러닝 통합: 웨이블릿 구성 요소 $D_{j,t}$와 점프 시계열 $J_t$는 변동성 예측을 위한 머신러닝 모델(예: LSTM, 그래디언트 부스팅)에 매우 유익한 특징으로 작용하여 선형/매개변수적 GARCH 구조를 넘어설 수 있습니다.
• 자산 간 변동성 전이: 다중 스케일 분해를 적용하여 변동성이 서로 다른 시간 지평에서 자산군 간(예: 주식에서 외환으로) 어떻게 전파되는지 연구합니다. 주식 시장 붕괴는 단기 변동성 구성 요소를 통해 전파되는가, 아니면 장기 구성 요소를 통해 전파되는가?
• 실시간 거래 신호: 단기 지평과 장기 지평 변동성 구성 요소 간의 차이를 평균회귀 또는 모멘텀 신호로 명시적으로 사용하는 거래 전략을 개발합니다.
• 중앙은행 및 정책 분석: 이 프레임워크를 사용하여 통화정책 발표가 외환 변동성에 미치는 영향을 분석합니다. 즉각적인 고빈도 "뉴스 급등"과 정보의 장기적 동화를 구분합니다.
• 암호화폐로의 확장: 극단적인 점프와 알고리즘 봇부터 장기 "홀더"에 이르는 다중 스케일 투자자 행동이 특징인 24/7 암호화폐 시장에서 모델을 테스트합니다.

8. 참고문헌

1. Barunik, J., Krehlik, T., & Vacha, L. (2015). Modeling and forecasting exchange rate volatility in time-frequency domain. Preprint, arXiv:1204.1452v4.
2. Corsi, F. (2009). A simple approximate long-memory model of realized volatility. Journal of Financial Econometrics, 7(2), 174-196.
3. Hansen, P. R., & Lunde, A. (2005). A forecast comparison of volatility models: does anything beat a GARCH(1,1)? Journal of Applied Econometrics, 20(7), 873-889.
4. Creal, D., Koopman, S. J., & Lucas, A. (2013). Generalized autoregressive score models with applications. Journal of Applied Econometrics, 28(5), 777-795.
5. Gençay, R., Selçuk, F., & Whitcher, B. (2005). Multiscale systematic risk. Journal of International Money and Finance, 24(1), 55-70.
6. McAleer, M., & Medeiros, M. C. (2008). A multiple regime smooth transition heterogeneous autoregressive model for long memory and asymmetries. Journal of Econometrics, 147(1), 104-119.
7. Andersen, T. G., & Bollerslev, T. (1998). Answering the skeptics: Yes, standard volatility models do provide accurate forecasts. International Economic Review, 39(4), 885-905.