외환 가격 예측을 위한 웨이블릿-ARNN-ARIMA 하이브리드 모델

1. 서론

일일 거래량이 5조 달러를 초과하는 외환(Forex) 시장은 상당한 기회와 위험을 동시에 제공합니다. 효과적인 트레이딩 전략을 위해서는 정확한 가격 예측이 매우 중요합니다. 그러나 외환 데이터는 높은 변동성, 노이즈, 복잡한 비선형 패턴을 특징으로 하여 예측이 특히 어렵습니다. ARIMA와 같은 전통적인 선형 모델은 이러한 역동성을 포착하는 데 종종 한계가 있습니다. 본 논문은 외환 시계열의 선형 및 비선형 성분을 모두 다루어 우수한 예측 성능을 목표로, 웨이블릿 노이즈 제거, 어텐션 기반 순환 신경망(ARNN), 자기회귀 누적 이동평균(ARIMA) 모델을 시너지 효과 있게 결합한 새로운 하이브리드 방법론을 제안합니다.

2. 관련 문헌

2.1 웨이블릿 노이즈 제거

웨이블릿 변환은 시계열-주파수 분석을 위한 강력한 도구로, 비정상적인 금융 데이터에서 신호와 노이즈를 효과적으로 분리합니다. 시계열을 근사 계수와 상세 계수로 분해함으로써, 기저 트렌드와 자기상관 구조를 가릴 수 있는 고주파 노이즈 성분을 선택적으로 제거할 수 있습니다. 이는 모델 입력 품질 향상을 위한 중요한 전처리 단계입니다.

2.2 금융 분야의 신경망

신경망, 특히 순환 신경망(RNN) 및 LSTM과 같은 변형 모델들은 복잡한 비선형 금융 시계열 모델링에서 유망한 결과를 보여주었습니다. Transformer와 같은 모델에서 볼 수 있는 어텐션 메커니즘의 통합은 네트워크가 예측을 위해 가장 관련성 높은 과거 관측치에 집중할 수 있게 하여 시퀀스 모델링 능력을 향상시킵니다.

2.3 하이브리드 예측 모델

"분해 및 앙상블" 패러다임은 잘 정립되어 있습니다. 핵심 아이디어는 서로 다른 데이터 특성(예: 선형 대 비선형, 트렌드 대 계절성)을 포착하기 위해 서로 다른 모델을 사용한 다음, 그들의 예측을 결합하는 것입니다. 본 논문의 기여는 전처리를 위한 웨이블릿 노이즈 제거, 비선형 패턴을 위한 ARNN, 잔여 선형 성분을 위한 ARIMA의 특정 조합에 있습니다.

3. 방법론

3.1 데이터 전처리 및 웨이블릿 노이즈 제거

원본 외환 가격 시계열 $P_t$는 이산 웨이블릿 변환(DWT)을 사용하여 분해됩니다: $P_t = A_J + \sum_{j=1}^{J} D_j$, 여기서 $A_J$는 근사 계수(저주파 트렌드)이고 $D_j$는 상세 계수(레벨 $j$의 고주파 노이즈)입니다. 노이즈를 억제하기 위해 상세 계수에 임계값 함수(예: 소프트 임계값 처리)가 적용된 후, 재구성을 통해 노이즈가 제거된 시계열 $\tilde{P}_t$를 얻습니다.

3.2 어텐션 기반 RNN (ARNN) 아키텍처

본 모델은 어텐션 레이어가 있는 인코더-디코더 RNN 프레임워크를 사용합니다. 인코더(LSTM 셀)는 입력 시퀀스 $\tilde{P}_{t-n:t-1}$을 처리하고 일련의 은닉 상태 $h_i$를 생성합니다. 어텐션 메커니즘은 이러한 인코더 상태의 가중 합으로 컨텍스트 벡터 $c_t$를 계산합니다: $c_t = \sum_{i=1}^{n} \alpha_{t,i} h_i$, 여기서 어텐션 가중치 $\alpha_{t,i}$는 순방향 신경망에 의해 학습됩니다. 디코더 LSTM은 $c_t$와 이전 상태를 사용하여 비선형 성분 $\hat{N}_t$를 예측합니다.

3.3 ARIMA 모델 명세

ARIMA(p,d,q) 모델은 시계열의 선형 관계를 적합시킵니다. ARNN이 비선형 부분을 포착한 후, 잔여 시계열 $R_t = \tilde{P}_t - \hat{N}_t$는 ARIMA에 의해 모델링됩니다: $\phi(B)(1-B)^d R_t = \theta(B) \epsilon_t$, 여기서 $\phi$와 $\theta$는 AR 및 MA 다항식, $B$는 백시프트 연산자, $d$는 차분 차수, $\epsilon_t$는 백색 잡음입니다. 이는 선형 예측 $\hat{L}_t$를 산출합니다.

3.4 하이브리드 통합 전략

최종 예측 $\hat{P}_t$는 두 구성 모델의 예측을 단순 가산 결합한 것입니다: $\hat{P}_t = \hat{N}_t + \hat{L}_t$. 이는 선형 및 비선형 성분이 가산적이며 모델링 과정에 의해 효과적으로 분리되었다고 가정합니다.

4. 실험 결과

4.1 데이터셋 및 실험 설정

실험은 고빈도 USD/JPY 5분 환율 데이터를 대상으로 수행되었습니다. 데이터셋은 훈련, 검증, 테스트 세트로 분할되었습니다. 비교를 위한 기준 모델에는 독립형 ARIMA, 표준 LSTM 및 관련 문헌의 다른 신경망 아키텍처가 포함되었습니다.

4.2 성능 지표 및 비교

제안된 하이브리드 모델은 제곱평균제곱근오차(RMSE) 1.65와 약 76%의 방향성 정확도(DA)를 달성했습니다. 이는 모든 기준 모델을 능가하는 성과입니다. 예를 들어, 독립형 ARIMA 모델은 약 55-60%의 DA를, 표준 LSTM은 약 65-70%의 DA를 달성할 수 있는데, 이는 하이브리드 접근법과 전처리의 가치를 부각시킵니다.

4.3 결과 분석 및 논의

방향성 정확도의 상당한 향상은 트레이딩 응용 분야에서 특히 주목할 만합니다. 이 분야에서는 정확한 가격 포인트보다 올바른 가격 변동 방향(상승/하락)을 예측하는 것이 종종 더 중요합니다. RMSE의 감소는 전반적인 예측 오차 최소화를 나타냅니다. 결과는 웨이블릿 노이즈 제거가 입력을 안정화시키고 하이브리드 모델이 선형 및 비선형 의존성을 효과적으로 포착한다는 가설을 검증합니다.

5. 기술적 분석 및 전문가 통찰

6. 분석 프레임워크 및 사례 연구

시나리오: 주요 중앙은행 발표(예: ECB 기자회견) 동안 EUR/USD의 다음 5분 캔들 예측.

프레임워크 적용:

1. 웨이블릿 전처리: 지난 4시간(48개 데이터 포인트)의 원시 5분 가격 시계열이 분해됩니다. 발표 중 급증하는 고주파 "상세" 계수는 강력한 임계값 처리를 거쳐 주요 방향성 점프는 보존하면서 미세 노이즈를 평활화합니다.
2. 모델 분해:
   • ARIMA 성분: 뉴스 이전에 존재했던 기저 모멘텀과 평균 회귀 경향을 모델링합니다. 그 예측은 뉴스 전 트렌드의 약간의 연속일 수 있습니다.
   • ARNN 성분: 어텐션 메커니즘은 가장 최근의 변동성이 큰 발표 후 가격 봉에 강하게 집중합니다. 유사한 역사적 "뉴스 충격" 패턴에서 학습하여 가능한 단기 과잉 반응 및 후속 부분 회복을 예측합니다.
3. 하이브리드 예측: 최종 예측 = (ARIMA의 트렌드 기반 예측) + (ARNN의 뉴스 영향 조정). 이는 각각의 모델이 단독으로 할 수 있는 것보다 더 미묘합니다. 단독 모델은 반응이 부족할(ARIMA) 수도 있고 노이즈에 과적합될(원시 데이터의 표준 RNN) 수도 있습니다.

7. 향후 응용 및 방향

• 다중 자산 및 시장 간 예측: 프레임워크를 외환 쌍, 주식, 채권 간의 상관관계 모델링으로 확장합니다. ARNN 인코더는 여러 관련 시계열을 동시에 처리할 수 있습니다.
• 강화 학습(RL)과의 통합: 하이브리드 모델의 예측을 최적의 트레이딩 실행 정책을 학습하는 RL 에이전트의 상태 표현으로 사용하여 예측 오차가 아닌 수익을 직접 최적화합니다.
• 설명 가능한 AI(XAI) 향상: 최종 예측을 특정 선형 트렌드(ARIMA 계수를 통해) 및 특정 과거 시점(ARNN 어텐션 맵을 통해)에 귀속시키는 방법을 개발하여 트레이더에게 예측에 대한 실행 가능한 이유를 제공합니다.
• 적응형 온라인 학습: 모델이 새로운 데이터로 지속적으로 매개변수를 업데이트하여 변화하는 시장 체제에 적응할 수 있는 메커니즘을 구현하여 정적인 훈련-테스트 패러다임을 넘어섭니다.

8. 참고문헌

1. 국제결제은행(BIS). (2019). 외환 및 장외 파생상품 시장에 대한 3년마다 실시하는 중앙은행 조사.
2. Box, G. E. P., Jenkins, G. M., Reinsel, G. C., & Ljung, G. M. (2015). Time series analysis: forecasting and control. John Wiley & Sons.
3. Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., ... & Polosukhin, I. (2017). Attention is all you need. Advances in neural information processing systems, 30.
4. Zhang, G. P. (2003). Time series forecasting using a hybrid ARIMA and neural network model. Neurocomputing, 50, 159-175.
5. Hochreiter, S., & Schmidhuber, J. (1997). Long short-term memory. Neural computation, 9(8), 1735-1780.
6. Wolpert, D. H., & Macready, W. G. (1997). No free lunch theorems for optimization. IEEE transactions on evolutionary computation, 1(1), 67-82.
7. DeepMind. (2023). Research in Adaptive Agents. Retrieved from https://www.deepmind.com/research/highlighted-research/adaptive-agents