금융 모델은 데이터와 가정, 예측이 서로 얼마나 맞는지를 지속해서 검증해야 하며, 검증은 마지막 단계에서 한 번 거치는 절차가 아니다. 금융 기술 스타트업 젠OTC(genOTC)는 최적수송 이론으로 시장 데이터와 일치하고 무차익거래 조건을 충족하는 로컬 변동성 곡면을 만드는 방법을 개발했다. 이 방법을 MATLAB(매트랩)으로 모델링, 수치해석, 검증, 배포해 금융 서비스로 구현했다.
이 내용은 벤처스퀘어의 Deep Tech Insight 칼럼에서 직접 관측되지 않는 시장을 검증하는 사례로 다뤄졌다. 하나의 수학적 아이디어를 반복적인 계산과 검증을 거쳐 실제 사용자가 활용할 수 있는 금융 서비스로 발전시키는 과정이 핵심이다.
변동성 대응 강화하는 금융권, 검증의 비중
PwC는 2026년 시장 변동성 조사를 실시했다. 응답자는 미국 소비자 1,004명과 금융서비스 업계 임원 204명이다. 이 조사에서 금융서비스 임원의 84%는 현재의 시장 변동성에 대응해 스트레스 테스트와 시나리오 계획을 강화했거나 강화하고 있다고 답했다.
칼럼은 모델이 시장을 제대로 설명하지 못하면 모델 리스크, 헤지 오차, 잘못된 가격 산정으로 이어질 가능성이 생긴다고 짚는다. 칼럼은 시뮬레이션과 검증을 합격 여부를 판단하는 절차로 보지 않고, 연구를 제품으로 발전시키는 과정 자체에 가깝다고 설명한다.
모수적 모델의 한계와 반복 검증
어려움은 변동성에서 시작된다. 자산의 장기 흐름을 뜻하는 드리프트(drift)는 무차익거래 조건이 엄격하게 정해 주지만, 변동성은 그런 제약이 없어 시장 데이터를 어떤 수학 구조로 담느냐에 따라 결과가 달라진다. SVI·SABR 같은 모수적 모델은 일정한 구조를 가정하기 때문에 시장이 급변하면 실제 움직임을 충분히 따라가지 못할 수 있고, 금융기관이 자체 구축한 로컬 변동성 모델도 꾸준한 재보정과 관리가 뒤따라야 한다.
리스크 측정치가 부정확하게 추정되면 주요 리스크 지표가 실제 위험을 비추지 못하고, 자본 요구량을 지나치게 많거나 적게 잡는 결과로 이어질 수도 있다. 그래서 검증은 개발을 마친 뒤 한 번 거치는 단계에 머물지 않는다. 데이터를 바꾸거나 모델을 고칠 때마다 결과가 어떻게 달라지는지 다시 보고 실제 관측치와 대조해야 하며, 시장 리스크 모델에서는 과거 예측과 이후 실제 결과를 맞대 보는 백테스팅도 쓰인다.
최적수송으로 푸는 로컬 변동성 곡면
젠OTC는 캘리브레이션을 볼록 최적수송 문제로 정의해 유일한 해를 구한다. 기존 방식과의 중요한 차이는 변동성 곡면에 특정 모수 형태를 미리 가정하지 않고 최적수송으로 시장 데이터를 직접 다룬다는 점이다. 기존에는 SVI·SABR 같은 모수적 모델이나 자체 로컬 변동성 모델을 쓰는 방식이 있다.
젠OTC의 방법은 주어진 시장 데이터에 맞는 로컬 변동성 모델을 얻기까지 수많은 편미분방정식을 수치적으로 풀어야 할 만큼 계산량이 많다. 연구진은 MATLAB으로 함수를 짜서 시험하고, 3차원 변동성 곡면을 그려 보며 작은 실험을 거듭해 알고리즘을 다듬었다. 숫자로만 나오던 결과를 곡면으로 보면 모델이 시장 데이터를 어떻게 담는지 한눈에 확인할 수 있다는 것이다.
개발에는 MATLAB의 선형대수 솔버와 벡터화를 활용했다. MATLAB Profiler로 연산 병목 구간을 찾았고, Financial Toolbox와 Optimization Toolbox는 검증과 회귀 분석 등 금융 계산의 기반으로 썼다.
Docker와 Amazon EC2로 배포
배포 단계에서는 MATLAB Compiler로 코드를 컴파일하고, MATLAB Runtime과 함께 Docker 컨테이너로 패키징했다. 이 컨테이너는 Amazon EC2에서 실행된다.
사용자는 자체 데이터 또는 젠OTC가 확보한 데이터를 사용해 모델을 생성하고, 곡면을 확인·평가·시각화할 수 있다. 캘리브레이션 모델은 가격 산정 라이브러리로 내보내 PDE와 몬테카를로 방식으로 장외파생상품의 공정가격을 산정하는 데 활용된다. 자동화 워크플로우를 위한 API도 제공한다.
적용 시장과 플랫폼 확장
젠OTC는 유럽형 옵션 주가지수 시장, 미국형 옵션 개별 종목 시장, 암호화폐 시장을 대상으로 캘리브레이션을 마쳤다. 외환 시장에서는 벤치마크 테스트를 진행하고 있다. 적용 시장이 바뀌어도 기반 알고리즘은 그대로다. 달라지는 것은 각 시장의 데이터 환경이다.
캘리브레이션 도구는 가격 산정, 백테스팅, 퀀트 라이브러리를 포함한 플랫폼으로 확장하고 있으며, 일부 기능은 고객과 공동 개발로 제공한다. 향후에는 원자재·채권 등 고정수익 자산으로 적용 범위를 넓힐 계획이다. 이 연재의 다음 글에서는 양자영감 최적화를 디지털 트윈과 시뮬레이션에 쓰는 스타트업 사례를 다룰 예정이다.