학계, 퀀트 공식 연수익 0.84%로 급감… 공개 전략 '알파 소멸' 경고

아이보 웰치 UCLA 앤더슨 경영대학원 교수와 앤드류 첸 연방준비제도이사회(FRB) 이코노미스트는 지난 수십 년간 학술지에 실린 주식 매매 공식 200여 개를 검증한 결과 비우량 초소형주를 제외한 전략의 연환산 수익률이 0.84% 수준으로 떨어졌다는 연구 결과를 2026년 7월 워킹페이퍼를 통해 밝혔다.

배런스는 8월 22일(현지시각) 이 연구를 인용해 과거 학계에서 검증된 대표적 투자 전략들이 거래비용을 반영하기 전 단계에서도 시장 평균을 웃도는 유의미한 초과수익을 내지 못하고 있다고 보도했다.

글로벌 자본시장의 정보 효율성이 극대화되면서 널리 알려진 투자 지표에 의존하던 전통 컴퓨터 계량 분석(퀀트) 전략의 수익성이 한계에 직면했으며, 한국 자산운용업계의 포트폴리오 운용 방식에도 구조적 변화를 요구한다는 관측이 나온다.

연구진은 1973년 이후 주요 금융 학술지에 발표된 주식 매매 신호 약 200개를 대상으로 장기 시계열 백테스트를 진행했다.

저평가 주식을 사고 고평가 주식을 파는 차익 거래(롱숏) 포트폴리오를 매월 재조정하는 방식으로 성과를 측정했다. 분석 결과 2005년 이전 금융 데이터에서는 매매 신호를 적용했을 때 시장 대비 월평균 0.5% 수준의 초과수익을 거둘 수 있었던 것으로 나타났다.

초과수익은 2005년을 기점으로 급격한 하락세를 나타냈다. 2005년 이후 시장 데이터에서 동일한 매매 신호들의 월평균 차익 거래 수익률은 0.2% 미만으로 축소됐다.

연구진은 2005년을 전후해 주식 호가 단위가 분수에서 소수점으로 전환되고 컴퓨터 알고리즘 기반 고빈도 매매(HFT) 업체들이 대거 진입하면서 시장 내 미세한 가격 불균형이 신속하게 해소된 점을 주요 배경으로 지목했다.


연구진은 실제 기관투자자가 대규모 자금을 집행하기 어려운 시가총액 하위 10%의 초소형주를 표본에서 제외했다. 표준 학술 데이터베이스에 포함된 거래량이 적은 초소형주를 제거하자 2005년 이후 전략의 월평균 수익률은 0.07%로 축소됐다. 이를 1년 단위로 환산하면 연간 0.84% 수익률에 그친다.
이 수치는 주식 매매 과정에서 발생하는 실질 거래비용을 반영하기 이전의 결과다. 증권사 위탁매매 수수료가 낮아진 환경에서도 주식을 살 때와 팔 때 발생하는 호가 차이 비용이 누적되므로 실제 투자자가 확보할 수 있는 순수익은 사실상 전무하다는 분석이다.

웰치 교수는 "공공 금융시장은 대단히 효율적"이라며 "이미 널리 알려진 지표를 활용해 돈을 버는 일은 불가능에 가깝다"고 설명했다.


학계에서 검증된 대표 투자 지표의 초과수익 소멸 현상은 한국 자산운용 시장에도 직접적인 영향을 미친다. 한국거래소(KRX)에 상장된 저평가 가치주나 우량주를 선별해 담는 펀드와 상장지수펀드(ETF)는 표준 재무제표 지표를 주요 투자 기준으로 사용해 왔다.

시장 참여자 사이의 정보 전달 속도가 빨라지고 기관의 알고리즘 매매 비중이 확대되면서 공개된 재무제표 기반 투자 전략의 차별성은 빠르게 축소되는 추세다. 자산운용사의 운용보수와 증권거래세, 주문 가격과 실제 체결 가격의 차이(슬리피지) 비용을 차감하면 전통 전략 추종 펀드의 실질 수익률이 시장 지수를 밑돌 위험이 커진다.

계량 분석 투자 방식 자체가 완전히 무력화된 것은 아니라는 분석도 있다. 연구진은 공개되지 않은 독자적 알고리즘을 구축하거나 인공위성 사진, 공급망 물동량, 웹사이트 방문자 수 등 비정형 대체 데이터(대안 데이터)를 발굴해 활용하는 퀀트 기관은 여전히 시장을 앞서는 성과를 거둘 가능성이 열려 있다고 짚었다.

한국 운용업계 역시 단순 재무제표 기반의 공식 결합을 넘어 비공개 고유 모델 개발과 대체 데이터 수집 역량 확보에 투자를 집중해야 생존할 수 있다는 지적이다.

시장에 널리 알려진 손쉬운 주식 선별 규칙의 시대는 막을 내렸다. 투자자들은 학술 연구에서 검증된 과거의 수익률이 미래 성과를 보장하지 않는다는 점을 명확히 인식하고 운용 전략의 실제 거래비용과 정보 희소성을 점검해야 한다.


김주원 글로벌이코노믹 기자 park@g-enews.com