탈러(Thaler) 미 시카고대 교수가 올해 노벨경제학상을 수상하면서 행동경제학에 대한 관심이 다시 높아지고 있다. 행동경제학(Behavior Econo mics)이란 경제적 의사결정에 있어 심리적· 사회적·인지적·감성적 요인의 영향으로 인한 시장가격 자원배분 결과의 변화여부를 탐구하는 학문이다. 즉 경제 주체들이 항상 합리적이 아닌, 비합리적인 결정도 내릴 수 있는 불완전한 존재라는 가정에서 출발한다. 경제 환경이 복잡다단해지면서 현실에서 발생하는 여러 가지 경제현상을 제대로 설명할 수 있는 경제이론은 그다지 많지 않다. 행동경제학은 이러한 이론과 현실 사이의 괴리를 줄여 나가려 한다. 행동경제학이 비록 비주류로 분류되고 있지만 1980년대 이후 상당히 많은 연구가 진행되었다. 이에 따라 심리학자인 프린스턴대의 카너만(Kahne man) 교수가 2002년, 예일대의 쉴러(Shiller) 교수가 2013년 행동경제학 관련 논문으로 노벨경제학상을 수상한 바 있다.

사실 탈러 교수는 행동경제학 중에서도 특히 재무분야에 초점을 두고 연구를 진행해 온 학자다. 가치를 평가하는 데 있어 효용뿐 아니라 소유개념도 함께 고려해야 한다는 보유효과(endowment effect)나 폐쇄형 펀드의 경우 순자산가치(NAV)보다 할인되어서 거래된다는 폐쇄형펀드 할인퍼즐(closed-end discount puzzle) 등이 탈러 교수에 의해 주창된 이론이다. 즉 행동경제학의 세부 영역인 행태재무학(Behavior Finance)의 전문가라고 할 수 있다. 따라서 본고에서는 행태재무학의 정의나 연구분야 그리고 시사점 등을 통해 투자시장은 과연 효율적인가를 재조명해 본다.

▶행태재무학이란

행태재무학(Behavior Finance)이란 행동경제학의 의사결정 주체를 투자자로 축소하여 투자자의 재무의사 결정을 설명하는 학문이다. 행태재무학은 시장 참여자가 비합리적인 체계적 오류를 범하는 이유와 그로 인해 초래되는 시장 비효율성에 대해 논한다. 즉 행태재무학은 효율적시장과 합리적 투자자라는 전통 재무론의 기본가정을 부정하는 데서 출발한다. 행태재무학은 행동재무학, 행태지향재무학이라고도 불린다.

행태재무학은 크게 개별 의사결정자들의 심리를 다루는 영역과 차익거래의 한계를 다루는 영역 두 분야로 구분된다. 의사결정자의 심리 분야는 투자자들의 비합리성의 원인을 찾아내는 것으로 잘못된 추론으로부터 발생하는 인지부조화(cognitive errors)와 신념이나 선호와 관련된 행동학적 편의(behavior bias)로 다시 세분화된다. 투자자는 정보를 항상 올바르게 처리하는 것은 아니며 이에 따라 미래 수익률에 대한 잘못된 확률분포를 추론하는 인지부조화가 발생할 수 있다고 본다. 또한 신념이나 선호에 따라 일관성이 결여된, 최선이 아닌 차선의 의사결정을 하는 행동학적 편의의 존재도 인정한다. 이같이 비합리적인 투자자로 인해 비정상적인 시장가격이 형성된 경우에도 시장이 효율적이라면 차익거래자로 인해 가격은 본질가치를 찾아갈 것이다. 하지만 행태재무학에서는 이 같은 차익거래가 현실에서는 여러 가지 제약으로 인해 제대로 실행되지 못한다고 주장한다. 이것이 차익거래의 한계이다.



▶인지부조화

행태재무학자들은 투자자들이 비이성적인 의사결정을 내리는 원인 중 하나를 이들이 과거의 믿음이나 생각에 지나치게 집착하기 때문이라고 추론한다. 이에 따라 시장에 새로운 정보가 출현한 경우 특정 사건이 발생할 가능성을 잘못 평가하고 이로 인해 수익률 예측에도 오류가 발생한다는 것이다.

예컨대 사람들은 최근에 밝혀진 새로운 증거들에 대해 자신의 신념을 새롭게 바꾸는 데 상당한 시간을 필요로 한다. 이를 보수주의 편의(conservative bias)라고 하는데 주식시장 수익률이 지속적으로 상승하거나 하락하는 관성현상이 이로 인해 발생한다고 본다. 또한 사람들은 자신의 믿음이나 예측의 부정확성을 과소평가하고 자신의 능력을 과대평가하는 과신(over confidence) 경향도 있다. 남성이 (특히 독신 남성) 여성 투자자에 비해 훨씬 활발하게 거래하는 현상이나 매매회전율이 최상위 20%에 속하는 계좌가 최하위 20%에 속하는 계좌에 비해 수익률이 7%포인트나 낮은 현상들을 과신 때문으로 설명한다. 이와 함께 사람들은 표본의 크기를 고려하지 않고 모집단에 대한 대표성(representativeness)을 부여하기도 한다. 즉 적은 표본으로부터 발생한 패턴을 너무 빨리 추론해 내고, 이렇게 도출된 추세를 장기로 확대 적용하는 경향이 있다는 것이다. 성과가 좋을 것으로 예측된 주식의 가격이 급등하다가 해당 주식의 이익발표 기점을 기준으로 주가가 하락하는 현상을 대표성으로 설명하기도 한다. 이러한 대표성은 시장에 어떤 현상이 발생했을 때 투자자들이 과민하게 반응하는 현상을 설명하는 합리적인 논거라고 할 수 있다.



▶행동학적 편의

인지부조화가 해결된다면 투자자들이 합리적인 의사결정을 할 수 있을까? 행태재무학자들의 답은 ‘글쎄올시다’이다. 투자자들은 자신의 신념이나 선호에 따라 비합리적 의사결정을 내릴 수도 있기 때문이다.

가장 대표적인 것이 전망이론(prospect theory)이다. 전망이론에서는 부의 수준보다 부의 변화에 더 많은 관심을 갖는다. 즉 현재 부의 수준에서 부의 증가(이익)나 감소(손실)에 따라 위험에 대한 태도가 달라진다는 것이다. 전통적인 기대효용이론에서는 부가 많을수록 위험회피도가 감소한다고 보는 반면 전망이론에서는 이익을 볼수록 위험회피적 성향, 손실을 볼수록 위험선호적 성향을 보인다고 파악한다. 예컨대 300만원의 이익을 볼 확률이 80%이고 0원의 이익을 볼 확률이 20%인 투자안 A와 200만원의 이익을 볼 확률이 100%인 투자안 B가 있다고 하자. 대부분의 사람들은 투자안 B를 택할 것이다. 기대값을 고려하면 투자안 A가 더 합리적인 의사결정이겠지만 B를 선택하는 이유는 이익에 대해 위험회피적 성향을 보이기 때문이다. 반대로 300만원의 손실을 볼 확률이 80%이고 0원일 확률이 20%인 투자안 C와 200만원의 손실을 볼 확률이 100%인 투자안 D가 있다면 대부분의 사람들이 이번에는 투자안 C를 택할 것이다. 기대값을 고려하면 투자안 D가 더 적은 손실을 시현하겠지만 C를 선택하는 이유는 손실에 대해서는 위험선호적 성향을 보이기 때문이다. 이 같은 전망이론은 동일한 크기의 이익으로 인한 만족보다 손실로 인한 고통이 훨씬 크다는 손실회피(loss aversion) 현상과 투자자들이 이익을 시현한 투자자산은 매도하고 손실을 시현한 투자자산은 보유하려 한다는 처분효과(disposition effect)를 설명한다.

군중심리(herd behavior)나 심리회계(mental accounting)도 행동학적 편의로 설명되는 현상들이다. 군중심리란 다수의 의견이 맞을 것이라는 믿음하에 대중적인 정보를 신뢰하고 개별적으로 수집한 정보는 무시하는 행동을 의미한다. 특히 동질의식이 강한 국내 투자자들 사이에서 군중심리로 인한 쏠림 현상은 자주 발생한다. 심리회계는 투자자들이 의사결정을 할 때 건별로 분리하여 의사결정을 하는 것을 말한다. 즉 동일한 투자자가 높은 위험을 감수하는 계좌와 보수적으로 운용하는 계좌로 분리하여 계좌를 운용할 수 있다는 것이다. 예컨대 카지노에서 자신이 돈을 따고 있는 경우 더 위험한 내기를 한다는 것이다. 이 밖에 동일한 투자안에 대해 이익을 얻을 가능성을 강조하는 경우와 손실을 볼 가능성을 강조하는 경우 의사결정이 상이해지는 프레임(frame)이나 좋지 않은 결과가 발생했을 때 그 결정이 관행을 벗어나지 않은 것일수록 덜 후회한다는 후회기피(regret avoidance) 등도 행동학적 편의에 의해 설명될 수 있는 현상이다.



▶차익거래의 제한

투자자가 비합리적인 의사결정을 내린다고 하더라도 합리적인 차익거래자가 존재한다면 시장가격은 내재가치에 수렴해 효율적 시장을 형성할 것이다. 하지만 행태재무학자들은 이 같은 차익거래가 현실적으로는 제한적이어서 가격이 비합리적인 상태로 지속될 수 있다고 주장한다.

먼저 시간적인 문제이다. 차익거래는 투자기한이 존재하는데 시장가격이 즉각적으로 본질가치에 근접하지 않을 경우 차익거래자들은 이를 실행할 수가 없다. 또한 차익거래 과정에서 발생하는 거래비용이 위험으로 작용할 수도 있다. 이와 함께 차익거래는 기본적으로 현재의 시장가격이 적정 수준인가를 제대로 파악해야 하는데 이 판단에서 오류가 발생할 수 있다. 특히 차익거래의 기본 전제인 ‘일물 일가의 법칙’이 실증적으로 기업의 합병이나 분사 시 성립하지 않기도 한다.



▶결론

투자시장에서 기존 이론으로는 설명되지 않는 많은 이례현상들이 행태재무학자들에 의해 그 베일이 벗겨지고 있다. 즉 시장에서 비효율적 요소로 알려진 현상들이 하나씩 설명되면서 결국 시장은 효율적이라는 방향으로 더 접근하고 있다. 이익창출 기회가 그만큼 줄어든 셈이다. 하지만 ‘시장은 효율적이지만 그래도 열심히 연구하고 노력하는 자들에게는 그 보상의 열매가 기다리고 있다’는 어느 학자의 목소리에 귀가 기울여지는 것은 자기 위안일까?

[이준서 동국대 경영학과 교수]

[본 기사는 매일경제 Luxmen 제86호 (2017년 11월) 기사입니다]
[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]