이번 내용을 이해하기 위해서는 linear regression에 대한 이해와 econometric, 실험 설계 등에 대한 내용을 숙지해야합니다. 아마도?
관측 데이터에 한해서 어떻게 정확한 인과관계를 추정할 수 있을까?
인과관계를 측정하기 위해서는 일반적으로 실험이 동반되어야한다. 여기서 말하는 실험이란, 사람들을 랜덤하게 A그룹, B그룹으로 나눈 후 각 그룹에 대해 서로 다른 처치를 주는 것을 의미한다. 여기서 가장 중요한건 랜덤인데, 일반적으로 주어진 데이터는 실험 데이터가 아닌 관측 데이터이기 때문에 인과관계를 제대로 확인할 수 없다.
예를 들어보자. 온라인 교육 시장에서 쿠폰을 사용하지 않고 구매한 사람들이 쿠폰을 사용하여 구매한 사람보다 더 완강을 많이 하는지를 알고 싶다. 만약 쿠폰을 준 사람들과 쿠폰을 안 준 사람들이 모두 랜덤하게 배정이 되었다면 그냥 각 그룹의 완강률 평균을 측정하면 되겠지만, 쿠폰을 사용한 그룹과 사용안한 그룹은 본질적으로 다른 그룹이다! 쿠폰을 사용한 그룹은 가격에 민감한 그룹이고, 쿠폰을 사용하지 않은 그룹은 가격에 둔감한 그룹이기 때문에, 유저가 직접 쿠폰을 사용할지 말지 선택을 하고, 이것은 우리가 흔히 말하는 Selection Bias가 걸려있다고 볼 수 있다.
사람들이 가격에 민감한지 아닌지, 그리고 완강할 능력이 충분히 되는지 안되는지를 파악하고 싶지만, 사실 그런 변수들은 우리가 통제할 수 없다. 따라서 이런 변수들이 생략되면서 Omitted Variable Bias (생략 변수 편의)가 발생하게 되어, 우리가 보고싶은 쿠폰 사용 여부가 완강에 미치는 영향을 제대로 측정할 수 없게 되는 것이다. 그렇다면, 이 상황에서 우리는 어떻게 쿠폰 사용 여부의 영향을 미치는 것을 확인할 수 있을까? 만약 쿠폰 자체를 랜덤하는게 사용하는게 아니라, 쿠폰을 사용하는 것과 연관이 되지만 랜덤하게 발생하는 일들을 가지고 오게 된다면? 이렇게 랜덤하게 발생하는 일을 통해서 유저들을 처치군과 대조군으로 랜덤하게 나눌 수 있을텐데, 그러면 그 사람들에 대한 쿠폰 효과를 측정한다면 그게 적당한 처치효과로 볼 수 있지 않을까? 그러니까, 이런 상황을 잘 사용한다면 실험과 비슷한 세팅이 될 수 있지 않을까?
학계에서는 이렇게 랜덤하게 발생하는 사건 및 변수를 Instrumental Variable (도구 변수)라고 부른다. 어쨌든 회귀분석은 수학적인 식으로 구성되기 때문에, instrumental variable도 수학적으로 정의해보겠다.
우선, 우리가 보고 싶은 것은 $X$가 $y$에 얼마나 영향을 주는지를 알고싶다. 이는 다음과 같은 regression equation으로 볼 수 있다.
$$ y =X\beta+\epsilon $$
다만, 여기서 생기는 문제는 $X$가 완전히 $y$를 통제하지 못한다는 점에 있다. 이 말인 즉슨, $\operatorname{Cov}(y, \epsilon)\neq 0$임을 의미한다. 이 상황에서, 우리는 어떻게든 저러한 error를 없애서 $y$와의 correlation을 없애버리고 싶다. 위에서 설명했지만, 이 상황을 타개할 수 있는 것은 instrumental variable, $Z$이다. 여기서 $Z$가 가져야하는 특성을 알아보자.
앞서 말했던 것과 비슷하게, instrumental variable은 우리가 보고 싶은 변수와 연관이 되면서, 랜덤하게 발생해야한다. 이를 수식적으로 풀어보면 두가지로 축약할 수 있는데
이다. 특히, (2)번의 condition은 굉장히 중요해서 이름이 있는데, 바로 **exclusion restriction**이다. 사실 $Z$가 정말 pure random할 필요는 없고, 단순히 에러, 즉 $\epsilon$과 correlation만 없어도 된다. 그러나 pure random이면 pseudo random이기 때문에, 보통 $Z$를 exogenous shock으로 두기도 한다. 그러면 이걸로 어떻게 true coefficient를 측정할 수 있을까?
현재 우리의 상황을 다시 한 번 돌아보자. $X$는 제대로 $y$를 컨트롤 못해서 $\epsilon$과 $y$가 서로 correlation이 있고, $Z$는 $X$와 관련이 있으면서 $\epsilon$과는 무관하다. 그렇다면, 우선 $Z$가 $X$에 미치는 영향을 알아보자. 이는 다음과 같은 regression으로 coefficient $\pi$를 측정할 수 있다.
$$ X=\pi Z+ \eta $$