조건부 확률

• 어떤 사건 B가 일어났을 때 사건 A가 발생할 확률
• 기호는 P(A|B)로 표기한다.
• 조건부확률에 있어서 사건A가 발생활 확률이 사건 B의 확률에 영향을 받는다.

베이지안 이론

• 확률을 지식 또는 믿음의 정도를 나타내는 양 으로 해석하는 확률론
• 확률 빈도 이론과 다른 해석이다.
• 두 확률 변수의 사전확률과 사후 확률 사이의 관계를 나타내는 정리
• 사전확률 P(A)와 우도확률 P(B|A)를 안다면 사후확률 P(A|B)를 알 수 있다.
• 공식은 아래 그림과 같다.

빈도 확률 vs 베이지안 확률

빈도확률

• 동전의 앞면이 나올 확률? 처럼 10번 던질 때 4번이 앞면이면 앞면이 나올 확률은 2/5이다.

베이지안 확률

• 세상에는 반복할 수 없는 사건이 무수히 많고, 빈도 확률의 개념을 그러한 사건에 적용을 할 수 없다. 따라서 사건과 관련 있는 여러 확률을 이용해 새롭게 일어날 사건을 추정하는 것이 베이지안 확률이다.

그래서 베이지안 확률이 머신 러닝에 왜 필요한데?

• 머신러닝은 데이터 셋이 주어졌을 때, 특정 사건 혹은 가설의 확률을 높여줄 수 있는 최적의 모델을 찾는것이다.
• 따라서 베이지안 모델이 주어진 정보를 업데이트 해나가면서, 최적의 사후확률을 계산하는 방식과 일맥상통한다.