이 강의의 목표는 무작위 결과를 숫자로 바꾸고 그 숫자의 모양을 분포로 보는 법을 아주 기초부터 이해하는 것입니다.
먼저 오늘의 핵심 식을 봅니다.
X:Ω→R
이 식을 외우기 전에, 식 안의 말과 기호를 먼저 하나씩 풀어야 합니다.
| 말 |
뜻 |
| 표본공간 |
가능한 모든 결과의 모임 |
| 확률변수 |
결과를 숫자로 바꾸는 규칙 |
| 분포 |
값이 나오는 확률의 모양 |
| 베르누이분포 |
성공 또는 실패 두 값의 분포 |
| 정규분포 |
평균 주변에 많이 모이는 종 모양 분포 |
수학에서 어려운 부분은 계산보다 읽기입니다. 뜻을 모르고 계산하면 공식이 암호처럼 보입니다.
동전 결과는 앞면 또는 뒷면이지만 계산하려면 숫자가 편합니다. 앞면을 1, 뒷면을 0으로 바꾸면 무작위 결과를 숫자로 다룰 수 있습니다.
핵심 식을 기호 하나씩 뜯어 읽어 봅니다.
X:Ω→R
- X는 확률변수입니다. 무작위 결과를 숫자로 바꾸는 규칙, 즉 함수입니다.
- Ω는 표본공간입니다. 일어날 수 있는 모든 결과의 모임입니다.
- R은 실수 전체입니다.
- 화살표 →는 왼쪽의 결과를 오른쪽의 숫자로 대응시킨다는 뜻입니다.
예를 들어 동전 던지기에서는 Ω={앞면,뒷면}입니다. 여기에 앞면을 1, 뒷면을 0으로 정하면
X(앞면)=1,X(뒷면)=0
이 됩니다. 이렇게 하면 무작위 결과를 숫자로 다룰 수 있어, 평균이나 분산 같은 계산이 가능해집니다.
확률변수가 정해지면, 각 값이 나올 확률을 적은 것을 분포라고 합니다. 값이 띄엄띄엄한 경우에는 각 값의 확률을 알려 주는 함수를 확률질량함수(PMF)라고 합니다.
가장 간단한 분포는 베르누이분포입니다. 성공(1)과 실패(0) 두 값만 가지며, 성공 확률을 p라고 하면 확률질량함수는 다음과 같습니다.
P(X=k)=pk(1−p)1−k,k∈{0,1}
이 식을 값에 대입해 읽어 봅니다.
- k=1이면 P(X=1)=p1(1−p)0=p입니다.
- k=0이면 P(X=0)=p0(1−p)1=1−p입니다.
즉 성공이면 p, 실패면 1−p라는 당연한 말을 한 줄 식으로 쓴 것입니다.
같은 베르누이 시행을 서로 독립으로 n번 반복해서, 그중 성공이 몇 번 나오는지를 세는 확률변수를 이항분포라고 합니다. 성공이 정확히 k번 나올 확률의 확률질량함수는 다음과 같습니다.
P(X=k)=(kn)pk(1−p)n−k
이 식은 세 부분으로 읽습니다.
- (kn)=nCk는 n번 중 어느 k번이 성공인지 고르는 경우의 수입니다.
- pk는 성공 k번이 모두 일어날 확률입니다.
- (1−p)n−k는 나머지 n−k번이 모두 실패할 확률입니다.
값이 연속으로 이어지는 경우에는 확률을 확률밀도함수(PDF)로 나타냅니다. 그중 가장 중요한 것이 정규분포이며, 평균 μ와 분산 σ2에 대해 밀도함수는 다음과 같습니다.
f(x)=2πσ21e−2σ2(x−μ)2
- μ는 종 모양의 중심 위치입니다.
- σ2는 퍼짐의 정도입니다. σ2가 크면 넓고 낮게 퍼지고, 작으면 좁고 뾰족합니다.
- 지수 안의 (x−μ)2 때문에 x가 μ에서 멀어질수록 값이 빠르게 작아집니다.
- 앞의 2πσ21은 전체 넓이를 1로 맞추는 정규화 상수입니다.
무작위 결과를 숫자로 바꾸면, 그 숫자의 확률 모양인 분포로 현상을 요약할 수 있습니다. 성공과 실패는 베르누이, 반복 횟수는 이항, 평균 주변으로 모이는 연속량은 정규분포로 설명됩니다.
AI에서도 이 분포들은 그대로 쓰입니다. 분류 문제에서 정답 여부는 베르누이, 여러 시행의 성공 횟수는 이항, 측정 잡음이나 가중치 초기값은 정규분포로 모델링합니다. 분포를 안다는 것은 어떤 값이 얼마나 자주 나올지 안다는 뜻입니다.
- 가능한 결과를 정한다.
- 각 결과를 숫자로 바꾸는 규칙, 즉 확률변수를 정한다.
- 각 숫자가 나올 확률을 적는다.
- 그 확률들의 모양을 분포로 본다.
- 평균과 분산으로 요약한다.
이 순서를 말로 설명할 수 있으면, 공식을 완전히 외우지 않아도 다시 만들어 낼 수 있습니다.
문제: 공정한 동전을 3번 던질 때 앞면이 정확히 2번 나올 확률을 이항분포로 구합니다.
풀이:
앞면을 성공으로 보면 n=3, k=2, p=21입니다. 이항분포 식에 대입합니다.
P(X=2)=(23)(21)2(1−21)3−2
먼저 조합을 계산합니다.
(23)=2!1!3!=3
이어서 확률 부분을 계산합니다.
(21)2(21)1=(21)3=81
따라서
P(X=2)=3×81=83=0.375
입니다.
문제: 주사위를 4번 던질 때 6이 정확히 1번 나올 확률을 구합니다.
풀이:
6이 나오면 성공이므로 p=61, n=4, k=1입니다.
P(X=1)=(14)(61)1(65)3
각 부분을 계산합니다.
(14)=4,(65)3=216125
따라서
P(X=1)=4×61×216125=1296500≈0.386
입니다.
- 확률변수 X:Ω→R은 무작위 결과를 숫자로 바꾸는 함수입니다.
- 베르누이분포는 P(X=k)=pk(1−p)1−k로, 성공이면 p 실패면 1−p입니다.
- 이항분포는 P(X=k)=(kn)pk(1−p)n−k로, n번 중 성공이 k번 나올 확률입니다.
- 정규분포는 f(x)=2πσ21e−2σ2(x−μ)2로, 평균 μ 주변에 모이는 종 모양입니다.
- 작은 예시에서 계산 순서를 확인하면 큰 모델에서도 같은 구조를 찾을 수 있습니다.
- 확률변수는 왜 함수인가?
- 분포를 안다는 것은 무엇을 안다는 뜻인가?
- 베르누이분포가 어울리는 예를 들어 보자.