121강에서 무대를 세웠습니다. 표본공간 가 있고, 사건은 그 부분집합이며, 사건족 는 여집합과 가산합집합에 닫혀 있습니다.
이제 그 위에 함수를 하나 얹습니다.
사건 하나를 받아 그것이 일어날 정도를 수로 돌려주는 함수입니다. 문제는 어떤 함수를 확률이라 부를 것이냐입니다.
답이 놀랍도록 짧습니다. 세 줄입니다.
1933년에 콜모고로프가 정리한 이 세 줄이 확률론 전체의 토대입니다. 우리가 확률에 대해 아는 모든 공식이 여기서 유도됩니다. 여사건 공식도, 포함배제도, 큰 수의 법칙도, 중심극한정리도 그렇습니다.
23강에서 공리계를 다룬 방식이 그대로 돌아옵니다. 최소한의 약속을 정하고, 나머지는 증명합니다.
| 이 강의에서 유도할 것 | 어디서 나오는가 |
|---|---|
| 공리 2와 공리 3 | |
| 공리 2와 공리 3 | |
| 공리 1과 공리 3 | |
| 공리 3 | |
| 위의 것들 |
그리고 표본공간이 등확률이면 확률 계산이 곧 세기가 되므로, 19강의 순열과 조합이 본격적으로 도구가 됩니다.
문제. 확률의 세 공리를 받아들입니다.
(1) 을 유도하세요.
(2) 를 유도하세요.
(3) 이면 임을 유도하세요.
생각의 실마리. 세 유도가 모두 같은 수법을 씁니다. 전체를 배반인 조각으로 쪼개고 공리 3을 적용하는 것입니다. 121강 문제 3의 분할이 도구입니다.
풀이. (1) 와 은 배반이고 합집합이 이므로 공리 3에서
이고 공리 2로 이므로 입니다.
(2) 와 는 배반이고 합집합이 이므로
에서 입니다.
(3) 이면 를 배반인 두 조각으로 쪼갤 수 있습니다.
이므로 이고, 공리 1로 이므로 입니다.
검산에서 세 등식의 차이가 모두 정확히 입니다.
| 성질 | 좌변 | 우변 | 차이 |
|---|---|---|---|
단조성도 으로 확인됩니다.
이 문제에서 배우는 것: 콜모고로프의 공리.
확률의 세 공리. 확률공간 에서 는 다음을 만족합니다.
세 공리의 역할이 각각 다릅니다.
| 공리 | 하는 일 | 없으면 |
|---|---|---|
| P1 | 확률에 바닥을 줍니다 | 음수 확률이 생깁니다 |
| P2 | 척도를 정합니다 | 전체가 얼마인지 모릅니다 |
| P3 | 쪼개고 더할 수 있게 합니다 | 계산이 불가능합니다 |
P3이 가장 무겁습니다. 확률 계산의 거의 전부가 "쪼개서 더하기"이기 때문입니다. 그리고 121강 문제 4에서 본 대로 가산개까지 허용하는 것이 중요합니다.
상한. 입니다.
공리에는 없지만 (2)와 (P1)에서 바로 나옵니다. 이기 때문입니다. 상한을 공리로 두지 않은 것이 공리계 설계의 절약이며, 23강에서 공리는 최소한이어야 한다고 한 원칙 그대로입니다.
바로 확인 1.
확인 1-1. 확률의 세 공리를 쓰세요.
답. 비음성 , 정규화 , 배반사건의 가산가법성입니다.
확인 1-2. 를 로 쓰고 유도의 핵심을 쓰세요.
답. 이며 와 가 배반이고 합이 이기 때문입니다.
확인 1-3. 이 공리가 아닌 이유를 쓰세요.
답. 여사건 공식과 비음성에서 유도되므로 공리로 둘 필요가 없습니다.
문제. 주사위 두 개에서 는 합이 , 는 첫 눈이 짝수, 는 둘째 눈이 이상입니다.
(1) 세 쌍 각각에 대해 와 를 비교하세요.
(2) 두 값의 차이가 무엇인지 밝히세요.
(3) 등호가 성립하는 조건을 쓰세요.
생각의 실마리. 121강 문제 1의 포함배제가 확률에서도 성립할 것입니다. 겹치는 부분을 두 번 셌으니 한 번 빼야 합니다.
풀이. (1)(2) 검산 결과입니다.
| 쌍 | 차이 | 배반인가 | ||
|---|---|---|---|---|
| 아닙니다 | ||||
| 아닙니다 | ||||
| 아닙니다 |
차이가 정확히 입니다. 세 쌍의 교집합 확률이 각각 , , 이며 표의 차이와 일치합니다.
(3) 차이가 이려면 이어야 하므로, 배반일 때 등호입니다.
세 사건으로 늘리면 입니다.
이 문제에서 배우는 것: 포함배제와 부울 부등식.
두 사건의 포함배제.
유도가 문제 1의 수법입니다. 를 배반인 세 조각으로 쪼갭니다.
공리 3으로 더하고 를 대입하면 나옵니다.
부울 부등식. 배반 여부와 무관하게
이며 등호는 사건들이 서로 배반일 때 성립합니다.
이 부등식이 실무에서 대단히 자주 쓰입니다. 교집합을 몰라도 상한은 언제나 말할 수 있기 때문입니다.
예를 들어 어떤 시스템에 부품이 개 있고 각각 고장날 확률이 이면, 부품 고장이 서로 어떻게 얽혀 있는지 몰라도
이라고 말할 수 있습니다. 최악의 경우를 보장하는 계산입니다.
세 사건의 표에서 눈에 띄는 것이 하나 있습니다. 가 정확히 인데 는 입니다. 확률의 합이 이라고 전체를 덮는 것이 아닙니다. 121강 문제 3의 분할과 대비되는 자리이며, 겹치면 합이 을 넘어도 전체를 못 덮습니다.
바로 확인 2.
확인 2-1. 두 사건의 포함배제를 쓰세요.
답. 입니다.
확인 2-2. 부울 부등식을 쓰고 등호 조건을 쓰세요.
답. 이며 서로 배반일 때 등호입니다.
확인 2-3. 확률의 합이 이면 전체를 덮습니까?
답. 덮지 않습니다. 겹치면 합이 이어도 전체가 아닙니다.
문제. 문제 2의 세 사건에서 를 구합니다.
(1) 1차, 2차, 3차 교집합 합을 각각 계산하세요.
(2) 교대로 더하고 빼서 조립하세요.
(3) 직접 센 값과 비교하세요.
생각의 실마리. 두 사건에서는 겹침을 한 번 뺐습니다. 셋이면 한 번 뺀 뒤 너무 많이 뺀 부분을 다시 더해야 합니다.
풀이. 검산 결과입니다.
| 항 | 값 |
|---|---|
| 1차합 | |
| 2차합 | |
| 3차합 | |
| s_{1}-s_{2}+s_ | |
| 직접 센 |
차이가 정확히 입니다.
이 문제에서 배우는 것: 포함배제의 원리.
포함배제의 원리.
홀수 개 교집합은 더하고 짝수 개 교집합은 뺍니다.
왜 부호가 교대하는지가 한 원소를 추적하면 보입니다. 어떤 표본점이 정확히 개의 사건에 속한다고 하면, 그 점은 1차합에서 번, 2차합에서 번 세어집니다. 따라서 전체에서 세어지는 횟수가 이렇습니다.
20강의 이항정리로 이기 때문입니다. 곧 어느 점이든 정확히 한 번 세어집니다.
항의 개수가 개로 폭증합니다.
| 항의 개수 | |
|---|---|
그래서 실무에서는 끝까지 계산하지 않습니다. 앞 몇 항만 쓰면 위아래로 조이는 부등식이 되며, 이를 본페로니 부등식이라 합니다.
오른쪽이 문제 2의 부울 부등식이고 왼쪽이 한 단계 개선한 것입니다. 이 표의 값으로 확인하면 입니다.
바로 확인 3.
확인 3-1. 세 사건의 포함배제를 쓰세요.
답. 1차합에서 2차합을 빼고 3차합을 더합니다.
확인 3-2. 부호가 교대하는 이유를 한 줄로 쓰세요.
답. 이항정리로 이라 각 점이 정확히 한 번 세어집니다.
확인 3-3. 본페로니 부등식의 아래 경계를 쓰세요.
답. 입니다.
문제. 명이 모였을 때 생일이 같은 사람이 적어도 한 쌍 있을 확률을 봅니다. 생일은 일에 등확률이라 가정합니다.
(1) 여사건을 써서 식을 세우세요.
(2) 을 키우며 확률을 계산하세요.
(3) 를 넘는 최소 을 찾고 그 이유를 설명하세요.
생각의 실마리. "적어도 한 쌍"을 직접 세면 경우가 많습니다. 121강 문제 2에서 배운 대로 여사건을 씁니다. 여사건은 "모두 다르다"이며 훨씬 세기 쉽습니다.
풀이. (1) 모두 다를 확률은 순열로 셉니다.
이고 구하는 확률은 입니다.
(2)(3) 검산 결과입니다.
| 모두 다를 확률 | 적어도 한 쌍 같을 확률 | |
|---|---|---|
에서 처음 를 넘습니다. 일인데 명이면 충분하다는 것이 직관에 어긋나 보입니다.
이유는 사람 수가 아니라 쌍의 수를 세야 하기 때문입니다.
| 쌍의 수 \binom{n} | |
|---|---|
명이면 비교할 쌍이 개이고, 각 쌍이 같을 확률이 이므로 기대 쌍 수가 입니다. 에 가까운 수이므로 절반 정도의 확률이 나오는 것이 오히려 자연스럽습니다.
이 문제에서 배우는 것: 등확률 표본공간.
등확률 표본공간. 가 유한이고 모든 표본점의 확률이 같으면
이며 확률 계산이 세기로 환원됩니다.
이때 19강과 20강의 셈 도구가 그대로 확률 계산기가 됩니다.
| 도구 | 개수 | 확률에서의 쓰임 |
|---|---|---|
| 곱의 법칙 | n^ | 반복 실험의 표본공간 |
| 순열 | 모두 다를 경우 | |
| 조합 | \binom{n} | 순서 없이 뽑기 |
| 다항계수 | 그룹 나누기 |
등확률 가정이 성립하는지 반드시 확인해야 합니다. 121강 심화 1에서 본 대로, 같은 실험에도 등확률인 표본공간과 아닌 표본공간이 있습니다. 세어서 나누는 계산은 등확률일 때만 옳습니다.
생일 문제가 보안에서 다시 나타납니다. 해시 함수의 출력이 가지일 때 충돌을 찾는 데 번이 아니라 약 번이면 충분하며, 이를 생일 공격이라 합니다. 위 식에서 이 되는 이 그 근거입니다.
바로 확인 4.
확인 4-1. 등확률 표본공간에서 확률 공식을 쓰세요.
답. 입니다.
확인 4-2. 생일 문제에서 를 넘는 최소 인원을 쓰세요.
답. 명입니다.
확인 4-3. 그 수가 작은 이유를 한 줄로 쓰세요.
답. 사람 수가 아니라 쌍의 수 가 커지기 때문입니다.
문제. 통의 편지를 개의 봉투에 무작위로 넣습니다.
(1) 제자리에 든 편지가 하나도 없는 경우의 수 을 에서 세세요.
(2) 확률 을 구하고 어디로 수렴하는지 보세요.
(3) 포함배제로 그 극한을 설명하세요.
생각의 실마리. "하나도 없다"이므로 여사건은 "적어도 하나는 제자리"입니다. 적어도 하나는 포함배제의 전형적인 대상입니다.
풀이. (1)(2) 검산 결과입니다.
| 교란순열 D_ | 와의 차이 | ||
|---|---|---|---|
| 3.679\times10^ | |||
| 1.321\times10^ | |||
| 3.455\times10^ | |||
| 7.121\times10^ | |||
| 1.213\times10^ | |||
| 1.761\times10^ | |||
| 2.230\times10^ | |||
| 2.503\times10^ |
로 수렴합니다. 에서 이미 소수점 다섯 자리까지 맞습니다.
(3) 를 "번 편지가 제자리"라 하면 이고, 개가 동시에 제자리일 확률은 나머지를 자유롭게 두므로
입니다. 개를 고르는 방법이 가지이므로 차합이 이렇게 됩니다.
포함배제로
이고 여사건을 취하면 구하는 확률이 나옵니다.
54강의 지수 급수 에 을 넣은 것입니다. 검산의 부분합이 이를 확인합니다.
| 항 수 | |
|---|---|
두 표의 숫자가 완전히 같습니다. 교란순열의 확률이 지수 급수의 부분합 그 자체입니다.
이 문제에서 배우는 것: 포함배제가 급수를 낳는다.
교란순열. 모든 원소가 제자리가 아닌 순열을 교란순열이라 하고 그 개수를 이라 씁니다.
결과가 에 거의 의존하지 않는 것이 놀랍습니다. 편지가 통이든 통이든 하나도 제자리가 아닐 확률이 약 입니다. 에서 이미 이며 극한과 차이입니다.
직관적인 이유가 있습니다. 제자리인 편지의 개수는 대략 평균 인 포아송분포를 따르며, 그것이 일 확률이 입니다. 128강에서 포아송분포를 배우면 이 계산이 한 줄이 됩니다. 각 편지가 제자리일 확률 이 작고 편지가 개이므로 기대 개수가 정확히 인데, 이런 상황의 극한이 포아송입니다.
바로 확인 5.
확인 5-1. 교란순열의 정의를 쓰세요.
답. 모든 원소가 제자리가 아닌 순열입니다.
확인 5-2. 의 극한을 쓰세요.
답. 입니다.
확인 5-3. 그 극한이 어느 급수에서 나오는지 쓰세요.
답. 의 테일러 급수에 을 넣은 것입니다.
| 공리 | 내용 |
|---|---|
| P1 비음성 | |
| P2 정규화 | |
| P3 가산가법성 | 배반이면 확률이 더해집니다 |
| 따름정리 | 식 |
|---|---|
| 공사건 | |
| 여사건 | |
| 상한 | |
| 단조성 | |
| 포함배제 | |
| 부울 부등식 | |
| 본페로니 | s_{1}-s_{2}\le P(\bigcup A_{i})\le s_ |
| 셈 도구 | 개수 |
|---|---|
| 반복 | n^ |
| 순열 | |
| 조합 | \binom{n} |
| 다항계수 |
| 자주 하는 실수 | 바로잡기 |
|---|---|
| 등확률이 아닌데 세어서 나눕니다 | 등확률 여부를 먼저 확인합니다 |
| 확률의 합이 이면 전체라 봅니다 | 겹치면 그렇지 않습니다 |
| 부울 부등식을 등식으로 씁니다 | 배반일 때만 등식입니다 |
| "적어도 하나"를 직접 셉니다 | 여사건이 훨씬 쉽습니다 |
문제 6. 확률의 세 공리를 쓰세요.
답. 비음성, 정규화 , 배반사건의 가산가법성입니다.
문제 7. 을 한 줄로 유도하세요.
답. 와 이 배반이고 합이 이므로 입니다.
문제 8. 를 쓰세요.
답. 입니다.
문제 9. 단조성을 쓰고 유도의 핵심을 쓰세요.
답. 이며 로 쪼갭니다.
문제 10. 두 사건의 포함배제를 쓰세요.
답. 입니다.
문제 11. 부울 부등식과 등호 조건을 쓰세요.
답. 이며 배반일 때 등호입니다.
문제 12. 부품 개가 각각 로 고장날 때 적어도 하나 고장날 확률의 상한을 쓰세요.
답. 이며 의존 구조를 몰라도 성립합니다.
문제 13. 세 사건 포함배제에서 항의 부호를 쓰세요.
답. 1차합은 더하고 2차합은 빼고 3차합은 더합니다.
문제 14. 개 사건 포함배제의 항 개수를 쓰세요.
답. 개입니다.
문제 15. 본페로니 부등식을 쓰세요.
답. 입니다.
문제 16. 등확률 표본공간의 확률 공식을 쓰세요.
답. 입니다.
문제 17. 생일 문제에서 명이면 충분한 이유를 쓰세요.
답. 쌍의 수가 이라 기대 충돌 수가 에 가깝기 때문입니다.
문제 18. 교란순열 확률의 극한과 그 출처를 쓰세요.
답. 이며 급수에 을 넣은 것입니다.
심화 1. 세 공리가 왜 그 셋인지, 각각을 빼면 무엇이 무너지는지 정리하세요.
공리계를 평가하는 기준은 두 가지입니다. 충분한가와 최소한인가입니다.
| 뺀 공리 | 무너지는 것 |
|---|---|
| P1 비음성 | 음수 확률이 허용되어 "일어날 정도"라는 뜻이 사라집니다 |
| P2 정규화 | 척도가 없어 와 를 구별할 수 없습니다 |
| P3 가산가법성 | 쪼개서 더할 수 없어 계산이 불가능합니다 |
세 공리가 서로 유도되지 않는다는 것도 확인할 수 있습니다. 예를 들어 모든 사건에 을 주면 P1과 P3의 일부는 만족하지만 P2가 깨지고, 로 주면 P1과 P3은 만족하지만 P2가 깨집니다. 각 공리가 독립적으로 필요합니다.
공리에 없는데 참인 것들은 모두 정리입니다. , , 단조성, 포함배제가 그렇습니다. 공리를 늘리면 유도할 것이 줄어들지만 공리계의 신뢰도가 떨어집니다. 23강에서 다룬 절약의 원칙 그대로입니다.
심화 2. 유한가법성만으로는 부족한 이유를 설명하세요.
P3에서 "가산"을 "유한"으로 바꾸면 어떻게 되는지 봅니다.
121강 문제 4가 바로 안 됩니다. 처음 앞면까지의 횟수는 가 가산무한 개이고, 이들의 합집합이 입니다. 유한가법성만 있으면 를 주장할 수 없습니다.
더 중요한 것은 연속성입니다. 가산가법성은 다음과 동치입니다.
확률의 연속성. 이고 이면 입니다.
극한과 확률을 바꿔 쓸 수 있다는 뜻이며, 이것 없이는 142강의 큰 수의 법칙도 143강의 중심극한정리도 진술할 수 없습니다. 두 정리 모두 의 극한을 다루기 때문입니다.
유한가법적이지만 가산가법적이 아닌 측도는 실제로 존재합니다. 다만 구성하려면 선택공리가 필요하고 명시적으로 쓸 수 없으며, 확률론에서 쓰지 않습니다.
심화 3. 확률의 세 가지 해석을 비교하세요.
공리는 가 무엇을 뜻하는지 말하지 않습니다. 계산 규칙만 정할 뿐입니다. 해석은 세 갈래입니다.
| 해석 | 의 뜻 | 강점 | 약점 |
|---|---|---|---|
| 고전적 | 유리한 경우가 | 계산이 명확합니다 | 등확률을 가정해야 합니다 |
| 빈도주의 | 반복하면 비율 | 검증 가능합니다 | 반복 불가능한 사건에 못 씁니다 |
| 베이즈 | 믿음의 정도가 | 어디에나 적용됩니다 | 주관이 들어갑니다 |
"내일 비가 올 확률 "는 빈도주의로 설명하기 어렵습니다. 내일은 한 번뿐이라 반복이 없기 때문입니다. 베이즈 해석에서는 문제가 없습니다.
공리는 세 해석 모두와 양립합니다. 이것이 콜모고로프 공리화의 가장 큰 성과이며, 해석 논쟁과 무관하게 수학을 진행할 수 있게 했습니다.
기계학습에서는 둘을 섞어 씁니다. 데이터 생성 분포는 빈도주의적이고, 모델 파라미터의 사전분포는 베이즈적입니다. 150강에서 최대사후추정을 다룰 때 이 구분이 중요해집니다.
심화 4. 부울 부등식이 실무에서 쓰이는 자리를 정리하세요.
교집합을 모르는 채 상한만 필요할 때 언제나 쓸 수 있다는 것이 이 부등식의 힘입니다.
첫째로 다중 검정 보정입니다. 가설을 개 동시에 검정하면 각각 유의수준 로 해도 적어도 하나가 우연히 유의할 확률이 커집니다. 부울 부등식으로
이므로 각 검정을 으로 하면 전체가 이하가 됩니다. 본페로니 보정이며 152강에서 다룹니다.
둘째로 균등수렴 상한입니다. 가설공간에 개의 후보가 있을 때 어느 하나라도 훈련오차와 일반화오차가 크게 다를 확률을 부울 부등식으로 묶습니다.
146강 호에프딩 부등식과 결합한 이 형태가 통계적 학습이론의 출발점입니다.
셋째로 신뢰구간의 동시 보장입니다. 여러 모수의 구간을 동시에 맞힐 확률의 하한을 줍니다.
부울 부등식의 약점은 느슨함입니다. 사건들이 강하게 겹치면 상한이 을 넘어 쓸모없어집니다. 문제 2에서 인데 실제는 였던 것이 그 예입니다.
심화 5. 등확률 가정이 깨지는 자리를 보이세요.
무차별의 원리는 정보가 없으면 등확률로 두라는 지침입니다. 편리하지만 역설을 낳습니다.
베르트랑의 역설이 대표적입니다. 원에 무작위로 현을 그을 때 그 길이가 내접정삼각형의 변보다 길 확률을 묻습니다.
| 무작위의 정의 | 확률 |
|---|---|
| 두 끝점을 원주에 균등하게 | |
| 중심에서의 거리를 균등하게 | |
| 중점을 원 안에 균등하게 |
셋 다 "무작위"인데 답이 다릅니다. 121강 심화 1에서 본 표본공간 선택의 문제가 연속으로 넘어온 것이며, "무작위"라는 말만으로는 확률이 정해지지 않습니다.
실제 데이터에서도 등확률은 자주 깨집니다. 벤포드 법칙에 따르면 자연 발생 수치의 첫 자리가 일 확률은 가 아니라 이렇습니다.
이 약 이고 가 약 입니다. 회계 부정 탐지에 쓰이는 것이 이 법칙이며, 꾸며낸 숫자는 균등에 가까워 오히려 눈에 띕니다.
심화 6. 포함배제의 계산 비용과 대안을 정리하세요.
항이 개이므로 이 만 넘어도 계산이 불가능합니다. 정확한 값 대신 세 가지 대안을 씁니다.
첫째는 절단입니다. 심화 4의 본페로니처럼 앞 몇 항만 씁니다. 항을 홀수 개에서 끊으면 상한, 짝수 개에서 끊으면 하한이 되므로 어느 방향으로 틀리는지 알고 쓸 수 있습니다.
둘째는 독립 근사입니다. 사건들이 거의 독립이면 이렇게 씁니다.
가 작으면 이며, 문제 5의 가 이 근사의 정확한 사례입니다. 편지 문제에서 이므로 이 나옵니다.
셋째는 몬테카를로입니다. 표본을 뽑아 비율로 추정하며, 147강에서 다룹니다. 항의 개수와 무관하게 표본 수만큼만 계산하므로 이 커도 씁니다.
| 방법 | 비용 | 정확도 |
|---|---|---|
| 완전 포함배제 | 정확합니다 | |
| 절단 | 방향을 아는 근사입니다 | |
| 독립 근사 | 의존이 약하면 좋습니다 | |
| 몬테카를로 | 표본 수 | 확률적으로 수렴합니다 |
import numpy as np, itertools
S = list(itertools.product(range(1, 7), repeat=2))
N = len(S)
P = lambda E: len(E)/N
A = {w for w in S if w[0] + w[1] == 7}
B = {w for w in S if w[0] % 2 == 0}
C = {w for w in S if w[1] >= 5}
Sset = set(S)
# --- 문제 1: 세 공리에서 따름정리가 나온다 ------------------------------
print(" 주사위 두 개, |S| = %d. A=합이7, B=첫눈짝수, C=둘째눈 5 이상" % N)
print(" 성질 좌변 우변 차이")
rows = [("P(공집합) = 0", P(set()), 0.0),
("P(A^c) = 1 - P(A)", P(Sset - A), 1 - P(A)),
("P(S) = 1", P(Sset), 1.0)]
for nm, l, r in rows:
print(" %-22s %10.6f %10.6f %9.2e" % (nm, l, r, abs(l - r)))
print(" 단조성 P(A) <= P(A or B): %.6f <= %.6f -> %s"
% (P(A), P(A | B), P(A) <= P(A | B)))
# 주사위 두 개, |S| = 36. A=합이7, B=첫눈짝수, C=둘째눈 5 이상
# 성질 좌변 우변 차이
# P(공집합) = 0 0.000000 0.000000 0.00e+00
# P(A^c) = 1 - P(A) 0.833333 0.833333 0.00e+00
# P(S) = 1 1.000000 1.000000 0.00e+00
# 단조성 P(A) <= P(A or B): 0.166667 <= 0.583333 -> True
# --- 문제 2: 부울 부등식은 언제 등호가 되는가 ---------------------------
print(" P(A or B) <= P(A) + P(B) 이며 배반일 때만 등호입니다")
print(" 쌍 P(합집합) P합 차이(=P교집합) 배반인가")
for nm, X, Y in [("A, B", A, B), ("A, C", A, C), ("B, C", B, C)]:
u, s, i = P(X | Y), P(X) + P(Y), P(X & Y)
print(" %-10s %10.6f %10.6f %14.6f %10s" % (nm, u, s, s - u, i == 0.0))
print(" 세 사건으로 늘리면 P(A or B or C) = %.6f <= %.6f 입니다"
% (P(A | B | C), P(A) + P(B) + P(C)))
# P(A or B) <= P(A) + P(B) 이며 배반일 때만 등호입니다
# 쌍 P(합집합) P합 차이(=P교집합) 배반인가
# A, B 0.583333 0.666667 0.083333 False
# A, C 0.444444 0.500000 0.055556 False
# B, C 0.666667 0.833333 0.166667 False
# 세 사건으로 늘리면 P(A or B or C) = 0.722222 <= 1.000000 입니다
# --- 문제 3: 포함배제를 세 사건에서 확인한다 ----------------------------
print(" P(A or B or C) 를 포함배제로 조립합니다")
s1 = P(A) + P(B) + P(C)
s2 = P(A & B) + P(A & C) + P(B & C)
s3 = P(A & B & C)
print(" 항 값")
print(" 1차합 P(A)+P(B)+P(C) %14.6f" % s1)
print(" 2차합 P(AB)+P(AC)+P(BC) %14.6f" % s2)
print(" 3차합 P(ABC) %14.6f" % s3)
print(" s1 - s2 + s3 %14.6f" % (s1 - s2 + s3))
print(" 직접 센 P(A or B or C) %14.6f" % P(A | B | C))
print(" 차이 %14.2e" % abs((s1 - s2 + s3) - P(A | B | C)))
# P(A or B or C) 를 포함배제로 조립합니다
# 항 값
# 1차합 P(A)+P(B)+P(C) 1.000000
# 2차합 P(AB)+P(AC)+P(BC) 0.305556
# 3차합 P(ABC) 0.027778
# s1 - s2 + s3 0.722222
# 직접 센 P(A or B or C) 0.722222
# 차이 0.00e+00
# --- 문제 4: 등확률이면 세기만 하면 된다 (생일 문제) ---------------------
print(" n 명 중 생일이 같은 쌍이 있을 확률 (365일 등확률)")
print(" n 모두 다를 확률 적어도 한 쌍 같을 확률")
for n in [5, 10, 20, 22, 23, 30, 50, 70]:
q = 1.0
for i in range(n):
q *= (365 - i)/365
print(" %7d %16.8f %22.8f" % (n, q, 1 - q))
print(" 23 명에서 0.5 를 넘습니다. 사람 수가 아니라 쌍의 수 nC2 가 커지기 때문입니다")
print(" n 쌍의 수 nC2")
for n in [10, 23, 50]:
print(" %7d %14d" % (n, n*(n-1)//2))
# n 명 중 생일이 같은 쌍이 있을 확률 (365일 등확률)
# n 모두 다를 확률 적어도 한 쌍 같을 확률
# 5 0.97286443 0.02713557
# 10 0.88305182 0.11694818
# 20 0.58856162 0.41143838
# 22 0.52430469 0.47569531
# 23 0.49270277 0.50729723
# 30 0.29368376 0.70631624
# 50 0.02962642 0.97037358
# 70 0.00084042 0.99915958
# 23 명에서 0.5 를 넘습니다. 사람 수가 아니라 쌍의 수 nC2 가 커지기 때문입니다
# n 쌍의 수 nC2
# 10 45
# 23 253
# 50 1225
# --- 문제 5: 포함배제의 극적인 예 (교란순열) ----------------------------
print(" n 개 편지를 무작위로 봉투에 넣어 제자리가 하나도 없을 확률")
print(" n 교란순열 D_n D_n / n! 1/e 와의 차이")
inv_e = np.exp(-1.0)
for n in [1, 2, 3, 4, 5, 6, 7, 8]:
d = sum(1 for p in itertools.permutations(range(n))
if all(p[i] != i for i in range(n)))
f = 1
for i in range(1, n+1): f *= i
print(" %7d %14d %14.10f %16.3e" % (n, d, d/f, abs(d/f - inv_e)))
print(" 1/e = %.10f 이며 포함배제의 교대합이 지수급수 그 자체입니다" % inv_e)
print(" 항 수 k sum_{j=0}^{k} (-1)^j / j!")
acc, fact = 0.0, 1.0
for k in range(0, 8):
if k > 0: fact *= k
acc += (-1)**k / fact
print(" %11d %26.10f" % (k, acc))
# n 개 편지를 무작위로 봉투에 넣어 제자리가 하나도 없을 확률
# n 교란순열 D_n D_n / n! 1/e 와의 차이
# 1 0 0.0000000000 3.679e-01
# 2 1 0.5000000000 1.321e-01
# 3 2 0.3333333333 3.455e-02
# 4 9 0.3750000000 7.121e-03
# 5 44 0.3666666667 1.213e-03
# 6 265 0.3680555556 1.761e-04
# 7 1854 0.3678571429 2.230e-05
# 8 14833 0.3678819444 2.503e-06
# 1/e = 0.3678794412 이며 포함배제의 교대합이 지수급수 그 자체입니다
# 항 수 k sum_{j=0}^{k} (-1)^j / j!
# 0 1.0000000000
# 1 0.0000000000
# 2 0.5000000000
# 3 0.3333333333
# 4 0.3750000000
# 5 0.3666666667
# 6 0.3680555556
# 7 0.3678571429
문제 3의 1차합이 정확히 인 것을 주목하십시오. 세 사건의 확률을 그냥 더하면 이 나오는데 실제 합집합은 입니다. 더하기만 해서는 안 되는 이유가 한 줄로 드러납니다.
문제 5의 두 표가 이 강의의 절정입니다. 왼쪽은 순열을 하나하나 세어 얻은 조합론적 값이고 오른쪽은 지수 급수의 부분합인데, 소수점 열 자리까지 같은 수입니다. 포함배제라는 셈의 규칙이 해석학의 급수를 그대로 낳았습니다.
정답.
| 기호 | 읽는 법 | 뜻 |
|---|---|---|
| 에이의 확률 | 사건에 붙는 수입니다 | |
| P1, P2, P3 | 확률의 세 공리 | 비음성, 정규화, 가산가법성 |
| s_ | 차합 | 개 교집합 확률의 총합입니다 |
| 포함배제 | inclusion-exclusion | 교대로 더하고 뺍니다 |
| 부울 부등식 | union bound | 합집합의 상한입니다 |
| 본페로니 | Bonferroni | 절단으로 얻는 양쪽 경계입니다 |
| 등확률 | equally likely | 표본점의 확률이 같습니다 |
| 교란순열 | derangement | 제자리가 하나도 없는 순열입니다 |
| D_ | 교란순열 수 | 입니다 |
| 무차별의 원리 | principle of indifference | 정보가 없으면 등확률로 둡니다 |
| 벤포드 법칙 | Benford's law | 첫 자리가 균등하지 않습니다 |
| 거의 확실히 | almost surely | 확률 입니다 |
다음 123강에서는 조건부확률을 다룹니다. 이 강의까지는 정보가 주어지지 않은 상태의 확률이었습니다. "가 일어났다는 것을 알았다"는 정보가 들어오면 확률이 어떻게 갱신되는지를 봅니다. 정의는 한 줄이지만 그 한 줄에서 곱셈법칙과 전확률의 법칙이 나오고, 125강 베이즈 정리까지 곧바로 이어집니다. 121강 문제 3의 분할이 전확률의 법칙에서 다시 주역이 됩니다.