01단원에서 확률은 집합에 붙는 수였습니다. 사건은 표본공간의 부분집합이고, 는 그 부분집합에 값을 주는 함수였습니다.
이 방식에는 한계가 있습니다. 표본공간이 실험마다 제각각이라 서로 다른 실험을 비교할 수 없습니다. 주사위 두 개의 표본공간은 순서쌍의 집합이고, 동전 던지기는 문자열의 집합이며, 키를 재는 실험은 사람의 집합입니다. 공통의 언어가 없습니다.
해법은 모든 결과를 수로 옮기는 것입니다.
이 함수 하나가 확률을 수직선 위로 옮깁니다. 그러면 실험이 무엇이든 다루는 대상이 위의 분포가 되고, 서로 비교하고 더하고 평균낼 수 있게 됩니다.
그리고 대가가 큽니다. 확률이 수직선에 오는 순간 S3의 미적분이 통째로 쓸 수 있게 됩니다.
| 확률의 대상 | 미적분의 도구 |
|---|---|
| 이산분포의 총합 | 급수(18강, 54강) |
| 연속분포의 넓이 | 정적분(48~53강) |
| 분포함수의 기울기 | 미분(37~41강) |
| 결합분포의 부피 | 이중적분(103~106강) |
121강 문제 3에서 이미 예고했습니다. "함수의 값으로 묶으면 자동으로 분할이 된다"고 했는데, 그 함수가 바로 확률변수입니다.
문제. 주사위 두 개를 던지고 를 두 눈의 합이라 합니다.
(1) 가 가질 수 있는 값과 각각의 역상 크기를 구하세요.
(2) 각 값의 확률을 구하고 합이 인지 확인하세요.
(3) 이 표가 121강의 무엇과 같은지 밝히세요.
생각의 실마리. 는 표본점 개 각각에 수 하나를 붙입니다. 같은 수가 붙은 표본점끼리 모으면 무엇이 되는지 봅니다.
풀이. (1)(2) 검산 결과입니다.
| 역상 크기 | |||
|---|---|---|---|
**합이 정확히 **이고 마지막 열의 합인 기댓값이 입니다.
(3) 121강 문제 3의 분할과 정확히 같은 표입니다. 그때는 "합이 인 사건 "라 불렀고 지금은 "인 역상"이라 부릅니다.
이 문제에서 배우는 것: 확률변수와 확률질량함수.
확률변수. 표본공간에서 실수로 가는 함수 이며, 모든 에 대해 역상 가 사건이어야 합니다.
"변수"라는 이름이 오해를 부릅니다. 실제로는 함수입니다. 값이 무작위인 것이 아니라, 어느 표본점이 뽑히느냐가 무작위이고 는 그 결과를 수로 옮기는 결정론적 규칙입니다.
역상이 사건이어야 한다는 조건은 121강 문제 5의 가측성입니다. 유한이나 가산 표본공간에서는 자동이고, 연속에서만 신경 씁니다.
확률질량함수. 이산확률변수에 대해
두 성질이 따라옵니다.
둘 다 121강과 122강에서 온 것입니다. 비음성은 공리 P1이고, 총합이 인 것은 역상들이 분할을 이루기 때문입니다.
역상이 분할을 만든다. 서로 다른 의 역상은 겹치지 않고, 모든 역상의 합집합은 입니다.
함수의 정의가 이를 보장합니다. 27강에서 함수는 각 원소에 값을 하나만 대응시킨다고 했으므로 한 표본점이 두 역상에 들어갈 수 없고, 모든 표본점에 값이 있으므로 빠지는 것도 없습니다.
이 관찰이 확률변수의 핵심 효용입니다. 분할을 만들려고 애쓸 필요 없이 함수 하나를 정의하면 분할이 딸려 옵니다.
바로 확인 1.
확인 1-1. 확률변수의 정의를 쓰세요.
답. 표본공간에서 실수로 가는 함수이며 역상이 사건이어야 합니다.
확인 1-2. 확률질량함수를 역상으로 쓰세요.
답. 입니다.
확인 1-3. 인 이유를 쓰세요.
답. 역상들이 표본공간의 분할을 이루기 때문입니다.
문제. 문제 1의 에 대해 를 봅니다.
(1) 여러 점에서 의 값을 구하세요.
(2) 각 점에서의 점프 크기를 구하고 와 비교하세요.
(3) 가 어느 쪽에서 연속인지 확인하세요.
생각의 실마리. 는 값마다 따로 정의되어 이산에서만 쓸 수 있습니다. 연속에서도 통하는 표현이 필요하며, 누적하는 방식이 답입니다.
풀이. (1)(2) 검산 결과입니다.
| 와 같은가 | |||
|---|---|---|---|
| 참입니다 | |||
| 참입니다 | |||
| 참입니다 | |||
| 참입니다 | |||
| 참입니다 | |||
| 참입니다 | |||
| 참입니다 |
**정수점에서만 점프하고 그 크기가 정확히 **입니다.
(3) 이고 으로 같지만, 로 다릅니다. 오른쪽에서 연속이고 왼쪽에서는 불연속입니다.
이 문제에서 배우는 것: 누적분포함수.
누적분포함수.
이며 이산과 연속을 가리지 않고 언제나 정의됩니다.
이것이 보다 근본적인 이유입니다. 121강 문제 5에서 연속 표본공간은 한 점의 확률이 이라 가 쓸모없어진다고 했는데, 는 그때도 잘 작동합니다.
점프가 곧 질량. 입니다.
왼쪽 극한과의 차이가 그 점의 확률입니다. 따라서 가 연속인 점에서는 이며, 연속확률변수는 가 모든 곳에서 연속인 경우입니다.
부등호의 방향이 인 것이 우연속의 이유입니다. 로 정의하면 자신을 포함하므로 오른쪽에서 다가갈 때 값이 변하지 않습니다. 로 정의했다면 좌연속이 되었을 것이며, 관습일 뿐 수학적 차이는 없습니다.
구간 확률이 뺄셈 한 번이 됩니다.
이 한 줄이 를 쓰는 실용적 이유입니다. 확률질량을 일일이 더할 필요가 없습니다.
바로 확인 2.
확인 2-1. 누적분포함수의 정의를 쓰세요.
답. 입니다.
확인 2-2. 를 로 쓰세요.
답. 이며 왼쪽 극한과의 차이입니다.
확인 2-3. 가 어느 쪽에서 연속인지와 그 이유를 쓰세요.
답. 오른쪽에서 연속이며 정의에 를 썼기 때문입니다.
문제. 문제 2의 를 검사합니다.
(1) 단조성을 확인하세요.
(2) 양끝에서의 값을 확인하세요.
(3) 구간 확률을 로 계산해 직접 합과 비교하세요.
생각의 실마리. 가 확률에서 나왔으므로 확률의 세 공리가 의 성질로 번역될 것입니다. 어떤 성질이 되는지 봅니다.
풀이. 검산 결과입니다.
| 성질 | 결과 |
|---|---|
| 단조 비감소 | 참입니다 |
구간 확률은 이고 직접 더한 값도 이며 **차이가 **로 부동소수점 오차 수준입니다.
이 문제에서 배우는 것: 분포함수의 특징짓기.
분포함수의 세 성질. 이 어떤 확률변수의 분포함수가 되기 위한 필요충분조건은 다음 셋입니다.
세 성질이 확률의 세 공리에서 나옵니다.
| 의 성질 | 어느 공리에서 |
|---|---|
| F1 단조 | 122강 단조성, 곧 P1과 P3 |
| F2 양끝 | P2 정규화와 연속성 |
| F3 우연속 | P3 가산가법성 |
F3이 가산가법성에서 나온다는 것이 중요합니다. 122강 심화 2에서 가산가법성이 확률의 연속성과 동치라고 했는데, 그 연속성이 의 우연속으로 나타납니다. 유한가법성만으로는 F3을 얻을 수 없습니다.
역방향도 성립합니다. 세 성질을 만족하는 임의의 에 대해, 그것을 분포함수로 갖는 확률변수가 존재합니다.
구성 방법이 간단합니다. 의 균등분포 를 잡고
로 두면 됩니다. 이를 역변환 표집이라 하며 147강 몬테카를로의 기본 도구입니다. 난수 하나로 어떤 분포든 만들 수 있습니다.
따라서 확률변수를 다룰 때 표본공간을 볼 필요가 없습니다. 만 알면 됩니다. 이것이 확률변수 도입의 가장 큰 실용적 이득이며, 이후 모든 강의가 표본공간을 언급하지 않고 분포만 다루게 됩니다.
바로 확인 3.
확인 3-1. 분포함수의 세 성질을 쓰세요.
답. 단조 비감소, 양끝 극한이 과 , 우연속입니다.
확인 3-2. 우연속이 어느 공리에서 오는지 쓰세요.
답. 가산가법성이며 확률의 연속성과 동치입니다.
확인 3-3. 세 성질을 만족하는 로 확률변수를 만드는 방법을 쓰세요.
답. 균등분포 에 을 씌우는 역변환 표집입니다.
문제. 같은 개 표본점 위에 는 합, 은 최댓값, 는 차의 절댓값으로 정의합니다.
(1) 각각의 치역, 기댓값, 분산을 구하세요.
(2) 의 확률질량함수와 분포함수를 구하세요.
(3) 의 닫힌 형태를 찾으세요.
생각의 실마리. 표본공간은 하나인데 거기서 무엇을 재느냐가 여럿입니다. 같은 실험도 관심사에 따라 다른 확률변수가 붙습니다.
풀이. (1) 검산 결과입니다.
| 확률변수 | 치역 | 기댓값 | 분산 |
|---|---|---|---|
| 합 | ~ | ||
| 최대 | ~ | ||
| 차 | ~ |
(2)(3) 에 대해서는 이렇습니다.
이 정확히 맞습니다.
이유가 명확합니다. 최댓값이 이하이려면 두 눈이 모두 이하여야 하고, 두 주사위가 독립이므로 확률이 곱해집니다.
124강의 독립이 여기서 계산 도구로 쓰입니다.
이 문제에서 배우는 것: 최댓값의 분포는 분포함수로 다룬다.
최댓값의 분포함수. 이 독립이고 각각 분포함수 를 가지면, 의 분포함수는
질량함수로 하면 훨씬 번거롭습니다. "최댓값이 정확히 "을 직접 세려면 포함배제가 필요한데, 누적으로 보면 곱 한 번입니다.
표의 열이 을 으로 나눈 값이며 이 식과 일치합니다.
최솟값도 같은 요령입니다. 여사건을 쓰면 됩니다.
이 두 공식이 극단값 이론의 출발점이며, 신뢰성 공학에서 "가장 약한 부품이 언제 고장나는가"를 다루는 도구입니다.
바로 확인 4.
확인 4-1. 한 표본공간에 확률변수가 여럿일 수 있습니까?
답. 있습니다. 무엇을 재느냐에 따라 다른 함수가 됩니다.
확인 4-2. 독립인 개의 최댓값의 분포함수를 쓰세요.
답. 입니다.
확인 4-3. 최솟값의 분포함수를 쓰세요.
답. 입니다.
문제. 문제 1의 에 대해 으로 변환합니다.
(1) 가 가질 수 있는 값과 각각에 대응하는 의 값들을 구하세요.
(2) 의 확률질량함수를 구하고 합이 인지 확인하세요.
(3) 두 치역의 크기를 비교하고 무엇이 일어났는지 설명하세요.
생각의 실마리. 도 위의 함수입니다. 로 합성한 것이며, 27강의 합성함수입니다.
풀이. (1)(2) 검산 결과입니다.
| 합쳐진 들 | 대응 의 합 | ||
|---|---|---|---|
| \ | |||
| \ | |||
| \ | |||
| \ | |||
| \ | |||
| \ |
**합이 정확히 **이고 모든 줄에서 두 값이 일치합니다.
(3) 의 치역은 개인데 의 치역은 개입니다. 을 중심으로 접는 사상이라 대칭인 값들이 하나로 합쳐졌습니다.
이 문제에서 배우는 것: 변환의 규칙은 역상을 모으는 것이다.
이산 변환 공식. 이면
역상에 있는 확률질량을 전부 더합니다.
일대일이면 단순히 이름표만 바뀝니다. 가 단사면 각 의 역상에 가 하나뿐이라 이며 확률의 분포 모양이 그대로 유지됩니다.
다대일이면 합쳐지고 정보가 줄어듭니다.
| 의 종류 | 치역 크기 | 정보 |
|---|---|---|
| 단사 | 그대로 | 보존됩니다 |
| 다대일 | 줄어듭니다 | 잃습니다 |
| 상수함수 | 전부 잃습니다 |
정보를 잃는 것이 나쁘기만 한 것은 아닙니다. 이 문제의 는 "에서 얼마나 떨어졌는가"만 남기고 방향을 버렸습니다. 관심 없는 정보를 버리는 것이 통계량의 본질이며, 148강의 충분통계량이 "버려도 되는 정보"를 정확히 규정합니다.
연속확률변수에서는 규칙이 달라집니다. 합이 적분이 되고 야코비 행렬식이 등장합니다.
105강의 변수변환 공식이 그대로 옵니다. 129강에서 다루며, 다변수 버전은 139강에서 야코비 행렬식으로 확장됩니다.
바로 확인 5.
확인 5-1. 이산 변환 공식을 쓰세요.
답. 입니다.
확인 5-2. 가 단사이면 무엇이 보존됩니까?
답. 치역의 크기와 정보가 보존되며 이름표만 바뀝니다.
확인 5-3. 연속에서 변환 공식에 무엇이 붙습니까?
답. 역함수 미분의 절댓값, 곧 야코비 인자가 붙습니다.
| 개념 | 식 |
|---|---|
| 확률변수 | X:\Omega\to\mathbb |
| 확률질량함수 | |
| 누적분포함수 | |
| 점프 | |
| 구간 확률 | |
| 최댓값 | F_{M}(x)=F(x)^ |
| 최솟값 | F_{\min}(x)=1-(1-F(x))^ |
| 이산 변환 |
| 의 세 성질 | 어느 공리에서 |
|---|---|
| 단조 비감소 | 단조성 |
| 양끝 과 | 정규화 |
| 우연속 | 가산가법성 |
| 자주 하는 실수 | 바로잡기 |
|---|---|
| 확률변수를 변수라고 봅니다 | 함수입니다 |
| 연속에서 를 씁니다 | 나 밀도를 씁니다 |
| 를 좌연속이라 봅니다 | 로 정의하므로 우연속입니다 |
| 다대일 변환에서 확률을 안 더합니다 | 역상 전체를 더합니다 |
문제 6. 확률변수의 정의를 쓰세요.
답. 표본공간에서 실수로 가는 함수이며 역상이 사건이어야 합니다.
문제 7. "변수"라는 이름이 오해를 부르는 이유를 쓰세요.
답. 실제로는 함수이며 무작위인 것은 어느 표본점이 뽑히느냐입니다.
문제 8. 확률질량함수의 두 성질을 쓰세요.
답. 비음성이고 총합이 입니다.
문제 9. 총합이 인 근거를 쓰세요.
답. 역상들이 표본공간의 분할을 이루기 때문입니다.
문제 10. 누적분포함수의 정의를 쓰고 보다 근본적인 이유를 쓰세요.
답. 이며 연속에서도 정의되기 때문입니다.
문제 11. 를 로 쓰세요.
답. 입니다.
문제 12. 구간 확률 를 로 쓰세요.
답. 입니다.
문제 13. 분포함수의 세 성질을 쓰세요.
답. 단조 비감소, 양끝 극한이 과 , 우연속입니다.
문제 14. 우연속이 어느 공리에서 오는지 쓰세요.
답. 가산가법성이며 확률의 연속성과 동치입니다.
문제 15. 역변환 표집을 쓰세요.
답. 균등분포 에 을 씌우면 분포함수가 인 확률변수가 됩니다.
문제 16. 독립인 개의 최댓값과 최솟값의 분포함수를 쓰세요.
답. 과 입니다.
문제 17. 주사위 두 개의 최댓값에서 을 쓰세요.
답. 이며 입니다.
문제 18. 이산 변환 공식을 쓰고 다대일일 때 무엇이 일어나는지 쓰세요.
답. 이며 확률이 합쳐지고 정보를 잃습니다.
심화 1. 확률변수가 왜 함수여야 하는지 정리하세요.
"확률변수"라는 이름은 역사적 산물이며 오해를 부릅니다. 정확히는 표본공간 위의 가측함수입니다.
함수로 보면 여러 것이 자연스러워집니다.
| 표현 | 함수로 읽으면 |
|---|---|
| 역상 이라는 사건 | |
| 점마다 더한 함수 | |
| 와 가 독립 | 두 함수가 만드는 사건족이 독립 |
| 합성함수 |
둘째 줄이 특히 중요합니다. 가 잘 정의되려면 두 확률변수가 같은 표본공간 위에 있어야 합니다. 서로 다른 실험의 확률변수는 더할 수 없으며, 더하려면 곱 표본공간을 만들어 둘 다 그 위에 올려야 합니다.
141강의 합의 분포가 이 작업입니다. 두 독립 확률변수를 곱 표본공간 위에 올리고 합의 분포를 구하면 합성곱이 나옵니다.
무작위성은 에 있지 않습니다. 는 결정론적 규칙이고, 무작위한 것은 입니다. 이 구분이 명확해지면 조건부기댓값(137강)처럼 헷갈리는 개념이 훨씬 쉬워집니다.
심화 2. 분포함수가 표본공간을 대체하는 과정을 설명하세요.
문제 3에서 세 성질을 만족하는 로부터 확률변수를 구성할 수 있다고 했습니다. 이것이 확률론의 실용적 전환점입니다.
두 확률변수가 같은 분포를 가지면 통계적으로 구별할 수 없습니다. 표본공간이 전혀 달라도 그렇습니다.
| 실험 | 표본공간 | |
|---|---|---|
| 동전 하나 | \ | 앞이면 |
| 주사위 하나 | \ | 짝수면 |
| 의 점 | 면 |
셋 다 같은 베르누이 분포이며, 확률 계산에서 구별할 방법이 없습니다. 이를 분포가 같다고 하고 로 씁니다.
따라서 이후의 모든 강의는 표본공간을 언급하지 않습니다. ""이라고만 쓰며, 그런 확률변수가 어떤 표본공간 위에 존재한다는 것은 문제 3의 구성이 보장합니다.
주의할 것은 분포가 같아도 확률변수가 같지는 않다는 점입니다. 가 표준정규를 따르면 도 그렇지만 입니다. 주변분포만으로는 결합 구조를 알 수 없으며, 136강의 결합분포가 필요한 이유입니다.
심화 3. 이산도 연속도 아닌 분포를 보이세요.
분포함수는 세 부분으로 분해됩니다.
혼합형이 실무에서 흔합니다. 보험 청구액이 대표입니다. 사고가 없으면 정확히 이고 있으면 연속적인 값이므로
가 에서 만큼 점프하고 그 뒤로는 매끄럽게 올라갑니다. 이산도 연속도 아닙니다.
기계학습에서도 나타납니다.
| 상황 | 이산 부분 | 연속 부분 |
|---|---|---|
| 보험 청구액 | 에 몰림 | 청구액 분포 |
| 강수량 | 비 안 온 날 | 강수량 |
| ReLU 출력 | 에 몰림 | 양수 부분 |
| 검열된 관측 | 상한에 몰림 | 관측 범위 안 |
셋째 줄이 흥미롭습니다. ReLU를 통과한 활성값의 분포는 에 질량이 몰린 혼합형이며, 이것이 죽은 뉴런 현상의 확률적 기술입니다.
셋째 항인 특이 부분은 이론적으로만 등장합니다. 칸토어 분포가 예이며, 연속인데 밀도가 없고 미분이 거의 어디서나 입니다. 실무에서 만날 일은 없지만, "연속이면 밀도가 있다"가 거짓임을 보여 주는 반례입니다.
심화 4. 역변환 표집을 자세히 보세요.
문제 3에서 로 확률변수를 만든다고 했습니다. 왜 통하는지 확인합니다.
마지막 등호가 가 균등분포라서 성립합니다. 균등분포는 이기 때문입니다.
가 연속이고 순증가면 이 보통의 역함수이고, 그렇지 않으면 일반화 역함수를 씁니다.
이산분포에서도 그대로 작동합니다. 문제 1의 를 뽑으려면 를 하나 뽑고 누적확률 표에서 가 처음 넘어서는 값을 고르면 됩니다.
| 분포 | 쓸 수 있는가 | |
|---|---|---|
| 지수분포 | 닫힌 형태입니다 | |
| 균등 | 닫힌 형태입니다 | |
| 정규분포 | 닫힌 형태가 없습니다 | 수치 역함수나 다른 방법 |
| 이산분포 | 표 탐색 | 언제나 가능합니다 |
셋째 줄 때문에 정규분포는 다른 방법을 씁니다. 박스뮐러 변환이 대표이며, 두 균등난수를 극좌표로 읽어 두 정규난수를 만듭니다. 104강의 극좌표 변환이 정확히 그 도구입니다.
역변환 표집의 한계는 다차원입니다. 차원이 올라가면 이 사실상 계산 불가능하며, 그래서 157강의 MCMC가 필요해집니다.
심화 5. 분위수와 그 쓰임을 정리하세요.
에는 고유한 이름이 있습니다.
분위수 함수. 이며 를 중앙값이라 합니다.
평균보다 분위수가 나은 경우가 많습니다.
| 상황 | 평균 | 분위수 |
|---|---|---|
| 이상치가 있음 | 흔들립니다 | 안정적입니다 |
| 분포가 치우침 | 대표성이 낮습니다 | 해석이 명확합니다 |
| 꼬리가 두꺼움 | 존재하지 않을 수 있습니다 | 언제나 존재합니다 |
셋째 줄이 결정적입니다. 코시분포는 평균이 존재하지 않지만 중앙값은 으로 잘 정의됩니다. 133강에서 다룹니다.
분위수 회귀가 이 관점의 모형화입니다. 조건부 평균 대신 조건부 분위수를 예측하며, 손실함수로 핀볼 손실을 씁니다.
이면 절댓값 손실이 되어 중앙값을 예측합니다. 손실이 평균을 주는 것과 대비되며, 손실함수의 선택이 무엇을 예측할지를 정합니다.
| 손실 | 최적 예측 |
|---|---|
| 제곱 오차 | 조건부 평균 |
| 절대 오차 | 조건부 중앙값 |
| 핀볼 | 조건부 분위수 |
예측 구간을 만들 때 이 관점이 유용합니다. 와 를 각각 예측하면 구간이 나오며, 정규성 가정 없이 얻을 수 있습니다.
심화 6. 확률변수의 언어가 기계학습에서 무엇을 정리하는지 보세요.
121강 심화 6에서 데이터 하나가 표본점이라고 했습니다. 확률변수를 얹으면 표현이 훨씬 간결해집니다.
| 개념 | 확률변수의 말 |
|---|---|
| 특징 | \mathbf{X}:\Omega\to\mathbb{R}^ |
| 정답 | Y:\Omega\to\mathcal |
| 모형 | 함수 , 예측은 |
| 손실 | 도 확률변수입니다 |
| 위험 | 그 확률변수의 기댓값 |
넷째 줄이 핵심입니다. 손실 자체가 확률변수이며, 훈련 손실은 그 확률변수의 표본평균, 일반화 손실은 기댓값입니다.
두 양의 관계가 통계적 학습이론의 전부입니다. 142강의 큰 수의 법칙이 을 주고, 146강의 집중 부등식이 그 속도를 주며, 부울 부등식으로 모든 에 대해 동시에 성립하게 만듭니다.
S5에서 남긴 질문이 여기서 답을 얻습니다. "손실함수 는 어디에서 오는가"에 대해 이제 정확히 답할 수 있습니다. 관측할 수 없는 기댓값 가 진짜 목표이고, 우리가 최소화하는 는 그 표본 근사입니다. 과적합은 근사를 참값으로 착각하는 것입니다.
import numpy as np, itertools
S = list(itertools.product(range(1, 7), repeat=2))
N = len(S)
# --- 문제 1: 확률변수는 표본점에 수를 붙이는 함수다 ---------------------
print(" 주사위 두 개. X = 두 눈의 합. 표본점 36개에 수를 붙입니다")
X = lambda w: w[0] + w[1]
vals = sorted({X(w) for w in S})
pmf = {v: sum(1 for w in S if X(w) == v)/N for v in vals}
print(" x 역상 크기 p(x) x*p(x)")
for v in vals:
print(" %7d %10d %10.6f %12.6f" % (v, int(round(pmf[v]*N)), pmf[v], v*pmf[v]))
print(" 합 %.10f, 기대값 %.6f" % (sum(pmf.values()), sum(v*p for v, p in pmf.items())))
print(" 역상 {X = x} 가 121강의 분할과 정확히 같습니다")
# 주사위 두 개. X = 두 눈의 합. 표본점 36개에 수를 붙입니다
# x 역상 크기 p(x) x*p(x)
# 2 1 0.027778 0.055556
# 3 2 0.055556 0.166667
# 4 3 0.083333 0.333333
# 5 4 0.111111 0.555556
# 6 5 0.138889 0.833333
# 7 6 0.166667 1.166667
# 8 5 0.138889 1.111111
# 9 4 0.111111 1.000000
# 10 3 0.083333 0.833333
# 11 2 0.055556 0.611111
# 12 1 0.027778 0.333333
# 합 1.0000000000, 기대값 7.000000
# 역상 {X = x} 가 121강의 분할과 정확히 같습니다
# --- 문제 2: 누적분포함수는 계단이고 점프가 pmf 다 ----------------------
print(" F(x) = P(X <= x) 를 몇 점에서 봅니다")
F = lambda t: sum(p for v, p in pmf.items() if v <= t)
print(" t F(t) F(t) - F(t-) p(t) 와 같은가")
for t in [1.5, 2.0, 4.0, 6.999, 7.0, 12.0, 13.0]:
left = sum(p for v, p in pmf.items() if v < t)
jump = F(t) - left
same = abs(jump - pmf.get(t, 0.0)) < 1e-12
print(" %9.3f %10.6f %14.6f %16s" % (t, F(t), jump, same))
print(" 정수점에서만 점프하고 그 크기가 p(x) 입니다")
print(" F 는 오른쪽에서 연속입니다: F(7) = %.6f, F(7.0001) = %.6f" % (F(7.0), F(7.0001)))
print(" 왼쪽 극한은 다릅니다: F(6.9999) = %.6f" % F(6.9999))
# F(x) = P(X <= x) 를 몇 점에서 봅니다
# t F(t) F(t) - F(t-) p(t) 와 같은가
# 1.500 0.000000 0.000000 True
# 2.000 0.027778 0.027778 True
# 4.000 0.166667 0.083333 True
# 6.999 0.416667 0.000000 True
# 7.000 0.583333 0.166667 True
# 12.000 1.000000 0.027778 True
# 13.000 1.000000 0.000000 True
# 정수점에서만 점프하고 그 크기가 p(x) 입니다
# F 는 오른쪽에서 연속입니다: F(7) = 0.583333, F(7.0001) = 0.583333
# 왼쪽 극한은 다릅니다: F(6.9999) = 0.416667
# --- 문제 3: F 의 세 성질을 수치로 확인한다 -----------------------------
print(" 분포함수의 세 성질을 검사합니다")
grid = np.arange(0.0, 14.01, 0.5)
Fv = np.array([F(t) for t in grid])
mono = bool(np.all(np.diff(Fv) >= -1e-15))
print(" 성질 결과")
print(" 단조 비감소 %14s" % mono)
print(" F(-무한대) 근사 F(0) %14.6f" % F(0.0))
print(" F(+무한대) 근사 F(20) %14.6f" % F(20.0))
print(" 구간 확률 P(3 < X <= 7) = F(7)-F(3) = %.6f" % (F(7.0) - F(3.0)))
direct = sum(p for v, p in pmf.items() if 3 < v <= 7)
print(" 직접 더한 값 %14.6f (차이 %.2e)" % (direct, abs(direct - (F(7.0)-F(3.0)))))
# 분포함수의 세 성질을 검사합니다
# 성질 결과
# 단조 비감소 True
# F(-무한대) 근사 F(0) 0.000000
# F(+무한대) 근사 F(20) 1.000000
# 구간 확률 P(3 < X <= 7) = F(7)-F(3) = 0.500000
# 직접 더한 값 0.500000 (차이 5.55e-17)
# --- 문제 4: 한 표본공간 위에 여러 확률변수를 얹는다 --------------------
print(" 같은 36개 표본점 위에 세 확률변수를 함께 정의합니다")
funcs = {"합 X": lambda w: w[0]+w[1],
"최대 M": lambda w: max(w),
"차 D": lambda w: abs(w[0]-w[1])}
print(" 확률변수 치역 기대값 분산")
for nm, g in funcs.items():
vs = np.array([g(w) for w in S], dtype=float)
print(" %-10s %-12s %12.6f %12.6f"
% (nm, "%d~%d" % (int(vs.min()), int(vs.max())), vs.mean(), vs.var()))
print(" 같은 실험이어도 무엇을 재느냐에 따라 분포가 달라집니다")
print(" m P(M = m) P(M <= m)")
for m in range(1, 7):
pm = sum(1 for w in S if max(w) == m)/N
print(" %7d %10.6f %12.6f" % (m, pm, (m/6)**2))
print(" P(M <= m) = (m/6)^2 이 정확히 맞습니다")
# 같은 36개 표본점 위에 세 확률변수를 함께 정의합니다
# 확률변수 치역 기대값 분산
# 합 X 2~12 7.000000 5.833333
# 최대 M 1~6 4.472222 1.971451
# 차 D 0~5 1.944444 2.052469
# 같은 실험이어도 무엇을 재느냐에 따라 분포가 달라집니다
# m P(M = m) P(M <= m)
# 1 0.027778 0.027778
# 2 0.083333 0.111111
# 3 0.138889 0.250000
# 4 0.194444 0.444444
# 5 0.250000 0.694444
# 6 0.305556 1.000000
# P(M <= m) = (m/6)^2 이 정확히 맞습니다
# --- 문제 5: 변환하면 역상이 합쳐진다 -----------------------------------
print(" Y = (X - 7)^2 로 변환합니다. 7 을 중심으로 접는 사상입니다")
Y = lambda w: (X(w) - 7)**2
yv = sorted({Y(w) for w in S})
print(" y 합쳐진 x 들 p_Y(y) 대응 p_X 의 합")
for y in yv:
xs = sorted({X(w) for w in S if Y(w) == y})
py = sum(1 for w in S if Y(w) == y)/N
ps = sum(pmf[x] for x in xs)
print(" %7d %-18s %10.6f %14.6f" % (y, str(xs), py, ps))
print(" 합 %.10f" % sum(sum(1 for w in S if Y(w) == y)/N for y in yv))
print(" 다대일 변환이면 역상의 확률이 더해집니다. 정보가 줄어듭니다")
print(" X 의 치역은 %d 개, Y 의 치역은 %d 개입니다" % (len(vals), len(yv)))
# Y = (X - 7)^2 로 변환합니다. 7 을 중심으로 접는 사상입니다
# y 합쳐진 x 들 p_Y(y) 대응 p_X 의 합
# 0 [7] 0.166667 0.166667
# 1 [6, 8] 0.277778 0.277778
# 4 [5, 9] 0.222222 0.222222
# 9 [4, 10] 0.166667 0.166667
# 16 [3, 11] 0.111111 0.111111
# 25 [2, 12] 0.055556 0.055556
# 합 1.0000000000
# 다대일 변환이면 역상의 확률이 더해집니다. 정보가 줄어듭니다
# X 의 치역은 11 개, Y 의 치역은 6 개입니다
문제 1의 표가 121강 문제 3의 표와 글자 하나 다르지 않습니다. 그때는 "합이 인 사건"이었고 지금은 "인 역상"입니다. 같은 대상에 이름을 새로 붙였을 뿐인데, 그 이름 덕분에 미적분을 쓸 수 있게 됩니다.
문제 2의 와 줄을 나란히 보십시오. 가 에서 으로 뛰고, 그 차이 이 정확히 입니다. 분포함수의 점프가 확률질량이라는 사실이 수치로 드러납니다.
문제 4에서 이 여섯 줄 모두 맞습니다. 최댓값을 직접 세는 대신 누적으로 보면 독립성 덕분에 곱 한 번으로 끝납니다.
정답.
| 기호 | 읽는 법 | 뜻 |
|---|---|---|
| X:\Omega\to\mathbb | 확률변수 | 표본점에 수를 붙이는 함수입니다 |
| 확률질량함수 | 입니다 | |
| 누적분포함수 | 입니다 | |
| 왼쪽 극한 | 점프 크기를 재는 데 씁니다 | |
| \ | 역상 | 사건이며 가측이어야 합니다 |
| 분포가 같다 | 분포함수가 같습니다 | |
| 분위수 함수 | 입니다 | |
| 중앙값 | median | 입니다 |
| 역변환 표집 | inverse transform sampling | 로 표본을 만듭니다 |
| 혼합형 분포 | mixed distribution | 이산과 연속이 섞인 것입니다 |
| 극단값 | extreme value | 최댓값과 최솟값의 분포입니다 |
| 핀볼 손실 | pinball loss | 분위수를 예측하게 하는 손실입니다 |
다음 127강에서는 베르누이와 이항분포를 다룹니다. 이 강의에서 확률변수라는 틀을 세웠으니, 이제 구체적인 분포를 하나씩 채웁니다. 가장 단순한 확률변수는 과 만 갖는 것이며, 그것을 번 독립으로 반복하면 이항분포가 됩니다. 20강의 이항정리가 정규화의 근거가 되고, 124강의 독립이 곱셈의 근거가 되며, 122강의 조합이 계수가 됩니다.