154강부터 157강까지를 섞어 묻습니다. 모두 문항이며 세 부분으로 나뉩니다.
| 부분 | 범위 | 문항 |
|---|---|---|
| 1부 | 마르코프 연쇄 | ~ |
| 2부 | 정상분포와 확산 | ~ |
| 3부 | MCMC | ~ |
합격선은 문항입니다. 이 단원은 274강 강화학습, 261강 확산모형, 213강 볼츠만 머신의 직접적 재료입니다. 특히 마르코프 성질이 상태 정의의 문제라는 점, 정상분포의 존재와 유일성과 수렴이 각각 다른 조건을 요구한다는 점, 수용률이 높은 것이 좋은 것이 아니라는 점은 반드시 손으로 설명할 수 있어야 합니다.
문제 1. 마르코프 성질을 쓰세요.
답. 미래가 현재만 주어지면 과거와 조건부 독립입니다.
문제 2. 마르코프를 "기억이 없다"로 읽으면 안 되는 이유를 쓰세요.
답. 현재가 필요한 기억을 다 담고 있다는 뜻이기 때문입니다.
문제 3. 전이행렬의 두 조건과 한 행의 뜻을 쓰세요.
답. 성분이 음이 아니고 행합이 이며 한 행이 그 상태의 조건부분포입니다.
문제 4. 채프먼-콜모고로프 등식을 쓰세요.
답. 입니다.
문제 5. 걸음 뒤의 분포와 빠른 계산법을 쓰세요.
답. 이며 대각화해 고유값만 제곱합니다.
문제 6. 상태의 분류 일곱 가지를 쓰세요.
답. 도달가능, 소통, 기약, 재귀, 일시적, 흡수, 주기입니다.
문제 7. 흡수 상태와 일시적 상태를 각각 쓰세요.
답. 나갈 수 없는 상태와 되돌아오지 못할 확률이 양수인 상태입니다.
문제 8. 첫걸음 조건화로 나오는 두 방정식을 쓰세요.
답. 와 입니다.
문제 9. 도박꾼의 파산 확률 공식을 쓰세요.
답. 일 때 입니다.
문제 10. 기대 판수가 시작 자금에 대해 단조인지 쓰세요.
답. 아니며 가운데에서 가장 길고 경계에 가까울수록 짧습니다.
문제 11. 흡수 연쇄의 기본행렬과 그것이 주는 것을 쓰세요.
답. 이며 기대 방문 횟수와 흡수 시간과 확률을 줍니다.
문제 12. 이 수렴하기 위한 두 조건을 쓰세요.
답. 기약성과 비주기성입니다.
문제 13. 비주기성을 만드는 쉬운 방법을 쓰세요.
답. 어떤 상태에 자기 전이 확률을 넣습니다.
문제 14. 차 마르코프를 차로 만드는 방법과 대가를 쓰세요.
답. 최근 개를 묶으며 상태가 으로 늘어납니다.
문제 15. 검산에서 차 과정을 차로 본 로그손실을 쓰세요.
답. 이며 와 같습니다.
문제 16. 마르코프가 아니라고 결론짓기 전에 무엇을 보아야 하는지 쓰세요.
답. 상태를 제대로 정의했는지 봅니다.
문제 17. 정상분포의 정의식과 구하는 세 방법을 쓰세요.
답. 이며 선형계, 고유벡터, 거듭제곱으로 구합니다.
문제 18. 고유값 이 반드시 있는 이유를 쓰세요.
답. 행합이 이라 이기 때문입니다.
문제 19. 존재, 유일성, 수렴에 각각 필요한 조건을 쓰세요.
답. 유한이면 언제나 존재하고, 유일성은 기약, 수렴은 기약과 비주기입니다.
문제 20. 시간평균의 수렴에 필요한 조건을 쓰세요.
답. 기약성만 있으면 됩니다.
문제 21. 전변동거리의 정의를 쓰세요.
답. 확률 차이 절댓값 합의 절반입니다.
문제 22. 수렴 속도를 정하는 양과 혼합 시간의 상한을 쓰세요.
답. 두 번째 고유값의 크기이며 상한은 입니다.
문제 23. 에르고딕 정리를 쓰세요.
답. 기약이면 시간평균이 정상분포의 기댓값으로 수렴합니다.
문제 24. 적분 자기상관 시간과 유효 표본 크기를 쓰세요.
답. 이며 유효 표본 크기가 입니다.
문제 25. 상세균형 조건과 그것이 필요조건인지 쓰세요.
답. 이며 필요조건이 아니라 충분조건입니다.
문제 26. 랜덤워크의 분산과 평균 거리를 쓰세요.
답. 이고 입니다.
문제 27. 폴리아의 정리와 판정 급수를 쓰세요.
답. 재귀, 일시적이며 의 수렴 여부로 판정합니다.
문제 28. 차원의 복귀 확률을 쓰세요.
답. 폴리아 상수 입니다.
문제 29. 돈스커의 정리와 브라운 운동의 공분산을 쓰세요.
답. 이 브라운 운동으로 수렴하며 공분산이 입니다.
문제 30. 이차변동과 일차변동을 각각 쓰고 그 함의를 쓰세요.
답. 이차변동은 이고 일차변동은 무한이라 경로가 미분되지 않습니다.
문제 31. 이토 공식과 보통 미적분에 없는 항을 쓰세요.
답. 이며 뒤쪽 항이 새로 생깁니다.
문제 32. 오른슈타인-울렌벡의 정상분포와 기하 브라운 운동의 이토 보정을 쓰세요.
답. 이고 로그의 표류가 입니다.
문제 33. 메트로폴리스-헤이스팅스의 수용확률을 쓰세요.
답. 입니다.
문제 34. 정규화 상수가 필요 없는 이유를 쓰세요.
답. 비만 쓰므로 약분되기 때문입니다.
문제 35. 기각이 알고리즘에 주는 성질을 쓰세요.
답. 자기 전이가 되어 비주기성을 줍니다.
문제 36. 우도를 로그로 다루는 이유를 쓰세요.
답. 아주 작은 수의 아래넘침을 피하기 위해서입니다.
문제 37. 최적 제안 폭과 목표 수용률을 쓰세요.
답. 이며 수용률 입니다.
문제 38. 수용률이 높은 것이 언제나 좋은지 쓰세요.
답. 아니며 거의 움직이지 않았다는 뜻일 수 있습니다.
문제 39. 제안 폭을 고르는 판단 기준을 쓰세요.
답. 유효 표본 크기입니다.
문제 40. 깁스 샘플링의 갱신 규칙과 수용률을 쓰세요.
답. 조건부분포에서 좌표를 하나씩 뽑으며 수용률이 언제나 입니다.
문제 41. 깁스의 약점과 대처법을 쓰세요.
답. 좌표 상관에 약하며 블록 갱신이나 재모수화로 대처합니다.
문제 42. 이변량 정규에서 깁스의 자기상관 시간을 쓰세요.
답. 입니다.
문제 43. R-hat이 무엇을 견주는지 쓰세요.
답. 사슬 사이 분산과 사슬 안 분산입니다.
문제 44. 여러 사슬이 필요한 이유를 쓰세요.
답. 한 사슬만 보면 갇힌 것을 알 수 없기 때문입니다.
문제 45. 진단으로 증명할 수 있는 것과 없는 것을 쓰세요.
답. 수렴하지 않았음은 보이지만 수렴했음은 증명할 수 없습니다.
문제 46. 랑주뱅 제안의 식과 비대칭 보정을 쓰세요.
답. 이며 를 곱합니다.
문제 47. 세 방법의 차원 의존과 목표 수용률을 쓰세요.
답. , , 이며 수용률은 , , 입니다.
문제 48. MCMC가 푼 두 가지 막힌 문제를 쓰세요.
답. 150강의 정규화 상수와 147강 문제 4의 고차원 기각법입니다.
틀린 문항이 어느 부분에 몰렸는지를 먼저 봅니다.
| 몰린 곳 | 다시 볼 것 |
|---|---|
| 1부 | 154강 문제 1과 문제 3, 문제 5 |
| 2부 | 155강 문제 2와 문제 3, 156강 문제 2와 문제 4 |
| 3부 | 157강 문제 2와 문제 4, 문제 5 |
문항 와 이 이 단원의 첫 관문입니다. 차 의존 과정을 차로 보면 로그손실이 정확히 가 되어 동전 던지기와 같아집니다. 마르코프냐는 과정의 성질이 아니라 상태를 어떻게 정의했느냐의 성질입니다.
문항 와 을 이어서 설명할 수 있어야 합니다. 정상분포의 존재는 공짜이고, 유일성이 기약성을, 의 수렴이 비주기성을 요구하며, 시간평균의 수렴에는 비주기성이 필요 없습니다. 셋을 뭉뚱그리면 MCMC의 설계를 이해할 수 없습니다.
문항 가 157강의 문을 엽니다. 상세균형은 충분조건일 뿐인데, 그 충분조건을 일부러 만들어 원하는 분포를 정상분포로 갖는 연쇄를 설계하는 것이 메트로폴리스입니다.
문항 과 이 짝입니다. 이차변동이 유한하고 이 아니라는 사실 하나가 보통 미적분과 이토 미적분을 가릅니다. 라 테일러 전개의 차 항이 살아남습니다.
문항 과 가 실무의 분기점입니다. 수용률 인 설정이 인 설정보다 아홉 배 나쁩니다. 수용률이 아니라 유효 표본 크기를 봅니다.
문항 와 를 틀렸다면 반드시 돌아갑니다. 157강 문제 4에서 사슬들이 서로 반대 답을 내는데도 각각은 완벽하게 수렴한 것처럼 보였습니다. 가장 위험한 실패는 조용한 실패입니다.
문항 이 이 단원의 존재 이유입니다. 150강에서 정규화 상수 때문에 격자로 우회했고 147강에서 고차원 기각법이 무너졌는데, 두 문제가 마르코프 연쇄 하나로 풀립니다.
여기서 S6 확률과 통계 전체가 끝납니다. 다음은 관문 4이며, 121강부터 157강까지를 스스로 점검한 뒤 158강부터 시작하는 S7 데이터 분석의 기초로 넘어갑니다.