80강부터 83강까지의 내용을 섞어 묻는 48문항입니다. 강의를 모두 읽은 뒤 손으로 풀어야 이 단원이 끝납니다.
푸는 방법. 강의를 다시 보지 않고 먼저 풉니다. 막히면 어느 강의로 돌아가야 하는지 스스로 판단한 뒤 그 강의만 다시 읽습니다. 어디로 돌아가야 할지 모르는 것이 진짜 막힌 것입니다.
통과선은 43문항입니다. 이 단원의 정사영이 06단원의 스펙트럼 분해와 89강의 주성분분석으로 그대로 이어지므로 기준을 높게 둡니다.
| 구하려는 것 | 쓸 도구 | 강의 |
|---|---|---|
| 정규직교기저에서 좌표 | 내적 | 80 |
| 직교기저 만들기 | 그람슈미트 (손계산) | 80 |
| 직교기저 만들기 (코드) | 하우스홀더 qr |
80 |
| 부분공간 정사영 | P=W(W^{\top}W)^{-1}W^ | 80 |
| 정규직교이면 정사영 | QQ^ | 80 |
| 분해로 저장 | 81 | |
| 최소제곱 (코드) | R\mathbf{x}=Q^{\top}\mathbf | 81 |
| 최소제곱 (식) | A^{\top}A\hat{\mathbf{x}}=A^{\top}\mathbf | 82 |
| 자유도 | , | 83 |
| 영향력 진단 | 레버리지 h_ | 83 |
| 계수 부족한 경우 | 의사역행렬 A^ | 83 |
첫째, 고전 그람슈미트를 코드로 쓰면 안 됩니다. 조건이 나쁘면 오차가 로 커져 직교성이 완전히 무너집니다. 검산에서 이 나왔습니다.
둘째, 정규방정식은 조건수를 제곱합니다. 이면 QR의 오차가 일 때 정규방정식은 입니다.
셋째, 멱등만으로는 정사영이 아닙니다. 대칭도 필요하며, 없으면 비스듬히 내려 최소 거리를 주지 않습니다.
문제 1. 정규직교기저에서 좌표를 구하는 식을 쓰세요.
답. 입니다.
문제 2. 그 이점을 계산량으로 쓰세요.
답. 에서 으로 줄어듭니다.
문제 3. 파스발 항등식을 쓰세요.
답. 입니다.
문제 4. 그람슈미트의 한 단계를 쓰세요.
답. 이고 정규화합니다.
문제 5. 그 단계가 직교를 만드는 근거를 쓰세요.
답. 이미 만든 와 내적하면 합에서 한 항만 남아 상쇄됩니다.
문제 6. 이면 무엇을 알 수 있습니까?
답. 원래 벡터들이 일차종속입니다.
문제 7. 그람슈미트가 보존하는 성질을 쓰세요.
답. 처음 개가 생성하는 부분공간입니다.
문제 8. 과 을 직교화하세요.
답. 이고 입니다.
문제 9. 정사영 행렬의 두 공식을 쓰세요.
답. 이고 정규직교이면 입니다.
문제 10. 정사영을 특징짓는 두 성질을 쓰세요.
답. 멱등 와 대칭 입니다.
문제 11. 대칭이 없으면 무엇이 무너집니까?
답. 최소 거리 성질입니다. 비스듬히 내리기 때문입니다.
문제 12. 고전과 수정 그람슈미트의 차이와 오차 차수를 쓰세요.
답. 원래 벡터와 내적하느냐 갱신된 벡터와 내적하느냐이며, 오차가 각각 와 입니다.
문제 13. QR 분해의 정의와 유일성 조건을 쓰세요.
답. 이며 의 대각을 양수로 잡으면 유일합니다.
문제 14. 의 성분을 쓰세요.
답. 이며 입니다.
문제 15. 이 위삼각인 이유를 쓰세요.
답. 가 처음 개의 로만 만들어지기 때문입니다.
문제 16. 의 뜻을 쓰세요.
답. 정규화 전 벡터의 길이이며 앞의 것들과의 독립성 정도입니다.
문제 17. 를 로 쓰세요.
답. 입니다.
문제 18. 축소형과 완전형의 크기를 쓰세요.
답. 각각 과 입니다.
문제 19. 축소형 가 직교행렬입니까?
답. 아닙니다. 이지만 입니다.
문제 20. 축소형에서 이 무엇입니까?
답. 열공간으로의 정사영 행렬입니다.
문제 21. 완전형 의 뒤쪽 열이 무엇을 생성합니까?
답. 좌영공간 입니다.
문제 22. QR로 최소제곱을 푸는 절차를 쓰세요.
답. , , 후진대입입니다.
문제 23. 을 곱해도 되는 이유를 쓰세요.
답. 직교변환이 노름을 보존하기 때문입니다.
문제 24. QR 알고리즘이 고유값을 보존하는 이유를 쓰세요.
답. 로 직교 닮음이기 때문입니다.
문제 25. 최소제곱 문제를 식으로 쓰세요.
답. 입니다.
문제 26. 기하적으로 무엇을 찾는 것입니까?
답. 열공간 위에서 에 가장 가까운 점입니다.
문제 27. 최적 조건을 기하로 쓰고 행렬식으로 옮기세요.
답. 잔차가 열공간과 수직이며 입니다.
문제 28. 정규방정식과 그 이름의 유래를 쓰세요.
답. 이며 "정규"는 수직을 뜻합니다.
문제 29. 해가 유일할 조건을 쓰세요.
답. 의 열이 일차독립, 즉 입니다.
문제 30. 정규방정식이 언제나 해를 갖는 이유를 쓰세요.
답. 이기 때문입니다.
문제 31. 최소임을 보이는 등식을 쓰세요.
답. 입니다.
문제 32. 임계점이 전역 최소인 근거를 쓰세요.
답. 헤세 행렬 가 양반정치라 볼록합니다.
문제 33. 가 무엇입니까?
답. 의 열공간 정사영입니다.
문제 34. 절편이 있는 회귀에서 잔차의 두 조건을 쓰세요.
답. 합이 이고 설명변수와의 내적이 입니다.
문제 35. 열이 종속이면 무엇이 유일하고 무엇이 아닙니까?
답. 예측값과 잔차는 유일하고 계수는 유일하지 않습니다.
문제 36. 능형회귀의 방정식과 그것이 언제나 가역인 이유를 쓰세요.
답. 이며 입니다.
문제 37. 모자행렬의 정의와 이름의 유래를 쓰세요.
답. 이며 에 모자를 씌워 를 만듭니다.
문제 38. 와 를 쓰세요.
답. 모형 자유도 와 잔차 자유도 입니다.
문제 39. 분산 추정에서 로 나누는 이유를 쓰세요.
답. 잔차가 차원 공간에 갇혀 있기 때문입니다.
문제 40. 레버리지의 정의와 합을 쓰세요.
답. 이며 합이 입니다.
문제 41. 레버리지가 큰 점의 잔차 분산과 그 함의를 쓰세요.
답. 로 작아, 영향력 큰 이상치가 작은 잔차로 위장할 수 있습니다.
문제 42. 표준화 잔차의 식을 쓰세요.
답. 입니다.
문제 43. 가 무엇입니까?
답. 영행렬입니다.
문제 44. 의사역행렬의 네 조건을 쓰세요.
답. , , , 입니다.
문제 45. 와 가 각각 무엇입니까?
답. 열공간과 행공간으로의 직교 정사영입니다.
문제 46. 가 만족하는 두 조건과 그 해가 사는 공간을 쓰세요.
답. 잔차가 최소이고 그중 노름이 최소이며, 행공간에 있습니다.
문제 47. 정사영 행렬의 고유값과 중복도를 쓰세요.
답. 이 개, 이 개입니다.
문제 48. 을 기하로 설명하고 절편이 필요한 이유를 쓰세요.
답. 중심화된 와 예측값 사이 각도의 코사인 제곱이며, 절편이 있어야 라 세 정사영이 겹쳐 분산분해가 성립합니다.
43문항 이상 맞았으면 06단원으로 넘어갑니다. 그렇지 않으면 아래 표를 보고 해당 강의로 돌아갑니다.
| 틀린 문항 | 돌아갈 곳 |
|---|---|
| 1~12 | 80강 직교기저와 그람슈미트 과정 |
| 13~24 | 81강 QR 분해 |
| 25~36 | 82강 최소제곱과 정규방정식 |
| 37~48 | 83강 정사영 행렬과 회귀의 기하 |
특히 다음 세 문항을 틀렸다면 반드시 돌아가야 합니다.
| 문항 | 왜 중요한가 |
|---|---|
| 27 | 직교 조건 하나에서 정규방정식이 세 줄로 나옵니다 |
| 35 | 다중공선성의 정확한 내용입니다 |
| 46 | 88강의 SVD와 91강의 조건수로 이어집니다 |