205강부터 209강까지를 섞어 묻습니다. 모두 문항이며 다섯 부분으로 나뉩니다.
| 부분 | 범위 | 문항 |
|---|---|---|
| 1부 | 경험적 위험 최소화 | ~ |
| 2부 | 손실의 유도 | ~ |
| 3부 | 선형회귀와 수치 안정성 | ~ |
| 4부 | 로지스틱과 반복법 | ~ |
| 5부 | 다중분류와 실무 | ~ |
합격선은 문항입니다. 이 단원은 넷을 정하면 알고리즘이 정해진다는 것이 핵심입니다. 특히 분포 가정이 손실을 정하는 것, 볼록성이 무엇을 보장하고 무엇을 안 하는 것, 계산 경로가 정확도를 정하는 것, 정보가 모자라면 자료가 답을 못 정한다는 것은 반드시 손으로 설명할 수 있어야 합니다.
문제 1. 참 위험과 경험적 위험의 차이를 쓰세요.
답. 참 분포 전체에 대한 평균과 가진 표본에 대한 평균입니다.
문제 2. 검산에서 표본 와 의 두 위험을 쓰세요.
답. 과 , 과 입니다.
문제 3. 학습 알고리즘이 정하는 넷을 쓰세요.
답. 가설 집합, 손실함수, 최적화 방법, 정규화입니다.
문제 4. 검산에서 제곱오차를 멀리서 시작했을 때의 결과를 쓰세요.
답. 기울기 에 절편 로 참값에서 떨어집니다.
문제 5. 검산에서 교차엔트로피의 두 시작점 결과를 쓰세요.
답. 둘 다 와 로 같습니다.
문제 6. 대리 손실이 무엇인지 쓰세요.
답. 최적화가 안 되는 - 손실을 위에서 덮는 미분 가능한 볼록 손실입니다.
문제 7. 검산에서 여유 일 때 세 대리 손실을 쓰세요.
답. , , 입니다.
문제 8. 검산에서 이상점 개일 때 세 손실이 돌아간 각도를 쓰세요.
답. , , 도입니다.
문제 9. 검산에서 차수 의 두 위험과 계수 크기를 쓰세요.
답. 과 이며 계수는 입니다.
문제 10. 합을 기준으로 두 목표의 무게를 고르면 왜 안 되는지 쓰세요.
답. 기준이 곧 무게 인 목적함수라 언제나 이 나오기 때문입니다.
문제 11. 지수족의 일반형을 쓰세요.
답. 입니다.
문제 12. 의 일계와 이계도함수가 무엇인지 쓰세요.
답. 평균과 분산입니다.
문제 13. 검산에서 베르누이의 일 때 평균과 분산을 쓰세요.
답. 과 입니다.
문제 14. 검산에서 음의 로그우도와 제곱오차의 차이를 쓰세요.
답. 로 일정하며 그것이 상수 항입니다.
문제 15. 검산에서 가중 제곱오차와 그냥 제곱오차의 참값과의 거리를 쓰세요.
답. 과 입니다.
문제 16. 정준 연결함수를 쓰면 기울기가 어떤 모양인지 쓰세요.
답. 예측에서 관측을 뺀 것에 를 곱한 것의 평균입니다.
문제 17. 검산에서 개수 자료에 정규를 가정했을 때의 음수 예측 비율을 쓰세요.
답. 입니다.
문제 18. 릿지의 를 사전분포로 쓰세요.
답. 잡음 분산을 사전분포 분산으로 나눈 값입니다.
문제 19. 검산에서 라소의 가 과 일 때 이 된 계수 수를 쓰세요.
답. 개와 개입니다.
문제 20. 정규방정식을 쓰고 그 기하적 뜻을 쓰세요.
답. 이며 잔차가 의 열공간에 수직이라는 뜻입니다.
문제 21. 검산에서 사영행렬의 대각합과 고유값 범위를 쓰세요.
답. 대각합이 이고 고유값이 아니면 입니다.
문제 22. 검산에서 표본 일 때 과 로 나눈 결과를 쓰세요.
답. 와 입니다.
문제 23. 를 만들면 조건수가 어떻게 되는지 쓰세요.
답. 제곱이 됩니다.
문제 24. 검산에서 조건수 일 때 정규방정식과 QR의 오차를 쓰세요.
답. 과 입니다.
문제 25. 검산에서 잔차가 인 세 해의 계수 크기를 쓰세요.
답. , , 입니다.
문제 26. 검산에서 표본 에 변수 인 자료의 특이값이 몇 개인지 쓰세요.
답. 개입니다.
문제 27. 레버리지가 무엇인지 정사영으로 쓰고 검산 값을 쓰세요.
답. 사영행렬의 대각 원소이며 합이 이고 평균이 입니다.
문제 28. 검산에서 변수 개와 개의 결정계수와 수정 결정계수를 쓰세요.
답. 과 , 와 입니다.
문제 29. 검산에서 절편을 정규화했을 때와 안 했을 때의 절편을 쓰세요.
답. 와 입니다.
문제 30. 로지스틱에 닫힌 해가 없는 이유를 쓰세요.
답. 기울기 식 안에 가 시그모이드로 들어가 분리되지 않기 때문입니다.
문제 31. 검산에서 세 자리의 헤세 최소 고유값을 쓰세요.
답. , , 입니다.
문제 32. 검산에서 계수를 배로 했을 때 곡률이 몇 분의 몇이 되는지 쓰세요.
답. 입니다.
문제 33. 검산에서 뉴턴의 걸음과 걸음 오차를 쓰세요.
답. 과 입니다.
문제 34. 검산에서 변수 일 때 뉴턴과 경사하강의 걸음당 비용 비를 쓰세요.
답. 배입니다.
문제 35. IRLS가 무엇을 반복하는지 쓰고 가중치가 무엇인지 쓰세요.
답. 가중 최소제곱을 반복하며 가중치는 입니다.
문제 36. 검산에서 예측 확률 에서 구간과 에서 구간의 평균 가중치를 쓰세요.
답. 와 입니다.
문제 37. 검산에서 완전 분리 자료의 걸음 계수 크기를 쓰세요.
답. 입니다.
문제 38. 검산에서 표본 에 변수 과 일 때의 완전 분리 비율을 쓰세요.
답. 과 입니다.
문제 39. 검산에서 원자료와 표준화한 뒤의 경사하강 걸음 기울기를 쓰세요.
답. 과 입니다.
문제 40. 소프트맥스에 상수를 더하면 어떻게 되는지 쓰세요.
답. 확률이 안 바뀌며 자유 모수가 개분입니다.
문제 41. 검산에서 두 맞추기 방식의 교차엔트로피와 계수 크기를 쓰세요.
답. 둘 다 이고 계수는 과 입니다.
문제 42. 소프트맥스 교차엔트로피의 로짓에 대한 기울기를 쓰세요.
답. 예측 확률 벡터에서 원핫을 뺀 것입니다.
문제 43. 검산에서 야코비의 행의 합과 가장 작은 고유값을 쓰세요.
답. 둘 다 입니다.
문제 44. 검산에서 세 넓히기 방법의 검증 교차엔트로피를 쓰세요.
답. , , 입니다.
문제 45. 검산에서 갈래가 만일 때 표본당 곱셈 횟수를 쓰세요.
답. 번입니다.
문제 46. 검산에서 하나 대 나머지의 확률 합 최솟값과 최댓값을 쓰세요.
답. 과 입니다.
문제 47. 검산에서 드문 두 갈래의 예측된 비율을 쓰세요.
답. 둘 다 입니다.
문제 48. 검산에서 사전확률로 나눴을 때의 정확도와 거시 평균 재현율을 쓰세요.
답. 과 입니다.
문항 과 가 이 단원의 출발점입니다. 표본 에 계수 개면 경험적 위험 인데 참 위험이 입니다. 같은 표본으로 고르고 같은 표본으로 점수를 매기므로 구조적으로 낙관되며, 이것이 단원 전체의 동기입니다.
문항 와 가 짝입니다. 같은 자료에서 교차엔트로피는 두 시작점에서 소수점 여섯 자리까지 같은 자리에 왔고, 제곱오차는 멀리서 시작하면 떨어진 곳에 갇혔습니다. 손실과 활성화를 짝으로 골라야 하는 이유이며, 강 문제 의 기울기 표가 여기서 학습 실패로 나타납니다.
문항 을 틀렸다면 강 문제 을 다시 봐야 합니다. 정준 연결함수를 쓰면 정규든 베르누이든 포아송이든 기울기가 예측에서 관측을 뺀 것으로 같습니다. 그 한 줄이 에서 나오고, 강의 IRLS와 강의 소프트맥스가 모두 그 위에 섭니다.
문항 과 가 3부의 핵심입니다. 수식이 맞아도 계산 경로가 나쁘면 조건수 에서 오차가 입니다. 계수 자체가 인데 그만큼 틀리면 답이 없는 것과 같습니다. 강에서 배운 것이 여기서 실제 손해로 나타났습니다.
문항 와 와 이 하나의 이야기입니다. 차수 이 점 개를 다 지나고, 잔차 인 해가 무한히 많고, 라벨이 무작위인데 표본 에 변수 면 언제나 완전히 나뉩니다. 셋 다 "정보가 모자라다"는 같은 신호이며, 그때 답을 정하는 것은 자료가 아니라 우리가 넣은 가정입니다.
문항 과 이 단원과 단원의 예고입니다. 드문 갈래는 확률이 맞는데도 한 번도 예측되지 않고, 사전확률로 나누면 재현율이 에서 으로 오르는 대신 정확도가 에서 로 내려갑니다. 학습을 다시 하지 않고 결정 규칙만 바꾸는 것이 강과 강의 주제입니다.
다음은 03단원 일반화의 수학입니다. 이 단원이 "어떻게 최소화할 것인가"를 답했고, 다음 단원이 "그 답이 새 자료에서도 맞는가"를 묻습니다.