235강부터 238강까지의 문제집입니다. 48문항이고 강의를 다 읽은 뒤에 풀도록 짰습니다.
모든 수치는 각 강의의 코드 검산에서 그대로 가져왔습니다. 답을 외우는 문제가 아니라 어느 강의 어느 자리를 보면 되는지 되짚는 문제입니다.
| 묶음 | 문항 | 무엇을 묻나 |
|---|---|---|
| A | 부터 | 미니배치의 분산 |
| B | 부터 | 수렴 조건 |
| C | 부터 | 배치와 학습률 |
| D | 부터 | 분산 감소 |
문제 1. 미니배치 그래디언트의 기댓값이 무엇인지 쓰세요.
답. 전체 그래디언트입니다.
문제 2. 강 검산에서 배치 일 때 한 번 뽑은 값의 최대 차를 쓰세요.
답. 입니다.
문제 3. 강 검산에서 배치 의 개 대비 분산 비를 쓰세요.
답. 입니다.
문제 4. 최적점에서 미니배치 그래디언트가 이 아닌 이유를 쓰세요.
답. 표본마다의 그래디언트가 서로 다르고 그 합만 이기 때문입니다.
문제 5. 강 검산에서 배치 과 배치 의 최적점 그래디언트 노름을 쓰세요.
답. 와 입니다.
문제 6. 강 검산에서 학습률 와 의 최적점과의 거리를 쓰세요.
답. 과 입니다.
문제 7. 배치 크기 비교에서 무엇을 고정해야 공정한지 쓰세요.
답. 무엇을 아끼려는지 정하고 그것을 고정해야 합니다.
문제 8. 강 검산에서 표본 방문 수를 맞췄을 때 배치 와 의 최적 손실 대비를 쓰세요.
답. 와 입니다.
문제 9. 강 검산에서 선형 스케일링을 적용한 배치 와 의 최적 손실 대비를 쓰세요.
답. 과 입니다.
문제 10. 비복원 섞기가 복원 추출보다 나은 이유를 쓰세요.
답. 한 판 안에서 모든 표본을 정확히 한 번씩 보기 때문입니다.
문제 11. 강 검산에서 안 섞었을 때와 섞었을 때의 최적 손실 대비를 쓰세요.
답. 와 입니다.
문제 12. 강 검산에서 배치 과 의 잡음 나누기 신호를 쓰세요.
답. 과 입니다.
문제 13. 떨림의 크기를 정하는 두 손잡이를 쓰세요.
답. 학습률과 배치 크기이고 그 비가 정합니다.
문제 14. 강 검산에서 학습률 과 의 평균 초과손실을 쓰세요.
답. 과 입니다.
문제 15. 강 검산에서 배치 와 의 배치 곱하기 초과손실을 쓰세요.
답. 와 입니다.
문제 16. 로빈스와 먼로의 두 조건을 쓰세요.
답. 학습률의 합이 무한이고 제곱합이 유한이어야 합니다.
문제 17. 강 검산에서 와 의 초과손실을 쓰세요.
답. 과 입니다.
문제 18. 강 검산에서 상수 를 붙였을 때의 초과손실을 쓰세요.
답. 입니다.
문제 19. 강볼록에서 거리 제곱이 어떻게 주는지 쓰세요.
답. 걸음 수의 역수로 줍니다.
문제 20. 강 검산에서 잡음이 없을 때 걸음과 걸음의 초과손실을 쓰세요.
답. 와 입니다.
문제 21. 강 검산에서 잡음 일 때 깊은 골에 간 비율을 쓰세요.
답. 입니다.
문제 22. 강 검산에서 코사인과 의 초과손실을 쓰세요.
답. 과 입니다.
문제 23. 강 검산에서 학습률 일 때 준비 구간 없음과 걸음의 발산 비율을 쓰세요.
답. 과 입니다.
문제 24. 실무의 감소식이 이론과 다른 이유를 쓰세요.
답. 예산이 유한하고 그 안에서 최선을 노리기 때문입니다.
문제 25. 학습률 상한을 정하는 것이 무엇인지 쓰세요.
답. 헤세의 가장 큰 고윳값이고 상한은 그 역수의 두 배입니다.
문제 26. 강 검산에서 상한 대비 과 일 때 어떻게 되는지 쓰세요.
답. 은 수렴하고 는 발산합니다.
문제 27. 강 검산에서 배치 가 견딘 최대 학습률의 상한 대비를 쓰세요.
답. 입니다.
문제 28. 선형 스케일링이 깨지는 조건을 쓰세요.
답. 학습률이 상한에 닿을 때입니다.
문제 29. 강 검산에서 배치 과 의 선형 규칙 초과손실을 쓰세요.
답. 과 입니다.
문제 30. 강 검산에서 배치 의 선형과 제곱근 초과손실을 쓰세요.
답. 와 입니다.
문제 31. 임계 배치 크기가 무엇인지 쓰세요.
답. 배치를 키워도 걸음 수가 더 안 줄기 시작하는 크기입니다.
문제 32. 강 검산에서 배치 에서 로 갈 때 걸음이 줄어든 비를 쓰세요.
답. 입니다.
문제 33. 강 검산에서 예측한 임계 배치 크기를 쓰세요.
답. 입니다.
문제 34. 강 검산에서 가장 완만한 방향이 걸음 뒤에 남긴 비율을 쓰세요.
답. 입니다.
문제 35. 강 검산에서 표준화하고 배치 일 때의 걸음 수를 쓰세요.
답. 걸음입니다.
문제 36. 강 검산에서 상한의 배와 배의 걸음 손실을 쓰세요.
답. 과 입니다.
문제 37. 모멘텀이 걸음 크기를 몇 배로 키우는지 쓰세요.
답. 나누기 빼기 계수만큼입니다.
문제 38. 강 검산에서 계수 일 때 같은 학습률과 나눠 맞춘 초과손실을 쓰세요.
답. 과 입니다.
문제 39. 강 검산에서 계수 의 유효 표본 수와 분산 비를 쓰세요.
답. 과 입니다.
문제 40. 잡음이 없어도 모멘텀이 도움이 되는 이유를 쓰세요.
답. 골짜기에서 같은 방향의 그래디언트가 쌓이기 때문입니다.
문제 41. 강 검산에서 계수 과 의 걸음 수를 쓰세요.
답. 와 입니다.
문제 42. 강 검산에서 계수 의 초과손실을 쓰세요.
답. 입니다.
문제 43. 기준점 보정이 편향을 안 만드는 이유를 쓰세요.
답. 기댓값을 취하면 보정 항 둘이 서로 지워지기 때문입니다.
문제 44. 강 검산에서 기준점 거리 일 때 보통 분산과 보정 분산을 쓰세요.
답. 과 입니다.
문제 45. 강 검산에서 갱신 주기 의 자료 통과 횟수를 쓰세요.
답. 입니다.
문제 46. 강 검산에서 학습률 일 때 평균이 몇 배 좋아졌는지 쓰세요.
답. 배입니다.
문제 47. 강 검산에서 아무것도 안 쓴 것과 셋 다 쓴 것의 초과손실을 쓰세요.
답. 과 입니다.
문제 48. 잡음이 필요한 경우를 쓰세요.
답. 골이 여럿이라 국소 최소를 탈출해야 할 때입니다.
| 무엇을 틀렸나 | 어디로 돌아가나 |
|---|---|
| 부터 | 강 |
| 부터 | 강 |
| 부터 | 강 |
| 부터 | 강 |
여러 묶음에서 고르게 틀렸으면 단원 index의 표들을 먼저 다시 봅니다. 네 강의가 서로를 어떻게 부르는지가 거기에 모여 있습니다.