113강부터 116강까지를 섞어 묻습니다. 모두 문항이며 세 부분으로 나뉩니다.
| 부분 | 범위 | 문항 |
|---|---|---|
| 1부 | 라그랑주 승수와 KKT | ~ |
| 2부 | 상보성과 쌍대 | ~ |
| 3부 | 정규화와 희소성 | ~ |
합격선은 문항입니다. 이 단원은 214강 SVM과 211강 라소의 전제이고, 승수 해석은 289강 PPO까지 이어집니다. 특히 상보성 조건과 희소성의 기하는 반드시 손으로 설명할 수 있어야 합니다.
문제 1. 제약이 있으면 이 최적성 조건입니까?
답. 아닙니다. 움직일 수 있는 방향이 제한되기 때문입니다.
문제 2. 제약곡선의 접공간을 쓰세요.
답. 에 수직인 벡터들의 집합입니다.
문제 3. 라그랑주 조건을 쓰고 기하적 뜻을 쓰세요.
답. 이며 의 등고선과 제약곡선이 접합니다.
문제 4. 그 증명의 핵심 두 줄을 쓰세요.
답. 제약 위의 곡선에 대해 이고 입니다.
문제 5. 라그랑주 함수를 쓰고 로 미분하면 무엇이 나오는지 쓰세요.
답. 이며 로 미분하면 제약이 나옵니다.
문제 6. 의 정류점이 최소입니까?
답. 아닙니다. 방향으로 선형이라 안장점입니다.
문제 7. 를 에서 최대화하고 를 구하세요.
답. 에서 최댓값 이고 입니다.
문제 8. 포락선 정리를 쓰세요.
답. 입니다.
문제 9. 제약이 개일 때 라그랑주 조건과 제약자격을 쓰세요.
답. 이며 제약 기울기들이 일차독립이어야 합니다.
문제 10. 에서 를 최대화하면 무엇이 나옵니까?
답. 이며 목적값이 곧 고유값이라 최댓값이 입니다.
문제 11. 활성 제약과 비활성 제약을 구별해 쓰세요.
답. 최적점에서 등호가 성립하면 활성, 엄격한 부등호이면 비활성입니다.
문제 12. KKT의 네 조건 이름을 쓰세요.
답. 정류성, 원시 실행가능, 쌍대 실행가능, 상보성입니다.
문제 13. 부등식의 포락선 정리를 쓰세요.
답. 입니다.
문제 14. 의 근거를 쓰세요.
답. 영역을 넓히면 최솟값이 늘 수 없으므로 이기 때문입니다.
문제 15. KKT의 기하적 형태를 쓰고 등식 제약과 비교하세요.
답. 가 활성 기울기들의 볼록원뿔 안에 있습니다. 등식은 부분공간이고 부등식은 원뿔입니다.
문제 16. KKT가 충분조건이 되는 경우를 쓰세요.
답. 와 가 볼록이고 가 아핀일 때입니다.
문제 17. 상보성 조건을 쓰고 뜻을 쓰세요.
답. 이며 둘 중 하나가 이라는 뜻입니다.
문제 18. 퇴화가 무엇입니까?
답. 제약이 활성인데 승수도 인 경우입니다.
문제 19. 단위공 사영의 KKT 정류 조건을 쓰세요.
답. 이며 오차 벡터가 사영 벡터와 평행합니다.
문제 20. 볼록집합 사영의 변분부등식을 쓰세요.
답. 입니다.
문제 21. 쌍대 함수의 정의를 쓰세요.
답. 입니다.
문제 22. 약쌍대성을 쓰고 증명의 핵심을 쓰세요.
답. 이며 과 에서 이기 때문입니다.
문제 23. 쌍대 문제가 언제나 볼록인 이유를 쓰세요.
답. 가 아핀함수들의 하한이라 오목이기 때문입니다.
문제 24. 쌍대 간극의 정의와 생기는 원인을 쓰세요.
답. 이며 볼록성이 깨질 때 생깁니다. 이산 제약이 대표적입니다.
문제 25. 슬레이터 조건을 쓰세요.
답. 볼록이고 부등식을 엄격히 만족하는 실행가능점이 있으면 강쌍대성이 성립합니다.
문제 26. s.t. 의 쌍대 함수와 를 구하세요.
답. 이고 에서 입니다.
문제 27. 이차계획 s.t. 의 쌍대를 쓰세요.
답. 이며 변수가 개입니다.
문제 28. 최소최대 부등식을 쓰고 직관적 이유를 쓰세요.
답. 이며 먼저 움직이는 쪽이 불리하기 때문입니다.
문제 29. 안장점 조건에서 자동으로 나오는 KKT 조건을 쓰세요.
답. 상보성입니다.
문제 30. SVM 쌍대에서 인 점의 여백을 쓰세요.
답. 보다 큽니다.
문제 31. 커널 기법이 가능한 이유를 쓰세요.
답. 쌍대에서 데이터가 내적으로만 나타나기 때문입니다.
문제 32. 선형계획법의 쌍대를 쓰세요.
답. s.t. , 의 쌍대는 s.t. , 입니다.
문제 33. 벌점 형태와 제약 형태의 관계를 쓰세요.
답. 라그랑주 함수에서 상수 를 뺀 것이라 같은 해를 줍니다.
문제 34. 능형회귀의 해를 쓰세요.
답. 입니다.
문제 35. 와 의 관계를 쓰세요.
답. 입니다.
문제 36. 의 기계학습적 뜻을 쓰세요.
답. 복잡도 한 단위의 가격입니다.
문제 37. 연성 문턱 연산자를 쓰세요.
답. 입니다.
문제 38. , 일 때 라소와 능형의 해를 각각 구하세요.
답. 라소는 이고 능형은 입니다.
문제 39. 이 라소 최적일 조건을 쓰세요.
답. 입니다.
문제 40. 라소의 KKT 조건 세 경우를 쓰세요.
답. 이면 , 이면 , 이면 입니다.
문제 41. 희소성의 기하적 근거를 쓰세요.
답. 단위구의 꼭짓점이 축 위에 있어 넓은 범위의 목표를 끌어당깁니다.
문제 42. 이 언제나 희소해를 줍니까?
답. 아닙니다. 목표가 대각선 방향이면 변 위에 놓입니다.
문제 43. 차원 공의 꼭짓점 개수와 그곳의 성분 수를 쓰세요.
답. 꼭짓점이 개이고 각각에서 개가 입니다.
문제 44. 정규화가 조건수에 미치는 영향을 쓰세요.
답. 로 줄어듭니다.
문제 45. 근위 연산자의 정의를 쓰고 의 경우를 쓰세요.
답. 이며 이면 연성 문턱입니다.
문제 46. 사영과 근위 연산자의 관계를 쓰세요.
답. 사영은 지시함수의 근위 연산자이며 근위 경사법이 사영 경사법의 일반화입니다.
문제 47. 능형과 라소의 확률적 해석을 쓰세요.
답. 각각 가우스 사전분포와 라플라스 사전분포에 대응하는 최대사후추정입니다.
문제 48. 벡터의 희소에 대응하는 행렬의 성질과 그 볼록 완화를 쓰세요.
답. 저계수이며 볼록 완화는 핵노름 입니다.
틀린 문항이 어느 부분에 몰렸는지를 먼저 봅니다.
| 몰린 곳 | 다시 볼 것 |
|---|---|
| 1부 | 113강 문제 2, 114강 문제 2와 문제 3 |
| 2부 | 114강 문제 2, 115강 문제 1과 문제 2 |
| 3부 | 116강 문제 3과 문제 4, 심화 1 |
문항 를 틀렸다면 반드시 돌아갑니다. 이 논리에서 나온다는 점을 모르면 KKT를 규칙으로만 외우게 되고, 부호를 자주 틀리게 됩니다.
문항 과 가 짝입니다. 상보성을 따로 요구하는 것처럼 보이지만, 안장점 조건에서 자동으로 나옵니다. 그 유도를 이해하면 KKT 전체가 하나의 구조로 보입니다.
문항 과 도 함께 봅니다. 희소성의 근거가 꼭짓점의 기하라는 것과, 그것이 보장이 아니라 경향이라는 것을 함께 알아야 실무에서 오해하지 않습니다.
문항 는 115강의 핵심입니다. 쌍대는 언제나 하한이지만 볼록성이 깨지면 참값에 닿지 못하며, 그 간극이 정수계획법의 근본 난점입니다.
다음은 117강부터 시작하는 06단원 미분방정식과 흐름입니다. 최적화를 시간에 따라 흐르는 연속 과정으로 다시 보며, 109강의 경사하강법이 미분방정식의 이산화임을 확인합니다.