43강에서 1계 도함수로 올라가고 내려감을 읽었습니다. 그런데 같은 "올라간다"에도 두 가지 모양이 있습니다. 점점 가팔라지며 올라갈 수도 있고 점점 완만해지며 올라갈 수도 있습니다. 저축 잔고가 늘어나는 것과 늘어나는 속도가 빨라지는 것은 다른 이야기입니다.
이 차이를 잡아내는 것이 볼록성이며, 도구는 2계 도함수입니다. 41강에서 이차 도함수를 "휘는 방향"으로 읽는다고 말만 하고 넘어갔는데, 그 말이 여기서 정식 정리가 됩니다.
볼록성은 이 커리큘럼에서 대단히 멀리까지 쓰입니다. 107강의 볼록집합과 볼록함수, 108강의 볼록성 판정과 부등식, 109강의 경사하강법이 모두 여기서 만든 개념의 확장입니다. 최적화가 잘 풀리는 문제와 안 풀리는 문제를 가르는 경계선이 볼록성입니다.
문제. 두 함수 과 를 에서 봅니다. 둘 다 이 구간에서 증가합니다.
(1) 각각 두 끝점 과 를 잇는 선분을 생각합니다. 에서 그래프와 선분 중 어느 쪽이 위입니까?
(2) 각각 이 구간에서 증가하는지 감소하는지 정하세요.
(3) (1)과 (2)의 답 사이에 어떤 관계가 보입니까?
생각의 실마리. (1)에서 선분의 방정식을 세워 의 높이를 계산하고 함숫값과 비교합니다. 두 점을 지나는 직선이므로 42강 평균값 정리의 증명에서 쓴 것과 같은 일차식입니다. (3)에서는 "기울기가 어떻게 변하는가"와 "그래프가 어느 쪽으로 휘는가"를 나란히 놓아 봅니다.
풀이. (1) 의 경우 두 끝점은 과 입니다. 선분의 기울기는 이고 방정식은 입니다. 에서 선분의 높이는 이고 함숫값은 입니다. 함수가 아래에 있고 선분이 위에 있습니다.
의 경우 두 끝점은 과 입니다. 기울기는 이고 방정식은 입니다. 에서 선분의 높이는 이고 함숫값은 입니다. 함수가 위에 있고 선분이 아래에 있습니다.
(2) 는 증가합니다. 는 감소합니다.
(3) 관계가 뚜렷합니다. 도함수가 증가하는 쪽은 그래프가 선분 아래에 있고, 도함수가 감소하는 쪽은 그래프가 선분 위에 있습니다. 기울기가 점점 커지면 그래프가 아래로 처지고, 기울기가 점점 작아지면 위로 부풉니다.
이 문제에서 배우는 것: 볼록성의 정의.
관찰한 것을 정의로 굳힙니다. 구간의 임의의 두 점을 잡고 그 사이의 모든 점에서 비교합니다.
아래로 볼록. 구간 의 임의의 두 점 와 임의의 에 대해
가 성립하면 는 에서 아래로 볼록하다고 합니다. 부등호가 항상 강하게 성립하면 순볼록이라 합니다.
왼쪽은 두 점 사이 어느 지점에서의 함숫값이고 오른쪽은 같은 지점에서의 선분의 높이입니다. 이면 이고 이면 이므로 가 에서 로 갈 때 가 에서 까지 훑습니다. 그러니 이 부등식은 "구간 안에서 그래프가 현보다 아래에 있다"를 식으로 적은 것입니다.
부등호를 뒤집으면 위로 볼록입니다. 이름을 정리해 둡니다.
| 우리말 | 영어 | 그래프 모양 | 현과의 관계 |
|---|---|---|---|
| 아래로 볼록 | convex, concave up | 컵 모양입니다 | 그래프가 현 아래에 있습니다 |
| 위로 볼록 | concave, concave down | 뚜껑 모양입니다 | 그래프가 현 위에 있습니다 |
우리말로 "볼록"과 "오목"이라 부르는 책도 있는데 어느 쪽이 볼록인지가 책마다 달라 혼란스럽습니다. 이 책에서는 아래로 볼록과 위로 볼록으로만 씁니다. 그리고 그냥 "볼록"이라고만 적으면 아래로 볼록을 뜻합니다.
(3)에서 관찰한 것도 정리로 예고해 둡니다.
볼록성과 도함수. 미분가능한 가 구간에서 아래로 볼록할 필요충분조건은 이 그 구간에서 넓은 뜻으로 증가하는 것입니다.
증명은 문제 2에서 합니다. 이 서술이 중요한 이유는 볼록성이 원래 두 점을 비교하는 조건인데 도함수 하나의 단조성으로 바뀐다는 데 있습니다. 두 점을 다 뒤질 필요가 없어집니다.
바로 확인 1.
확인 1-1. 에서 , , 일 때 정의의 부등식 양변을 계산해 비교하세요.
답. 왼쪽은 이고 오른쪽은 입니다. 이므로 부등식이 성립합니다.
확인 1-2. 일차함수 이 아래로 볼록인지 위로 볼록인지 판정하세요.
답. 그래프와 현이 완전히 겹치므로 양변이 항상 같습니다. 부등호가 등호로 성립하므로 아래로 볼록이면서 동시에 위로 볼록이고, 순볼록은 아닙니다.
확인 1-3. 아래로 볼록의 정의에서 이라는 조건을 로 바꿔도 되는 이유를 쓰세요.
답. 과 에서는 양변이 각각 와 로 같아져 등호로 성립하므로 조건을 더해도 정의가 달라지지 않습니다.
문제. 가 구간 에서 두 번 미분가능하고 내부의 모든 점에서 이라고 합니다.
(1) 이 에서 순증가함을 보이세요.
(2) 인 세 점에서 와 의 대소를 정하세요.
(3) (2)로부터 가 아래로 볼록함을 이끌어 내세요.
생각의 실마리. (1)은 43강의 판정법을 에 그대로 적용하면 됩니다. 은 의 도함수이기 때문입니다. (2)는 두 차분몫에 각각 평균값 정리를 씁니다. 얻어지는 두 점의 위치를 비교하는 것이 요령입니다. (3)에서는 (2)의 부등식을 정리해 에 대한 상한을 만듭니다.
풀이. (1) 은 의 도함수입니다. 의 내부에서 이므로 43강의 증가 판정법을 에 적용하면 이 에서 순증가합니다.
(2) 에 평균값 정리를 적용하면 어떤 에서
이고, 에 적용하면 어떤 에서
입니다. 이므로 이고, (1)에서 이 순증가하므로 입니다. 따라서 왼쪽 차분몫이 오른쪽 차분몫보다 작습니다.
(3) (2)의 부등식을 정리합니다. 분모가 모두 양수이므로 교차해 곱해도 방향이 유지됩니다.
양변을 전개하고 항을 모으면
입니다. 양변을 으로 나누면
입니다. 여기서 로 두면 이고 이므로, 이 식이 바로 정의의 부등식입니다. 가 와 사이를 자유롭게 움직이므로 전체에서 성립합니다.
이 문제에서 배우는 것: 볼록성 판정법.
볼록성 판정법. 가 구간 에서 두 번 미분가능할 때, 내부의 모든 점에서
이면 는 순볼록(아래로 볼록)하고, 이면 순오목(위로 볼록)합니다.
세 층이 차례로 쌓인 구조를 확인해 두십시오.
| 층 | 내용 | 근거 |
|---|---|---|
| 2계 도함수의 부호입니다 | 가정입니다 | |
| 순증가 | 1계 도함수의 단조성입니다 | 43강 증가 판정법 |
| 아래로 볼록 | 그래프의 휨입니다 | 평균값 정리를 두 번 적용합니다 |
여기서도 43강과 같은 방향의 주의가 필요합니다. 판정법은 한쪽으로만 갑니다.
| 방향 | 성립 여부 |
|---|---|
| 순볼록 | 성립합니다 |
| 순볼록 | 성립하지 않습니다. 가 반례입니다 |
| 아래로 볼록 | 두 번 미분가능하면 양방향 모두 성립합니다 |
는 순볼록하지만 입니다. 43강에서 이 순증가하면서 이었던 것과 정확히 같은 구조입니다.
(2)의 결론은 따로 기억할 값이 있습니다. 볼록함수에서는 차분몫이 오른쪽으로 갈수록 커집니다. 이 성질은 미분가능하지 않은 볼록함수에서도 성립하며, 볼록성의 더 근본적인 특징입니다. 심화 6에서 다룹니다.
바로 확인 2.
확인 2-1. 가 실수 전체에서 순볼록임을 보이세요.
답. 이 모든 실수에서 성립하므로 판정법에 의해 순볼록입니다.
확인 2-2. 의 볼록성을 에서 판정하세요.
답. 이고 이므로 위로 볼록합니다.
확인 2-3. 가 순볼록한데도 인 것이 판정법과 모순되지 않는 이유를 쓰세요.
답. 판정법은 이면 순볼록이라는 한쪽 방향만 주장합니다. 순볼록한 함수가 반드시 이어야 한다는 주장은 하지 않으므로 모순이 아닙니다.
문제. 를 봅니다.
(1) 를 구하고 부호를 구간별로 정하세요.
(2) 볼록성이 바뀌는 점을 찾고 그 점의 좌표를 쓰세요.
(3) 에서 입니다. 에서도 같은 일이 일어납니까?
생각의 실마리. (1)은 을 한 번 더 미분하는 계산입니다. (2)에서는 43강의 임계점 논의와 구조가 똑같습니다. 인 점이 후보이고 좌우 부호 변화가 판정입니다. (3)은 그 구조가 정말 같은지 확인하는 반례 문제입니다.
풀이. (1) 이고 입니다. 에서 음수이고 에서 양수입니다.
(2) 을 지나며 위로 볼록에서 아래로 볼록으로 바뀝니다. 볼록성이 실제로 바뀌므로 이 점이 찾는 점이고, 이므로 좌표는 입니다.
(3) 아닙니다. 이므로 이지만 인 모든 곳에서 입니다. 좌우 모두 아래로 볼록이므로 볼록성이 바뀌지 않습니다.
이 문제에서 배우는 것: 변곡점.
변곡점. 함수가 연속인 점 의 좌우에서 볼록성이 서로 다르면 점 를 변곡점이라 합니다.
정의에서 두 가지를 짚어 둡니다. 첫째, 변곡점은 좌표가 아니라 점입니다. 답을 쓸 때 좌표까지 함께 적는 것이 관례입니다. 둘째, 볼록성이 실제로 바뀌어야 합니다. 한쪽만 보고 판정하면 안 됩니다.
찾는 절차는 43강의 극값 절차와 똑같은 모양입니다.
| 단계 | 극값 (43강) | 변곡점 (44강) |
|---|---|---|
| 후보 모으기 | 이거나 이 없는 점 | 이거나 이 없는 점 |
| 판정 | 의 좌우 부호 변화 | 의 좌우 부호 변화 |
| 함정 | 부호가 안 바뀌면 극값 아님 | 부호가 안 바뀌면 변곡점 아님 |
그러므로 은 변곡점의 필요조건이지 충분조건이 아닙니다. 가 그 반례입니다. 이 사실은 43강에서 이 이면서 극값이 아니었던 것과 완전히 같은 구조이므로, 한쪽을 이해했다면 다른 쪽도 이해한 것입니다.
이 존재하지 않는 점도 후보에 넣어야 합니다. 이 그 경우이며 심화 4에서 다룹니다.
변곡점에서 그래프가 어떻게 보이는지도 알아 두면 좋습니다. 변곡점에서는 접선이 그래프를 가로지릅니다. 한쪽에서는 그래프가 접선 위에 있고 다른 쪽에서는 아래에 있기 때문입니다. 접선이 그래프를 뚫고 지나가는 유일한 자리입니다.
바로 확인 3.
확인 3-1. 의 변곡점을 구하세요.
답. 이므로 이 후보이고 좌우에서 음수와 양수로 바뀝니다. 변곡점은 입니다.
확인 3-2. 의 변곡점을 모두 구하세요.
답. 이므로 후보는 이고 둘 다 부호가 바뀝니다. 이므로 변곡점은 와 입니다.
확인 3-3. 인데 가 변곡점이 아닌 예를 하나 들고 이유를 쓰세요.
답. 에서 입니다. 이 좌우 모두 양수여서 볼록성이 바뀌지 않기 때문입니다.
문제. 의 임계점은 입니다(43강 문제 2).
(1) 를 구하고 두 임계점에서의 값을 계산하세요.
(2) 그 값의 부호와 극대·극소 판정 사이의 관계를 찾으세요.
(3) 이면 어떤 판정을 할 수 있습니까?
생각의 실마리. (1)은 계산입니다. (2)에서는 볼록성의 뜻을 되새깁니다. 임계점에서 접선이 수평인데 그 근처에서 그래프가 컵 모양이면 그 점은 바닥이고, 뚜껑 모양이면 꼭대기입니다. (3)은 성급하게 답하지 말고 세 가지 함수를 시험해 봅니다.
풀이. (1) 이고 입니다. 이고 입니다.
(2) 43강에서 이 극대이고 이 극소였습니다. 이 음수인 곳이 극대이고 양수인 곳이 극소입니다. 이유는 볼록성으로 설명됩니다. 이므로 근처에서 아래로 볼록하고, 접선이 수평인 볼록한 그래프는 그 점이 바닥입니다.
(3) 아무 판정도 할 수 없습니다. 는 이면서 극소이고, 는 이면서 극대이며, 은 이면서 극값이 아닙니다. 세 가지가 모두 가능하므로 이 정보만으로는 구분되지 않습니다.
이 문제에서 배우는 것: 2계 도함수 판정법.
2계 도함수 판정법. 이고 가 존재할 때
결론 양수 는 극솟값입니다 음수 는 극댓값입니다 판정할 수 없습니다. 1계 판정법으로 돌아갑니다
증명은 이렇습니다. 이라고 하면 의 정의에서
이므로, 에 충분히 가까운 에서 입니다(을 썼습니다). 그러면 에서 이고 에서 입니다. 좌우 부호가 음수에서 양수로 바뀌므로 43강의 1계 판정법에 의해 극솟값입니다.
두 판정법을 비교해 둡니다.
| 1계 판정법 | 2계 판정법 | |
|---|---|---|
| 필요한 것 | 좌우 구간의 부호 | 그 점 하나의 값 |
| 장점 | 항상 판정됩니다 | 계산이 짧습니다 |
| 단점 | 부호 조사가 번거롭습니다 | 이면 실패합니다 |
| 적용 조건 | 가 에서 연속 | 가 존재 |
실무에서는 2계 판정법을 먼저 시도하고 이 나오면 1계로 내려가는 것이 보통입니다. 2계 판정법이 실패한다는 것은 정보가 부족하다는 뜻이지 극값이 없다는 뜻이 아닙니다. 이 구분을 놓치면 의 극솟값을 없다고 답하게 됩니다.
미분 불가능한 임계점에는 2계 판정법을 아예 쓸 수 없다는 점도 기억하십시오. 의 에서는 도 없으니 은 더더욱 없습니다. 그런 점은 1계 판정법으로만 다룹니다.
바로 확인 4.
확인 4-1. 의 극값을 2계 판정법으로 가리세요.
답. 에서 이고 입니다. 이므로 극대이고 이므로 극소입니다.
확인 4-2. 의 에서 2계 판정법이 실패함을 보이고 1계 판정법으로 결론을 내세요.
답. 이므로 이라 판정할 수 없습니다. 은 에서 양수이고 에서 음수이므로 극댓값 입니다.
확인 4-3. 의 극값을 2계 판정법으로 가리세요.
답. 에서 입니다. 이므로 이고 극댓값 입니다.
문제. 의 그래프를 조사합니다.
(1) 증가와 감소 구간, 극값을 구하세요.
(2) 볼록성 구간과 변곡점을 구하세요.
(3) 에서의 거동을 정하세요.
(4) 위의 정보를 하나의 표로 모으고 그래프의 개형을 말로 서술하세요.
생각의 실마리. (1)은 43강 드릴 11에서 이미 구했습니다. (2)에서는 을 한 번 더 미분해야 하는데 분모가 이므로 몫의 미분법을 조심스럽게 씁니다. 인수분해해서 부호를 읽을 수 있는 꼴로 만드는 것이 목표입니다. (3)은 34강의 극한 계산입니다.
풀이. (1) 몫의 미분법으로
입니다. 분모가 항상 양수이므로 부호는 이 정합니다. 에서 음수, 에서 양수, 에서 음수입니다. 따라서 에서 극솟값 , 에서 극댓값 입니다.
(2) 을 미분합니다. 분자 , 분모 로 두면 이고 입니다.
분자에서 을 묶습니다.
분모가 양수이므로 부호는 이 정합니다. 근은 이고 모두 홀수 제곱이므로 지날 때마다 부호가 뒤집힙니다. 가장 오른쪽에서 양수이므로
| 구간 | 볼록성 | |
|---|---|---|
| 음수 | 위로 볼록 | |
| 양수 | 아래로 볼록 | |
| 음수 | 위로 볼록 | |
| 양수 | 아래로 볼록 |
세 곳 모두에서 부호가 바뀌므로 변곡점은 세 개입니다. 이고 이므로 변곡점은 , , 입니다.
(3) 분자와 분모를 으로 나누면
이므로 양쪽 모두 으로 갑니다. 에서 이고 에서 이므로 오른쪽에서는 위에서, 왼쪽에서는 아래에서 다가갑니다.
(4) 모든 정보를 한 표로 모읍니다.
| 특징 | 변곡점 | 극소 | 변곡점 | 극대 | 변곡점 |
| -\frac{\sqrt3} | \frac{\sqrt3} |
개형은 이렇습니다. 왼쪽 멀리서 바로 아래에 붙어 오다가 감소하며 내려가고, 에서 휘는 방향을 바꾸며, 에서 바닥 를 찍고 올라섭니다. 원점을 지나며 다시 휘는 방향이 바뀌고, 에서 꼭대기 를 찍은 뒤 내려오다 에서 마지막으로 휘는 방향을 바꾸고 바로 위에 붙어 멀어집니다. 원점에 대해 대칭인 모양입니다.
이 문제에서 배우는 것: 그래프 개형 그리기의 절차.
| 단계 | 할 일 | 쓰는 도구 |
|---|---|---|
| 1 | 정의역과 대칭성을 확인합니다 | 27강의 함수 성질 |
| 2 | 축과의 교점을 구합니다 | 방정식 풀이 |
| 3 | 으로 증감과 극값을 정합니다 | 43강 |
| 4 | 으로 볼록성과 변곡점을 정합니다 | 44강 |
| 5 | 무한대와 불연속점에서의 거동을 봅니다 | 34강, 35강 |
| 6 | 표로 모아 그림을 완성합니다 |
1계와 2계가 하는 일이 서로 다르다는 점이 핵심입니다. 1계는 어디가 봉우리이고 골짜기인지를 정하고, 2계는 그 사이를 어떤 곡선으로 이을지를 정합니다. 두 정보를 모두 가져야 그래프가 하나로 결정됩니다.
문제 5에서 극값이 두 개인데 변곡점이 세 개라는 점도 눈여겨볼 만합니다. 봉우리와 골짜기 사이에는 반드시 휘는 방향이 바뀌는 자리가 있어야 하지만, 그 밖의 자리에서도 바뀔 수 있기 때문입니다.
바로 확인 5.
확인 5-1. 의 극값과 변곡점을 모두 구하세요.
답. 이므로 에서 극댓값 , 에서 극솟값 입니다. 이므로 변곡점은 입니다.
확인 5-2. 확인 5-1의 변곡점이 두 극값의 중점에 있음을 확인하세요.
답. 두 극값점은 와 이고 중점은 으로 변곡점과 일치합니다. 삼차함수는 언제나 변곡점에 대해 점대칭이므로 이 현상이 항상 일어납니다.
확인 5-3. 의 변곡점을 구하세요.
답. 이고 입니다. 에서 이고 부호가 바뀌므로 변곡점은 입니다.
| 판정 | 조건 | 결론 |
|---|---|---|
| 아래로 볼록 | 그래프가 현 아래, 접선 위에 있습니다 | |
| 위로 볼록 | 그래프가 현 위, 접선 아래에 있습니다 | |
| 변곡점 | 의 부호가 바뀝니다 | 접선이 그래프를 가로지릅니다 |
| 극소 (2계) | , | 수평 접선 위에서 컵 모양입니다 |
| 극대 (2계) | , | 수평 접선 아래에서 뚜껑 모양입니다 |
| 판정 불가 | , | 1계 판정법으로 돌아갑니다 |
| 개념 | 동치인 서술 |
|---|---|
| 아래로 볼록 | 현이 그래프 위에 있습니다 |
| 이 넓은 뜻으로 증가합니다 | |
| 입니다 | |
| 그래프가 모든 접선 위에 있습니다 | |
| 차분몫이 오른쪽으로 갈수록 커집니다 |
| 상황 | 절차 |
|---|---|
| 볼록성 구간을 묻습니다 | 의 부호를 구간별로 정합니다 |
| 변곡점을 묻습니다 | 과 없는 점을 찾고 부호 변화를 봅니다 |
| 극값을 빠르게 가립니다 | 2계 판정법을 먼저 시도합니다 |
| 그래프를 그립니다 | 1계와 2계 정보를 한 표에 모읍니다 |
| 자주 하는 실수 | 바로잡기 |
|---|---|
| 이면 변곡점이라고 답합니다 | 부호 변화를 확인해야 합니다 |
| 이면 극값이 없다고 답합니다 | 판정 불가일 뿐이므로 1계로 내려갑니다 |
| 변곡점을 좌표만 씁니다 | 좌표까지 함께 씁니다 |
| 이 없는 점을 후보에서 뺍니다 | 그 점도 변곡점 후보입니다 |
문제 6. 의 볼록성을 판정하세요.
답. 이므로 실수 전체에서 아래로 볼록합니다.
문제 7. 의 변곡점을 구하세요.
답. 에서 이고 부호가 바뀝니다. 이므로 변곡점은 입니다.
문제 8. 의 볼록성 구간을 구하세요.
답. 입니다. 과 에서 아래로 볼록하고 에서 위로 볼록합니다.
문제 9. 문제 8의 함수의 변곡점을 모두 구하세요.
답. 후보는 과 이고 둘 다 부호가 바뀝니다. 이고 이므로 변곡점은 과 입니다.
문제 10. 의 극값을 2계 판정법으로 가리세요. 정의역은 입니다.
답. 에서 입니다. 이므로 이라 극솟값 이고, 이라 극댓값 입니다.
문제 11. 의 에서 변곡점을 구하세요.
답. 에서 입니다. 내부의 에서 부호가 음수에서 양수로 바뀌므로 변곡점은 입니다.
문제 12. 의 변곡점을 구하세요.
답. 이고 입니다. 에서 부호가 바뀌므로 변곡점은 입니다.
문제 13. 의 볼록성 구간과 변곡점을 구하세요.
답. 이고 몫의 미분법으로 입니다. 에서 아래로 볼록하고 바깥에서 위로 볼록하며, 변곡점은 입니다.
문제 14. 일 때 변곡점의 좌표를 모두 구하세요.
답. 후보는 와 입니다. 은 짝수 제곱이라 부호가 안 바뀌므로 는 변곡점이 아니고, 에서만 부호가 바뀌므로 답은 입니다.
문제 15. 의 변곡점을 모두 구하세요.
답. 입니다. 은 짝수 제곱이라 부호가 안 바뀌어 변곡점이 아니고, 에서 바뀌므로 변곡점은 입니다.
문제 16. 의 볼록성 구간을 구하세요.
답. 이고 입니다. 에서 아래로 볼록하고 에서 위로 볼록합니다.
문제 17. 의 변곡점의 좌표를 로 나타내세요. 단 입니다.
답. 에서 입니다. 이므로 부호가 반드시 바뀌어 언제나 변곡점입니다.
문제 18. 의 극값과 볼록성을 에서 조사하세요.
답. 이므로 , 즉 가 임계점입니다. 이고 이므로 극솟값 입니다. 볼록성은 , 즉 를 경계로 바뀝니다.
심화 1. 가 구간 에서 두 번 미분가능하고 이면, 의 임의의 점 에 대해 모든 에서
임을 보이세요. 즉 볼록함수의 그래프는 모든 접선 위에 있습니다.
풀이. 로 둡니다. 목표는 입니다.
이고 , 입니다. 이므로 43강의 판정법에 의해 이 넓은 뜻으로 증가합니다. 따라서 에서 , 즉 이고, 에서 입니다.
인 경우 에서 이므로 가 넓은 뜻으로 증가하고 입니다. 인 경우 에서 이므로 가 넓은 뜻으로 감소하고, 오른쪽 끝에서 이므로 왼쪽 끝에서는 입니다. 두 경우 모두 입니다.
이 부등식이 접선 부등식이며 108강에서 볼록함수의 정의로 격상됩니다. 미분가능성이 없어도 쓸 수 있는 형태로 일반화되기 때문입니다. 219강 이후 경사하강법의 수렴 증명에서도 이 부등식이 출발점입니다.
심화 2. 가 아래로 볼록할 때 임의의 과 , 에 대해
임을 귀납법으로 보이고, 에 적용해 산술기하평균 부등식을 유도하세요.
풀이. 는 볼록성의 정의 그 자체입니다. 에서 성립한다고 가정하고 을 봅니다. 이면 자명하므로 이라 하고 으로 둡니다.
이고 들의 합이 이므로 는 정당한 볼록결합입니다. 의 경우를 적용하면 이고, 귀납 가정으로 입니다. 두 부등식을 합치면
입니다. 이것이 젠센 부등식입니다. 25강의 수학적 귀납법이 여기서 쓰였습니다.
이제 를 봅니다. 이므로 에서 아래로 볼록합니다. 로 두면
이고 양변에 을 곱하면
입니다. 이 순증가이므로
입니다. 산술평균이 기하평균 이상이라는 부등식을 볼록성 하나로 얻었습니다. 이 부등식은 143강의 중심극한정리 논의와 178강 이후 정보이론에서 다시 나옵니다.
심화 3. 이고 인 세 가지 상황을 각각 실현하는 함수를 제시하고, 2계 판정법이 왜 실패하는지 설명하세요.
풀이. 세 함수 모두 에서 입니다.
| 함수 | 의 성격 | ||
|---|---|---|---|
| x^ | 4x^ | 12x^ | 극소입니다 |
| -x^ | -4x^ | -12x^ | 극대입니다 |
| x^ | 3x^ | 극값이 아닙니다 |
세 함수가 근처에서 완전히 다른 모양인데 과 의 값은 똑같습니다. 두 값만으로는 구분할 수 없다는 것이 판정 실패의 정확한 의미입니다.
더 파고들면 첫 번째로 이 아닌 고계도함수가 답을 줍니다. 가 처음으로 이 아닐 때, 이 짝수이면 극값이고 이 홀수이면 극값이 아닙니다. 극값일 때는 이면 극소, 이면 극대입니다. 는 로 짝수이고 이라 극소이며, 은 으로 홀수라 극값이 아닙니다. 표와 일치합니다. 이 판정의 근거는 57강의 테일러 정리이며, 41강에서 고계도함수를 세워 둔 것이 여기서 쓰입니다.
심화 4. 의 이 변곡점임을 보이고, 이 존재하지 않는데도 변곡점인 것이 정의에 어긋나지 않는 이유를 설명하세요.
풀이. 에서 이고
입니다. 에서 이므로 이고 위로 볼록합니다. 에서는 실수 세제곱근으로 읽으면 이므로 이고 아래로 볼록합니다. 좌우에서 볼록성이 다르므로 은 변곡점입니다.
은 존재하지 않습니다. 에서 이기 때문입니다. 그런데 변곡점의 정의는 ""이 아니라 "에서 연속이고 좌우의 볼록성이 다르다"였습니다. 는 에서 연속이고 볼록성이 실제로 바뀌므로 정의를 그대로 만족합니다.
이 예가 말하는 것은 이렇습니다. 변곡점 후보를 인 점으로만 모으면 놓치는 것이 있습니다. 이 존재하지 않는 점도 반드시 후보에 넣어야 하며, 43강에서 임계점의 정의에 "이 없는 점"을 넣은 것과 정확히 같은 이유입니다.
그래프로 보면 에서 접선이 수직입니다. 접선이 그래프를 가로지르는 변곡점의 특징은 그대로 나타납니다.
심화 5. 가 구간 에서 순볼록하면 의 임계점은 많아야 하나이고, 있다면 그 점에서 전역 최솟값을 취함을 보이세요.
풀이. 가 순볼록하므로 문제 2의 (1)에 의해 이 순증가합니다. 순증가하는 함수는 같은 값을 두 번 취할 수 없으므로 인 점은 많아야 하나입니다.
그런 점 가 있다고 합시다. 이 순증가하고 이므로 에서 이고 에서 입니다. 43강의 판정법으로 는 의 왼쪽에서 순감소하고 오른쪽에서 순증가합니다. 따라서 모든 에서 이고, 는 국소가 아니라 전역 최솟값입니다.
같은 결론을 심화 1의 접선 부등식으로도 한 줄에 얻습니다. 입니다.
이 성질이 볼록 최적화가 중요한 이유입니다. 일반적인 함수에서는 국소 최솟값을 찾아도 그것이 전역 최솟값인지 알 수 없어 여러 출발점에서 다시 시도해야 합니다. 볼록함수에서는 국소가 곧 전역이므로 한 번 찾으면 끝납니다. 107강부터 109강까지가 이 사실 위에 세워지고, 219강 이후 신경망 학습이 어려운 이유도 손실함수가 볼록하지 않기 때문입니다.
심화 6. 가 구간에서 아래로 볼록할 때, 고정된 에 대해 함수
가 에 대해 넓은 뜻으로 증가함을 보이세요. 미분가능성은 가정하지 않습니다.
풀이. 인 경우를 봅니다(다른 배치도 같은 방법으로 됩니다). 가 와 사이에 있으므로 로 두면 입니다. 볼록성의 정의에서
입니다. 양변에서 를 빼면
이고, 양변을 으로 나누면
입니다. 즉 입니다.
이 결과의 값어치는 미분을 전혀 쓰지 않았다는 데 있습니다. 볼록성의 정의만으로 차분몫의 단조성이 나옵니다. 거꾸로 이 단조성에서 여러 사실이 따라옵니다. 가 단조이므로 와 의 극한이 각각 존재하며, 이것이 좌미분계수와 우미분계수입니다. 따라서 볼록함수는 구간 내부에서 좌우 미분계수를 항상 가지고, 그래서 내부에서 연속입니다. 처럼 미분 불가능한 볼록함수에서도 이 구조는 그대로 남습니다.
이 관점이 107강에서 볼록성을 미분과 무관하게 다시 정의하는 근거이며, 108강의 열미분과 232강 이후 비평활 최적화로 이어집니다.
이 강의에서는 numpy만 씁니다. 2계 도함수를 수치로 구할 때는 중심차분을 두 번 쓴 꼴을 씁니다. 39강에서 겪었듯 미분을 반복하면 반올림 오차가 크게 불어나므로, 를 너무 작게 잡지 않고 비교할 때 넉넉한 허용 오차를 둡니다.
import numpy as np
def d2(f, x, h=1e-4):
"""중심차분으로 2계 도함수를 근사합니다."""
return (f(x + h) - 2*f(x) + f(x - h)) / h**2
# --- 문제 1: 현과 그래프의 위치 ---------------------------------------
for f, name in [(lambda t: t**2, 'x^2'), (lambda t: np.sqrt(t), 'sqrt(x)')]:
a, b, c = 1.0, 4.0, 2.0
chord = f(a) + (f(b) - f(a))/(b - a)*(c - a)
print(name, round(float(f(c)), 6), round(float(chord), 6))
# x^2 4.0 6.0
# sqrt(x) 1.414214 1.333333
# --- 문제 2: f'' > 0 이면 볼록 (정의의 부등식을 직접 검사) --------------
def convex_ok(f, a, b, n=1001):
t = np.linspace(0, 1, n)
return bool(np.all(f((1-t)*a + t*b) <= (1-t)*f(a) + t*f(b) + 1e-12))
print(convex_ok(np.exp, -2.0, 3.0), convex_ok(lambda t: t**4, -2.0, 3.0)) # True True
print(convex_ok(np.log, 0.5, 5.0)) # False
# 차분몫이 오른쪽으로 갈수록 커집니다 (심화 6)
a = 1.0
x = np.linspace(1.2, 5.0, 2000)
phi = (np.exp(x) - np.exp(a)) / (x - a)
print(bool(np.all(np.diff(phi) > 0))) # True
# --- 문제 3: 변곡점은 f'' 의 부호 변화 --------------------------------
f3 = lambda t: t**3 - 3*t**2
print(round(float(d2(f3, 0.5)), 4), round(float(d2(f3, 1.5)), 4)) # -3.0 3.0
g3 = lambda t: t**4
print(round(float(d2(g3, -0.5)), 4), round(float(d2(g3, 0.5)), 4)) # 3.0 3.0
# --- 문제 4: 2계 판정법과 그 실패 --------------------------------------
crit = {'x^4': (lambda t: t**4), '-x^4': (lambda t: -t**4), 'x^3': (lambda t: t**3)}
for name, fn in crit.items():
xs = np.linspace(-0.05, 0.05, 100001)
v = fn(xs)
mid = len(xs)//2
kind = ('극소' if v[mid] == v.min() else '극대' if v[mid] == v.max() else '극값 아님')
print(name, round(float(d2(fn, 0.0)), 8), kind)
# x^4 2e-08 극소
# -x^4 -2e-08 극대
# x^3 0.0 극값 아님
# --- 문제 5: x/(1+x^2) 의 극값과 변곡점 --------------------------------
f5 = lambda t: t/(1 + t**2)
print(round(float(f5(1.0)), 6), round(float(f5(-1.0)), 6)) # 0.5 -0.5
for c in [-np.sqrt(3), 0.0, np.sqrt(3)]:
print(round(float(c), 4), round(float(d2(f5, c)), 6))
# -1.7321 0.0
# 0.0 0.0
# 1.7321 0.0
print(round(float(d2(f5, -1.9)), 4), round(float(d2(f5, -1.0)), 4),
round(float(d2(f5, 1.0)), 4), round(float(d2(f5, 1.9)), 4))
# -0.0237 0.5 -0.5 0.0237
# --- 심화 1: 볼록함수의 그래프는 접선 위에 있습니다 ----------------------
a = 0.7
x = np.linspace(-3.0, 3.0, 200001)
print(bool(np.all(np.exp(x) >= np.exp(a) + np.exp(a)*(x - a) - 1e-12))) # True
# --- 심화 2: 젠센에서 나온 산술기하평균 -------------------------------
v = np.array([1.0, 4.0, 9.0, 16.0])
print(round(float(v.mean()), 6), round(float(np.exp(np.log(v).mean())), 6)) # 7.5 4.898979
# --- 심화 4: x^(1/3) 은 0 좌우에서 볼록성이 뒤집힙니다 ------------------
cb = lambda t: np.cbrt(t)
print(round(float(d2(cb, -0.5)), 4), round(float(d2(cb, 0.5)), 4)) # 0.7055 -0.7055
# --- 심화 5: 순볼록하면 임계점이 최대 하나이고 전역 최소 ------------------
f6 = lambda t: t**2 - 4*t + 7
x = np.linspace(-10.0, 10.0, 2000001)
i = int(np.argmin(f6(x)))
print(round(float(x[i]), 5), round(float(f6(x[i])), 6)) # 2.0 3.0
실행하면 주석과 같은 값이 나옵니다. 네 곳을 짚어 둡니다.
첫째, 문제 1의 검산이 정의를 그대로 보여 줍니다. 에서는 함숫값 가 현의 높이 보다 작고, 에서는 가 보다 큽니다. 볼록성은 눈으로 보는 성질이 아니라 두 수를 비교하는 성질입니다.
둘째, 문제 4의 세 함수에서 이 사실상 모두 인데 극값의 성격은 셋이 다 다릅니다. 같은 에서 극소, 극대, 극값 아님이 모두 나온다는 것이 2계 판정법이 실패하는 이유 그 자체입니다.
여기서 수치미분의 오차가 눈에 보이게 드러납니다. 의 참값은 인데 코드는 을 돌려줍니다. 중심차분 공식에 와 을 그대로 넣으면
이고 이므로 정확히 입니다. 반올림 오차가 아니라 공식 자체의 절단 오차이며, 값을 손으로 계산해 예측할 수 있습니다. 에서 부호만 뒤집힌 이 나오는 것도 같은 이유입니다. 반면 은 홀함수라 두 항이 정확히 상쇄되어 이 그대로 나옵니다.
셋째, 문제 5에서 세 변곡점 후보의 값이 모두 으로 나오고, 그 좌우에서 부호가 실제로 뒤집힙니다. 에서 음수, 에서 양수, 에서 음수, 에서 양수이므로 네 구간의 볼록성이 본문의 표와 일치합니다.
넷째, 심화 2의 산술평균 와 기하평균 의 차이가 큽니다. 값들이 고르지 않을수록 두 평균이 벌어지며, 모두 같을 때만 등호가 성립합니다.
코드로 할 수 없는 일도 분명히 해 둡니다. convex_ok가 확인하는 것은 격자 위의 유한개 점뿐이므로 볼록성을 증명하지 못합니다. 게다가 1e-12라는 허용 오차를 넣었는데, 이는 부동소수점 계산에서 등호 근처가 미세하게 어긋나는 것을 흡수하기 위한 장치입니다. 허용 오차를 넣는 순간 아주 약하게 볼록성을 어기는 함수는 통과시켜 버립니다. 증명은 언제나 의 부호나 정의의 부등식으로 해야 합니다.
정답.
| 기호 | 읽는 법 | 뜻 |
|---|---|---|
| 아래로 볼록 | convex | 그래프가 현 아래, 접선 위에 있습니다 |
| 위로 볼록 | concave | 그래프가 현 위, 접선 아래에 있습니다 |
| 순볼록 | strictly convex | 부등호가 항상 강하게 성립합니다 |
| 변곡점 | inflection point | 볼록성이 바뀌는 점입니다 |
| 볼록결합 | convex combination | , , 입니다 |
| 젠센 부등식 | Jensen | 볼록함수는 평균의 값이 값의 평균 이하입니다 |
| 접선 부등식 | tangent line inequality | 입니다 |
| 산술기하평균 부등식 | AM-GM | 산술평균이 기하평균 이상입니다 |
| 2계 판정법 | second derivative test | 의 부호로 극값을 가립니다 |
다음 45강에서는 미뤄 둔 계산 빚을 갚습니다. 41강 심화 4에서 손대지 못한 부정형 극한을 로피탈 정리로 처리하며, 그 정리의 증명에 42강 문제 5의 코시 평균값 정리가 그대로 쓰입니다. 로피탈을 쓰면 안 되는 경우를 반례로 확인하는 것도 그 강의의 몫입니다.