이 강의의 목표는 공식을 빨리 외우는 것이 아닙니다. 목표는 아래 식을 스스로 설명할 수 있게 되는 것입니다.
f′(a)=h→0limhf(a+h)−f(a)
이 식은 말로 풀면 다음 뜻입니다.
함수 f의 위치 a에서의 순간 변화율은, 입력을 아주 조금(h) 움직였을 때의 평균 변화율을 h가 0에 가까워질 때의 극한으로 잡은 값이다.
이 한 줄에 여러 개념이 한꺼번에 들어 있습니다.
- f′(a)는 무엇인가? f의 위에 붙은 ′는?
- lim은 무엇인가? "한없이 가까이 간다"는 게 뭔가?
- h→0은 정확히 어떤 동작인가?
- 분수 hf(a+h)−f(a)는 어떤 의미인가?
- 그냥 h=0을 대입하면 안 되는가?
이 강의는 이 질문을 하나씩, 아주 작은 단계로 나누어 설명합니다. 3강에서 배운 함수와 그래프 위에서 새 개념을 한 층 더 쌓습니다.
이번 강에서 새로 등장하는 어휘만 모았습니다. 함수·입력·출력·정의역·치역·좌표·그래프·기울기(3강), 거듭제곱·지수·로그(1, 4강)는 앞서 본 그대로 씁니다.
| 말 |
뜻 |
| 극한 (lim) |
입력이 어떤 값에 가까워질 때 출력이 어디로 다가가는지를 보는 생각 |
| 좌극한·우극한 |
왼쪽에서, 오른쪽에서 다가갈 때의 극한 |
| 연속 |
입력을 조금 바꾸면 출력도 갑자기 튀지 않는 성질 |
| 불연속 |
연속이 아닌 상태. 점프, 구멍, 발산 등 |
| 평균 변화율 |
두 점 사이에서 출력이 변한 정도. 두 점을 잇는 직선의 기울기 |
| 미분계수 f′(a) |
f의 위치 a에서의 순간 변화율 |
| 도함수 f′(x) |
위치 x를 변수로 하는 미분계수, 즉 또 하나의 함수 |
| 미분 |
"미분계수를 구한다", "도함수를 구한다"라는 동작 |
| 미분 가능 |
그 점에서 미분계수가 존재함 |
| 접선 |
한 점에서 곡선에 살짝 닿으면서 그 점의 기울기를 가지는 직선 |
| 연쇄법칙 |
합성함수를 미분할 때 안과 밖을 차례로 곱하는 규칙 |
| 극값 |
함수가 극소·극대를 갖는 출력값 |
여기서 가장 중요한 식은 도입부에서 본
f′(a)=h→0limhf(a+h)−f(a)
입니다. 12강 전체는 이 식 한 줄을 풀어내는 작업입니다.
미분의 정의에 등장하는 lim부터 차근차근 봅시다.
함수 f(x)=2x+1의 경우, 입력 x를 3에 가까이 다가가면 출력 f(x)는 어디로 다가갈까요? 다음 표를 봅시다.
| x |
f(x)=2x+1 |
| 2.9 |
6.8 |
| 2.99 |
6.98 |
| 2.999 |
6.998 |
| 3.001 |
7.002 |
| 3.01 |
7.02 |
| 3.1 |
7.2 |
입력 x가 양쪽에서 3에 가까이 갈수록 출력은 7에 한없이 가까워집니다. 이것을
x→3lim(2x+1)=7
이라고 씁니다. 말로 읽으면 "x가 3에 다가갈 때 2x+1의 극한은 7이다".
입력이 다가가는 방향은 두 가지입니다.
- 좌극한: 왼쪽에서 다가갈 때. limx→3−f(x)
- 우극한: 오른쪽에서 다가갈 때. limx→3+f(x)
위 예시에서는 좌·우 양쪽 모두 7로 다가가므로, 양쪽 극한이 같습니다. 양쪽이 같을 때만 그냥 "극한이 존재한다"고 말합니다.
만약 어느 한쪽만 다른 값으로 가거나, 한쪽이 무한히 커지면, 극한은 존재하지 않습니다.
f(x)=2x+1의 경우는 x=3을 그냥 대입해도 7이 나옵니다. 그러면 극한이 왜 필요할까요?
다음 함수를 봅시다.
g(x)=x−1x2−1
x=1을 대입하면 00이 되어 정의되지 않습니다. 하지만 분자를 인수분해하면
g(x)=x−1(x−1)(x+1)=x+1(x=1)
이라서 x가 1에 가까이 갈 때 g(x)는 2에 한없이 다가갑니다.
x→1limx−1x2−1=2
이때 "함수값" g(1)은 정의되지 않지만, "극한값"은 2로 잘 정의됩니다. 극한은 한 점에서의 값이 아니라, 그 주위에서의 행동을 본다는 점이 핵심입니다.
이 차이가 12강의 핵심 식
h→0limhf(a+h)−f(a)
에서도 결정적입니다. h=0을 그냥 대입하면 분모가 0이 되어 정의되지 않지만, h가 0에 가까이 갈 때의 극한은 잘 정의됩니다.
이런 성질들을 알고 있으면 계산이 쉬워집니다.
- 합: lim(f+g)=limf+limg
- 차: lim(f−g)=limf−limg
- 곱: lim(f⋅g)=(limf)(limg)
- 몫: lim(f/g)=limf/limg (분모 극한이 0이 아닐 때)
- 상수배: lim(c⋅f)=c⋅limf
쉽게 말해, 다항식이나 분수처럼 점잖은 함수의 극한은 각 부분의 극한을 따로 구한 뒤 결합하면 됩니다.
극한 개념을 쓰면 연속을 정확히 정의할 수 있습니다.
함수 f가 x=a에서 연속이라는 것은
x→alimf(x)=f(a)
를 만족하는 것입니다. 세 조건을 모두 갖춰야 합니다.
- f(a)가 정의되어 있다. (구멍이 없다)
- limx→af(x)가 존재한다. (좌·우 극한이 같다)
- 두 값이 일치한다.
이 셋 중 하나라도 어긋나면 그 점에서는 불연속입니다.
함수가 어떤 구간 전체에서 연속이라는 것은 그래프를 종이에서 펜을 떼지 않고 그릴 수 있다는 뜻입니다.
다항식·지수함수·삼각함수 등 흔히 쓰는 함수는 대부분 정의되는 모든 곳에서 연속입니다.
- 점프: 좌극한과 우극한이 다른 값. 예: f(x) = \begin{cases} 1 & x < 0 \\ -1 & x \ge 0 \end
- 구멍(제거 가능): 한 점만 정의되지 않거나 다른 값. 예: 2.3절의 g(x)를 x=1에서 떼어 놓은 경우.
- 발산: 어느 한쪽 극한이 무한히 커짐. 예: f(x)=1/x 가 x=0에서.
미분 가능하면 반드시 연속입니다. 하지만 그 반대는 성립하지 않습니다. 예를 들어 f(x)=∣x∣는 x=0에서 연속이지만 미분 불가능합니다(뾰족점). 이 미묘한 차이는 6.4절에서 다시 봅니다.
미분으로 가는 다리는 평균 변화율입니다.
함수 f의 두 점 a와 a+h 사이의 평균 변화율은
hf(a+h)−f(a)
입니다. 분자는 출력의 변화량, 분모는 입력의 변화량입니다.
평균 변화율은 곡선 위 두 점
(a,f(a)),(a+h,f(a+h))
을 잇는 직선의 기울기와 같습니다. 이런 직선을 할선(secant)이라고 부릅니다. 3강에서 본 기울기 개념의 직접 응용입니다.
자동차로 한 시간 동안 60 km를 갔다면 평균 속도는 60 km/h입니다. 30분 동안 30 km를 갔다면 그 30분에 대한 평균 속도가 60 km/h. 시간 간격을 점점 줄여 가면, 그것이 "지금 이 순간의 속도"에 다가갑니다.
평균 변화율을 점점 짧은 구간에서 잰 결과가 곧 다음에 정의할 순간 변화율, 즉 미분계수입니다.
이제 12강의 핵심 식을 정확히 풀어낼 수 있습니다.
f′(a)=h→0limhf(a+h)−f(a)
- f′(a): 함수 f의 위치 a에서의 순간 변화율 (미분계수)
- hf(a+h)−f(a): 평균 변화율 (할선 기울기)
- limh→0: h를 0에 한없이 가까이 보낸다
전체적으로 읽으면
평균 변화율을 두 점이 한없이 가까워지는 극한으로 잡으면, 그것이 한 점에서의 순간 변화율이다.
할선의 두 점 (a,f(a))와 (a+h,f(a+h))를 무한히 가깝게 만들면, 할선은 한 점에서 곡선에 살짝 닿는 직선이 됩니다. 이 직선을 접선(tangent line)이라고 부릅니다.
미분계수 f′(a)는 곧 점 (a,f(a))에서의 접선의 기울기입니다.
미분의 기하학적 의미: 한 점에서의 접선의 기울기.
특정한 a가 아니라 모든 위치에서 미분계수를 구하면, 결과 자체가 또 하나의 함수가 됩니다. 이 함수를 도함수라고 부르고 f′(x)로 씁니다.
f′(x)=h→0limhf(x+h)−f(x)
도함수는 x에 따라 다른 미분계수를 알려주는 함수입니다. 표기는 다음 모두 같은 뜻입니다.
f′(x)=dxdf=dxdf(x)
어떤 점에서 위의 극한이 존재하면 그 점에서 미분 가능하다고 합니다. 좌·우 극한이 다르거나(예: 뾰족점), 극한이 무한히 커지면(예: 수직 접선) 미분 불가능입니다.
미분 가능하면 연속이지만, 그 반대는 성립하지 않습니다 (3.4절).
이론은 충분합니다. 실제 함수를 정의식으로 미분해 봅시다.
f′(x)=h→0limhc−c=h→0lim0=0
상수함수의 도함수는 항상 0. 곡선이 수평이므로 기울기가 0인 것이 직관과 맞습니다.
f′(x)=h→0limhm(x+h)+b−(mx+b)=h→0limhmh=m
기울기 m인 직선의 도함수는 m. 어디서나 같은 기울기.
hf(x+h)−f(x)=h(x+h)2−x2=h2xh+h2=2x+h
극한을 잡으면
f′(x)=h→0lim(2x+h)=2x
따라서 f(x)=x2의 도함수는 f′(x)=2x. x=1에서 기울기는 2, x=3에서는 6이며, 오른쪽으로 갈수록 더 가파른 모양과 일치합니다.
h→0+limh∣h∣−0=h→0+limhh=1
h→0−limh∣h∣−0=h→0−limh−h=−1
좌극한 −1과 우극한 1이 다르므로 x=0에서 미분 불가능입니다. 그래프가 x=0에서 뾰족하게 꺾이는 모양과 일치합니다.
정의로 직접 구하면 시간이 걸리니, 자주 쓰는 결과를 외워 둡니다.
| 함수 |
도함수 |
| c (상수) |
0 |
| xn (n 실수) |
n \, x^ |
| ex |
ex (자기 자신!) |
| lnx |
\dfrac{1} |
| sinx |
cosx |
| cosx |
−sinx |
특히 ex의 도함수가 자기 자신이라는 사실이 자연상수 e의 정체입니다. 4강에서 e의 정의를 만났다면, 이 성질이 그 정의를 가장 잘 보여주는 식입니다.
거듭제곱 규칙 xn→nxn−1로 다음을 즉시 계산할 수 있습니다.
- f(x)=x3 → f′(x)=3x2
- f(x)=x1/2=x → f′(x)=21x−1/2=2x1
- f(x)=x−1=x1 → f'(x) = -x^{-2} = -\frac{1}
복잡한 함수도 기본 함수를 더하고 곱하고 합성해서 만들어집니다. 그래서 다음 규칙들이 핵심입니다.
(c⋅f)′=c⋅f′
(f±g)′=f′±g′
예: h(x)=3x2+5x−1의 도함수는
h′(x)=3⋅2x+5−0=6x+5
(f⋅g)′=f′⋅g+f⋅g′
"앞 미분 곱하기 뒤 + 앞 곱하기 뒤 미분" 으로 외웁니다.
예: h(x)=x2⋅ex의 도함수는
h′(x)=2x⋅ex+x2⋅ex=(2x+x2)ex
(gf)′=g2f′⋅g−f⋅g′
예: h(x)=x2+1x의 도함수는
h′(x)=(x2+1)21⋅(x2+1)−x⋅2x=(x2+1)21−x2
합성함수 h(x)=f(g(x))의 도함수는
h′(x)=f′(g(x))⋅g′(x)
"바깥 미분에 안을 그대로 넣고, 안 미분을 곱한다."
예: h(x)=(x2+1)3의 도함수.
바깥: f(u)=u3, f′(u)=3u2.
안: g(x)=x2+1, g′(x)=2x.
h′(x)=3(x2+1)2⋅2x=6x(x2+1)2
또 예: h(x)=e2x의 도함수.
h′(x)=e2x⋅2=2e2x
AI에서의 중요성: 연쇄법칙이 신경망의 역전파(backpropagation) 알고리즘의 수학적 뼈대입니다. 깊은 신경망은 여러 함수의 합성이므로, 한 매개변수의 손실에 대한 영향은 연쇄법칙으로 차례차례 곱해집니다.
도함수 f′(x)의 부호와 0이 되는 점은 원래 함수 f(x)의 모양에 대해 많은 것을 알려 줍니다.
- f′(x)>0인 구간 → f는 그 구간에서 증가.
- f′(x)<0인 구간 → f는 그 구간에서 감소.
- f′(x)=0인 점 → 기울기가 평평한 자리.
f′(x)=0이 되는 점을 임계점이라고 합니다. 그 자리가 극대인지 극소인지는 부호 변화로 알 수 있습니다.
- f′이 양→음으로 바뀌면 극대
- f′이 음→양으로 바뀌면 극소
예: f(x)=x2에서 f′(x)=2x=0은 x=0에서 성립. 좌측(x<0)에서 f′<0, 우측(x>0)에서 f′>0이므로 x=0이 극소입니다. 그래프가 V자 모양인 것과 일치.
함수의 최댓값이나 최솟값을 찾는 일을 최적화라고 부릅니다. 미분 가능한 함수에서는 다음 절차로 최적화합니다.
- f′(x)=0을 풀어 임계점을 찾는다.
- 각 임계점에서 극대인지 극소인지 판별한다.
- (필요하면) 양 끝점도 비교한다.
- 그중 가장 큰(또는 작은) 값이 최댓값(최솟값).
이 절차가 곧 5단원의 경사하강법, 6단원의 회귀 학습, 7단원의 신경망 학습 모두의 출발점입니다.
AI 학습의 거의 모든 알고리즘이 미분에 기반합니다.
모델의 좋고 나쁨을 한 수로 잰 것이 손실함수 L(θ)입니다 (θ는 모델 매개변수). 학습이란 L을 가장 작게 만드는 θ를 찾는 일이고, 그러려면 L의 도함수 ∇L이 필요합니다.
도함수의 부호가 알려주는 "감소 방향"으로 매개변수를 조금씩 옮기는 방법이 경사하강법입니다.
θnew=θold−η⋅L′(θold)
(η는 학습률.) 9.1절의 "f′<0이면 감소"가 이 식의 직관입니다.
신경망은 여러 층의 함수 합성입니다. 한 가중치가 손실에 미치는 영향을 알려면 8.4절의 연쇄법칙을 여러 번 적용해야 합니다. 이 계산을 효율적으로 수행하는 알고리즘이 역전파(backpropagation)입니다.
한 줄로: AI 학습 = 미분으로 손실 줄이기.
12강에서 익힌 도구는 다음 강의들에서 곧바로 쓰입니다.
- 13강: 입력이 벡터인 경우. 한 점에서의 변화율이 도함수가 아니라 그라디언트와 야코비안이 된다.
- 14강: 미분의 반대 작업인 적분. 누적량과 확률밀도.
- 15강: 한 점에서의 도함수 정보로 함수를 다항식으로 근사하는 테일러 전개.
- 16강: 미분으로 동역학 시스템을 표현하는 미분방정식.
13~16강의 모든 식은 12강의 정의
f′(a)=h→0limhf(a+h)−f(a)
를 자연스럽게 확장한 것입니다.
문제: f(x)=4x3−2x2+7x−5의 도함수를 구하시오.
풀이: 8.1절의 상수배·합 규칙과 7절의 거듭제곱 규칙을 합쳐 사용합니다.
f′(x)=4⋅3x2−2⋅2x+7−0=12x2−4x+7
문제: f(x)=sin(3x2)의 도함수를 구하시오.
풀이: 8.4절의 연쇄법칙을 적용합니다.
- 바깥: sinu, 도함수 cosu.
- 안: 3x2, 도함수 6x.
f′(x)=cos(3x2)⋅6x=6xcos(3x2)
문제: f(x)=x2+1의 x=2에서의 접선의 방정식을 구하시오.
풀이:
먼저 미분계수(기울기)를 구합니다. f′(x)=2x이므로 f′(2)=4.
다음으로 접점을 구합니다. f(2)=5이므로 접점은 (2,5).
기울기 m=4이고 점 (2,5)를 지나는 직선은
y−5=4(x−2)⇒y=4x−3
문제: f(x)=x3−3x의 극값을 모두 구하시오.
풀이:
도함수를 구한다: f′(x)=3x2−3.
임계점은 f′(x)=0을 푼다: 3x2−3=0, 즉 x=±1.
부호를 본다:
- x<−1: f′(x)>0 (증가)
- −1<x<1: f′(x)<0 (감소)
- x>1: f′(x)>0 (증가)
따라서
- x=−1에서 극대, f(−1)=−1+3=2.
- x=1에서 극소, f(1)=1−3=−2.
문제: f(x)=x1의 도함수를 정의식으로 구하시오.
풀이:
f′(x)=h→0limhx+h1−x1
분자를 통분하면
x+h1−x1=x(x+h)x−(x+h)=x(x+h)−h
이를 h로 나누면
hf(x+h)−f(x)=x(x+h)−1
극한을 잡으면 h→0일 때
f′(x)=x⋅x−1=−x21
7절의 표와 일치합니다.
- 극한은 한 점에서의 값이 아니라 그 주위에서의 행동을 본다.
- 좌극한과 우극한이 같아야 극한이 존재한다.
- 연속은 limx→af(x)=f(a)인 상태, 그래프를 끊지 않고 그릴 수 있는 성질이다.
- 평균 변화율은 두 점 사이의 출력 변화량을 입력 변화량으로 나눈 값, 곧 할선의 기울기다.
- 평균 변화율을 두 점이 한없이 가까워지는 극한으로 잡은 것이 미분계수 f′(a)다.
- f′(a)는 점 (a,f(a))에서의 접선의 기울기다.
- 도함수 f′(x)는 모든 위치에서의 미분계수를 모아 만든 함수다.
- 미분 가능하면 연속이지만, 그 반대는 성립하지 않는다 (예: ∣x∣의 x=0).
- 거듭제곱은 xn→nxn−1, ex는 자기 자신, lnx는 1/x.
- 합·차·곱·몫 규칙, 그리고 합성에는 연쇄법칙 (f∘g)′=f′(g)⋅g′.
- f′>0이면 증가, f′<0이면 감소, f′=0인 자리가 극값 후보.
- AI 학습은 손실함수를 미분으로 줄이는 일이고, 연쇄법칙이 신경망 역전파의 뼈대다.
- 극한이 단순 대입과 어떻게 다른지 설명할 수 있는가? limx→1x−1x2−1을 직접 계산해 보자.
- 좌극한과 우극한이 다른 함수의 예를 하나 그릴 수 있는가?
- 함수가 연속이지만 미분 불가능한 예를 들 수 있는가?
- 평균 변화율이 그래프 위에서 어떤 기하학적 의미를 가지는지 설명할 수 있는가?
- 미분계수의 정의식을 보고 한 줄씩 그 의미를 말할 수 있는가?
- f(x)=x2의 도함수를 정의식으로 유도할 수 있는가?
- f(x)=2x3−x+4의 도함수를 구할 수 있는가?
- 연쇄법칙을 써서 sin(x2)의 도함수를 구할 수 있는가?
- f(x)=x2−4x+3의 극값을 찾을 수 있는가?
- 경사하강법의 한 줄 식이 왜 도함수의 부호를 반대로 따라가는지 설명할 수 있는가?