이 강의의 목표는 직접 구하기 어려운 데이터 확률 log p ( x ) log p ( x )
먼저 오늘의 핵심 식을 봅니다.
log p ( x ) ≥ E q ( z ∣ x ) [ log p ( x , z ) − log q ( z ∣ x ) ] log p ( x ) ≥ E q ( z ∣ x ) [ log p ( x , z ) − log q ( z ∣ x ) ]
이 식을 외우기 전에, 식 안의 말과 기호를 먼저 하나씩 풀어야 합니다.
말
뜻
x x 관찰한 데이터(예: 이미지)
z z 관찰 뒤에 숨어 있다고 보는 잠재변수
p ( x , z ) p ( x , z ) 데이터와 잠재변수의 결합확률
p ( z ∣ x ) p ( z ∣ x ) 데이터를 본 뒤의 잠재변수 분포(posterior). 구하기 어렵다
q ( z ∣ x ) q ( z ∣ x ) posterior를 흉내 내는 쉬운 근사 분포
ELBO
log p ( x ) log p ( x )
VAE
encoder q q p p
수학에서 어려운 부분은 계산보다 읽기입니다. 뜻을 모르고 계산하면 공식이 암호처럼 보입니다.
얼굴 사진에는 표정, 조명, 방향 같은 숨은 요인이 있습니다. 이것들을 정확히 알기는 어렵지만 그럴듯한 범위를 추정할 수는 있습니다. VAE는 이런 숨은 공간 z z
핵심 식의 오른쪽을 ELBO라고 부릅니다.
ELBO = E q ( z ∣ x ) [ log p ( x , z ) − log q ( z ∣ x ) ] ELBO = E q ( z ∣ x ) [ log p ( x , z ) − log q ( z ∣ x ) ]
E q ( z ∣ x ) [ ⋅ ] E q ( z ∣ x ) [ ⋅ ] q q z z log p ( x , z ) log p ( x , z ) z z x x z z − log q ( z ∣ x ) − log q ( z ∣ x ) z z q q
핵심 식은 "직접 구하기 어려운 log p ( x ) log p ( x ) log p ( x ) log p ( x )
데이터의 확률 p ( x ) p ( x )
p ( x ) = ∫ p ( x , z ) d z p ( x ) = ∫ p ( x , z ) d z
z z p ( z ∣ x ) = p ( x , z ) p ( x ) p ( z ∣ x ) = p ( x ) p ( x , z )
그래서 posterior를 직접 구하는 대신, 다루기 쉬운 분포 q ( z ∣ x ) q ( z ∣ x ) log p ( x ) log p ( x ) q q p ( x ∣ z ) p ( x ∣ z )
log p ( x ) log p ( x ) z z q ( z ∣ x ) q ( z ∣ x )
log p ( x ) = E q ( z ∣ x ) [ log p ( x ) ] log p ( x ) = E q ( z ∣ x ) [ log p ( x ) ]
여기에 p ( x ) = p ( x , z ) p ( z ∣ x ) p ( x ) = p ( z ∣ x ) p ( x , z )
log p ( x ) = E q [ log p ( x , z ) p ( z ∣ x ) ] log p ( x ) = E q [ log p ( z ∣ x ) p ( x , z ) ]
분자·분모에 q ( z ∣ x ) q ( z ∣ x )
log p ( x ) = E q [ log p ( x , z ) q ( z ∣ x ) ] + E q [ log q ( z ∣ x ) p ( z ∣ x ) ] log p ( x ) = E q [ log q ( z ∣ x ) p ( x , z ) ] + E q [ log p ( z ∣ x ) q ( z ∣ x ) ]
앞 항이 ELBO이고, 뒤 항은 q q
log p ( x ) = E q [ log p ( x , z ) − log q ( z ∣ x ) ] ⏟ ELBO + KL ( q ( z ∣ x ) ∥ p ( z ∣ x ) ) ⏟ ≥ 0 log p ( x ) = ELBO E q [ log p ( x , z ) − log q ( z ∣ x ) ] + ≥ 0 K L ( q ( z ∣ x ) ∥ p ( z ∣ x ) )
KL 발산은 항상 0 이상이므로
log p ( x ) ≥ ELBO log p ( x ) ≥ ELBO
가 됩니다. 이것이 핵심 식입니다. 또한 이 분해는 ELBO를 키우는 것이 곧 근사 q q
참고: KL이 0 이상이라는 사실은 젠슨 부등식 log E [ Y ] ≥ E [ log Y ] log E [ Y ] ≥ E [ log Y ] log p ( x ) = log E q [ p ( x , z ) q ( z ∣ x ) ] ≥ E q [ log p ( x , z ) q ( z ∣ x ) ] = ELBO log p ( x ) = log E q [ q ( z ∣ x ) p ( x , z ) ] ≥ E q [ log q ( z ∣ x ) p ( x , z ) ] = ELBO
ELBO 안의 기댓값 E q ( z ∣ x ) [ ⋅ ] E q ( z ∣ x ) [ ⋅ ] z z q q
이를 해결하려고, encoder가 평균 μ μ σ σ ε ε
z = μ + σ ⊙ ε , ε ∼ N ( 0 , I ) z = μ + σ ⊙ ε , ε ∼ N ( 0 , I )
⊙ ⊙ ε ε
이제 z z μ μ σ σ μ μ σ σ μ = 2 μ = 2 σ = 0.5 σ = 0 . 5 ε = 1 ε = 1 z = 2 + 0.5 ⋅ 1 = 2.5 z = 2 + 0 . 5 ⋅ 1 = 2 . 5 μ μ σ σ
ELBO를 다시 두 조각으로 정리하면 VAE의 손실이 됩니다. log p ( x , z ) = log p ( x ∣ z ) + log p ( z ) log p ( x , z ) = log p ( x ∣ z ) + log p ( z )
ELBO = E q ( z ∣ x ) [ log p ( x ∣ z ) ] ⏟ 재구성 − KL ( q ( z ∣ x ) ∥ p ( z ) ) ⏟ 정리 ELBO = 재구성 E q ( z ∣ x ) [ log p ( x ∣ z ) ] − 정리 K L ( q ( z ∣ x ) ∥ p ( z ) )
가 됩니다. 학습에서는 ELBO를 최대화, 즉 그 음수를 최소화하므로 VAE 손실은
L VAE = E q ( z ∣ x ) [ − log p ( x ∣ z ) ] ⏟ 재구성 손실 + KL ( q ( z ∣ x ) ∥ p ( z ) ) ⏟ KL 정칙화 L VAE = 재구성 손실 E q ( z ∣ x ) [ − log p ( x ∣ z ) ] + KL 정칙화 K L ( q ( z ∣ x ) ∥ p ( z ) )
입니다.
재구성 손실 : decoder가 z z x x KL 정칙화 : encoder의 분포 q ( z ∣ x ) q ( z ∣ x ) p ( z ) = N ( 0 , I ) p ( z ) = N ( 0 , I )
사전분포와 근사 분포가 모두 정규분포일 때 KL 항은 닫힌 식으로 나옵니다. 잠재차원 d d
KL ( N ( μ , σ 2 I ) ∥ N ( 0 , I ) ) = 1 2 ∑ i = 1 d ( μ i 2 + σ i 2 − 1 − log σ i 2 ) K L ( N ( μ , σ 2 I ) ∥ N ( 0 , I ) ) = 2 1 i = 1 ∑ d ( μ i 2 + σ i 2 − 1 − log σ i 2 )
입니다. 두 손실이 균형을 이루어야, 잠재공간이 매끄럽게 정리되면서도 데이터를 잘 복원하는 모델이 됩니다.
p ( x ) = ∫ p ( x , z ) d z p ( x ) = ∫ p ( x , z ) d z p ( z ∣ x ) p ( z ∣ x ) 그래서 쉬운 q ( z ∣ x ) q ( z ∣ x )
log p ( x ) = ELBO + KL ( q ∥ p ( z ∣ x ) ) log p ( x ) = ELBO + K L ( q ∥ p ( z ∣ x ) ) ≥ 0 ≥ 0 log p ( x ) ≥ ELBO log p ( x ) ≥ ELBO 그래서 계산 불가능한 log p ( x ) log p ( x )
reparameterization trick z = μ + σ ⊙ ε z = μ + σ ⊙ ε
VAE 손실은 재구성 손실 + KL 정칙화다.
핵심 식은 다음과 같습니다.
log p ( x ) ≥ E q ( z ∣ x ) [ log p ( x , z ) − log q ( z ∣ x ) ] log p ( x ) ≥ E q ( z ∣ x ) [ log p ( x , z ) − log q ( z ∣ x ) ]
log p ( x ) = ELBO + KL ( q ∥ p ( z ∣ x ) ) log p ( x ) = ELBO + K L ( q ∥ p ( z ∣ x ) ) KL이 0 이상이라는 사실이 왜 ELBO를 아래 경계로 만드는가?
reparameterization trick이 없으면 왜 encoder를 미분으로 학습할 수 없는가?