Unsupervised domain Adaptation by Backpropagation 논문 정리

논문 링크

 

 

 

Unsupervised Domain Adaptation by Backpropagation

Yaroslav Ganin, Victor Lempitsky

---

 

 

모델을 학습할 때, 학습 데이터에만 성능이 좋고 학습 데이터와 도메인 차이가 있는 데이터에서는 성능이 나쁠 때가 많다.

 

이러한 source(학습) 데이터의 도메인과 target 데이터의 도메인 차이를 줄여서 target domain에 대한 성능을 높이고자 할 때 필요한 것이 Domain Adaptation이다.

 

 

 

이 논문에서 제안하는 방식은 target 도메인 데이터의 라벨이 없어도 가능하다.

 

또한 end-to-end 방식으로 학습이 진행된다.

 

backpropagation의 방식만 조금 수정하여 어렵지 않은 내용이다.

 

 

 

 

위의 그림은 논문에서 제안하는 모델의 아키텍처이다.

 

초록색은 입력 이미지의 특징을 추출하여 feature map을 추출하는 인코더이다.

 

파란색은 feature map으로부터 classification과 같은 task를 추출하는 영역이다.

 

여기서 초록색과 파란색만 있다면 흔히 쓰는 일반적인 모델이다.

 

빨간색은 source 이미지와 target 이미지의 feature map을 보고 둘을 구별하는 domain classifier이다.

 

이 때, source 이미지는 라벨이 있는 데이터이고 target 이미지는 라벨이 없어도 된다.

 

파란색과 빨간색은 초록색의 인코더를 공유하여 사용한다.

 

 

 

 

여기서 인코더를 학습시키는 새로운 방법을 통해 Domain Adaptation을 수행한다.

 

기존 인코더는 파란색의 결과가 라벨을 잘 예측하도록 학습되었다.

 

거기에 추가로, 빨간색이 두 도메인의 차이를 잘 구별하지 못하도록 학습시킨다.

 

즉, source 이미지에서와 target 이미지에서 뽑는 feature map이 유사하도록 만드는 전략이다.

 

결과적으로 인코더는 source 이미지에 대한 파란색 부분의 loss + domain classifier의 loss 를 통해 학습된다.