AE_Base

1. 이미지 데이터 

 

 

 

1. 이미지 데이터

1) 가장 초기 : DNN ---> CNN 

- 일반적인 NN 보다는 특징 추출도 네트워크에 시키자, Conv + Pool ( 3x3, 5x5, 7x7, 11x11, etc)

 

2) VGG : 위로 쌓기 시작함 ... +  C - P ===>  C - C - C -P

 

3) Inception : 위로 쌓을 떄 어려 Conv 종합해서 하자

 

4) ResNet : VGG보다 더  쌓아보면.. 성능이 별로여서... 더 쓰기가 힘드네...

===>  중간에 값을 뽑아서 by pass해서 추가 해보자

===>  학습이 네트웨크가 깊어져도 잘 되도록!

 

5) etc ++ Transformer (블럭 단위)

 

Auto Encoder : AE

=> 모델의 기본적인 구조를 대칭형을 사용함

 

 

이미지 ---- 이미지

 

 

입력  :  인코더 

출력  :  디코더 

 

한글 ----->  utf8 인코딩 --->  utf - 8 디코딩

 

====>

- CNN 내용들을 ... 최종적인 특징에 대한 FM 그  입력에 대한 근원적인 벡터값을 생각함 !!! (seed)

- 입력에 대한 상당히 추상화된 뭔가의 근원적인 값이지 

 

 

전통적으로 AE (자체로는 거의 안씀.... 구조는 차용)

1. 고차원 데이터를 축소하는 곳에서도 사용!!!

2. 이미지에 대한 복원, 고해상도, 노이즈 제거...

===> 이런 개념을 응용해서 생성쪽으로 넘어가게 됨!

+ VAE (확률 분포로 바라봅니다....!)

 

기존은 값을 중심으로 바라보고.... 그 값이 유사하도록 학습을 진행 한다! 

--->  확률분포로 놓고...

---> 두 대상의 확률분포의 값이 얼마나 유사한지!!!!!

(계산이 일반적인 값에 대한 추정이 아니라.... 확률 분포 유사도 계산!!!!!)

계산도 복잡함....  Loss에 대한 계산이 확률뷴포의 유사도 중심으로 변경!! (복잡함)