2017년 10월 23일 월요일

VAE & GAN cs231n

- 지도학습이 주입식 교육이라면 비지도학습은 자기주도 학습?
- 비지도 학습중에 피쳐 런닝에는 오토엔코더 같은게 있다.
- 오토엔코더에서는 로쓰함수로 L2 로쓰나 크로스 엔트로피 등을 사용한다.
- 오토엔코더는 자기자신 영상을 타겟으로 사용해 레이블이 없으므로 비지도에 속한다고 볼수 있다.
- 덴시티 에스티메이션은 피쳐클러스터를 수학적 확률밀도 함수로 모델링해 리그레션 하는 것으로 GAN 같은게 있다
- 생성모델은 지도학습과 비지도학습 방식이 있으며 지도학습방식엔 딥드림, 뉴럴스타일 같은게 있고 비지도학습 방식엔 VAE, GAN 같은게 있다.
- 명시적(익스플리싯) 방법과 함의적 방법
- 다양한 생성모델들이 강화학습과 연결될 가능성도 있다고 
- 오토엔코더는 피쳐추출기 나 세그멘테이션 용으로 주로 쓰이고 가변오토엔코더는 생성모델로 주로 쓰인다.
- 확률에도 체인룰이 있다... 조건부 확ㄹ류의 연쇄?
- FVBN: 풀리 비지블 빌리프 네트웍. 명시적 덴서티 모델중 하나로, 이미지의 우도함수를 1차원으로 재구성하기위해 체인룰을 적용한후 학습데이타로 우도함수를 극대화 한다.
- 요즘 대세는 이미지보단 픽셀 베이스, 단어 보다는 캐릭터 베이스로 많이 학습 하는거 같다.
- 생성 모델인 PixelRNN 은 너무 느리고 PixelCNN은 VAE 생성모델 보단 낫지만 여전히 블러가 많이 나타나는게 단점이라고 ...
- 픽셀알엔엔을 극복하려고 나온게 픽셀씨엔엔 이라고 한다.
- GAN 모델은 게임이론에서 나온 것이며 비지도 학습을 통해서 생성넷 과 판별넷 간에 네쉬 균형을 찾는것이다?
- minimax game ?
- GAN 네트웍은 이안 굿펠로우가 2014년에 만들었으며 입력은 노이즈 영상이다.
- GAN은 생성된 이미지에 블러가 적어서 애니메이션 쪽이나 정밀화 생성모델로 더 각광받는거 같다.
- Deep Convolutional GAN 이 성능이 좋다고 ..
- GAN Zoo 에가면 다양한 갠 모델들이 즐비하다.
- 저선량 MRI, 저에너지 영상, 열잡음 영상, 안개 영상 등등 열악한 환경에서 얻은 이미지에 GAN을 통한 영상 개선이 필요할지도 모른다.

댓글 없음:

댓글 쓰기

gpustat command

sudo apt install gpustat watch --color -n0.1 gpustat --color