2017년 10월 20일 금요일

GRU etc

- 백프로파게이션과 유사한 리버스 모드
- 익스플로딩 그레디언트는 렐루에서만 일어난다?
- 거중치와 바이어스 3차원 그래프에서 나타나는 에너지 절벽
- 딥러닝을 아예 복소수 차원에서 돌리면 어떨까? 콘볼루션도 빨라지게~
- 여러가지 학습결과를 그래프로 보여주는 텐서플로의 서머리 기능
- 텐서보드의 워터펄그래프와 유사한 히스토그램 학습 그래프
- 텐플의 랜덤시드는 세쎤이 열릴때마다 초기화 된다.
- mnist= 28x28, CIFAR10= 32x32x3
- 피드딕트 보다 큐 방식이 더 성능이 좋다...
- 맥스풀링이 에버러지풀링보다 비선형이 좋고 속도도 빨라서 선호하는거 같다..
- LSTM에도 레즈넷처럼 초심을 유지하게하는 기능이 있다.
- 스토리지- 클라이언트- 워커  라는 아주 데이타중심적 구글의 관점.
- LSTM 보다 GRU 유닛이 더 단순하고 동영상 처리에 적합하다.
- RCN= Conv-GRU 는 리커런트 콘브넷중 하나로 RNN 내부에도 CNN이 들어있다.
- 오디오를 스펙트로그램으로 영상화해서 CNN으로 처리하는 것을 내가 한번 해볼까 라고 말했다.
- 캐글이 제공하는 비디오 데이타셋들을 로칼에서 돌리는 방법
1. 캐글의 깃허브소스를 다운받는다. 
2. 구글 클라우드 SDK 설치
3. 구글 클라우드 로컬 명령어 실행: gcloud ml-engine local train ...
- 체크포인트는 일종의 학습결과 저장소이다.
- 지피유 비디오 디코딩이슈-> tfRecord 로 하면 해결될듯 하다.

댓글 없음:

댓글 쓰기

gpustat command

sudo apt install gpustat watch --color -n0.1 gpustat --color