2017년 10월 20일 금요일

Word Embedding



- 워드 임베딩을 만들때 Cbow보다 Skipgram 을 더 많이 쓴다

- Cbow는 좌우 단어로 스킵그램은 좌우 아니고 순서쌍으로. 시퀀셜 억세스와 랜덤 억세스 느낌도 약간..

- Word2vector 구할땐 원핫 인코딩이 필수인듯 영상에 rgb가 필수이듯~

- 네거티브 샘플링 은 쓸데없이 자주 등장하는 the같은 단어 수를 줄여서 샘플링하는 전처리과정

- Tf. nn. EmbeddingLookUp. 함수로 산단히 수행 가능

- Name scope는 마인드맵 처럼 생겼다. 또다른 워드 임베딩결과 시각화 방법

- Cs20si 내용 괜챤네. 한번 훓어봐야 할듯!

- t-sne 워드벡터 데모, 포인트 클라우드 랑 유사 무ㅜ론 사전에 워드임베딩 룩업을돌려야~. 위키 데이타셋과 mnist 데이타셋 시연

- 앞으로 빅데이타 Professional 행세를 하려면 텐서보드의3차원 티스니 정도는 보여줘야 할듯~

- 페북에 올라온 단어들로 티스니를 보여주려면 어찌해야 할까??

댓글 없음:

댓글 쓰기

gpustat command

sudo apt install gpustat watch --color -n0.1 gpustat --color