AI
word2vec - 단순한 word2vec
word2vec '모델' 신경망으로 구축 CBOW(continuous bag-of-words) CBOW 모델의 추론 처리 맥락으로부터 타깃(target)을 추측하는 용도의 신경망 '타깃'은 중앙 단어 그 주변 단어들이 '맥락' 모델의 입력은 맥락 CBOW 모델의 신경망 구조 두 입력층에서 은닉층으로의 변환은 똑같은 완전연결계층(가중치는Win)이 처리한다. 은닉층에서 출력층 뉴런으로의 변환은 다른 완전연결계층(가중치는Wout)이 처리한다. 계층 관점에서의 CBOW 모델의 신경망 구성 CBOW 모델 파이썬 구현 # CBOW 모델 신경망 구현 import sys sys.path.append('..') import numpy as np from layers import MatMul # 샘플 맥락 데이터 c0 =..
2020. 12. 30. 22:36
최근댓글