AI
RNN을 사용한 문장 생성 - 언어 모델을 사용한 문장 생성
언어 모델을 사용한 문장 생성 언어 모델은 다양한 애플리케이션에 활용할 수 있다. 대표적인 예) 기계 번역 음성 인식 문장 생성등 RNN을 사용한 문장 생성의 순서 LSTM계층을 이용해 언어모델을 구현 - 신경망 구성은 [그림1] 시계열 데이터를 (T개분 만큼)모아 처리하는 Time LSTM과 Time Affine 계층 등을 만듬 언어 모델 : 오른쪽은 시계열 데이터를 한꺼번에 처리하는 Time 계층을 사용 왼쪽은 같은 구성을 펼친 모습 언어 모델은 다음에 출현할 단어의 확률분포를 출력한다. 언어 모델은 지금까지 주어진 단어들에서 다음에 출현하는 단어의 확률분포를 출력한다. 다음 단어를 새로 생성하려면 확률이 가장 높은 단어를 선택하는 방법 확률이 가장 높은 단어를 선택,결과가 '확률적'으로 선택하는 방..
2021. 1. 27. 23:07
최근댓글