Chatbot_RNN_Text_Generation_with_SimpleRNN

•

자연어 처리(NLP)와 시퀀스 모델링을 이해하기 위한 RNN 학습

◦

시간적인 순서나 문맥을 가진 데이터를 이해하고 예측하는 능력 향상 목표

•

RNN을 활용한 텍스트 생성에 대한 이해와 실용성

•

모델 훈련 및 검증 단독 수행

•

사용자가 초기 단어나 문장을 입력하면, 모델이 연관된 문장을 생성

•

Python

•

TensorFlow

◦

Sequential Model

◦

Embedding Layer

◦

SimpleRNN Layer

◦

Dense Layer

•

Keras

◦

Tokenizer

◦

pad_sequences

◦

to_categorical

•

Numpy

◦

np.argmax

•

Git for version control

•

초기 모델의 정확도가 0.8에 불과

•

Epochs를 50에서 100으로 조정하여 0.95 이상의 정확도 달성

•

임베딩 차원은 100, SimpleRNN 유닛 수는 32로 설정

•

RNN과 NLP의 중요성: 시퀀스 데이터의 내재된 패턴을 이해하고 그에 따라 새로운 문장을 생성할 수 있게 되면서, RNN과 NLP의 중요성을 체감함

•

하이퍼파라미터 튜닝의 효과: Epochs, 임베딩 차원, RNN 유닛 수 등의 하이퍼파라미터를 조정함으로써 모델의 성능을 크게 향상시켰음

•

다음 단계: 이 모델을 다양한 자연어 처리 애플리케이션에 적용해보는 것을 계획 중