8-1 Sequential Data And Recurrent Neural Network

Sequential Data

• 순서가 중요한 모든 종류의 데이터
  • Text data
  • Timeseries data

---

Recurrent

• 되풀이, 반복, 재사용
• Idea : 이전 입력 값 처리 결과를 다음 출력에 반영하자
• Hidden State : 이전 상태 값 저장
• 여러 단계에서 매개 변수 공유

---

(복습) DNN

---

RNN

---

Feedforward neural network

• Feedforward neural network는 정보가 한 방향으로 이동
• 정보를 처리한 후 Feedforward network는 정보를 잊어버리고 다음 입력을 독립적으로 처리
• 따라서 입력 간의 순서나 시간 종속성에 대해 영향을 받지 않음
• 지금까지 배운 인공 신경망인 Multiple Layer Perceptron 및 Convolutional Neural Network

---

Recurent neural network

• 반면 Recurrent neural network는 Hidden Layer를 통해 얻은 결과를 사용하여 다음 입력에서 처리

---

RNN 예시

• One To Many

• Many To One

• Many To Many

• Translate