Recurrent Neural Networks
這個章節會探討了 Recurrent Neural Networks (RNNs) 的概念,介紹了如何使用標示 (notation) 來標記出輸入及輸出,以及如何建立一個字典來對應每個單字。接著會討論使用 RNNs 進行 forward propagation 與 backpropagation through time 的概念。此外,還會介紹 RNN 的 GRU 和 LSTM 模型,以及使用 peephole connection 來擴展 LSTM。還有 BRNN 解決單方向 RNN 無法處理一些問題的問題,和有多個 hidden layers 的 DRNN 可以更有效率的處理 sequence data。