RNN
循环神经网络，沿序列携带隐藏状态。
概览
循环神经网络一次处理序列中的一个步骤，并携带一个隐藏状态来概括它已经看到的内容。它解决了固定大小的输入无法表示任意长度序列的问题。它之所以存在，是因为在语言和时间序列中顺序很重要。在长序列上训练它既缓慢又不稳定，而这正是 Transformer 被设计用来消除的局限。
技术图谱
RNN 如何与技术栈的其他部分相连。
使用与依赖
- Neural Network concept Algorithms RNN based on Neural Network High ✓ source
Evolution
- LSTM architecture Algorithms LSTM extends RNN High ✓ source
替代方案
-
Transformer
architecture
RNN 的替代方案 · source
对比
与上述替代方案的逐项对比。