RNN

「65页PDF」让 PM 全面理解深度学习

本文汇总了深度学习相关的重要知识点，通过长图和 PDF 的方式呈现给大家，欢迎各位 PM 下载。

15年时Google曾经推出了支持82种语言的手写输入，并在去年升级为100种语言。但随着机器学习的迅速发展，研究人员也在不断重构着以往的方法为用户带来更快更准的体验。

我们本文介绍一种“曲线救国”的方式，它并不直接改变权重的特征值，而是将神经元参数化，通过生成线性自循环的路径，取消了原本RNN中的权重参数W，这就是长短时记忆单元LSTM（long short-term memory）。

在上一节（如何理解RNN？（理论篇））的课程我们介绍了循环神经网络的基本结构，同时这样的循环结构也会给优化带来一定的困难，本文主要介绍两种较为简单的方式来缓解RNN的优化问题

带有循环结构的网络都可以被叫做循环神经网络（recurrent neural network），RNN可以非常有效的解决这个问题，从简单的理论上来说，它可以处理任意长度的序列，并且不需要提前将N固定住，灵活性更高。