RNN简明教程

<h2 class="tut-h2-pad" style="color:rgb(76,176,123);font-size:1.5em;text-align:left;padding-top:5em;padding-bottom:1.5em;margin-top:.8em;margin-bottom:.8em;font-family:'Hiragino Sans GB', Tahoma, Helvetica, Arial, 'Microsoft YaHei', 'WenQuanYi Micro Hei', '黑体', '宋体', sans-serif;background-color:rgb(250,250,250);">RNN 的用途 </h2>
<p style="line-height:1.7em;color:rgb(65,88,73);font-family:'Hiragino Sans GB', Tahoma, Helvetica, Arial, 'Microsoft YaHei', 'WenQuanYi Micro Hei', '黑体', '宋体', sans-serif;background-color:rgb(250,250,250);"><a href="https://morvanzhou.github.io/static/results/ML-intro/rnn1.png" style="color:rgb(245,97,0);"><img alt="循环神经网络 RNN (Recurrent Neural Network)" class="course-image lazy-img" src="https://beijingoptbbs.oss-cn-beijing.aliyuncs.com/cs/5606289-591b4b9bb06b3c8d60fee19ba5ff7b00.png" style="padding:0px;margin-right:auto;margin-left:auto;max-height:430px;" title="循环神经网络 RNN (Recurrent Neural Network)"></a></p>
<p style="line-height:1.7em;color:rgb(65,88,73);font-family:'Hiragino Sans GB', Tahoma, Helvetica, Arial, 'Microsoft YaHei', 'WenQuanYi Micro Hei', '黑体', '宋体', sans-serif;background-color:rgb(250,250,250);">现在请你看着这个名字. 不出意外, 你应该可以脱口而出. 因为你很可能就用了他们家的一款产品 . 那么现在, 请抛开这个产品, 只想着斯蒂芬乔布斯这个名字 , 请你再把他逆序念出来. 斯布乔(*#&, 有点难吧. 这就说明, 对于预测, 顺序排列是多么重要. 我们可以预测下一个按照一定顺序排列的字, 但是打乱顺序, 我们就没办法分析自己到底在说什么了.</p>
<h2 class="tut-h2-pad" style="color:rgb(76,176,123);font-size:1.5em;text-align:left;padding-top:5em;padding-bottom:1.5em;margin-top:.8em;margin-bottom:.8em;font-family:'Hiragino Sans GB', Tahoma, Helvetica, Arial, 'Microsoft YaHei', 'WenQuanYi Micro Hei', '黑体', '宋体', sans-serif;background-color:rgb(250,250,250);">序列数据 <a class="headerlink" href="https://morvanzhou.github.io/tutorials/machine-learning/ML-intro/2-3-RNN/#%E5%BA%8F%E5%88%97%E6%95%B0%E6%8D%AE" style="color:rgb(245,97,0);" title="Permalink to this headline"></a></h2>
<p style="line-height:1.7em;color:rgb(65,88,73);font-family:'Hiragino Sans GB', Tahoma, Helvetica, Arial, 'Microsoft YaHei', 'WenQuanYi Micro Hei', '黑体', '宋体', sans-serif;background-color:rgb(250,250,250);"><a href="https://morvanzhou.github.io/static/results/ML-intro/rnn2.png" style="color:rgb(245,97,0);"><img alt="循环神经网络 RNN (Recurrent Neural Network)" class="course-image lazy-img" src="https://beijingoptbbs.oss-cn-beijing.aliyuncs.com/cs/5606289-276d71dcc2a8b5f4541a0b035eba3283.png" style="padding:0px;margin-right:auto;margin-left:auto;max-height:430px;" title="循环神经网络 RNN (Recurrent Neural Network)"></a></p>
<p style="line-height:1.7em;color:rgb(65,88,73);font-family:'Hiragino Sans GB', Tahoma, Helvetica, Arial, 'Microsoft YaHei', 'WenQuanYi Micro Hei', '黑体', '宋体', sans-serif;background-color:rgb(250,250,250);">我们想象现在有一组序列数据 data 0,1,2,3. 在当预测 result0 的时候,我们基于的是 data0, 同样在预测其他数据的时候, 我们也都只单单基于单个的数据. 每次使用的神经网络都是同一个 NN. 不过这些数据是有关联顺序的 , 就像在厨房做菜, 酱料 A要比酱料 B 早放, 不然就串味了. 所以普通的神经网络结构并不能让 NN 了解这些数据之间的关联.</p>
<h2 class="tut-h2-pad" style="color:rgb(76,176,123);font-size:1.5em;text-align:left;padding-top:5em;padding-bottom:1.5em;margin-top:.8em;margin-bottom:.8em;font-family:'Hiragino Sans GB', Tahoma, Helvetica, Arial, 'Microsoft YaHei', 'WenQuanYi Micro Hei', '黑体', '宋体', sans-serif;background-color:rgb(250,250,250);">处理序列数据的神经网络 <a class="headerlink" href="https://morvanzhou.github.io/tutorials/machine-learning/ML-intro/2-3-RNN/#%E5%A4%84%E7%90%86%E5%BA%8F%E5%88%97%E6%95%B0%E6%8D%AE%E7%9A%84%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C" style="color:rgb(245,97,0);" title="Permalink to this headline"></a></h2>
<p style="line-height:1.7em;color:rgb(65,88,73);font-family:'Hiragino Sans GB', Tahoma, Helvetica, Arial, 'Microsoft YaHei', 'WenQuanYi Micro Hei', '黑体', '宋体', sans-serif;background-color:rgb(250,250,250);"><a href="https://morvanzhou.github.io/static/results/ML-intro/rnn3.png" style="color:rgb(245,97,0);"><img alt="循环神经网络 RNN (Recurrent Neural Network)" class="course-image lazy-img" src="https://beijingoptbbs.oss-cn-beijing.aliyuncs.com/cs/5606289-a01a075f1f62c61c58108d669741515f.png" style="padding:0px;margin-right:auto;margin-left:auto;max-height:430px;" title="循环神经网络 RNN (Recurrent Neural Network)"></a></p>
<p style="line-height:1.7em;color:rgb(65,88,73);font-family:'Hiragino Sans GB', Tahoma, Helvetica, Arial, 'Microsoft YaHei', 'WenQuanYi Micro Hei', '黑体', '宋体', sans-serif;background-color:rgb(250,250,250);">那我们如何让数据间的关联也被 NN 加以分析呢? 想想我们人类是怎么分析各种事物的关联吧, 最基本