Rekurentní neuronová síť

Rekurentní neuronová síť (anglicky recurrent neural network, RNN) je jedním ze dvou širokých kategorií umělých neuronových sítí. RNN se vyznačuje nelineárním směrem toku informací mezi jejími vrstvami. Na rozdíl od jednosměrné feedforward neuronové sítě se jedná o obousměrnou umělou neuronovou síť, která umožňuje, aby výstup z některých uzlů ovlivňoval následný vstup do stejných uzlů. Schopnost využívat vnitřní stav (paměť) ke zpracování libovolných sekvencí vstupů^[1][2][3] umožňuje použití pro nesegmentované, spojené rozpoznávání ručně psaného textu^[4] nebo rozpoznávání řeči.^[5][6]

Rekurentní neuronová síť se používá k označení třídy sítí s nekonečnou impulsní odezvou, zatímco konvoluční neuronová síť (convolutional neural network, CNN) označuje třídu konečné impulsní odezvy. Obě třídy sítí vykazují dočasné dynamické chování.^[7] Rekurentní síť s konečnými impulsy je řízený acyklický graf, který lze rozvinout a nahradit striktní feedforward neuronovou sítí, zatímco síť s nekonečným impulsem se zobrazuje jako řízený cyklický graf, který nelze rozvinout.

Do sítí s nekonečným i konečným impulzem lze dodat další uložené stavy a úložiště pod přímou kontrolou ze sítě. Úložiště může být také nahrazeno jinou sítí nebo grafem, pokud zahrnuje časová zpoždění nebo zpětnovazební smyčky. Takové řízené stavy se označují jako "gated state" nebo "gated memory" a jsou součástí sítí dlouhé krátkodobé paměti (LSTM) a gated recurrent units, též nazývané jako neuronová síť se zpětnou vazbou (Feedback Neural Network). Rekurentní neuronové sítě jsou teoreticky Turingově kompletní a mohou spouštět libovolné programy pro zpracování libovolných sekvencí vstupů.^[8]

Reference

V tomto článku byl použit překlad textu z článku Recurrent neural network na anglické Wikipedii.

Zdroj