# 6. Strojové učení (90%)
###### tags: `neuronky`, `PV021`

:::warning
* Strojové učení a rozpoznávání vzorů:
* **problém klasifikace a regrese**
* shluková analýza
* učení s učitelem a bez učitele
* Vícevrstvé neuronové sítě, vícevrstvé perceptrony, ztrátové funkce, zpětná propagace
* Hopfieldova síť, konvoluční sítě, rekurentní sítě, samo-organizující mapy.
:::

## Strojové učení a rozpoznávání vzorů:
### Problém klasifikace a regrese
Klasifikace a regrese sú súčasťou supervised learning (učení s učitelem)

**Regrese** je forma supervised learningu, kde sa stroj učí na základe vstupných dat (vektor príznaku) určiť výstupnú hodnotu (reálne číslo)

Vstupné data: množina dvojíc $\{(x_i,y_i), i=1...N\}$.
Hľadáme funkciu $h(x)$, ktorá pre dané $x$ čo najlepšie aproximuje hodnoty y.

Príznaky môžu byť:
* spojité (reálne čísla)
* kategoriálne (prvky nejakej určitej množiny)

Niektoré algoritmy si vedia poradiť s chýbajúcimi hodnotami príznakov.

**Klasifikace**
Metoda učení s učitelem, cílem je zařadit nový vzorek do jedné nebo více kategorií na základě množiny trénovacích dat, která obsahuje vzorky, jejichž kategorie je známa. K tomu máme k dispozici trénovací množinu obsahující pozorování (data, instance), pro která jsou kategorie správně určeny.

Analogická metoda v učení bez učitele je známá jako klastrování a spočívá ve spojování dat do kategorií podle nějaké míry vnitřní podobnosti (např. odvozené ze vzdálenosti mezi instancemi, které jsou považovány za vektory ve vícedimenzionálním vektorovém prostoru)

### Shluková analýza
Shluková analýza (též clusterová analýza) je vícerozměrná statistická metoda, která se používá ke klasifikaci objektů. Slouží k třídění jednotek do skupin (shluků) tak, aby si jednotky náležící do stejné skupiny byly podobnější než objekty z ostatních skupin. Shlukovou analýzu je možné provádět jak na množině objektů, z nichž každý musí být popsán prostřednictvím stejného souboru znaků, které má smysl v dané množině sledovat, tak na množině znaků, které jsou charakterizovány prostřednictvím určitého souboru objektů, nositelů těchto znaků.

Shluková analýza vychází z podobnosti, resp. vzdálenosti objektů. Její kvantitativní vyjádření je jedním ze základních problémů clusterové analýzy. Existuje mnoho způsobů konstrukce tohoto ukazatele.

Vlastnosti vzdálenosti
Standardními požadavky pro vhodný předpis míry vzdálenosti (metriky) $d$ dvou objektú $O_i$ a $O_j$ jsou:
* nezápornost $d(O_i,O_j) \geq 0$
* symetrie $d(O_i,O_j) =d(O_j,O_i)$
* shodné objekty by měly mít ukazatel vzdálenosti roven 0: $d(O_i,O_i) = 0$ (zároveň míra podobnosti bude rovna maximální hodnotě, obvykle 1)
* trojúhelníkova nerovnost: $d(O_i,O_j) \leq d(O_i,O_h) + d(O_h,O_j)$

### Učení s učitelem a bez učitele
*Supervised a unsupervised learning.*

Cielom oboch učení je nájst konfiguráciu v ktorej sieť počíta chcenú funkciu.

Supervised: požadovaná funkcia je popísaná pomocou párov tréningových príkladov (vstupy, výstupy). Learning algoritmus hľadá konfiguráciu zodpovedajúcu tréningovým príkladom, zvyčajne pomocou minimalizície error funkcie.

Unsupervised: Tréningová množina obsahuje len vstupy, cieľom je určiť rozdelenie (distribúciu) vstupov - clustering, generative models.

*\\\Or druhý typ vysvetlenia*

Učení s učitelem
V případě učení s učitelem je k dispozici množina trénovacích dat. Každý prvek x z této množiny obsahuje i odpovídající výstup Y. Výstupem může být spojitá hodnota, nebo třída vstupní hodnoty, např. určení zda vstup je pozitivním, nebo negativním textem. Dále je k dispozici funkce 𝑌 = 𝑓(𝑥) jejíž výstup závisí na vstupních datech. Cílem je na základě trénovací množiny upravit parametry této funkce tak, aby co nejpřesněji dokázala přiřadit správnou výstupní hodnotu novým, neznámým vstupním datům.

Učení bez učitele
Učení bez učitele má k dispozici pouze vstupní data x a žádné k nim odpovídající výstupní hodnoty. Cílem je najít vztah nebo strukturu mezi rozdílnými vstupními daty.

---

## Vícevrstvé neuronové sítě a viacvrstvé perceptrony
*Multilayer Perceptron - MLP*


> Notácia
> * x - množina vstupných neurónov
> * y - množina výstupných neurónov
> * z - množina všetkých neurónov $(x,y \subseteq z)$
> * jednotlivé neuróny označujeme indexmi $i,j$ a podobne
> ⇒ $\xi_i$ je vnútorný potenciál neurónu i - po skončení výpočtu
> ⇒ $y_i$ je výstup neurónu $j$ - po skončení výpočtu
> * $w_{j,i}$ je váha prepojenia z $i$ do $j$ ($w_j0 = -b_j$ kde $b_j$ je bias neurónu $j$)
> * $j_{\displaystyle \Rightarrow }$ množina všetkých neurónov do ktorých vedie spojenie od $j$
> * $j_{\displaystyle \Leftarrow }$ množina všetkých neurónov z ktorých vedie spojenie do $j$

* Pevná štruktúra siete
* neuróny sú organizované do vrstiev
* Vstupná vrstva nevyžaduje reálne perceptrony
* Každý neurón na svojom vstupe berie hodnoty zo všetkých neuronov predchádzajúcej vrstvy
* Všetky neuróny vo vrstve $i$ sú spojené s neurónmi vo vrstve $i+1$
* typicky zapisujeme počtom neurónov vo vrstvách (na obr 2-4-3-2)

**Aktivita siete**
* Vnútorný potenciál neurónu $j : \xi_j = \sum_{i\in j \Leftarrow}w_{ji} y_i$
* $\sigma_j$ aktivačná funkcia musí byť diferencovateľná (napr logický sigmoid $\sigma_j (\xi) = \frac 1{1+e^{-\lambda j \xi}}$
* stav neurónu (ktorý nie je vstupný : $j \in Z \setminus X$) po zastavení počítania: $y_j = \sigma_j(\xi_j)$
$\Rightarrow$ platí len keď mám fixné vstupy a váhy v sieti, občas píšeme $y_j(\overrightarrow w, \overrightarrow x)$

**Learning**
$\mathcal T = {(\overrightarrow x_k, \overrightarrow d_k)|k= 1...p}$ ,
každý $\overrightarrow x_k$ je vektor vstupov a $\overrightarrow d_k$ je vektor požadovaných výstupov $\overrightarrow x_k \in \mathbb R^{|x|}$

**Error funkciia**
$E(\overrightarrow w) =\sum_{k=1}^p E_k(\overrightarrow w)$,
kde $E_k(\overrightarrow w) ={1 \over 2} \sum_{j \in y}(y_j(\overrightarrow w,\overrightarrow x_k)-d_{kj})^2$
$\Rightarrow (\overrightarrow w)$ - súčet errorov z celého tréningového setu

**Batch algoritmus**
* modifikuje výhy v sieti, training set je fixný, nemení sa
* váhy inicializujeme typicky randomne, blízke 0
* v každom kroku budeme počítať vektor nových váh zo starých váh: $w^{t+1} = w_{ji}^t + \bigtriangleup w_{ji}^t$, kde $\bigtriangleup w_{ji}^t =-\xi (t) * {\partial E \over \partial w_{ij}} \overrightarrow w^{t}, 0 < \xi \leq 1$ <- learning rate
$\Rightarrow$ vektoriálny zápis zmeny váh: $\overrightarrow w^{t+1} = \overrightarrow w^t - \xi (t)* \bigtriangledown E(\overrightarrow w^t)$
* learning rate je veľmi dôležitý

**Ztrátové funkce**
Error funkcia - gradient
* derivát je lineárna funkcia takže sa distribuuje cez sumu
* Error je suma errorov individuálnych vstupov

**Počítanie gradientu**
Chceme spočítať parciálnu deriváciu error funkcie podľa váh: ${\partial E \over \partial w_{ji}} = \sum_{k=1}^p {\partial E_k \over \partial w_{ji}}$
* budem nahromadzovať súčty do nejakej premennej $(\varepsilon_{ji}=0)$ - inicializácia
* prejdem cez všetky tréningove example
* pre každý example spravím najprv forward pass, čo je v podstate len vyhodnotenie siete: $y_j = y_j(\overrightarrow w, \overrightarrow x_k)$, k-index v tréningových dátach
* potom vypočítam derivácie podľa neurónov, použitím backpropagation
* potom použijem derivácie podľa y, aby som dostala derivácie podľa váh: ${\partial E_k \over w_{ji}} = {\partial E_k \over \partial y_{j}} \sigma_j^{'} (\varepsilon_j) y_i$
* pridám to do sumy: $\varepsilon_{ji} = \varepsilon_{ji} + {\partial E_k \over w_{ji}}$
* Výsledné $\varepsilon_{ji} = {\partial E \over w_{ji}}$

Nejaké ďalšie error funkcie

**Backpropagation**
Algoritmus zpětného šíření chyby, nebo-li BackPropagation, byl jedním z nejčastěji používaných algoritmů pro učení neuronových sítí. Jde o algoritmus založený na gradientní metodě (změna gradientu udává, jak se mění chybovost neuronové sítě se změnou vah synaptických spojů). Složitost výpočtu gradientu je vysoká díky vel- kému počtu synaptických spojů i prvků trénovací množiny. Cílem je změna vah tak, aby docházelo ke klesání gradientu a tím minimalizaci chyby neuronové sítě. Proces algoritmu BackPropagation je složen ze dvou fází definovaných pomocí pravidel.

Chceme spočítať deriváciu error funkcie podľa $y_j$
* Ak $y_j \in Y : {\partial E \over \partial y_{j}} = y_j - d_{kj}$
* Ak $y_j \in Z \setminus (X \cup Y)$: pôjdeme postupne po vrstvách z hora dole, takže predpokladáme, že už máme vypočítané derivácie predchádzajúcej vrstvy $l+1$ (čiže ${\partial E_k \over \partial y_{r}}$ už je spočítané):
* * ${\partial E_k \over \partial y_{j}} = \sum_{r \in j \to} {\partial E_k \over \partial y_{r}} \sigma_r^{'}(\varepsilon_r) w_{rj}$ (všetky neuróny $j \to$ patria vrstve $l+1$)

complexity algoritmu počítajúca gradient - čiže jeden krok - je lineárna (prečože forward pass je lineárny)
backpropagation je tiež lineárne, je to v podstate vyhodnotenie siete a počítanie je tiež lineárne

*Slovné vysvetlenie*
Dopředné šíření můžeme definovat následně:
1. je provedeno maticové násobení, pokud dojde k setkání matice dat a matice vah,
2. pokud dojde k setkání matice dat s aktivační funkcí, tak je na data daná funkce aplikována,
3. výstup současné vrstvy slouží jako vstup vrstvy následující,
4. pokud dojde k setkání matice dat s chybovou funkcí, jsou vygenerována data pro zpětný průchod.

Zpětné šíření chyby je podobné dopřednému šíření, avšak opačným směrem (výstupní → vstupní vrstva). Jako vstupní data slouží vygenerovaná data dle 4. pravidla dopředného šíření. Pravidla jsou následující:
1. je provedeno maticové násobení transponovanou maticí vah, pokud dojde k je- jímu setkání s maticí dat,
2. pokud dojde k setkání matice dat s aktivační funkcí, tak je na data aplikována derivace dané funkce,
3. chybová matice aktuální vrstvy slouží jako vstupní data vrstvy předešlé.

Výpočet gradientu je proveden pomocí maticového násobení mezivýsledku získaného po aplikaci 2.pravidla zpětného šíření chyby a mezivýsledkem získaným po aplikaci 2. pravidla dopředného šíření.

---
## Hopfieldova síť
Hopfieldova síť patří mezi modely využívající asociativní paměť. Na rozdíl od klasických pamětí, kde se vyhledává položka v paměti podle adresy, u asociativní paměti vybavení určité informace probíhá na základě její částečné znalosti (asociace)
Hopfieldův model neuronové sítě je tvořen neurony, které jsou spojeny symetrickými spoji každý s každým (obr.). V základním modelu se nepracuje s biasy, tj. všechny prahy neuronů jsou nulové a žádný neuron není spojen sám se sebou.

**Learning**
Proces učení Hopfieldovy sítě je založen na několika krocích. Pro každý vzor se vytvoří dílčí matice dimenze $N^2$, kde $N$ je počet vstupů. Tato matice bude tvořena prvky, které vzniknou vynásobením $i$-tého vstupu $j$-tým vstupem (metodou každý z každým), přičemž pokud se jedná o stejný vstup ($i=j$), je váhový koeficient nulový. Tím vznikne symetrická matice obsahující $+1$ a $-1$ s výjimkou nulové diagonály. Výsledná čtvercová matice vah, vznikne součtem všech dílčích matic jednotlivých vzorů, kterých je $M$

:::success
Krok 1. Nastavení vah podle vstupních vzorů
* $w_{ij} = \sum_{s=0}^{M-1}x_i^s x_j^s$ alebo $0$
* Váha $w_{ij}$ sa rovná sume pre $i$ rôzne od $j$.
* Pre $i=j$ má nulovú hodnotu.
* V tejto rovnici $w_{ij}$ je váha mezi neuronem $i$ a $j$ (jedná se o čtvercovou matici vah) a $x_i^s$ je $i$-tý ($j$-tý) element $s$-tého vstupního vzoru, který nabývá hodnoty $+1$ a $-1$.

Krok 2. Opakování učícího procesu
* Pokud ještě nebyly předloženy všechny trénovací vzory, přejde se na Krok 1., jinak konec učení.
:::

**Algoritmus vybavování Hopfieldovy sítě** lze popsat v následujících několika krocích:

:::success
**Krok 1. Inicializace stavů**
* Nastavení počátečních stavů podle předloženého vzoru
* $μ_i (t) = x_i ,0 ≤ i ≤ N − 1$
* V této rovnici je $μ_i (t)$ výstup z $i$-tého neuronu a čase $t$ a $x_i$ je element obrazce, který může nabývat hodnot jen $+1$ nebo $-1$.

**Krok 2. Iterace až do nalezení odpovědí**
* $μ_i (t+1) = f_h[\sum_{i^{'}=0}^{N-1} w_{ij} μ_j(t)], 0 ≤ i ≤ N − 1$
* Funkce $f_h$ je nelinearita bez posunutí.
* Krok 2. se provádí tak dlouho, až se přestanou měnit stavy, tj. rozdíl mezi tímto a předchozím stavem je nulový.
* Výstupy neuronů $y_i = μ_i$ ($t$ poslední ) jsou přímo jednotlivé body výstupního obrazce.

**Krok 3. Opakování procesu**
* Po skončení iterace je možné zadat nový vzor a přejít na *Krok 1*. V opačném případě algoritmus končí.
:::

Na rozdíl od vícevrstvých sítí Hopfieldova síť neodpovídá okamžitě. Potřebuje určitý čas k ustálení do stabilního stavu. Kromě základního modelu existují jeho rozšíření, které umožňují používat místo binárních reálné hodnoty, příp. si místo jednotlivých stabilních stavů pamatují celé sekvence stavů

## Konvoluční sítě
Siete originálne vytvorené na rozpoznávanie obrázkov: máme vstupný obrázok a potom máme vrstvy konvolučných máp a potom pooling vrstvy, typicky maxpooling (maximálne združovanie)

Konvolučné vrstvy
* pozrie sa na menšiu časť obrázku takže prímajúce pole neurónu je typicky malé.
* neurón štandardne vypočíta vážený súčet jeho vstupov (v tomto prípade z danej menšej časti obrázku) a použije aktivačnú funkciu
* zorganizujeme neurony do feature máp, čo sú štvorce alebo obdĺžniky neurónov - špecialne zorganizované s ohľadom ku obrazu (podľa obrazu).
* Neuróny v mapách zdielajú váhy - majú 1
* Aby sme boli schopní dostať viaceré možné tvary z obrazu typicky zvažujeme niekoľko vrstiev feature máp

Pooling vrstvy
* podobné ako konvolučné vrstvy, len nejak podvzorkujú obraz
* vezmeme malú časť obrazu (napr 2x2 neurónov) a vezmeme z nich nejakú informáciu napr maximálny z nich (Max-pooling) alebo priemer (Average-pooling) a uložíme do pooling-unitu a postupne tak spracujeme celý obraz.

**Architektúra konvoolučných sieť**
Viacvrstvé siete, neuróny sú zorganizované do vrstiev.

Vrstvy
* vstupná vrstva $L_0$
* dense vrstva $L_m$ - každý neuron v $L_m$ je spojený s každým neurónom v $L_{m-1}$
* konvolučné a pooling vrstvy $L_m$ - obsahujú 2 podvrstvy:
* konvolučná vrstva: neuróny sú organizované vo featured mapách a všetky neuróny vo featured mape zdielajú váhu ale majú rozdielne vstupy (nespojité featured mapy)
* pooling vrstva: je pripojená ku určitej feature mape a má ku nej zodpovedajúci pooling mapu $P$
Neuróny v $P$
* Majú vstupy len od featured mapy
* počítajú jednoduchú agregačnú funkciu (napr max)
* majú nespojité vstupy
* Polia vnímania (receptive fields) sa v konvolučnej vrstve prekrývajú, v pooling vrstve sú uplne nespojité

Konvolučnú siet vieme popísať úplne rovnako ako MLP
* musíme len doplniť nejak zdielanie váh
* $[ji]$ je množina všetkých spojení (čiže párov neurónov) zdielajúce váhu $w_{ji}$

**Aktivita**
Rovnako ako pri MLP
Rozdiel je len v pridaní poolingu:
* Na neuróny v poolingových vrstvách aplikujeme poolingovú funkciu
$\Rightarrow$ maxPooling: $y_j = {max}_{i \in y \gets} y_i$
$\Rightarrow$ avgPooling: $y_j = {\sum_{i \in j \gets} y_i \over {|j \gets|}}$

**Learning**
Rovnaké ako v MLP
* Máme tréningový set - v našom prípade supervised

**Algoritmus**
Tiež veľmi rovnaké ako pre MLP
* stochastic gradient descent
* začneme váhami a v každej iterácií vyberieme množinu trénovacích examplov a modifikujeme váhy podľa parciálnych derivácií error funkcie

**Zhrnutie**
* sú staré, ale v súčastnosti sú hlavným nástrojoom pri image processingu, image rozpoznávaniu, computer vision
* typicky trénované pomocou backpropag.
(resp trénované pomoocou gradient descentu ale backpropagacia počíta gradient..)
* Vďaka zdielaniu váh je možné robiť veľmi hlboké architektúry
* typicky rozširované rôznymi vylepšeniami a trikmi v ich topológií

## Rekurentní sítě - RNN (LSTM)


Rekurentné neurónové siete majú pridanú pamäť (pamätá si predošlé slová) vďaka slučkám naspäť do nižšej vrstvy a do samého seba v hidden vrstvách.
Zdielajú váhy U,V,W naprieč sekvenciou
Vedia pracovať so sekvenciami rôznych dĺžok
> MLP vedeli akceptovať len fixný rozmer vektoru na vstupe

Výpočet rekurentní sítě tedy probíhá tak, že ji postupně předkládáme vzory a ona na jejich základě (a na základě svých aktivací v předchozích krocích) počítá výstupy.
Výstup z předchozích kroků je veden do vstupu aktuálního stavu. Například pro předpovídání dalšího písmene jakéhokoli slova nebo předpovídání dalšího slova věty je třeba si pamatovat předchozí písmena nebo slova a ukládat je do nějaké podoby paměti.
Modely RNN mají paměť, která si vždy pamatuje, co bylo provedeno v předchozích krocích a co bylo vypočítáno. Stejná úloha se provádí na všech vstupech a RNN používá stejný parametr pro každý ze vstupů. Protože tradiční neuronová síť má nezávislé sady vstupů a výstupů, jsou složitější než RNN.

Vzorčeky:
Pro výpočet aktuálního stavu
$h_t = f (h_{t-1}, x_t )$,
Kde:
$x_t$ je stav vstupu
$h_{t-1}$ je předchozí stav,
$h_t$ je aktuální stav.

Pro výpočet aktivační funkce
$h_t = tanh (W_{hh} h_{t-1} + W_{xh} x_t)$,
Kde:
$W_{xh}$ je hmotnost na vstupním neuronu,
$W_{hh}$ je hmotnost v opakujícím se neuronu.

Pro výpočet výkonu:
$Y_t =W_{hy} h_t$.

Kde,
$Y_t$ je výstup a
$W_{hy}$ je hmotnost na výstupní vrstvě

 
:-------------------------:|:-------------------------:
 

**Výhody rekurentních neuronových sítí**
* RNN může zpracovávat vstupy libovolné délky.
* Model RNN je modelován tak, aby si pamatoval každou informaci v průběhu času, což je velmi užitečné v každém prediktoru časové řady.
* I když je vstupní velikost větší, velikost modelu se nezvětší.
* Hmotnosti lze sdílet v časových krocích.
* RNN může používat svou vnitřní paměť pro zpracování libovolné řady vstupů, což není případ neuronových sítí.

**Nevýhody opakujících se neuronových sítí**
* Kvůli jeho opakující se povaze je výpočet pomalý.
* Výcvik modelů RNN může být obtížný.
* Pokud jako aktivační funkce používáme relu nebo tanh, je velmi obtížné zpracovat sekvence, které jsou velmi dlouhé.
* Jsou náchylné k problémům, jako je exploze a gradient mizí.

## Samo-organizující mapy
Tiež nazývané Kohenenove siete

Základní typ Kohonenovy neuronové sítě je v principu samoorganizující se, tj. nepotřebuje ke své funkci přítomnost učitele. Samoorganizační mapa je tvořena vrstvou n vstupních neuronů, které slouží pouze k načtení vstupních podnětů představovaných n–prvkovými vektory $x = (x1; x2,... ; xn)$ a druhou vrstvou Kohonenových neuronů. Ty jsou vzájemně spojeny vazbami tzv. laterální inhibice. Laterální znamená vrstvový a inhibice znamená působení, které něco snižuje. Dalo by se tedy říci, že laterální inhibice je vzájemné tlumení v rámci jedné síťové vrstvy.

Každý neuron je propojen kladnou vazbou sám se sebou a zápornou (inhibiční) vazbou s ostatními neurony. Tím aktivovaný neuron svojí vlastní aktivaci posiluje a aktivaci ostatních neuronù tlumí. Nejsilněji aktivovaný neuron ve výsledku utlumí všechny ostatní a zůstane tak jediným aktivovaným neuronem. Tato strategie je výhodná v případě, kdy mnoho neuronù reaguje na stejný podnět a je potřeba zjistit, který z nich reagoval nejvíce.

Struktura neuronu v Kohonenově síti (obr. 3.4) je odlišná od neuronu v perceptronové síti. Počet vstupů, které přicházejí do neuronu, je roven počtu vstupů do Kohonenovy sítě. Váhy těchto vstupů zakódují vzory, které reprezentují vzory obdobně jako u perceptronu. Rozdíl je v tom, že neurony Kohonenovy sítě nemají vlastní přenosovou funkci. Neuron provádí pouze výpočet vzdálenosti (odchylky) předloženého vzoru od vzoru zakódovaného ve vahách daného neuronu podle vztahu.

Výstupní neurony jsou mezi sebou vzájemně propojeny, ale jen se sousedními neurony. Každý vstup je spojen s každým neuronem mřížky. Každý neuron na mřížce je pak výstupem. Počet výstupů je roven počtu neuronů.

Kohonenova síť se učí za provozu. Nemá fázi učení a fázi aktivace jako předchozí sítě. Snahou Kohonenovy sítě je vystihnout charakter množiny vstupů. Množina vstupů tvoří shluky, tzv. clustery. Pokud je stejný počet shluků jako Kohonenových neuronů, umístí se každý neuron ve středu příslušného shluku a stává se jeho typickým zástupcem

**Learning**
*Krok 1. Inicializace*
Nastavení vah $w_{ij}, 0≤i≤N−1, 0≤i≤M−1$ pro všechny spoje z $N$ vstupů do $M$ výstupních neuronů na malé náhodné počáteční hodnoty. Parametr učení se nastaví na hodnotu blízkou jedné. Hodnota tohoto parametru leží v intervalu $0 ≤ η(t) ≤ −1$ a slouží k řízení rychlosti učení. Je také třeba nastavit počáteční velikosti všech okolí kolem každého výstupního neuronu. Velikosti okolí se v praxi volí pro všechny neurony stejná tak, aby okolí pokrývalo všechny neurony, tj. poloměr okolí bude roven dimenzi mřížky (počtu neuronů). Je třeba také nastavit minimální hodnotu okolí, na kterém se dále zmíněné snižování okolí zastaví

*Krok 2. Předložení vzoru*
Předložení nového trénovacího vzoru $X (t) = {x 0(t),x1(t), ...,xN-1(t)}$ na vstup neuronové sítě.

*Krok 3. Výpočet vzdálenosti vzorů*
Vypočet vzdálenosti (podobnosti) dj mezi předloženým vzorem a všemi výstupními neurony j podle vztahu:
$d =∑_{i=0}^{N-1}[x(t)−w (t)]^2$
kde xj jsou jednotlivé elementy vstupního vzoru $X(t)$ a $w_{ij}(t)$ jsou váhy mezi i-tým vstupem a j-tým výstupním neuronem, které představují zakódované vzory.

*Krok 4. Výběr nejbližšího (nejpodobnějšího) neuronu*
Výběr výstupního neuronu j*, který splňuje následující podmínku a odpovídá tak nejpodobnějšímu neuronu:
$d_{j*} =min_j(d_j)$

*Krok 5. Přizpůsobení vah*
Přizpůsobení váhy pro neuron j* a jeho okolí N j* (t) , tj. pro všechny neurony ležící uvnitř tohoto okolí podle následujícího vztahu:
$w_{ij}(t + 1) = w_{ij} (t) + η(t)[x_i (t) − w_{ij} (t)]$
kde j jsou všechny neurony ležící vokolí Nj* (t) a i jsou vstupy, 0≤i≤N−1. Na začátku se hodnota váhy volí blízko jedné a postupně se zmenšuje k nule. Nezbytné je také provádět postupné snižování velikosti okolí až na předem definované minimální okolí (většinou je tímto minimálním okolím právě jeden konkrétní vybraný neuron).

*Krok 6. Pokračování učícího procesu*
Pokud nejsou vyčerpány všechny vzory pro naučení sítě nebo není vyčerpán požadovaný počet trénovacích kroků, tj. není dosaženo požadované přesnosti, algoritmus přejde na *Krok 2*. V opačném případě, kdy je síť naučena na všechny trénovací vzory, algoritmus končí.

**Formálne zadefinovanie**

**Aktivita**
pre $\vec x \in R^n, k=1...n$
$y_k = 1$, ak $k=arg min_{i=1...h} ||\vec x - \vec w||$ alebo $y_k = 0,$ inak

**Efektivita**
* ak sú vstupné vektory rovnomerne distribuované v konvexnom priestoore pracuje dobre
* ak 2 a viac sú separované clustre, rozdelenie nemusí korešpondovať s $p(\vec x)$ celkovo

**architektura + topologická štruktúra**
* neuróny spojené cez hrany (uvažujeme o tom ako o neoorientovanom grafe)

**learning**
* používame topologickú štruktúru
* $d(c,k) =$ dĺžka najkratšej cesty z c do k v topologickej štruktúre

**Topologický neighbourhoood**
* neurónu c o veľkosti s, $s \in N$
$N_s(c) = {k|d(c,k) \leq s}$

* v kroku:
daný $\vec x_t$ a podľa neho prisposobíme $\vec w_k$
$\vec w_k^t = \vec w_k^{t-1} + \theta (\vec x_t - \vec w_k^{t-1}),$ pre $k\in N_s(c(\vec x_k^{t}))$
$\vec w_k^t = \vec w_k^{t-1}$, inak

kde $c(\vec x_k^{t}) = arg min_{i=1..h} ||\vec x_t - \vec w_i^{t-1}||$ a $\theta \in R$ a $s \in N$ sú parametre ktoré sa môžu meniť počas trénovania.