03 Statistika - CZ (8h)

tags: řsss-základ, matika, mv013

Statistika. Popisná statistika (charakteristiky polohy a variability, pořádkové statistiky, statistiky asociace, související grafy). Diskrétní a spojité náhodné veličiny (NV). Náhodný výběr. Parametrické pravděpodobnostní modely (distribuce) NV. Centrální limitní věta. Princip věrohodnosti, bodové a intervalové odhady. Statistická inference - testování hypotéz, hladina významnosti, koeficient spolehlivosti. Testování hypotéz na jednom vzorku, dvou vzorcích, více než dvou vzorcích (včetně jednovýběrových, dvouvýběrových a párových t-testů, ANOVA a post-hoc testů), testů dobré shody. Lineární regresní model. (MV013)

---

Vzorce a formální definice.

Vzorce a definice

Volné definice a vysvětlení.

Vysvetlenie

Príklad

Zdroj, další zdroje na přečtení

Takto *[MV013] sú označené pojmy, ktoré nie sú v zadaní otázky, no preberali sa na MV013 a môžu sa zísť.

---

Disclaimer: poznámky sú z veľkej miery prevzaté z materiálov vypracovaných študentami umelej inteligencie a spracovania dát na podzim 2020.

---

Statistika je vědní obor, který se zabývá sběrem, organizací, analýzou, interpretací a prezentací empirických dat za účelem prohloubení znalostí určité oblasti, obvykle hromadného jevu.

Popisná štatistika

Popisná statistika je statistika, která kvantitatívně popisuje nebo sumarizuje vlastnosti nějaké sady dat, zatímco popisná statistika představuje proces používání a analýzy těchto popisných statistik

Popisná statistika se od infereční statistiky liší cílem shrnout, resp. popsat vzorek dat namísto odvodzování poznatků o populaci, kterou reprezentuje daný vzorek.

Typy proměnných

• číselné
• kategorické
  • nominální (neexistuje uspořádání), např. barva očí, pohlaví, bydliště…
  • ordinálne (existuje uspořádání), např. známka ve škole, dosažené vzdělání

Má zmysel daná charakteristika pre daný typ premennej?

charakteristika	číselná	nominálna	ordinálna
priemer
medián
modus
kvantil
rozptyl
smerodajná odchýlka
Giniho koeficient
entropia

Charakteristiky polohy

Typická hodnota, která vystihuje danou sadu hodnot. Některé mohou být vhodnější (víc vystihující) než jiné.

Aritmetický průměr (mean)

$\overline{x}$

Součet hodnot dělený počtem hodnot.

$\overline{x}=\frac{1}{n}\sum _{i=1}^n{x}_i$

• Lehce ovlivnitelné extrémními hodnotami, možné řešení: *[MV013]
  • trimmed mean = priemer po odstránení určitého počtu extrémnych hodnôt (používa sa napr. pri športoch, ktoré sú hodnotené porotou – najnižšie a najvyššie skóre sa zruší, výsledok je priemer zostávajúcich hodnôt),

    Príklad: hodnoty 7, 11, 2, 6, 14

    $\to$ usporiadané 2, 6, 7, 11, 14
    

    $0.2$-trimmed mean = by znamenalo odstranit 20 % nejnižších a 20 % nejvyšších hodnot, tudíž by výsledá sada byla 6, 7, 11.
    

  • winsorized mean = priemer po nahradení určitého počtu extrémnych hodnôt menej extrémnymi (najbližšou hodnotou zo sady).

    Príklad: Máme sadu 1, 5, 7, 8, 9, 10, 34. Po aplikaci winsorized mean dostaneme 5, 5, 7, 8, 9, 10, 10.
    

Medián (median)

$\tilde{x}$

Hodnota nacházející se přesně v polovině seřazeného seznamu hodnot.
Jinak řečeno, polovina hodnot je menší než medián a polovina je větší než medián.

$\tilde{x}=x_{(\frac{n+1}{2})}$ pre nepárne (liché)

$n$,

$\tilde{x}=\frac{x_{(\frac{n}{2})}+x_{(\frac{n}{2}+1)}}{2}$ pre párne (sudé)

$n$.

• Ak je počet hodnôt párny (sudý), neexistuje jedna hodnota, ktorá by bola presne v polovici
  $\to$ počíta sa priemer z dvoch hodnôt.
• Vhodnejšia charakteristika polohy ako priemer v prípade skewed dát.
• 
  $0.5$-kvantil

Modus (mode)

Hodnota, která se v sadě hodnot vyskytuje nejčastěji, nemusí být určená jednoznačně.

• Vhodná charakteristika i pro kategorické proměnné.

Kvantil (quantile)

Hodnota, která je větší nebo rovna jako

$\alpha \cdot 100$ % hodnot ze sady.

$q_{\alpha }=x_{(\lceil n\alpha \rceil )}$

• $q_{0.5}$ = medián
• $q_{0.25}$ = 1. kvartil (
  $Q_1$)
• $q_{0.75}$ = 3. kvartil (
  $Q_3$)
• $q_{0.75}-q_{0.25}$ = kvartilová odchýlka (
  $IQR$ = interquartile range)

Charakteristiky variability

Rozptyl (variance)

Průměr ze součtu čtverců (sum of squares).
Říká, jak moc se liší hodnoty od průměru.

$s^2=\frac{1}{n-1}\sum _{i=1}^n(x_i-\overline{x}{)}^2$

Směrodatná odchylka (standard deviation)

Odmocnina z rozptylu.
Říká, jak moc se průměrně liší jednotlivé hodnoty od průměrné hodnoty.
Pokud budeme mít v sadě 2 hodnoty: 2 a 4, jejich průměr je 3. Obě dvě hodnoty se liší od průměru o 1. Tudíž směrodatná odchylka je 1.

$s=\sqrt{\frac{1}{n-1}\sum _{i=1}^n(x_i-\overline{x}{)}^2}$

Charakteristiky tvaru *[MV013]

Koeficient šikmosti (skewness) *[MV013]

• Šikmost
  $=0$ značí, že hodnoty náhodné veličiny jsou rovnoměrně rozdělené vlevo a vpravo od střední hodnoty.
• Šikmost
  $>0$ (right-skewed distribution) značí, že vpravo od průměru se vyskytují odlehlejší hodnoty než vlevo (rozdělení má tzv. right tail) a väčšina hodnôt sa nachádza blízko vľavo od priemeru.
• Pro šikmost
  $<0$ (left-skewed distribution) platí opak.
• Symetrické rozdělení (včetně normálního) mají šikmost
  $=0.$
• Pro rozdělení s kladnou šikmostí obvykle platí, že modus je menší než medián a ten je menší než střední hodnota (pro zápornou šikmost naopak).
  Wikipedia

Koeficient špičatosti (kurtosis) *[MV013]

• Špičatost
  $>0$ značí, že většina hodnot náhodné veličiny leží blízko její střední hodnoty a hlavní vliv na rozptyl mají málo pravděpodobné odlehlé hodnoty. Křivka hustoty je špičatější než při normálním rozdělení.
• Špičatost
  $<0$ značí, že rozdělení je rovnoměrnější a křivka jeho hustoty je víc plochá než pri normálním rozdělení.
• Normálne rozdelenie má špicatosť
  $=0$.
• Špicatosť rozdelenia nezávisí od lineárnej transformácie náhodnej veličiny, je teda napr. rovnaká pre všetky normálne rozdelenia.
  Wikipedie

Poriadkové štatistiky (výberové charakteristiky dané poradím)

http://kfe.fjfi.cvut.cz/~limpouch/sigdat/statodn/node5.html
http://user.mendelu.cz/drapela/Statisticke_metody/teorie text II.pdf

Pořádková statistika = vzestupně uspořádané prvky souboru

$x_{(1)},x_{(2)},\dots ,x_{(n)}$.

Z takto vytvořené pořádkové statistiky lze konstruovat kvantilové charakteristiky.

Statistiky asociace

Statistiky asociace jsou faktory nebo koeficienty, které kvantifikují vztah mezi dvěma nebo vícero veličinami.

Kovariance

Kovariance je statistickou mírou lineární závislosti dvou veličin.
Wikipedia

Nech

$x=(x_1,\dots ,x_n{)}^T$ a

$y=(y_1,\dots ,y_n{)}^T$.

Kovariance

$c$ je definována následovně:

$$c=\frac{1}{n-1}\sum _{i=1}^n(x_i-\overline{x})(y_i-\overline{y})$$

Od každého prvku výběru

$x$ odečteme výběrový průměr (výběrový průměr je průměr vybraných prvků)

$\overline{x}$, od každého prvku výběru

$y$ odečteme výběrový průměr

$\overline{y}$, rozdíly mezi sebou podle indexů vynásobíme (

$(x_1-\overline{x})\cdot (y_1-\overline{y})$,

$(x_2-\overline{x})\cdot (y_2-\overline{y})$ atď.), výsledné součiny sčítáme a vydělíme

$n-1$.

Vzorec předpokladá, že výběry

$x$ a

$y$ mají stejnou velikost

$n$.

Pokud je

$cov(X,Y)>0$, obě proměnné se mění stejným směrem (pokud roste jedna, roste i druhá a naopak), jsou si úměrné.
Pokud je

$cov(X,Y)<0$, proměnné jsou nepřímo úměrné.
Pokud je

$cov(X,Y)=0$, proměnné na sobě nezávisí.
Kovariance nám nic neříká o síle vazby - je vyjádřená v jednotkách X a Y.

Korelace

Korelace znamená vzájemný vztah mezi dvěma procesy nebo veličinami. Pokud se jedna z nich mění, mění se korelativně i druhá a naopak. Pokud se mezi dvěma procesy ukáže korelace, je pravděpodobné, že na sobě závisejí, nelze z toho však ještě usoudit, že by jeden z nich musel být příčinou a druhý následkem. To samotná korelace nedovoluje rozhodnout, protože korelace neimplikuje kauzalitu.
Wikipedia

Korelace je normalizovaná kovariance.

Nech

$x=(x_1,\dots ,x_n{)}^T$ a

$y=(y_1,\dots ,y_n{)}^T$.

Korelácia

$r$ je definovaná nasledovne:

$$r=\frac{\sum _{i=1}^n(x_i-\overline{x})(y_i-\overline{y})}{\sqrt{\sum _{i=1}^n(x_i-\overline{x}{)}^2\sum _{i=1}^n(y_i-\overline{y}{)}^2}}$$

Korelace se počítá podobně jako kovariance, ale čitatel se dělí odmocninou ze součinu součtu čtverců (sum of squares) pro

$x$ a pro

$y$.

Hodnota

$r>0.8$ znamená silný pozitivní lineární vztah,

$r<-0.8$ silný negativní lineární vztah a

$r=0$ značí, že mezi veličinami neexistuje lineární vztah.

Interpretace korelace v přírodních vědách:

$|\rho |\in ⟨0;0,4)$ - malá nebo žádná korelace.

$|\rho |\in ⟨0,4;0,6)$ - slabá korelace

$|\rho |\in ⟨0,6;0,8)$ - střední korelace

$|\rho |\in ⟨0,8;1)$ - silná korelace

Korelace představuje kovarianci na škále

$⟨-1;1⟩$.

Matice korelace

Korelační matice je tabulka, která zobrazuje korelační koeficienty pro vybrané proměnné. Je to dobrý nástroj pro vizualizaci závislostí proměnných v datasetu.

Korelace mezi "Hours spent studying" a "Exam score" je silně pozitivní, tudíž to znamená, že pokud jsme strávili učením hodně hodin, dosáhli jsme lepších výsledků.
Kdežto "Hour spent studying" a "Hours spent sleeping" má negativní korelaci, což znamená, že pokud jsme více hodin studovali, tak jsme méně hodin spali a naopak.
Příklad žádné korelace může být "IQ score" a "Hour spent sleeping". Kolik hodin spánku si dopřáváme nemá prakticky žádný vliv na naše IQ

Scatterplot

Vizualizuje hodnoty dvoch premenných v 2D priestore. Využíva sa na sledovanie vzťahov medzi premennými.
V prípade, že sa scatterplot používa na zobrazenie korelácie medzi premennými, zvykne sa do grafu priložiť krivka, ktorá reprezentuje tento vzťah.

Obrázek ukazuje korelaci výnosů z prodeje zmrzliny v závislosti na venkovní teplotě. Scatterplot vykazuje pozitivní korelaci, protože výnosy zmrzliny byly vyšší při vyšších (teplejších) teplotách.

Korelogram

Vizualizuje correlation matrix. Užitočné pri veľkom počte premenných.
Prakticky stejné jako correlation matrix.

Jedna z variánt korelogramu:

Používané grafy

Boxplot

Boxplot delí dáta na sekcie obsahujúce približne 25 % dát v dátovom súbore. Poskytujú vizuálnu sumarizáciu, vďaka ktorej je jednoduché rýchle určiť priemer, šikmosť dát, kvantily a extrémne hodnoty (outliers).

Náhodná veličina (random variable)

Náhodná veličina je libovolná veličina, kterou je možné opakovaně měřit a její hodnoty zpracovávat metodami pravděpodobnosti nebo statistiky. Tyto hodnoty jsou před vykonáním experimentu, resp. pozorováním, neznámé.
Wikipédia

Přesněji, náhodná veličina je funkce, která přiřazuje každému elementárnímu náhodnému jevu nějakou (zpravidla číselnou) hodnotu (například při hodu mincí "panně" nulu a "orlu" jedničku).
Wikipédia

Nech

$(\mathrm{\Omega },\mathcal{A},P)$ je pravděpodobnostní prostor.
MV013, 3. prednáška

• $\mathrm{\Omega }$ = neprázdna množina
• $\mathcal{A}$ =
  $\sigma$-algebra nad
  $\mathrm{\Omega }$
• $P$ = pravdepodobnostné ohodnotenie nad
  $\mathcal{A}$

Príklady:

• počet hláv pri 10-krát opakovanom hode mincou,
• počet dopravných nehôd za deň,
• doba čakania na autobus,
• výška náhodne vybraného študenta.

Náhodná veličina môže byť diskrétna alebo spojitá.

Wikipedie: Náhodná veličina
https://www.statlect.com/fundamentals-of-probability/random-variables

Diskrétní náhodná veličina

Náhodná veličina je diskrétní, pokud se prvky výběrového prostoru

$\mathrm{\Omega }$ zobrazí na ose reálných čísel jako izolované body, označené

$x_1,x_2,...,x_k$, přičem každý z těchto bodů má nenulovou pravděpodobnost.

Pravděpodobnost, že diskrétní náhodná veličina

$X$ bude mít po vykonání náhodného pokusu hodnotu

$x$, značíme

$P(X=x)$ nebo

$P(x)$.

Výsledkem jednoho náhodného pokusu bude, že náhodná veličina bude mít právě jednu hodnotu. Součet pravděpodobností všech možných hodnot

$x$ diskrétní náhodné veličiny

$X$ je rovný 1.

$$\sum _{x}P(x)=1$$

Diskrétní náhodnou veličinou je tedy všechno, čo může nabýt jen jednotlivé hodnoty z konečného nebo nekonečného intervalu, tzn. může se změnit pouze skokově.

Príklad: pravdepodobnosť hodu kockou – kocka vie nadobudnúť len hodnoty od 1 po 6.

Rozdelenie pravdepodobnosti diskrétnej náhodnej veličina sa vyjadrí tak, že sa určí pravdepodobnosť

$P(x)$ pre všetky

$x$ z definičného oboru veličiny

$X$. Pravdepodobnosti týchto hodnôt sú vyjadrené funkciou

$P(x)$, ktorá sa nazýva pravdepodobnostnou funkciou

Platí, že vo výberovom priestore majú prvky súčet svojich pravdepodobností rovný 1.

Hodnoty pravdepodobnostnej funckie sa často vyjadrujú tabuľkou. Príklad:

$x$	$P(x)$
$x_1$	0,2
$x_2$	0,3
$x_3$	0,5

Pravdepodobnostnú funkciu vieme využiť k výpočtu pravdepodobnosti. Napríklad pravdepodobnosť, že náhodná veličina

$X$ leží medzi hodnotami

$x_1$ a

$x_2$ môže byť vyjadrená ako

$P(x_1\le X\le x_2)=\sum _{x=x_1}^{x_2}P(x)$, čo znamená, že sčítame pravdepodobnosti nadobudnutia hodnôt v danom rozsahu.

Rozdelenie početnosti diskrétnej náhodnej veličiny:

Pomocou pravdepodobnostnej funkcie je možné zaviesť distribučnú funkciu vzťahom

$$F(x)=P(X<x)$$

Distribuční funkce je neklesající a spojitá zprava. Hodnoty distribuční funkce leží v rozsahu

$0\le F(X)\le 1$. Pro diskrétní náhodnou veličinu

$X$ je možné pro libovolné reálné číslo

$x$ vyjádřit distribuční funkci vztahem:

$$F(x)=\sum _{t\le x}P(t)$$

Distribuční funkce nám říká, s jakou pravděpodobností nabude náhodná veličina hodnoty menší-rovno x.

Pro popis diskrétních náhodných veličin se používají různé charakteristiky. Jednou z nejdůležitějších je střední hodnota označená jako

$E(X)$, která je definovaná následujícím vzorcem:

$$E(X)=\sum _{x_k}{x}_{k}P(X=x_k)$$

Rozptyl náhodné veličiny se značí

$D(X)$ a vyjadřuje velikost odchylek hodnot náhodné veličiny od její střední hodnoty. Vyjadřuje se jako:

$$D(X)=\sum _{x_k}{x}_k^{2}P(X=x_k)-[E(X){]}^2$$

Směrodatná odchylka, označená jako

$\sigma (X)$, je definovaná jako odmocnina z rozptylu:

$$\sigma (X)=\sqrt{D(X)}$$

Střední hodnota představuje číslo, okolo kterého kolísají výběrové průměry vypočítané ze série pozorovaných hodnot náhodné veličiny. Vypočítá se jako součet vynásobení hodnoty náhodné veličiny s její pravděpodobností.
Příklad:

• Mějme náhodnou veličinu, která s pravděpodobností 0,3 nabývá hodnoty 1, s pravděpodobností 0,2 nabývá hodnoty 2 a s pravděpodobností 0,5 nabývá hodnoty 3.
  Střední hodnota je pak (0,3 × 1) + (0,2 × 2) + (0,5 × 3) = 2,2.
  

Spojitá náhodná veličina

Náhodná veličina je spojitá, pokud její hodnoty přiřazené prvkům výběrového prostoru

$\mathrm{\Omega }$ tvoří interval na ose reálných čísel, přičemž každý bod tohoto intervalu má nenulovou pravděpodobnost.

Spojitou náhodnou veličinou je tedy všechno, co nabývá spojité hodnoty. Nabývá hodnoty z konečného nebo nekonečného intervalu, tzn. může se měnit spojitě bez skoků.

Príklad: doba čakania na šalinu, analógový signál

Hustota pravděpodobnosti popisuje chování náhodné veličiny. Hustota představuje ekvivalent pravděpodobnostní funkce diskrétní náhodné veličiny, a teda platí:

$${\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}f(x)dx=1$$

Pravděpodobnost, že spojitá náhodná veličina nabyde hodnoty z intervalu

$⟨x_1;x_2⟩$ může být vypočítáná jako:

$$P(x_1\le X\le x_2)={\int }_{x_1}^{x_2}f(t)dt$$

Plocha pod křivkou rozdělení se rovná jedné, protože pokrývá všechny hodnoty, které může náhodná veličina nabývat.

Distribuční funkce spojitá náhodná veličiny

$X$ je nezáporná funkce:

$$F(x)={\int }_{-\mathrm{\infty }}^{x}f(t)dt$$

Distribuční funkci

$F(x)$ je možné vyjádřit jako plochu pod křivkou pravděpodobnostního rozdělení.

Pravděpodobnost, že spojitá náhodná veličina nabyde hodnoty z intervalu

$⟨x_1;x_2⟩$ může být zároveň vyjádřená i pomocí distribuční funkce, a to následujícím způsobem:

$$P(x_1\le X\le x_2)=F(x_2)-F(x_1)$$

Od pravdepodobnosti, že náhodná veličina

$X$ nadobudne hodnoty

$x_2$ a menšie odčítame pravdepodobnosť, že nadobude hodnoty

$x_1$ a menšie. Ostane nám teda plocha medzi bodmi

$x_2$ a

$x_1$, ktorá značí pravdepodobnosť, že

$X$ nadobudne hodnoty v tomto intervale.

Vyznačení hodnoty distribuční funkce

$F(x_i)$:

K popisu spojité náhodné veličiny se používají číselné charakteristiky. Nejdůležitější z nich je střední hodnota (očekávaná hodnota), označovaná jako

$E(X)$, ekvivalentně i

$EX$, definovaná jako:

$$E(X)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}xf(x)dx$$

Další charakteristikou je rozptyl, označovaný jako

$D(X)$ nebo i

$var(X)$, který je možné vyjádřit jako:

$$D(X)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{x}^{2}f(x)dx-[E(X){]}^2$$

K popisu hodnot rozptýlení spojité náhodné veličiny se používá nejčastěji směrodatná odchylka, označená jako

$\sigma (X)$. Je definovaná jako:

$$\sigma (X)=\sqrt{D(X)}$$

Střední hodnota u spojité náhodné veličiny má stejný význam jako při diskrétní.
Příklad

• Mějme náhodnou veličinu, jejíž hustota pravděpodobnosti na intervalu <0,1> je f(x) = 2x, jinde identicky rovna nule. To je rozdělení, v němž je hustota pravděpodobnosti přímo úměrná hodnotě x.
• Střední hodnota uvedené náhodné veličiny tedy je
  $\frac{2}{3}$.
  

Náhodný výběr

Náhodný výber je uspořádaná n-tice náhodných veličin

$X_1,\dots ,X_n$, které jsou stochasticky nezávislé a mají stejné rozdělení (ale nemusíme ho konkrétně znát).

Realizací náhodného výběru jsou konkrétní hodnoty

$x_1,\dots ,x_n$.

Příklad: Budeme chtít získat informace o průměrném platu v ČR. Abychom měli přesné informace, museli bychom se zeptat všech občanů na jejich plat. Toto je prakticky neproveditelné, proto učiníme náhodný výběr lidí a těch se zeptáme na jejich plat, z čehož vypočítáme průměr.

Statistika je libovolná funkce náhodného výběru.

https://mathstat.econ.muni.cz/media/12421/nahodny_vyber_statistika.pdf
https://web.vscht.cz/~zikmundm/astat/poznamky_k_AS_7.pdf

Parametrické pravděpodobnostní modely NV (distribuce)

Pre fajnšmekrov: Databáza rozdelení pravdepodobnosti
Pre menších fajnšmekrov: Tabuľka vzťahov medzi rozdeleniami

Diskrétní rozdělení

Bernoulliho (Binomické) rozdělení (alternativní)

Popisuje události s dvěma možnými výsledky (úspěch, neúspěch), přičemž úspěch má pravděpodobnost

$p$, neúspěch

$1-p$.

$\text{Bernoulli}(p)$ =

$\text{Binomial}(1,p)$

Príklad: Hod mincí.

Náhodná veličina

$X$ má Bernoulliho rozdělení s parametrem

$p\in (0,1)$ pokud je její pravděpodobnostní funkce definována následovně:

$$p(x)=P(X=x)=\{\begin{array}{ll}1-p& x=0\\ p& x=1\\ 0& \text{jinak.}\end{array}$$

• $X\sim \text{Bernoulli}(p)$
• $EX=p$
• $\text{var}X=p(1-p)$

Pravděpodobnostní funkce pro

$p=0.65$

Distribuční funkce pro

$p=0.65$

Binomické rozdělení

Popisuje počet úspěchů v

$n$ opakovaných (mezi sebou nezávislých) Bernoulliho pokusech, přičemž

$p$ je pravděpodobnost úspěchu v jednom pokusu.

Příklad: Hazíme desetkrát kostkou, jaká je pravděpodobnost, že právě čtyřikrát padne šestka?

Náhodná veličina

$X$ má binomické rozdělení s parametry

$n\in \mathbb{N}$ a

$p\in (0,1)$ pokud je její pravděpodobnostní funkce definovaná následovně:

$$p(x)=P(X=x)=\{\begin{array}{ll}(\genfrac{}{}{0ex}{}{n}{x})p^x(1-p{)}^{n-x}& x=0,1,\dots ,n\\ 0& \text{jinak.}\end{array}$$

• $X\sim \text{Binomial}(n,p)$
• $EX=np$
  (čím vyšší pravděpodobnost úspěchu, tím větší počet úspěšných pokusů)
• $\text{var}X=np(1-p)$

Pravděpodobnostní funkce:

Pozn.: graf pripomína pravdepodobnostnú funkciu normálneho rozdelenia, viď napr. aproximácia normálnym rozdelením pomocou centrálnej limitnej vety.

Distribuční funkce:

Poissonovo rozdělení

Popisuje počet výskytův nezávislé události za fixní (časový/prostorový/…) interval.

Príklad: počet příchozích hovorů do call centra za hodinu; počet narozených dětí v Česku za den
Příklad na poissonovo rozdělení.

Náhodná veličina

$X$ má Poissonovo rozdělení s parametrem

$\lambda >0$ pokud je její pravděpodobnostní funkce definovaná následovně:

$$p(x)=P(X=x)=\{\begin{array}{ll}{e}^{-\lambda \frac{{\lambda }^x}{x!}}& x=0,1,...,\\ 0& \text{inak.}\end{array}$$

• $X\sim \text{Pois}(\lambda )$
• $EX=\lambda$
• $\text{var}X=\lambda$
• $\lambda$ = očekávaný počet výskytů události za daný interval

Pravdepodobnostná funkcia:

Distribučná funkcia:

Geometrické rozdělení

Popisuje počet selhání v opakovaném Bernoulliho experimentu před prvním úspěchem.

Příklad: počet selhání než na kostce hodíme šestku; počet přenesených bitů než se stane první chyba (pokud přenášíme pouze do první chyby).

Náhodná veličina

$X$ má geometrické rozdělení s parametrem

$p\in (0,1)$ pokud je její pravděpodobnostní funkce definovaná následovně:

$$p(x)=P(X=x)=\{\begin{array}{ll}p(1-p{)}^x& x=0,1,\dots ,\\ 0& \text{inak.}\end{array}$$

• $X\sim \text{Geom}(p)$
• $EX=\frac{1-p}{p}$
• $\text{var}X=\frac{1-p}{p^2}$

Někdy se definuje i jako

$p(x)=p(1-p{)}^{x-1}$ pro

$x=1,2,\dots$, podle toho, jestli nás zajímá počet selhání před úspěchem (vyšší) nebo počet pokusů potřebných na dosáhnutí prvního úspěchu (tj. pokus včetně toho úspěšného).

Pravděpodobnostní funkce:
(vľavo definícia "vrátane", vpravo definícia "počet zlyhaní")

Distribučná funkcia:
(vľavo definícia "vrátane", vpravo definícia "počet zlyhaní")

(Diskrétní) rovnoměrné rozdělení

Stejná pravděpodobnost pro každý jev z množiny

$A$.

Příklad: poslední cifra náhodně vybraného telefonního čísla; házení kostkou

Náhodná veličina

$X$ má diskrétní rovnoměrné rozdělení na konečné množině

$A$ pokud je její pravděpodobnostní funkce definovaná následovně:

$$p(x)=P(X=x)=\{\begin{array}{ll}\frac{1}{A}& x\in A,\\ 0& \text{jinak.}\end{array}$$

• $X\sim \text{Uniform}(A)$
• neexistuje všeobecný vzorec pro
  $EX$ a ani
  $\text{var}X$

Pravděpodobnostní funkce:

Distribuční funkce:

Spojité rozdělení

Rovnoměrné rozdělení

Přiřazuje všem hodnotám náhodné veličiny stejnou pravděpodobnost. Používá se při generování pseudonáhodných čísel.

Spojitá náhodná veličina X má rovnoměrné rozdělení na intervalu

$(a,b)$, kde parametry

$a,b$ jsou libovolné reálné čísla, pro které platí, že

$a<b$ právě tehdy, pokud její hustota pravděpodobnosti má následující tvar:

$$f(x)=\{\begin{array}{l}\frac{1}{b-a};x\in (a,b),\\ 0;x\notin (a,b)\end{array}$$

Distribuční funkce má tvar:

$$F(x)=\{\begin{array}{l}0;x<0,\\ \frac{x-a}{b-a};a<x<b,\\ 1;x\ge b\end{array}$$

• $X\sim \text{R}(a,b)$
• $E(X)=\frac{a+b}{2}$
• $\text{var}(X)=\frac{(b-a{)}^2}{12}$

Funkce hustoty rozdělení:

Exponenciální rozdělení

Vyjadřuje čas mezi náhodně se vyskytujícími událostmi. Využíva se například v pojistné matematice pri určení času mezi pojistnými událostmi. Pravděpodobnost nástání události nezávisí na přečkané době.

Spojitá náhodná veličina X má exponenciální rozdělení s parametrem

$\lambda >0$ právě tehdy, pokud její hustota pravděpodobnosti má následující tvar:

$$f_x(x)=\{\begin{array}{l}\lambda e^{-\lambda x};x>0,\\ 0;x\le 0\end{array}$$

Distribučná funkcia má tvar:

$$F(x)=\{\begin{array}{l}1-e^{-\lambda x};x>0,\\ 0;x\le 0\end{array}$$

• $X\sim \text{Exp}(\lambda )$
• $E(X)=\frac{1}{\lambda }$
• $\text{var}(X)=\frac{1}{{\lambda }^2}$

Příklad: (https://is.muni.cz/do/rect/el/estud/prif/ps15/statistika/web/pages/exponencialni.html)

Hustota exponenciálneho rozdelenia:

Normálne rozdelenie

Normálne rozdělení, někdy nazývané i Gaussovo rozdělení, je najčastejšie používané rozdelenie. Má mnoho významných teoretických vlastností a z hľadiska aplikácie býva vhodné na vyjadrenie náhodných veličín, ktoré je možné interpretovať ako aditívny výsledok veľa nezávislých vplyvov (chyba merania, odchýlka rozmeru výrobku od požadovanej hodnoty, atď).

Normálne rozdelenie pravdepodobnosti s parametrami

$\mu$ (střední hodnota) a

${\sigma }^2$ (směrodatná odchylka), kde

$\sigma$ má hustotu:

$$f(x)=\frac{1}{\sigma \sqrt{2\pi }}{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$$

• $X\sim \text{N}(\mu ,{\sigma }^2)$
• $E(X)=\mu$
• $\text{var}(X)={\sigma }^2$

Rozdelenie

$\text{N}(0,1)$ sa označuje ako normované alebo štandardizované normálne rozdelenie. Toto rozdelenie má teda hustotu:

$$f(x)=\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}$$

Grafy hustôt normálneho rozdelenia:

Grafy odpovedajúcich distribučných funkcií:

Transformáciou náhodnej veličiny

$X$ s rozdelením

$N(\mu ,{\sigma }^2)$ na náhodnú veličinu

$$U=\frac{X-\mu }{\sigma }$$

dostaneme náhodnú veličinu s normovaným (standardizovaným) normálním rozdělením

$\text{N}(0,1)$ a distribučnou funkciou

$F(u)$.

Zmenšování parametru

$\mu$ posouvá rozdělení po ose

$x$ vlevo, zvětšování ho posouvá vpravo. Čím větší je parameter

${\sigma }^2$, tým víc plochá je křivka (hodnoty se víc liší od průměru). Standardizací se od náhodné veličiny odečítá její střední hodnota

$\mu$, čímž se křivka posune na x-ové ose na bod 0.

Pre hodnoty

$F(u)$ distribučnej funkcie normovaného normálneho rozdelenia platí

$$F(-u)=1-F(u)$$

dostaneme náhodnou veličinu s normovaným (standardizovaným) normálním rozdělením

$\text{N}(0,1)$.

Pre kvantily normovaného normálneho rozdelenia platí

$$u_{1-P}=-u_P$$

kde

$0<P<1$.

Tieto vlastnosti plynú zo stredovej symetrie rozloženia. Pre ilustráciu si môžeme za

$u$ pri výpočte hodnoty distribučnej funkcie dosadiť číslo 0,5. Po odčítaní hodnoty

$F(0,5)$ od 1 dostaneme pravdepodobnosť, ktorá je vďaka stredovej symetrii rovnaká ako

$F(-0,5)$

Ak má náhodná veličina

$X$ normálne rozloženie

$N(\mu ,{\sigma }^2)$, jej distribučnú funkciu je možné vyjadriť ako

$$F(X)=F(\frac{x-\mu }{\sigma })$$

Chi-kvadrát rozdělení

Rozdělení se používá při určování intervalových odhadů neznámých parametrů a při testování hypotéz, například když chceme určit, zda množina dat vyhovuje dané distribuční funkci - viz. https://www.youtube.com/watch?v=2QeDRsxSF9M.

Rozdelenie chi kvadrát, taktiež nazývané aj Pearsonovo rozdelenie, s

$n$ stupňami voľnosti je spojité rozdelenie pravdepodobnosti. Hustota pravdepodobnosti rozdelenia má tvar

$$f(x)=\{\begin{array}{l}0;x\le 0,\\ \frac{1}{\mathrm{\Gamma }(\frac{n}{2})2^{\frac{n}{2}}}{e}^{-\frac{x}{2}}{x}^{\frac{n}{2}-1};x>0\end{array}$$

• $X\sim {\chi }^2(n)$
• $E(X)=n$
• $\text{var}(X)=2n$

Grafy hustôt chi kvadrát rozdelenia:

$k$ značí počet stupňov voľnosti

Logaritmicko-normálne rozdelenie

Logaritmicko-normálne rozdelenie s parametrami

$\mu$ a

$\sigma$ je spojité rozdělení pravděpodobnosti jednorozmernej reálnej náhodnej veličiny

$X$ také, že náhodná veličina

$ln(X)$ má normálne rozdelenie so strednou hodnotou

$\mu$ a smerodajnou odchýlkou

$\sigma$.

Hustota logaritmicko-normálneho rozdelenia má tvar

$$fx(x)=\frac{1}{x\sigma \sqrt{2\pi }}{e}^{-\frac{(lnx-\mu {)}^2}{2{\sigma }^2}},x>0$$

• $X\sim LN(\mu ,\sigma )$
• $EX=e^{\mu +{\sigma }^2/2}$
• $\text{var}X=(e^{{\sigma }^2}-1)e^{2\mu +{\sigma }^2}$

Hustoty logaritmicko-normálneho rozdelnia:

Studentovo t-rozdelenie

Studentovo rozloženie je spojité rozdelenie pravdepodobnosti, ktoré sa najčastejšie používa pri určovaní intervalových odhadov a pri testovaní štatistických hypotéz.

Nech

$X$ je náhodná veličina a

$n$ je prirodzené číslo. Potom táto náhodná veličina

$X$ má Studentovo rozloženie (taktiež nazývané aj t-rozloženie) s

$n$ stupňami voľnosti, pokiaľ jej hustota pravdepodobnosti má nasledovný tvar

$$f_n(x)=\frac{\mathrm{\Gamma }(\frac{n+1}{2})}{\mathrm{\Gamma }\frac{n}{2}\sqrt{n\pi }}(1+\frac{x^2}{n}{)}^{-\frac{n+1}{2}}$$

• $X\sim \text{t}(n)$
• $EX=\mu$
• $\text{var}X={\sigma }^2$

Stupne voľnosti reprezentujú počet nezávislých údajov, na ktorých je založený parametrický odhad.

Funkcia hustoty Studentovho rozdelenia:
(

$v$ značí počet stupňov voľnosti)

Centrální limitní věta (CLV, Central Limit Theorem)

CLV na portálu matematické biologie
StatQuest: The Central Limit Theorem [YouTube] - Perfektně vysvětleno

Centrální limitní věta je klíčové matematické tvrzení, které popisuje pravděpodobnostní chování výběrového průměru pro velké vzorky a umožňuje tak sestrojení intervalových odhadů, a to nejen pro normálně rozdělené náhodné veličiny.

Lindeberg-Lévy CLV

Mějme posloupnost

$X_1,\dots ,X_n$ nezávislých, stejně rozdělených náhodných veličin (a.k.a. náhodný výběr), které mají konečnou střední hodnotu

$\mu$ a rozptyl

${\sigma }^2>0$. Pak asymptoticky pro

$n\to \mathrm{\infty }$ platí:

$$\begin{gathered} (1)\bar{X}=\frac{1}{n}\sum _{i=1}^n{X}_i\approx \mathcal{N}(\mu ,\frac{{\sigma }^2}{n}) \\ (2)\sqrt{n}\frac{\bar{X}-\mu }{\sqrt{{\sigma }^2}}\approx \mathcal{N}(0,1) \\ (3)\frac{\sum _{i=1}^n{X}_i-n\mu }{\sqrt{n{\sigma }^2}}\approx \mathcal{N}(0,1) \end{gathered}$$

Komentář: bez ohledu na to, z jakého rozdělení máme náhodné výběry, výběrový průměr bude mít (pro dostatečně velké

$n$) asymptoticky normální rozdělení s určitými parametry (viz.

$(1)$ výše). Po vhodné normalizaci výběrového průměru dostaneme asymptoticky standardní normální rozdělení

$\mathcal{N}(0,1)$ (viz.

$(2)$ a

$(3)$ výše).
Díky CLV nepotřebujeme vědět, z jakého rozložení pocházejí naše hodnoty. Pokud máme hodnoty výběrového průměru (které dle CLV budou mít normální rozložení), můžeme z nich počítat confidence intervaly, dělat t-testy (kde se ptáme, jestli jsou nějaké rozdíly mezi výběrovými průměry dvou vzorků), ANOVA a další statistické analýzy, které počítají s výběrovým průměrem.

Centrální limitní věta funguje dokonce i tehdy, když rozdělení původní náhodné veličiny není spojité, ale diskrétní.

Zjednodušená interpretace CLV: pokud je rozdělení pravděpodobnosti náhodné veličiny

$X$ normální, pak je i rozdělení průměru pozorovaných hodnot normální (a to i pro

$n=1$). Pokud však rozdělení pravděpodobnosti náhodné veličiny

$X$ normální není, pak je rozdělení průměru pozorovaných hodnot přibližně normální, když

$n$ je dostatečně velké (matematicky řečeno, pro

$n$ jdoucí do nekonečna).

Minimální velikost souboru pro výpočet průměru (Lindeberg-Lévy):

• $n\ge 30$ v případě rozdělení pravděpodobnosti podobných normálnímu;
• $n\ge 100$ pro rozdělení, která nejsou podobná normálnímu

(názory na minimální hodnoty

$n$ se liší)

Teorie a zároveň princip použití CLV pro výpočet pravděpodobnosti:

MV013, lecture 4
cdf = cumulative distribution function (distribuční funkce)

MV013, lecture 4

Příklad výpočtu s použitím CLV

MV013, lecture 4

Continuity correction (oprava na spojitost) se používá při aproximaci diskrétního rozdělení spojitým.
V případě uvedeném výše, kde jsme v prvním případě (spojité) spočítali, že pravděpodobnost, že ze 100 hodů padne nanejvýš 15 šestek (P(X < 16)), je 0.429 (vzali jsme distribuční funkci a spočítali F(16)). V druhém případě jsme se dívali na diskrétní pravděpodobnost P(X

$\le$ 15), tzn. F(15) = 0.327, což je jiný výsledek než 0.429. Pro tento případ využijeme continuity correction a spočítáme F(15.5) = 0.377.

Pro diskrétní rozdělení

$P(X\le x)=P(X<x+1)$. Pokud platí podmínky Moivre-Laplaceové CLV, dá se výše uvedené aproximovat pomocí

$P(Y<x+0.5)$

Bodové a intervalové odhady, princip věrohodnosti

Cílem odhadu je určení neznámého parametru náhodné veličiny

$X$ na základě informace obsažené ve výběrovém souboru (realizace náhodné veličiny, datasetu). Zajímá nás především hodnota a přesnost odhadu.
Většinou chceme odhadnout průměr nebo rozptyl (variance).
Například chceme odhadnout průměrný plat v ČR. Abychom měli přesnou hodnotu, museli bychom znát plat každého člověka v ČR, což je nemožné. Učiníme proto náhodný výběr vzorku populace, zjistíme jejich platy a na základě toho vypočítáme (odhaneme) průměrný plat v celé ČR.

Nestranný odhad (unbiased estimator) parametru

$\theta$ je odhad, jehož střední hodnota je rovna θ a to pro každou hodnotu, které může tento parametr ze své definice nabývat. Nestrannost odhadu je celkem logickým omezením, které nám říká, že tento odhad má vzhledem ke střední hodnotě nulové vychýlení.

Odhad je unbiased, pokud se průměrně rovná pravé hodnotě odhadovaného parametru.
https://stats.stackexchange.com/a/31047

Nejlepší nestranný odhad má ze všech nestranných odhadů nejmenší rozptyl (variabilitu).

Příklad nestranného odhadu: výběrový průměr jako odhad střední hodnoty (parametru

$\mu$) normálního rozdělení.

Konzistentní odhad (consistent estimator) odhad je konzistentní, pokud se zvětšujícím se vzorkem konverguje k pravé hodnotě odhadovaného parametru. To be slightly more precise - consistency means that, as the sample size increases, the sampling distribution of the estimator becomes increasingly concentrated at the true parameter value.
https://stats.stackexchange.com/a/31047

Bodový odhad (point estimate)

Parametr odhadujeme pomocí jedné hodnoty, která se snaží hodnotu parametru aproximovat.

MV011

Příklad použití je stejný, jako uvedený výše s odhadováním platu.

Intervalový odhad (range estimate)

Parametr odhadujeme pomocí intervalu, který daný parametr s velkou pravděpodobností obsahuje. Délka intervalu vypovídá o přesnosti odhadu.

Příklad: Chceme odhadnout průměrnou výšku lidí v České republice. Proto učíníme několik náhodných výběrů lidí (např. 10x vybere náhodně 10 lidí). Z techto vybraných skupin pro každou vypočítáme výběrový průměr (sample mean). Tyto výběrové průměry nám dávají "confidence interval", který říká, že průměr celé populace s velkou pravděpodobností spadá do confidence intervalu. Viz. https://youtu.be/ENnlSlvQHO0

Interval spolehlivosti (konfidenční interval) pro parametr

$\theta$ se spolehlivostí

$1-\alpha$, kde

$\alpha \in [0,1]$, je dvojice statistik

$(T_d(\mathbf{X}),T_h(\mathbf{X}))$ taková, že

$$P(T_d(\mathbf{X})\le \theta \le T_h(\mathbf{X}))=1-\alpha$$

• Intervalový odhad je konkrétní realizace intervalu spolehlivosti.
• Koeficient
  $\alpha$ nazýváme hladinou významnosti.
• Pro oboustranný intervalový odhad platí
  $P(\theta \le T_d(\mathbf{X}))=P(\theta \ge T_h(\mathbf{X}))=\frac{\alpha }{2}$
• Pro levostranný (dolní) intervalový odhad platí
  $P(T_d(\mathbf{X})\le \theta )=1-\alpha$
• Pro pravostranný (horní) intervalový odhad platí
  $P(\theta \le T_h(\mathbf{X}))=1-\alpha$
  
  
  

Tvorba intervalového odhadu

1. Zvolíme vhodnou výběrovou charakteristiku
   $T(\mathbf{X})$ jejíž rozdělení závislé na
   $\theta$ známe.
2. Určíme
   $\alpha$ a kvantily
   $t_{\frac{\alpha }{2}}$ a
   $t_{1-\frac{\alpha }{2}}$ z
   $T(\mathbf{X})$
3. Stanovíme meze pro
   $\theta$ z podmínky
   $t_{\frac{\alpha }{2}}\le T(\mathbf{X})\le t_{1-\frac{\alpha }{2}}$
4. Profit!
   

Příklad: intervalový odhad střední hodnoty

$\mu$ normálního rozdělení s neznámým rozptylem se spolehlivostí

$0.95$. Máme vzorek velikosti

$n$ s výběrovým průměrem

$\overline{X}$ a výběrovým rozptylem

$S^2$.

1. Zvolíme statistiku
   $T(\mathbf{X})=\frac{\bar{X}-\mu }{S}\sqrt{n}$
2. Z vlastností Studentova rozdělení víme:
   $T(\mathbf{X})\sim t(n-1)$
3. Dosadíme:
   
   $$P(t_{\frac{\alpha }{2}}(n-1)\le \frac{\overline{X}-\mu }{S}\sqrt{n}\le t_{1-\frac{\alpha }{2}}(n-1))=0.95$$
4. Využijeme
   $t_{\frac{\alpha }{2}}(n-1)=-t_{1-\frac{\alpha }{2}}(n-1)$, tedy:
   
   $$P(-t_{1-\frac{\alpha }{2}}(n-1)\le \frac{\overline{X}-\mu }{S}\sqrt{n}\le t_{1-\frac{\alpha }{2}}(n-1))=0.95$$
5. Vytáhneme vše z prostředku:
   
   $$P(\overline{X}-\frac{S}{\sqrt{n}}{t}_{1-\frac{\alpha }{2}}(n-1)\le \mu \le \overline{X}+\frac{S}{\sqrt{n}}{t}_{1-\frac{\alpha }{2}}(n-1))=0.95$$
6. Vyčíslíme.
   

Princip věrohodnosti (likelihood principle)

Maximum likelihood estimate

StatQuest MLE - dobře vysvětleno - stačí prvních 8 minut

MLE se snaží na základě jednotlivých data pointů odhadnout distribuci datasetu.

Log-likelihood funkce a likelihood funkce mají maximum ve stejném bodě, s log-likelihoodom se lépe pracuje.

Alternatívní metody odhadování parametrů:

• method of moments
• ordinary least-squares method

Obě metody jsou neparametrické -> MLE využívá informáci o rozdělení pravděpodobnosti a je most efficient estimator.
Nevýhody: složitější výpočet, potřeba řešit předpoklady o rozdělení (v případě potřeby se dá použít CLV).

Statistická inference – testování hypotéz

Príklady voľby štatistík pri rôznych testoch

Cílem testování hypotéz je oveřit, jestli data nepopírají předpoklad (hypotézu).

Nulová hypotéza

$H_0$
Alternativní hypotéza

$H_1$

Alternatívní hypotéza je to, co nás ve skutečnosti zajímá.

$p$-value je pravděpodobnost, že při platnosti

$H_0$ nabývá testová statistika

$T$ své stávající hodnoty anebo hodnot ještě extrémnějších
Zároveň je to taky nejmenší hladina významnosti, při které ještě zamítáme

$H_0$
Pokud je

$p$-value menší než

$\alpha$, zamítáme

$H_0$
Pokud je

$p$-value větší než

$\alpha$, nezamítáme

$H_0$
StatQuest - p-value explained

Chyby v testovaní hypotéz

Chyba 1. typu nastane, když odmítneme

$H_0$ navzdory tomu, že ve skutečnosti platí.

Chyba 2. typu nastane, když neodmítneme

$H_0$ navzdory tomu, že ve skutečnosti neplatí.

	$H_0$ platí	$H_1$ platí
odmítáme $H_0$	chyba 1. typu	OK
neodmítáme $H_0$	OK	chyba 2. typu

Parametrické testy

ANOVA

ANOVA (ANalysis Of VAriance) je parametrickým testem testujícím zda na hodnotu náhodné veličiny má statisticky významný vliv hodnota některého znaku, který se u náhodné veličiny dá pozorovat.

Neparametrické testy

Motivací pro neparametrické testy je fakt, že pro parametrické testy je třeba splnit podmínky (normalita, homogenita, …). Nevýhodou neparametrických je však slabší test (tedy zamítnutí

$H_0$ je méně pravděpodobné).

Lineární regresní model

Linear regression model je matematická metoda používaná pro proložení souboru bodů v grafu přímkou.
StatQuest - Linear Regression

Příklad lineární regrese

Least squares estimate (metoda nejmenších čtverců)

Lineární regrese představuje aproximaci daných hodnot přímkou metodou nejmenších čtverců. Zkusíme body proložit přímkou a od každého z nich vypočítat vzdálenost k přímce (tato vzdálenost se nazýva "residual"). Toto opakujeme tak dlouho, dokud suma "residuals" není nejmenší.

Is this a linear regression model?

Ano, toto je linear regression model.
Je to model

$Y_i={\beta }_0+{\beta }_1\log x_i+e_i$
Lineárni model znamená, že je lineární v parametrech

${\beta }_j$, ne nutně v regressorech

$x_i$.
MV013-11.pdf slide 23

Outliers and leverage observations

Outlier point (odlehlý) je bod, který se značně liší od ostatních bodů a zároveň nesedí do našeho modelu.

• Například. člověk co měří 3 metry a váží 50 kilo bude outlier.
  Leverage point (pákový) je bod, který se také značně liší od ostatních hodnot, ale má velký vliv na odhad našich parametrů.
  
  
  Skupina 1 - jsou to outliers, ale ne leverage points
  Skupina 2 - Leverage points, ale nejsou to outliers
  Skupina 3 - Leverage points a zároveň outliers.

Model with outlier and without outlier

Na grafu je znázorněn model s outlier bodem (outlier bod je označen modrou barvou a model tlustou čárou). Model s tentou čárou nebere tento bod v potaz a je vyznačen tenkou čárou.

Linear regression - final remarks
Nevýhody:

• Velmi silné assumptions
  • Prakticky odhadujeme jen na základě dat
• Citlivé na leverage body a outliers
  • To je zřejmé, jeden leverage/outlier bod nám změní celý model
• Je nestabilní pro silně korelované regresory.
  • ?
• Nedokáže se vypořádat s chybějícími hodnotami.
  Výhody:
• Jednoduchá interpretace
• Přímá kvantifikace vlivu jednotlivých regresorů na konečný model.
  • Dokážeme vypočítat jak jednotlivý bod ovlivňuje konečný model.
• Many generalizations
  • ?
• Dokáže pracovat s numerickými i kategorickými proměnnými.
• It does not suffer from the curse of dimensionality
  • ?