Lien de la note Hackmd

Feuille 4 Exercice 2

Partie A

La variable aleatoire

$X$ suit une loi de densite:

$$f(x,\theta )=\theta x^{\theta -1}{1}_{[0;1]}(x)$$

ou le parametre

$\theta$ est strictement positif.

En d’autres termes,

$f(x,\theta )=0$ si

$x\notin [0;1]$ et

$f(x,\theta )=\theta x^{\theta -1}$ si

$x\in [0;1]$.

1. Justifier que, pour tout
   $\theta >0$,
   $f(.,\theta )$ definit bien une densite sur
   $\mathbb{R}$.
2. Calculer
   $E(X)$
3. Determiner l’estimateur du maximum de vraisemblance
   $\hat{\theta }$ du parametre
   $\theta$.
4. Considerons maintenant la variable aleatoire
   $Y:=-\ln X$.
   1. Pourquoi est-elle bien definie ?
   2. Montrer que la variable aleatoire
      $Y$ suit une loi
      $\mathrm{\Gamma }(1,\theta )$.

Solution

Comme

$\theta >0$ et

$x\in [0;1]$,

$f(x,\theta )$ est strictement positive.

$$\begin{array}{rl}{\int }_0^{1}f(x,\theta )& =[x^{\theta }{]}_0^1\\ & =1^{\theta }-0=1\end{array}$$

On a donc bien une densite.

$$\begin{array}{rl}E(X)& ={\int }_0^{1}xf(x,\theta )1_{[0;1]}dx\\ & ={\int }_0^1\theta x^{\theta }dx\\ & =[\frac{\theta x^{\theta +1}}{\theta +1}]\\ & =\frac{\theta }{theta+1}>0\end{array}$$

Considerons:

$$\begin{array}{rl}L(x_1,\dots ,x_n,\theta )& =\prod _{i=1}^n\theta x_i^{\theta -1}{1}_{[0;1]}(x_i)\\ & ={\theta }^n\prod _{i=1}^n{x}_i^{\theta -1}\prod _{i=1}^n{1}_{[0;1]}(x_i)\end{array}$$

Pourquoi est-ce que les indicatrices ne posent pas de problemes ?

Car nos observations sont entre

$0$ et

$1$

Pour determiner le maximum, nous pouvons nous restreindre au cas:

$(x_1,\dots ,x_n)\in [0;1]$ car les

$x_i$ sont des observations.

Passons au logarithme:

$$\ln (L(x_1,\dots ,x_n,\theta ))=n\ln (\theta )+(\theta -1)\sum _{i=1}^n{x}_i$$

Calculons la derivee partielle:

$$\begin{gathered} \frac{\partial \ln (x_1,\dots ,x_n,\theta )}{\partial \theta }=\frac{n}{\theta }+\sum _{i=1}^n\ln (X_i) \\ \begin{array}{rl}\frac{\partial \ln (x_1,\dots ,x_n)}{\partial \theta }& =0\\ \iff \theta & =\frac{m}{\sum _{i=1}^n\ln (X_i)}\end{array} \end{gathered}$$

Verifions la conditions du second ordre:

$$\frac{{\partial }^2\ln (L(x_1,\dots ,x_n,\theta ))}{\partial {\theta }^2}=-\frac{n}{{\theta }^2}<0\mathrm{\forall }\theta >0$$

$\hat{\theta }$ est bien l'EMV!

Question 1.

Elle est bien definie car comme

$X\in [0;1]$,

$\ln (X)<0$ donc

$-\ln (X)>0$

Pourquoi on parle de loi

$\mathrm{\Gamma }$ au lieu de loi exponentielle ?

Car c'est facile d'additionner les loi

$\mathrm{\Gamma }$.

$$\begin{array}{rl}y& =-\ln x\\ \ln x& =-y\\ x& =e^{-y}\end{array}$$

On pose

$\varphi (x)=-\ln (x)$

$$\begin{gathered} {\varphi }^{\prime }(x)=-\frac{1}{x} \\ {\varphi }^{-1}(x)=e^{-x} \\ \begin{array}{rl}{f}_Y(y)& =\text{color}red-\frac{1}{{\varphi }^{\prime }({\varphi }^{-1}(y))}\cdot f({\varphi }^{-1}(y)){\varphi }^{\prime }({\varphi }^{-1}(y))=\text{color}red-\frac{1}{e^{-x}}\\ & =e^{-y}\cdot \theta {\varphi }^{-1}(y{)}^{\theta -1}\\ & =e^{-y}\cdot e^{-y(\theta -1)}\\ & =\theta e^{-\theta y}\end{array} \end{gathered}$$

Donc

$Y⇝\xi (\theta )=\mathrm{\Gamma }(1,\theta )$

$$\boxed{{\displaystyle {\varphi }_y(t)=\frac{\theta }{\theta -it}}}$$

car fonction caracteristique de la loi exponentielle

Qu'est-ce qu'on a oublie dans notre formule ?

La valeur absolue du Jacobien

:::

Partie B

Considerons

$n$ variables aleatoires independantes

$X_i$ suivant la loi de

$X$. Nous souhaitons tester l’hypothese

$H_0:\theta ={\theta }_0$ contre

$H_1:\theta ={\theta }_1$ avec

${\theta }_0<{\theta }_1$ a l’aide d’observations

$x_i$ issues de l’echantillon precedent.

1. Nous noterons, dans la suite de l’exercice,
   $Y_i=-\ln X_i$. Montrer que la statistique de Neyman-Pearson est:
   $T_n:=\sum _{i=1}^n{Y}_i$
2. Determiner la loi de la variable aleatoire
   $T_n$ puis celle de la variable aleatoire
   $U_n:=\frac{T_n}{\theta }$
3. Exprimer les risques de premiere et de seconde espece
   $\alpha$ et
   $\beta$ en fonction du seuil
   $S_{\alpha }$, des parametres
   ${\theta }_0$ et
   ${\theta }_1$ et de la fonction de repartition de la variable aleatoire
   $U_n$.

Solution

$$\begin{array}{rl}\frac{L(X_1,\dots ,X_n{\theta }_1)}{L(X_1,\dots ,X_n{\theta }_0)}& =\frac{\prod _{i=1}^n{\theta }_1{x}_i^{{\theta }_1-1}}{\prod _{i=1}^n{\theta }_0{x}_i^{{\theta }_0-1}}\\ & =(\frac{{\theta }_1}{{\theta }_2}{)}^n\prod _{i=1}^n{X}_i^{{\theta }_1-{\theta }_0}\end{array}$$

$(H_0)$ est rejetee si:

$$\begin{array}{rl}T& >C_{\alpha }\\ \ln (T_n)=n\ln (\frac{{\theta }_1}{{\theta }_0})+({\theta }_n-{\theta }_0)\sum _{i=1}^n\ln (X_i)& >\ln (C_{\alpha })\\ \sum _{i=1}^n\ln (X_i)& >\underset{S_{\alpha }^{\prime }}{\underbrace{\frac{\ln (C_{\alpha })-n\ln (\frac{{\theta }_1}{{\theta }_0})}{{\theta }_n-{\theta }_0}}}\\ -\sum \ln (X_i)& <-S_{\alpha }^{\prime }\\ T_n=-\sum _{i=1}^n\ln (X_i)& <S_{\alpha }\text{ou }{S}_{\alpha }=-S_{\alpha }^{\prime }\end{array}$$

Quel loi suit

$T_n$ ?

On sait que

$X_i\sim P(1,\theta )$

Donc

${\varphi }_X(t)=\frac{\theta }{\theta -it}$

$$T_n=\sum _{i=1}^n{Y}_i$$

Donc

$${\varphi }_{T_n}=({\varphi }_{Y_i}(t))$$

car les

$Y_i$ sont independants.

$$\boxed{{\displaystyle {\varphi }_{T_n}=(\frac{\theta }{\theta -it}{)}^n}}$$

Donc:

• $T_n\sim \mathrm{\Gamma }(n,{\theta }_0)$ sous
  $(H_0)$
• $T_n\sim \mathrm{\Gamma }(n,{\theta }_1)$ sous
  $(H_1)$

On va calculer la densite de

$U_n$

$$\begin{gathered} U_n=\theta T_n \\ \varphi :]0;+\mathrm{\infty }[\to ]0;+\mathrm{\infty }[ \end{gathered}$$

$\varphi$ est derivable et bijective:

$$\begin{gathered} {\varphi }^{-1}(x)=\frac{x}{\theta }\text{et}{\varphi }^{\prime }(x)=\theta \\ \begin{array}{rl}{f}_{U_n}(u)& =\frac{1}{\theta }\times \frac{1}{\mathrm{\Gamma }(n)}(\frac{u}{\theta }{)}^{\alpha -1}{\theta }^{\alpha }{e}^{-\theta \frac{u}{\theta }}\end{array} \end{gathered}$$

$$f_{U_n}(u)=\frac{1}{\mathrm{\Gamma }(n)}{u}^{\alpha -1}{e}^{-u}$$

Donc la loi de

$U_n$ ne depend pas de

$\theta$

Notons

$H_n$ la fonction de repartition de

$U_n$.

$$\begin{gathered} \begin{array}{rl}\alpha & =P(\text{Rejeter }{H}_0|H_0\text{ vraie})\\ & =P(T_n<S_{\alpha }|H_0\text{ vraie})\\ & =P({\theta }_0{T}_n\le {\theta }_0{S}_{\alpha }|\theta ={\theta }_0)\\ & =\text{color}redP(U_n<{\theta }_0{S}_{\alpha })\text{color}red\text{Sous }{H}_0\\ & =H_n({\theta }_0{S}_{\alpha })\end{array} \\ {S}_{\alpha }=\frac{H_n^{-1}(\alpha )}{{\theta }_0} \end{gathered}$$

$$H_n(x)={\int }_0^x\frac{1}{\mathrm{\Gamma }(n)}{t}^{\alpha -1}{e}^{-t}dt$$

Si

$x<y$ alors:

$$H_n(y)-H_n(x)={\int }_x^y\frac{1}{\mathrm{\Gamma }(n)}{t}^{\alpha -1}{e}^{-t}dt>0$$

Donc

$(H_n)$ est strictement croissante sur

$[0;+\mathrm{\infty }[$

Par consequence, elle est strictement croissante

$$\begin{array}{rl}\beta & =P(\text{Rejeter }{H}_1|H_0\text{fausse})\\ & =P(T_n\ge S_{\alpha }|\theta ={\theta }_1)\\ & =P(\underset{\text{color}green{U}_n}{\underbrace{{\theta }_1{T}_n}}\ge S_{\alpha }{\theta }_1|\theta ={\theta }_1)\\ & =1-H_n({\theta }_1{S}_{\alpha })\end{array}$$

$$\boxed{{\displaystyle \beta =1-H_n(\frac{{\theta }_1}{{\theta }_0}{H}_n^{-1}(\text{color}green\alpha ))}}$$

:::