[PDF] Propriétés des estimateurs L'estimateur dépend des

View - Download Propriétés des estimateurs

Previous PDF

Next PDF

IFT6085-H2014: Modèles Graphiques Probabilistes04 - Propriétés des estimateurs IFT6085-H2014: Modèles Graphiques Probabilistes Prof:

Aaron Courville

Email:aaron.courville@umontreal.caOffice:3253 Pav. Andre Aisenstadt

Propriétés des estimateurs

1 IFT6085-H2014: Modèles Graphiques Probabilistes04 - Propriétés des estimateurs

Estimateurs ponctuels

Retour à estimateurs ponctuels (estimation du maximum de vraisemblance), nous allons laisser tomber la perspective bayésienne (pour le moment). En général, l'estimation ponctuelle se réfère à trouver une seule "meilleure estimation» d'une certaine quantité d'intérêt. La quantité d'intérêt pourrait être un paramètre dans un modèle paramétrique, un CDF, un PDF, un PMF... Nous occupe de l'estimation des paramètres d'un modèle paramétrique. 2 IFT6085-H2014: Modèles Graphiques Probabilistes04 - Propriétés des estimateurs

Estimateurs ponctuels des paramètres

Convention: Nous notons une estimation ponctuelle du vrai paramètre par .

Point de vue statistique orthodoxe:

Le paramètre est une quantité inconnue fixe. L'estimateur dépend des données donc c'est une variable aléatoire (les données sont aléatoires)

Point de vue bayésienne:

Les variables aléatoires représentent des quantités inconnues. Les données est observée et donc pas aléatoire Le vrai paramètre est inconnu et donc aléatoire. Pour l'instant, nous prenons la perspective statistique orthodoxe. 3 IFT6085-H2014: Modèles Graphiques Probabilistes04 - Propriétés des estimateurs Biais •Soit X 1 ,...,X n n points de données i.i.d. de un distribution F. •L'estimateur de est un fonction de X 1 ,...,X n Définition - La biais (bias) d'une estimateur : on dit que soit non biaisé (unbiased) si: Un estimateur sans biais est souhaitable, mais pas indispensable, beaucoup de nos estimateurs sont biaisé. 4 n =g(X 1 ,...,X n )biais( n )=E n θE n IFT6085-H2014: Modèles Graphiques Probabilistes04 - Propriétés des estimateurs

Exemple de biais: loi de Bernoulli

Soit

Estimateur (ML):

biaisé? 5

Bernoulli distribution:

-X est un v.a. binaire:

The model parameter:

-The Bernoulli p.m.f(x):

X≂Bernoulli(p)f(x;p)=p

x (1-p) 1-x x?{0,1}θ=p?Θ=[0,1]X 1 ,...,X n ≂Bernoulli(p) ˆp n 1 n n i=1 X i

E(ˆp

n 1 n n i=1 E(X i 1 n n i=1 p =p biais(ˆp n )=E(ˆp n )-p IFT6085-H2014: Modèles Graphiques Probabilistes04 - Propriétés des estimateurs L'estimateurs de la variance de la loi gaussienne: variance de l'échantillon

Chose qu'on besoin:

Biais - variance de loi gaussienne: 1. variance de l'échantillon 6 S 2 1 n-1 n i=1 (X i X) 2 X= 1 n n i=1 X i E(S 2 )=E 1 n-1 n i=1 (X i X) 2 =E 1 n-1 n i=1 (X 2 i -2 XX i X 2 =E 1 n-1 n i=1 X 2 i -2 X n i=1 X i n i=1 X 2 =E 1 n-1 n i=1 X 2 i -n X 2 1 n-1 nE(X 2 1 )-nE( X 2 1 n-1 n(σ 2 2 )-n 2 n 2 2 non biaisé Var(

X)=V ar

1 n n i=1 X i 1 n 2 Var n i=1 X i 1 n 2 nVar(X 1 2 n E( X)=E 1 n n i=1 X i 1 n nE(X 1 E(X 2 )=V ar(X)+E(X) 2 données IID IFT6085-H2014: Modèles Graphiques Probabilistes04 - Propriétés des estimateurs

Chose qu'on besoin:

Biais - variance de loi gaussienne: 2. MLE

7 L'estimateurs de la variance de la loi gaussienne:

Estimateur de ML

Trouvée en résolvant le problème du maximum de vraisemblance à deux paramètres 2 1 n n i=1 (X i X) 2 X= 1 n n i=1 X i 2

E(ˆσ

2 )=E n-1 n S 2 n-1 n E S 2 n-1 n 2 2 n-1 n S 2 biaisé IFT6085-H2014: Modèles Graphiques Probabilistes04 - Propriétés des estimateurs

Variance et Erreur-type

La distribution de est appelée la distribution d'échantillonnage. Écart-type de est appelée l'erreur-type (standard error): Souvent, l'écart-type dépend de l'inconnu F. Dans ces cas, il s'agit d'une quantité inconnue.

Nous pouvons généralement estimer.

L'erreur-type estimée est notée .

8 se( n Var( n

ˆse

IFT6085-H2014: Modèles Graphiques Probabilistes04 - Propriétés des estimateurs

Variance de l'estimateur: loi de Bernoulli

Soit

Estimateur (ML):

Variance d'estimateur?

9

Bernoulli distribution:

-X est un v.a. binaire:

The model parameter:

-The Bernoulli p.m.f(x):

Erreur-type d'estimateur?

X≂Bernoulli(p)f(x;p)=p

x (1-p) 1-x x?{0,1}θ=p?Θ=[0,1]X 1 ,...,X nquotesdbs_dbs29.pdfusesText_35

[PDF] télé-service de « pré-demande passeport - Préfecture de la Charente

[PDF] Une information cruciale que TOUT catholique devrait connaître

[PDF] Erreurs fréquentes - Partie écrite Français 3202 juin 2013

[PDF] Item 314 : Exanthème

[PDF] Néonatologie - Decitre

[PDF] around the world with talis - Talis Business School

[PDF] Erasmus+ Promotion Activity Call for applications (2017)

[PDF] dossier de candidature programme licence 3 - ESAA

[PDF] Master en Gestion - ESAA

[PDF] ESAF Recruitment Notification - ESAF Small Finance Bank

[PDF] Esbriet, INN-pirfenidone - Europa EU

[PDF] ESC/EAS Guidelines for the management of dyslipidemias

[PDF] LES ESCALIERS

[PDF] E coli - Anses

[PDF] 19 La traite des esclaves - Académie de Nancy-Metz