[PDF] Premi`eres notions de statistique Régression Linéaire

View - Download Premi`eres notions de statistique Régression Linéaire

Previous PDF

Next PDF

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Premieres notions de statistique

Regression Lineaire

Franck Picard

UMR CNRS-5558, Laboratoire de Biometrie et Biologie Evolutive franck.picard@univ-lyon1.fr

F. Picard, 1/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Outline

1Principe generaux et typologie des modeles lineaires

2Qu'est ce qu'un modele de regression ?

3Qu'est ce qu'un modele de regression \lineaire"?

4Le modele de regression lineaire simple

5Tests, intervalles de conance, et prediction

6Decomposition de la variance

7Analyse des Residus

8Regression Lineaire Multiple

F. Picard, 2/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Preambule

Une des strategies les plus utilisee pourplanierdes experiences et/ouanalyserleurs resultats Les modeles lineaires permettent une modelisation \simple" des relations entre une variablea expliquer, souvent noteeY, et des variables explicativessouvent noteesX(et souvent appelees covariables). Exemple: la taille des lles et des garcons est-elle la m^eme ? le salaire depend-il de l'age ? le medicament a-t-il un eet ? Le gene

A predispose-t-il a la maladie M ?

Historiquement, le modele lineaire a ete developpe parFisher, avec applications en genetique et en agronomie

F. Picard, 3/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Modele Lineaire Gaussien et Modeles Lineaires Generalises

Quelledistributionpour

modeliser les observations ?

Importance de l'analyse

descriptive

Modele lineaire gaussienpour

des observations pouvant ^etre modelisees par une loi normale

Modele lineaire generalise

pour d'autres distributions (Poisson, Bernoulli...)

F. Picard, 4/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Modeles pour les observations (in)dependantes

Le modele lineaire gaussien pour

des observations qui independantes

Series chronologiques et

modeles dedependance temporelle statistique spatiale pour modeliserdependance spatiale

Lesmodeles lineaires mixtes

permettent egalement de modeliser certains types de dependance

F. Picard, 5/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Elements de vocabulaire courant (et pertinent ?)

L'ANOVA se caracterise par des variables explicatives discretes ou categorielles ouqualitatives(ex: Fille/Garcon, medicament A-B ou C) La Regression se caracterise par des variables explicatives continues ouquantitatives(ex: l'age, le poids) L'ANCOVA se caracterise par un melange de variables qualitatives et quantitatives Il existe egalement des facteurs ditsordinaux: facteurs discrets ordonnes.Ces trois modeles sont des modeles lineaires et se traitent de maniere similaire: d'un point de vuemathematiqueetpratiqueil n'y a pas de dierence

F. Picard, 6/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Outline

1Principe generaux et typologie des modeles lineaires

2Qu'est ce qu'un modele de regression ?

3Qu'est ce qu'un modele de regression \lineaire"?

4Le modele de regression lineaire simple

5Tests, intervalles de conance, et prediction

6Decomposition de la variance

7Analyse des Residus

8Regression Lineaire Multiple

F. Picard, 7/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Premieres notations

On suppose que l'on dispose denobservations (y1;:::;yn) que l'on modelise par des variables aleatoires gaussiennesindependantes (Y1;:::;Yn):Yi N(i;2). On suppose que la variance de toutes les observations est la m^eme : c'est l'hypothese d'homoscedasticite(2est constante). On observe egalement des covariables (x1;:::;xn),sur les m^emes individus. Les donnees dont on dispose sont en fait lescouples (yi;xi)i. Exemples : le poidsyid'une personneiet sa taillexi, le rendement d'une cultureyiet la dose d'engraisxi.Pour un modele lineaire \standard" on suppose que lesYisont aleatoireset que lesxisontxeesF. Picard, 8/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Notion d'esperance conditionnelle

Une strategie de modelisation pour etudier les relations entreyietxi est de supposer que les covariables ont une in uence sur l'esperance desYi On modelise l'esperance deYiconditionnellementaux valeurs observees desXiaxi: Y ijfXi=xig N((xi);2) (xi) =E(YijXi=xi) =Z y ifYjX(yi;xi)dy (xi) s'appelle lafonction de regression: c'est la fonction qui relie lesxiaux observations. Ce que l'on neglige en considerant l'esperance conditionnelle, c'est la variabilite des covariables que l'on suppose xees.

F. Picard, 9/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Et la variance conditionnelle ?

Qu'en est-il de la relation entre les covariables et la variance desY?

On noteV(YijXi=xi) cette variance conditionnelle

V(YijXi=xi) =E(Y2ijXi=xi)E2(YijXi=xi)Dans le modele lineaire gaussien on suppose que la variabilite des

observationsYine depend pas des covariablesV(YijXi=xi) =2 Exemple: la variabilite de la taille des lles est la m^eme que la variabilite de la taille des garcons. Ce n'est pas forcement une hypothese realiste, mais elle permet de faire les calculs Il existe des strategies pour \stabiliser" la variance (methode delta)F. Picard, 10/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Denition des variables residuelles

Jusqu'a present, le modele s'ecrivait :YijfXi=xig N((xi);2)

On peut considerer la nouvelle variable

i=YiE(YijXi=xi) N(0;2) C'est l'ecart entre l'observationYiet son esperance conditionnelle. "iestresidu aleatoire: c'esterreur aleatoireque l'on commettrait en remplacantYipar(xi). On propose une autre ecriture du modele lineaire gaussien: Y i=(xi) +"i; "iiidN(0;2) Le parametre2s'interprete comme lavariabilite des erreurs aleatoires

F. Picard, 11/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Outline

1Principe generaux et typologie des modeles lineaires

2Qu'est ce qu'un modele de regression ?

3Qu'est ce qu'un modele de regression \lineaire"?

4Le modele de regression lineaire simple

5Tests, intervalles de conance, et prediction

6Decomposition de la variance

7Analyse des Residus

8Regression Lineaire Multiple

F. Picard, 12/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Quelle forme pour la fonction de regression ?

Le modeleE(YijXi=xi) =(xi) est tres general, et on ne connait pas forcement la forme de la fonction Le cadre de laregression fonctionnelles'interesse a l'estimation de la fonctiondirectement Dans le modele lineaire, on fait deshypotheses supplementaires sur la forme de: 1

On supp oseque depend deparametres= (0;:::;p).p

represente le nombre de covariables disponibles 2 On supp oseque est unefonction aneDans un modele lineaire on supposera que (xi) =0+1xi, et que (0;1) sontxes mais inconnusF. Picard, 13/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Illustration de la Regression Lineaire

F. Picard, 14/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Variables et Parametres

En faisant l'hypothese que(xi) =0+1xi, on a reformule le probleme de l'explication deYiparxi. En choisissant la forme de la fonction de regression, on peut se focaliser sur les parametres (0;1) Etudier les liens entreYetxrevient desormais a etudier les parametres du modele (estimation, test).

Si1= 0, alors on supposera quexn'a pas d'in

uence surYOn interpretera1commel'eet de la covariablexsur la reponse Y.F. Picard, 15/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Regression Lineaire / Regression Non Lineaire

La linearite du modele lineaire concerne lesparametreset pas forcement lesvariables Exemples :(x) =0+1cos(x) est une fonction lineaire en0;1 mais pas enx,(x) =xexp(0)=(0+1) n'est pas lineaire en les parametres, mais elle est lineaire enx Dans certaines situations on peut se ramener a un modele lineaire par transformations. Exemples (x) =0exp(1x) (x) =0x1 (x) =0+1=xAttention aux transformations ! Il faut adapter l'interpretation des parametres !

F. Picard, 16/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Regression Lineaire Simple / Regression Lineaire Multiple La regressionlineaire simpleconsiste a etudier la relation ane entreYet un seul regresseurx La regressionlineaire multiples'interesse aux relations entreYiet plusieurs regresseurs On noteraxjle regresseurj, etxijson observation sur l'individui. On associe axjle parametrejcommun a tous les (x1j;:::;xnj). La fonction de regressiondepend depregresseurs (x1;:::;xp): (x1;:::;xp) =0+pX j=1 jxj js'interpretera comme l'eet de la covariablexj.F. Picard, 17/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Regresion / ANOVA, m^eme combat !

On considere souvent que la regression se limite au cas ouxest quantitatif, mais elle peut se generaliser au cas ouxest discret Si est une variable discrete :xi= 1 si l'individuiest un garcon, 0 sinon. On utilise la notation 1A= 1 si l'evenementAest realise, 0 sinon On s'interesse au poidsYides individus en fonction de leur genre, et on peut denir la fonction de regression suivante: (x) =0+11fx=1g+21fx=0gLa regression peut donc considerer des facteurs quantitatifsET qualitatifs. Par contre, elle est contrainte ce que la distribution de la reponse soit gaussienne.

F. Picard, 18/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Outline

1Principe generaux et typologie des modeles lineaires

2Qu'est ce qu'un modele de regression ?

3Qu'est ce qu'un modele de regression \lineaire"?

4Le modele de regression lineaire simple

5Tests, intervalles de conance, et prediction

6Decomposition de la variance

7Analyse des Residus

8Regression Lineaire Multiple

F. Picard, 19/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Contexte et objectifs - 1

On observe 2 caracteristiques quantitativesyetxsur une population denindividus. Les donnees sont donc sous la forme de couples (yi;xi)i. On suppose qu'il existe unerelation aneentreyetx, qui depend de deux parametres (0;1): (x) =0+1x On suppose egalement que les observations sont des realisations de variables aleatoires gaussiennes i.i.d, telles que Y ijXi=xi N(0+1xi;2) On introduit les variables d'erreuraleatoires"i, independantes, gaussiennes centrees de variance2constanteF. Picard, 20/59

GeneralitesR egressionR egressionLin eaireR egressionsimple T estsT ableANO VAR esidusR egressionMultiple

Contexte et objectifs - 2

Le modele de regression simple s'ecrit:

Y i=0+1xi+"i; "ii.i.d.N(0;2)

0represente la valeur moyenne des observationsYiquandxi= 0

(interpretation ?)

1represente lapente de la droite de regression, et correspond a

quotesdbs_dbs42.pdfusesText_42

[PDF] coefficient de corrélation r2

[PDF] régression statistique

[PDF] nuage de points statistique

[PDF] exercice covariance statistique corrigé

[PDF] psychologie et pédagogie jean piaget

[PDF] pédagogie et éducation différence

[PDF] spallation cosmique

[PDF] nucléosynthèse primordiale

[PDF] la personne que j'admire le plus est ma mere

[PDF] nucléosynthèse des éléments chimiques

[PDF] nucléosynthèse interstellaire

[PDF] nucléosynthèse dans les étoiles

[PDF] nucléosynthèse explosive

[PDF] nucléosynthèse stellaire pdf

[PDF] recettes du 18ème siècle