[PDF] 1 Vous avez dit régression ? Méthode des moindres carré

View - Download 1 Vous avez dit régression ?

Previous PDF

Next PDF

FSG - D

´epartement de math´ematiques et de statistique STT-2902 A-12 Emmanuelle Reny-NolinSemaine 4 : Plusieurs fac¸ons de r

´egresser!

1 Vous avez dit r

´egression?

1.1 Objectifs et contexte

Objectifs

V´erifier si une relation lin´eaire existe entre les variables al´eatoires continuesY(variable r´eponse) etX

(variable explicative). Mesurer la force du lien lin´eaire qui unit les variables.

Trouver la meilleure droite exprimant la relation entre les 2 variables`a partir denpaires d"observations

ind

´ependantes (Xi; Yi).

Pr´edire la valeur deYpour unXdonn´e, et´evaluer la pr´ecision de ces pr´edictions.

Contexte

On veut mettre en relation deux variables al

´eatoires continues,XetY.

On basera notre analyse surncouples de donn´ees :(X1;Y1);(X2;Y2);:::;(Xn;Yn), dont les valeurs observ ´ees seront not´ees(x1;y1);(x2;y2);:::;(xn;yn).

Pour obtenir ces couples de donn

´ees, deux sc´enarios d"´echantillonnage peuventˆetre envisag´es. Sc

´enario d"´echantillonnage 1 :

1. Les valeurs deXsont fix´ees d"avanceXest une variable contrˆolable, et seules les valeurs deYsont r´eellement mesur´ees.

Exemple :Un chimiste veut mesurer l"effet de la temp ´erature sur la vitesse de r´eaction lors du m´elange de deux liquides. Il peut r

´ealiser son exp´erience`a plusieurs reprises et contrˆoler la temp´erature des liquides, en la fixant`a diff´erentes

valeurs. Il mesure chaque fois la vitesse de r

´eaction.1

FSG - D

´epartement de math´ematiques et de statistique STT-2902 A-12 Emmanuelle Reny-NolinSc

´enario d"´echantillonnage 2 :

2. Les valeurs deXet deYsont al´eatoiresXetYsont des variables dont les mesures sont prises simultan´ement sur des individus (unit´es exp´erimentales)

s

´electionn´es al´eatoirement.

Exemple :Une chercheuse en obst

´etrique veut´etudier le lien entre le poids de la m`ere et le poids du nouveau-n´e. Elle s

´electionne des femmes enceintes au hasard, et mesure le poids du b´eb´e et de la m`ere au moment de l"accouche-

ment.

1.2 Le mod

`ele lin´eaire

Le mod

`ele de r´egression lin´eaire simple

On suppose queXetYsont reli´ees par la droiteY=0+1X, et que les observations d´evient un peu de ce

mod `ele par une erreur al´eatoire", ce qui s"´ecrit (pour un point en particulier) : Y i=0+1Xi+"i;o`ui= 1;:::;n; Y i=iemesure de la variableY ;

0=ordonn´ee`a l"origine;

1=pente de la droite de r´egression;

X i=iemesure de la variableX; i=perturbation due au hasard ou`a des variables autres que X (erreur du mod `ele):

Un exemple

On veut mettre en relation l"esp

´erance de vie`a la naissance des hommes et celle des femmes du Canada. On dispose de donn

´ees compil´ees de 1970`a 2004.Ann

´eeHommesFemmes

197069,376,3

197269,576,6

197469,776,9

197670,377,6

197870,978,3

198071,678,7

198272,379,2

198473,079,8

198673,279,8

198873,680,2

199074,380,7

199274,880,8

199474,980,9

199675,581,2

199876,081,5

200076,681,9

200277,282,2

200477,882,7

2

FSG - D

´epartement de math´ematiques et de statistique STT-2902 A-12 Emmanuelle Reny-NolinUn exemple75767778798081828384

68 69 70 71 72 73 74 75 76 77 78 79

Espérancedeviedesfemmes

Espérancedeviedeshommes

1970Ͳ20042 Estimation des param

`etres0et1

Estimation des param

`etres0et1

Puisque les points(x1;y1);:::(xn;yn)ne sont en g´en´eral pas align´es, il faut trouver la droite qui repr´esente le

mieux la relation entreXetY.

Nous consid

´ererons trois approches :

1. M ´ethode de Mayer: trouvons les deux points les plus "repr

´esentatifs" et lions-les.

2. M ´ethode m´ediane-m´ediane: on utilise les points m ´edians de l"´echantillon s´epar´e en trois. 3. M

´ethode des moindres carr´es: on veut minimiser la distance totale entre les points et la droite.

2.1 M

´ethode de Mayer

1. M

´ethode de Mayer

Antoine Falguerolles (2009, Universit

´e de Toulouse) pr´esente la m´ethode de Mayer comme suit :

Cherchant

`a r´esoudre un syst`eme d"´equations lin´eaires num´eriquement incompatibles, l"astronome Tobias Mayer (...) propose de sommer

(ou moyenner) ces

´equations par groupe en d´efinissant autant de groupes disjoints d"observations qu"il y a de coefficients`a estimer. (...) La

m

´ethode, publi´ee par Mayer (...) exige donc qu"une partition soit fournie a priori mais son auteur ne propose pas de proc´edure g´en´erale

permettant de guider le choix de cet

´el´ement d´ecisif.

1. M

´ethode de Mayer

1. 2. 3

FSG - D

´epartement de math´ematiques et de statistique STT-2902 A-12 Emmanuelle Reny-Nolin1. M

´ethode de Mayer (suite)

3.

Tobias Mayer : 1723-1762

Astronome allemand en charge de l"Observatoire de G ¨ottingen. Calcula avec pr´ecision les mouvements de la

Lune. Professeur de math

´ematiques`a l"Universit´e de G¨ottingen. (Tout comme Gauss (1807), Dirichlet(1831),

Riemann(1859))Exemple

D ´eterminer l"´equation de la droite de Mayer.Ann

´eeHommesFemmes

197069,376,3

197269,576,6

197469,776,9

197670,377,6

197870,978,3

198071,678,7

198272,379,2

198473,079,8

198673,279,8

198873,680,2

199074,380,7

199274,880,8

199474,980,9

199675,581,2

199876,081,5

200076,681,9

200277,282,2

200477,882,7

4

FSG - D

´epartement de math´ematiques et de statistique STT-2902 A-12 Emmanuelle Reny-NolinExemple75767778798081828384

68 69 70 71 72 73 74 75 76 77 78 79

Espérancedeviedesfemmes

Espérancedeviedeshommes

DroitedeMayerCaract

´eristiques de la m´ethode de Mayer

1. 2. 3. 2.2 M

´ethode m´ediane-m´ediane (Med-med)

2. M

´ethode m´ediane-m´ediane (Med-med)

1. L "

´echantillon est partitionn´e en trois sous-ensembles`a peu pr`es´egaux, suivant les valeurs de x, de telle sorte

que le premier et le dernier groupes contiennent le m

ˆeme nombre de points.

2. On calcule le point m´ediande chacun des trois sous-ensembles. 3.

On relie les points m

´edians des deux parties extrˆemes.

4. On d

´eplace cette droite de fac¸on parall`ele jusqu"`a ce qu"elle passe par lepoint moyen des trois couples de

m

´edianes.5

FSG - D

´epartement de math´ematiques et de statistique STT-2902 A-12 Emmanuelle Reny-NolinExemple D ´eterminer l"´equation de la droite m´ediane-m´ediane.Ann

´eeHommesFemmes

197069,376,3

197269,576,6

197469,776,9

197670,377,6

197870,978,3

198071,678,7

198272,379,2

198473,079,8

198673,279,8

198873,680,2

199074,380,7

199274,880,8

199474,980,9

199675,581,2

199876,081,5

200076,681,9

200277,282,2

200477,882,7

Exemple

Exemple75767778798081828384

68 69 70 71 72 73 74 75 76 77 78 79

Espérancedeviedesfemmes

Espérancedeviedeshommes

DroiteMédianeͲmédiane6

FSG - D

´epartement de math´ematiques et de statistique STT-2902 A-12 Emmanuelle Reny-NolinCaract

´eristiques de la m´ethode Med-med

1. 2. 3. 2.3 M

´ethode des moindres carr´es

3. M

´ethode des moindres carr´es

Pour estimer0et1, on minimise la somme des carr´es des erreurs, i.e. des´ecarts verticaux entre les observations

Y iet le point correspondant sur la droite de r´egression0+1Xi: n X i=1" 2i=nX i=1(Yi[0+1Xi])2

Il suffit donc de d

´eriver cette´equation successivement par rapport`a0et1, d"´egaler les d´eriv´ees partielles`a 0 et

de r

´esoudre le syst`eme obtenu pour^0et^1.7

FSG - D

´epartement de math´ematiques et de statistique STT-2902 A-12 Emmanuelle Reny-NolinEstimateurs ^0et^1^ 1=n P i=1(XiX)(YiY)n P i=1(XiX)2=SxyS xx^

0=Y^1X

Notations

S xx=nP i=1(XiX)2=nP i=1X2inX

2=(n1)s2X

S yy=nP i=1(YiY)2=nP i=1Y2inY

2=(n1)s2Y

S xy=nP i=1(XiX)(YiY)=nP i=1X iYinXY

Exemple

Exemple75767778798081828384

68 69 70 71 72 73 74 75 76 77 78 79

Espérancedeviedesfemmes

Espérancedeviedeshommes

desmoindrescarrés8

FSG - D

´epartement de math´ematiques et de statistique STT-2902 A-12 Emmanuelle Reny-NolinCaract ´eristiques de la m´ethode des moindres carr´es 1. 2. 3.

Comparaison des trois droites75767778798081828384

68 69 70 71 72 73 74 75 76 77 78 79

Espérancedeviedesfemmes

Espérancedeviedeshommes

EspérancedevieàlanaissanceauCanada

Observations

Mayer

MedͲmed

MoindrescarrésDonn

´ees trafiqu´ees : hausse de la dispersion

On voit que les droites diff

`erent peu lorsque le nuage de points est relativement lin´eaire sans valeurs aberrantes.

7677787980818283

69 70 71 72 73 74 75 76 77 78 79

Espérancedeviedesfemmes

Espérancedeviedeshommes

Observations

Mayer

MedͲmed

Moindrescarrés9

FSG - D

´epartement de math´ematiques et de statistique STT-2902 A-12 Emmanuelle Reny-NolinDonn

´ees trafiqu´ees : deux valeurs aberrantes

Les trois droites sont

`a cˆot´e de la partie lin´eaire du nuage de points. La med-med est la moins affect´ee.7677787980818283

69 70 71 72 73 74 75 76 77 78 79

Espérancedeviedesfemmes

Espérancedeviedeshommes

Observations

Mayer

MedͲmed

MoindrescarrésDonn

´ees trafiqu´ees : trois valeurs aberrantes

Toutes les droites sont

`a cˆot´e de la partie lin´eaire du nuage de points. C"est quand mˆeme la med-med qui est la

moins affect

´ee.

quotesdbs_dbs35.pdfusesText_40

[PDF] cours méthode moindres carrés

[PDF] méthode des moindres carrés exercice corrigé

[PDF] méthode des moindres carrés excel

[PDF] méthode des moindres carrés statistique

[PDF] méthode des moindres carrés calculatrice

[PDF] explication méthode des moindres carrés

[PDF] méthode des moindres carrés mercatique

[PDF] tracer une perpendiculaire au compas

[PDF] comment tracer une perpendiculaire passant par un point

[PDF] tracer une droite perpendiculaire ? (ab) passant par a

[PDF] deux plans perpendiculaires dans l'espace

[PDF] évaluation droites perpendiculaires cm1

[PDF] tracer des droites perpendiculaires

[PDF] droites perpendiculaires ce2 lutin bazar

[PDF] séquence droites perpendiculaires cm1