Modèles de régression linéaire PDF

Exercice 1. Dans cet exercice nous n'utiliserons que le logiciel R pour faire les calculs des valeurs critiques des quantiles de Fisher. Question 1

Régression linéaire

Exercice 1.10 (Régression simple) Cet exercice est corrigé en annexe sujet de décembre 2010. Exercice 1.11 (Forces de frottement et vitesse) Cet exercice

Corrections des exercices

En conclusion effectuer une régression multiple sur des variables orthogonales revient à effectuer p régressions simples. Exercice 2.8 (Centrage

Modèle de régression linéaire multiple

corrigé. Page 17. Econométrie. Pr. Moad El kharrim. 3. Les tests statistiques. 3.1 Exercice 3: Tests statistiques sur les coefficients et la variance de l ...

Exercices : Mod`ele de régression linéaire simple et multiple

Quelle est la variable explicative ? (b) Donner les estimations des coefficients de la régression et préciser leur interprétation. (c) Donner l'équation de la

T. D. n 7 Correction de Régression linéaire multiple

Exercice 1 Dans cet exercice nous n'utiliserons que le logiciel R pour faire les calculs des valeurs critiques des quantiles de Fisher. Question 1. La somme

Corrigé - Série 3 Régression linéaire simple Exercice 1 - Densité

Corrigé - Série 3. Régression linéaire simple. Exercice 1 - Densité européenne a) y = 00001x + 1

Exercices sur le modèle de régression linéaire simple

Exercices sur le modèle de régression linéaire simple. Exercice 1. Le tableau ci-dessous représente l'évolution du revenu disponible brut et de la

Série Corrigée N°2 Modèle de Régression Linéaire Multiple

Jun 4 2015 fois plus élevé que celui des précipitations. Énoncé de l'Exercice 2 :(ISG SP2008). On considère le modèle de régression multiple : ...

T. D. n 10 Correction de Régression linéaire multiple

Exercice 1. Dans cet exercice nous n'utiliserons que le logiciel R pour faire les calculs des valeurs critiques des quantiles de Fisher. Question 1

Régression linéaire

Figure 1.11 – Droites de régression et points aberrants. Exercice 1.6 (La hauteur des eucalyptus) Cet exercice est corrigé en annexe (décembre 2009).

Série Corrigée N°2 Modèle de Régression Linéaire Multiple

4 juin 2015 fois plus élevé que celui des précipitations. Énoncé de l'Exercice 2 :(ISG SP2008). On considère le modèle de régression multiple : ...

Modèle de régression linéaire multiple

Le meilleur modèle est celui qui a le S le plus petit. Page 16. Econométrie. Pr. Moad El kharrim. Exercice 1:.

TD de régression linéaire multiple

Donner une estimation de ?2 la variance de ?. 1. Page 2. Exercice 3 : Production industrielle. On étudie l'influence

Corrigé - Série 3 Régression linéaire simple Exercice 1 - Densité

STT-2902. Automne 2012. Emmanuelle Reny-Nolin. Corrigé - Série 3. Régression linéaire simple. Exercice 1 - Densité européenne a) y = 00001x + 1

Corrections des exercices

Exercice 1.3 (Variance des estimateurs) Exercice 1.7 (Estimateur de la variance du bruit) ... En conclusion effectuer une régression multiple sur.

T. P. n 6 Correction de Régression linéaire multiple

Exercice 1 Dans cet exercice nous n'utiliserons que le logiciel R pour faire les calculs des valeurs critiques des quantiles de Fisher. Question 1. La somme

Modèles de régression linéaire

1 avr. 2010 Exercices. Déterminer les valeurs des estimateurs des moindres carrés ordinaires des cœfficients de régression de l'estimateur sans biais ...

T. D. n 2 Régression linéaire multiple

Les exercices 12

Master Statistique Appliquée

Mention Statistique pour l"EntrepriseModèles de régression linéaire

Magalie Fromont Renoir

Table des matières

1 Le modèle de régression linéaire simple 7

1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.2 De très nombreux exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.2.1 Exemples historiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.2.2 Prix et consommation de tabac . . . . . . . . . . . . . . . . . . . . . . .

1.2.3 Consommation d"alcool et espérance de vie par pays . . . . . . . . . .

1.2.4 Qualité de l"air en Bretagne . . . . . . . . . . . . . . . . . . . . . . . . .

1.2.5 Hauteur des eucalyptus . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.3 Modèle de régression linéaire simple . . . . . . . . . . . . . . . . . . . . . . . .

1.3.1 Formulation analytique . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.3.2 Formulation vectorielle . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.4 Estimation (ponctuelle) et prédiction dans le cas général . . . . . . . . . . . .

1.4.1 Estimation ponctuelle des coecients de régression . . . . . . . . . . .11

1.4.2 Estimation ponctuelle de la variance, valeurs ajustées et résidus . . . .

1.4.3 Le coecient de déterminationR2. . . . . . . . . . . . . . . . . . . . .15

1.4.4 Prédiction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.4.5 Ecritures matricielles et interprétations géométriques . . . . . . . . . .

1.5 Inférence sous hypothèse gaussienne . . . . . . . . . . . . . . . . . . . . . . . .

1.5.1 Estimateurs du maximum de vraisemblance . . . . . . . . . . . . . . .

1.5.2 Intervalles et régions de confiance pour les coecients de régression .19

1.5.3 Tests d"hypothèses sur0. . . . . . . . . . . . . . . . . . . . . . . . . .19

1.5.4 Tests d"hypothèses sur1. . . . . . . . . . . . . . . . . . . . . . . . . .20

1.5.5 Intervalles de confiance et tests d"hypothèses sur la variance . . . . . .

1.5.6 Intervalles de prédiction . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.6 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2 Le modèle de régression linéaire multiple 27

2.1 Introduction : retour sur les exemples . . . . . . . . . . . . . . . . . . . . . . .

2.2 Modélisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.3 Exemples de modèles de régression linéaire multiple . . . . . . . . . . . . . .

2.3.1 Variables explicatives quantitatives . . . . . . . . . . . . . . . . . . . .

2.3.2 Transformations de variables explicatives quantitatives . . . . . . . . .

2.3.3 Variables explicatives qualitatives . . . . . . . . . . . . . . . . . . . . .

2.3.4 Interactions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.4 Estimateur des moindres carrés ordinaires . . . . . . . . . . . . . . . . . . . . .

2.5 Valeurs ajustées, résidus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

31
3

Table des matières

2.6 Somme des carrés résiduelle et estimation ponctuelle de la variance . . . . . .

2.7 Equation d"analyse de la variance, coecient de détermination . . . . . . . . .32

2.8 Prédiction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.9 Estimation par intervalles de confiance et tests d"hypothèses asymptotiques .

2.9.1 Théorèmes limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.9.2 L"idée du bootstrap non paramétrique . . . . . . . . . . . . . . . . . . .

2.10 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3 Le modèle de régression linéaire multiple sous hypothèse gaussienne 39

3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.2 Estimateurs du maximum de vraisemblance . . . . . . . . . . . . . . . . . . .

3.3 Lois des estimateurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.4 Intervallesetrégionsdeconfiancepourlesparamètres-Intervallesdeprédiction

3.4.1 Intervalles et régions de confiance pour les coecients de régression .41

3.4.2 Intervalles de confiance pour la variance2. . . . . . . . . . . . . . . .42

3.4.3 Intervalles de prédiction . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.5 Tests d"hypothèses sur les coecients de régression . . . . . . . . . . . . . . .42

3.5.1 Testdenullitéd"uncoecientoude(non)significativitéd"unevariable

explicative . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

3.5.2 Tests d"hypothèses linéaires sur les coecients . . . . . . . . . . . . . .43

3.5.3 Test du rapport de vraisemblance maximale . . . . . . . . . . . . . . .

3.6 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4 Détection (et correction) des écarts au modèle 53

4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.2 Analyse des résidus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.2.1 Les diérents résidus . . . . . . . . . . . . . . . . . . . . . . . . . . . . .54

4.2.2 Détection des écarts au modèle . . . . . . . . . . . . . . . . . . . . . . .

4.2.3 Données aberrantes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.3 Analyse de la matrice de projection, eet levier . . . . . . . . . . . . . . . . . .56

4.3.1 Propriétés de la matrice de projection . . . . . . . . . . . . . . . . . . .

56
quotesdbs_dbs2.pdfusesText_3

[PDF] Modèles de régression linéaire

Master Statistique Appliquée

Magalie Fromont Renoir

Table des matières

1 Le modèle de régression linéaire simple 7

1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.2 De très nombreux exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.2.1 Exemples historiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.2.2 Prix et consommation de tabac . . . . . . . . . . . . . . . . . . . . . . .

1.2.3 Consommation d"alcool et espérance de vie par pays . . . . . . . . . .

1.2.4 Qualité de l"air en Bretagne . . . . . . . . . . . . . . . . . . . . . . . . .

1.2.5 Hauteur des eucalyptus . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.3 Modèle de régression linéaire simple . . . . . . . . . . . . . . . . . . . . . . . .

1.3.1 Formulation analytique . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.3.2 Formulation vectorielle . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.4 Estimation (ponctuelle) et prédiction dans le cas général . . . . . . . . . . . .

1.4.1 Estimation ponctuelle des coecients de régression . . . . . . . . . . .11

1.4.2 Estimation ponctuelle de la variance, valeurs ajustées et résidus . . . .

1.4.3 Le coecient de déterminationR2. . . . . . . . . . . . . . . . . . . . .15

1.4.4 Prédiction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.4.5 Ecritures matricielles et interprétations géométriques . . . . . . . . . .

1.5 Inférence sous hypothèse gaussienne . . . . . . . . . . . . . . . . . . . . . . . .

1.5.1 Estimateurs du maximum de vraisemblance . . . . . . . . . . . . . . .

1.5.2 Intervalles et régions de confiance pour les coecients de régression .19

1.5.3 Tests d"hypothèses sur0. . . . . . . . . . . . . . . . . . . . . . . . . .19

1.5.4 Tests d"hypothèses sur1. . . . . . . . . . . . . . . . . . . . . . . . . .20

1.5.5 Intervalles de confiance et tests d"hypothèses sur la variance . . . . . .

1.5.6 Intervalles de prédiction . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.6 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2 Le modèle de régression linéaire multiple 27

2.1 Introduction : retour sur les exemples . . . . . . . . . . . . . . . . . . . . . . .

2.2 Modélisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.3 Exemples de modèles de régression linéaire multiple . . . . . . . . . . . . . .

2.3.1 Variables explicatives quantitatives . . . . . . . . . . . . . . . . . . . .

2.3.2 Transformations de variables explicatives quantitatives . . . . . . . . .

2.3.3 Variables explicatives qualitatives . . . . . . . . . . . . . . . . . . . . .

2.3.4 Interactions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.4 Estimateur des moindres carrés ordinaires . . . . . . . . . . . . . . . . . . . . .

2.5 Valeurs ajustées, résidus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Table des matières

2.6 Somme des carrés résiduelle et estimation ponctuelle de la variance . . . . . .

2.7 Equation d"analyse de la variance, coecient de détermination . . . . . . . . .32

2.8 Prédiction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.9 Estimation par intervalles de confiance et tests d"hypothèses asymptotiques .

2.9.1 Théorèmes limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.9.2 L"idée du bootstrap non paramétrique . . . . . . . . . . . . . . . . . . .

2.10 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3 Le modèle de régression linéaire multiple sous hypothèse gaussienne 39

3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.2 Estimateurs du maximum de vraisemblance . . . . . . . . . . . . . . . . . . .

3.3 Lois des estimateurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.4 Intervallesetrégionsdeconfiancepourlesparamètres-Intervallesdeprédiction

3.4.1 Intervalles et régions de confiance pour les coecients de régression .41

3.4.2 Intervalles de confiance pour la variance2. . . . . . . . . . . . . . . .42

3.4.3 Intervalles de prédiction . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.5 Tests d"hypothèses sur les coecients de régression . . . . . . . . . . . . . . .42

3.5.1 Testdenullitéd"uncoecientoude(non)significativitéd"unevariable

3.5.2 Tests d"hypothèses linéaires sur les coecients . . . . . . . . . . . . . .43

3.5.3 Test du rapport de vraisemblance maximale . . . . . . . . . . . . . . .

3.6 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4 Détection (et correction) des écarts au modèle 53

4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.2 Analyse des résidus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.2.1 Les diérents résidus . . . . . . . . . . . . . . . . . . . . . . . . . . . . .54

4.2.2 Détection des écarts au modèle . . . . . . . . . . . . . . . . . . . . . . .

4.2.3 Données aberrantes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.3 Analyse de la matrice de projection, eet levier . . . . . . . . . . . . . . . . . .56

4.3.1 Propriétés de la matrice de projection . . . . . . . . . . . . . . . . . . .