Chapitre 5 - Méthode des moindres carrés
En déduire l'équation de la droite des moindres carrés. Contrôler vos calculs en superposant son graphe au nuage de points. 3. Calculer le coefficient de
6. Moindres carrés et statistiques
Moindres carrés et statistiques. Exercice 1 (Un peu de statistiques) En statistiques cette droite est appelée la droite de régression linéaire des ...
Régression - Droite des moindres carrés 1. Droite des moindres
On veut maintenant étudier visualiser et mesurer (le cas échéant) les liens existant entre deux variables : c'est l'objet de la statistique descriptive.
ECONOMETRIE
24 janv. 2016 II.1/ Méthode d'estimation des Moindres Carrés Ordinaires (MCO) ... La statistique de test suit la loi de Student à (T-k) degrés de liberté ...
Partie 1 : Série statistique à deux variables
1) Dans un repère représenter le nuage de points ( ‹ ; ‹). 2) a) Déterminer une équation de la droite d'ajustement par la méthode des moindres carrés. b)
MODELES LINEAIRES
Laboratoire de Statistique et Probabilités - Université Paul Sabatier - Toulouse La méthode des moindres carrés consiste à estimer ? en minimisant la ...
Guide déconométrie appliquée pour Stata Pour ECN 3950 et FAS
2.5.1Régression par les moindres carrés ordinaires (MCO). Une variable est significative lorsque la statistique du test (t f
STATISTIQUES
Méthode : Déterminer la droite d'ajustement par la méthode des moindres carrés. Vidéo https://youtu.be/vdEL0MOKAIg. On considère la série statistique à deux
Statistiques à deux variables
II.3 Méthode des moindres carrés. Il s'agit d'obtenir une droite équidistante des points situés de part et d'autre d'elle-même.
Statistique descriptive bivariée
1 Introduction. 2 Méthodes des moindres carrés. 3 Résidus et validation du modéle. 4 Qualité de l'ajustement. 5 Prévision avec la droite des moindres carrés.
[PDF] Méthode des moindres carrés
Méthode des moindres carrés Une situation courante en sciences biologiques est d'avoir `a sa disposition deux ensembles de données de taille n
[PDF] Méthode des moindres carrées
Méthode des moindres carrées Une situation courante en sciences biologiques est d'avoir `a sa disposition deux ensembles de données de taille n
[PDF] Régression - Droite des moindres carrés - Eirini Chavli
On veut maintenant étudier visualiser et mesurer (le cas échéant) les liens existant entre deux variables : c'est l'objet de la statistique descriptive
[PDF] AJUSTEMENT LINÉAIRE METHODE DES MOINDRES CARRES
L'étude statistique ci-dessous porte sur les poids respectifs des pères et de leur fil aîné Père : 65 63 67 64 68 62 70 66 68 67 69 71 Fils : 68 66 68 65 69
[PDF] 6 Moindres carrés et statistiques
6 Moindres carrés et statistiques Exercice 1 (Un peu de statistiques) On se donne `a nouveau n points du plan de coordonnées (xiyi) 1 ? i ? n
[PDF] Quelques applications du principe des moindres carrés à - Numdam
Quelques applications du principe des moindres carrés à la prévision commerciale « dynamique » Revue de statistique appliquée tome 7 no 4 (1959) p
[PDF] Une adaptation de lapproche des moindres carrés partiels
14 déc 2018 · 3 1 La méthode des moindres carrés partiels multidimensionnelle On dispose d'une matrice d'observations de p variables explicatives sur n
[PDF] Chapitre Méthode des moindres carrés - biskradz
Le fondement de la méthode des moindres carrés est régit par la minimisation de la somme quadratique des écarts (encore appelés résidus) entre les données
[PDF] Estimation par moindres carrés
B – Rappels de statistiques II – Méthode des moindres carrés A – Exemple introductif B – Formulation générale C – Cas du modèle linéaire
[PDF] Méthode des moindres carrés - webwww03 - poseidonheig-vdch
La méthode des moindres carrés permet de comparer des données expérimentales généralement entachées d'erreurs de mesure à un modèle mathématique censé
Comment déterminer la méthode des moindres carrés ?
La méthode des moindres carrés consiste à déterminer la droite dite « de régression de y en x » qui rend minimale la somme . Les coefficients a et b de l'équation de cette droite sont définis par a = et , où ?x est l'écart-type de la série x, et ?xy la covariance des séries x et y.Quand utiliser la méthode des moindres carrés ?
La méthode des moindres carrés, indépendamment élaborée par Legendre et Gauss au début du XIX e si?le, permet de comparer des données expérimentales, généralement entachées d'erreurs de mesure, à un modèle mathématique censé décrire ces données.Quelles sont les conditions de la méthode des moindres carrés ordinaires ?
La méthode des moindres carrés consiste à minimiser la somme des carrés des écarts, écarts pondérés dans le cas multidimensionnel, entre chaque point du nuage de régression et son projeté, parallèlement à l'axe des ordonnées, sur la droite de régression. , on a plutôt affaire à une régression linéaire multiple.- La droite de régression des moindres carrés, ? �� = �� + �� �� , minimise la somme des carrés des différences des points par rapport à la droite, d'où l'expression « moindres carrés ».
M1 IMAT, Année 2009-2010
MODELES LINEAIRES
C.Chouquet
Laboratoire de Statistique et Probabilités - Université Paul Sabatier - ToulouseTable des matières1 Préambule1
1.1 Démarche statistique . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . 1
1.2 Un exemple introductif pour la modélisation linéaire d"une variable quantitative . . 2
1.2.1 Description de la population d"étude . . . . . . . . . . . . . .. . . . . . . . 2
1.2.2 Relation entre variables quantitatives . . . . . . . . . . .. . . . . . . . . . . 3
1.2.3 Relation entre variable quantitative et variables qualitatives . . . . . . . . . 4
1.2.4 Modélisation d"une variable quantitative en fonction de variables quantita-
tives et qualitatives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .52 Présentation du modèle linéaire gaussien6
2.1 Le modèle linéaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . 6
2.2 Le modèle linéaire gaussien . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . 7
2.2.1 Ecriture générale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . 7
2.2.2 Le modèle de régression linéaire . . . . . . . . . . . . . . . . . .. . . . . . . 8
2.2.3 Le modèle factoriel . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . 8
3 Estimation9
3.1 Méthodes d"estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . 9
3.1.1 Principe des moindres carrés . . . . . . . . . . . . . . . . . . . . .. . . . . 9
3.1.2 Principe du Maximum de Vraisemblance . . . . . . . . . . . . . .. . . . . . 9
3.2 Estimation deθ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
3.3 Valeurs ajustées et résidus calculés . . . . . . . . . . . . . . . .. . . . . . . . . . . 10
3.4 Estimation deσ2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
3.5 Erreurs standard de?θj,?yi,?ei. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
3.6 Construction de l"intervalle de confiance deθj. . . . . . . . . . . . . . . . . . . . . 12
3.7 Décomposition de la variance . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . 12
4 Test de Fisher13
4.1 Hypothèse testée . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . 13
4.1.1 Principe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .13
4.1.2 Calculs sousH0. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
4.2 Le test de Fisher-Snédécor . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . 13
4.2.1 Principe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .13
4.2.2 La statistique de test . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . 14
4.2.3 Fonctionnement du test . . . . . . . . . . . . . . . . . . . . . . . . . .. . . 14
4.3 Cas particulier où q=1 : le test de Student . . . . . . . . . . . . .. . . . . . . . . . 15
5 La Régression linéaire16
5.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . 16
5.1.1 La problématique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . 16
5.1.2 Le modèle de régression linéaire simple . . . . . . . . . . . .. . . . . . . . . 16
5.1.3 Le modèle de régression linéaire multiple . . . . . . . . . .. . . . . . . . . . 17
5.2 Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . 17
1IUP SID L3 - Modèles linéaires2
5.2.1 Résultats généraux . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . 17
5.2.2 Propriétés . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. 18
5.2.3 Le coefficientR2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
5.2.4 Augmentation mécanique duR2. . . . . . . . . . . . . . . . . . . . . . . . 19
5.3 Tests et Intervalles de confiance . . . . . . . . . . . . . . . . . . . .. . . . . . . . . 20
5.3.1 Test de nullité d"un paramètre du modèle . . . . . . . . . . . .. . . . . . . 20
5.3.2 Test de nullité de quelques paramètres du modèle . . . . .. . . . . . . . . . 20
5.3.3 Test de nullité de tous les paramètres du modèle . . . . . .. . . . . . . . . 20
5.3.4 Intervalle de confiance deβj, de
Yiet deY0. . . . . . . . . . . . . . . . . . 21
5.3.5 Intervalle de prédiction . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . 22
5.4 Sélection des variables explicatives . . . . . . . . . . . . . . .. . . . . . . . . . . . 22
5.4.1 Les critères . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. 22
5.4.2 Les méthodes de sélection . . . . . . . . . . . . . . . . . . . . . . . .. . . . 23
5.5 Validation du modèle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . 23
5.5.1 Contrôle de l"ajustement du modèle . . . . . . . . . . . . . . . .. . . . . . 23
5.5.2 Etude des colinéarités des variables explicatives . .. . . . . . . . . . . . . . 24
6 L"analyse de variance26
6.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . 26
6.2 L"analyse de variance à un facteur . . . . . . . . . . . . . . . . . . .. . . . . . . . 26
6.2.1 Notations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .26
6.2.2 Le modèle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
6.2.3 Paramétrage centré . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . 27
6.2.4 Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .27
6.2.5 Propriétés . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. 28
6.2.6 Intervalles de confiance et tests d"hypothèses sur l"effet facteur . . . . . . . 29
6.2.7 Comparaisons multiples : Méthode de Bonferroni . . . . . .. . . . . . . . . 29
6.3 Analyse de variance à deux facteurs croisés . . . . . . . . . . .. . . . . . . . . . . 30
6.3.1 Notations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .30
6.3.2 Le modèle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
6.3.3 La paramétrisation centrée . . . . . . . . . . . . . . . . . . . . . .. . . . . 31
6.3.4 Estimations des paramètres . . . . . . . . . . . . . . . . . . . . . .. . . . . 31
6.3.5 Le diagramme d"interactions . . . . . . . . . . . . . . . . . . . . .. . . . . . 32
6.3.6 Tests d"hypothèses . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . 32
6.3.7 Tableau d"analyse de la variance à deux facteurs croisés dans le cas d"un
plan équilibré . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 347 Analyse de covariance35
7.1 Les données . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . 35
7.2 Le modèle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. 35
7.3 La seconde paramétrisation . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . 35
7.4 Tests d"hypothèses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . 36
8 Quelques rappels de Statistique et de Probabilités 38
8.1 Généralités . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . 38
8.2 Indicateurs statistiques pour variables quantitatives . . . . . . . . . . . . . . . . . . 39
8.2.1 Moyenne empirique d"une variable . . . . . . . . . . . . . . . . .. . . . . . 39
8.2.2 La covariance empirique . . . . . . . . . . . . . . . . . . . . . . . . .. . . . 39
8.2.3 Variance empirique et écart-type empirique . . . . . . . .. . . . . . . . . . 40
8.2.4 Coefficient de corrélation linéaire empirique . . . . . . . .. . . . . . . . . . 40
8.2.5 Interprétation géométrique de quelques indices statistiques . . . . . . . . . . 40
8.2.6 Expressions matricielles . . . . . . . . . . . . . . . . . . . . . . .. . . . . . 41
8.3 Rappels sur quelques lois de probabilité . . . . . . . . . . . . .. . . . . . . . . . . 42
8.3.1 La distribution NormaleN(μ,σ2). . . . . . . . . . . . . . . . . . . . . . . . 42
IUP SID L3 - Modèles linéaires3
8.3.2 La distribution n-NormaleNn(μ,Γ). . . . . . . . . . . . . . . . . . . . . . . 42
8.3.3 La distribution deχ2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
8.3.4 La distribution de Student . . . . . . . . . . . . . . . . . . . . . . .. . . . . 43
8.3.5 La distribution de Fisher-Snédécor . . . . . . . . . . . . . . .. . . . . . . . 44
8.4 Rappels de statistique inférentielle . . . . . . . . . . . . . . .. . . . . . . . . . . . 44
8.4.1 Estimation ponctuelle, estimation par intervalle deconfiance . . . . . . . . . 44
8.4.2 Notions générales sur la théorie des tests paramétriques . . . . . . . . . . . 44
Chapitre 1Préambule1.1 Démarche statistique
Population étudiée
Nombre d"individus,
variables observées quantitatives/qualitativesAnalyse univariée
Tableau de fréquences,
moyenne, écart-type, médiane, diagramme en bâtons, histogramme, box-plotAnalyse bivariée
Tableau croisé,χ2,
comparaison de moyennes, coefficient de corrélation, nuage de pointsAnalyse multivariée
issue de plusieurs variables pour mieux l"expliquerStructurer et simplifier les données
issues de plusieurs variables, sans privilégier l"une d"entre elles en particulierExpliquer une variable à l"aide
de plusieurs autres variablesUne variable
à expliquer
quantitative ?Une variableà expliquer
qualitativeAnalyse de Données
Multidimensionnelle
(ACP, AFC, ACM)Modélisation
Linéaire :
Régression Linéaire simple
Régression Linéaire multiple
Analyse de variance
Analyse de covariance
Modèlisation
non-linéaire (logistique, ...) 1IUP SID L3 - Modèles linéaires2
1.2 Un exemple introductif pour la modélisation linéaire d"une
variable quantitativePour illustrer la démarche statistique et les problématiques auxquelles peuvent répondre les mo-
dèles linéaires, nous présentons dans cette partie un exemple simple, mais complet d"une analyse
statistique. Cette feuille de bord, constituée de tableauxet de graphiques, a pour objectif derappeler les principaux outils de statistique descriptivesimple et d"introduire les différents types
de modèles linéaires que nous verrons dans cet enseignement.Dans une entreprise, on a relevé les salaires des32employés (mensuel en euros, noté sal), ainsi
que certaines caractéristiques socio-démographiques telles que l"ancienneté dans l"entreprise (en
années, notée anc), le nombre d"années d"études après le bac(noté apbac), le sexe (1 =F/2 =M,
noté sex), le type d"emplois occupés (en3catégories codées de1à3, noté emp). Un extrait des
données est présenté ci-dessous : num anc sal sex apbac emp1 7 1231 1 3 2
2 15 1550 1 3 2
33 12 1539 2 2 1
34 13 1587 2 2 2
L"objectif principal de cette étude est d"évaluer l"effet éventuel des caractéristiques socio-
démographiques sur le salaire des employés.1.2.1 Description de la population d"étude
Les variables sont analysées différemment selon leur nature: quantitative ou qualitative. Lesvariables quantitatives sont résumées sous forme d"indicateurs (moyenne, écart-type, ....), comme
dans le tableau ci-dessous, et sont présentées graphiquement sous forme d"histogramme et de boîtes à moustache ou box-plot (Figure 1). Variablen Moyenne Ecart-type Médiane Minimum MaximumAncienneté32 10.0 6.1 12 1.0 20.0
Salaire32 1365.4 308.0 1357 926.0 2024.0
Nombre d"années d"études32 2.3 1.5 2.0 0.0 5.0 Fig.1.1 -Box-plot et histogramme représentant la distribution des variables quantitatives : le salaire, l"ancienneté dans l"entreprise et le nombre d"années d"études après le bacIUP SID L3 - Modèles linéaires3
Pour les variables qualitatives, on résume les données sousforme de tableau de fréquences (comme
ci-dessous) et on les présente graphiquement par des diagrammes en bâtons (Figure 2).Variable ModalitésEffectif Fréquence(%)
Sexe Féminin (1)21 65.6%
Masculin (2)11 34.4%
Type d"emplois110 31.3%
217 53.1%
35 15.6%
Fig.1.2 -Diagramme en bâtons représentant la distribution des variables qualitatives : le sexe (1=F, 2=M) et le type d"emplois occupés (1, 2 ou 3)1.2.2 Relation entre variables quantitatives
Etant donné l"objectif de l"étude, nous allons nous intéresser dans cette partie aux relations entre
le salaire et les autres variables renseignées. Là encore, selon la nature des variables, les méthodes
d"analyse sont différentes. Pour étudier la relation entre deux variables quantitatives (par exemple, entre le salaire etl"ancienneté, et entre le salaire et le nombre d"année d"études), on peut tracer un nuage de points
(Figure 3) et calculer le coefficient de corrélation linéaire entre ces deux variables :Pearson Correlation Coefficients, N = 32
Prob > |r| under H0: Rho=0
anc apbac sal 0.85559 0.42206 <.0001 0.0161 Fig.1.3 -Nuage de points représentant la relation entre le salaire etles deux autres variables quantitatives : l"ancienneté et le nombre d"années après lebacIUP SID L3 - Modèles linéaires4
Le nuage de points peut être résumé par une droite que l"on appellera la droite derégression
linéaire simple. C"est le cas le plus simple de modèle linéaire, qui permet d"expliquer une variable
quantitative en fonction d"une autre variable quantitative. Par exemple, la droite de régression linéaire résumant la relation entre le salaire et l"ancienneté a pour équation : sal i= 934.5? constante à l"origine+ 42.9???? pente du salaire sur l"ancienneté×anci+eiLa constante à l"origine correspond au salaire moyen des employés au moment de l"entrée dans
l"entreprise. La pente représente la variation moyenne de salaire par année d"ancienneté. La pente
égale à 42.9 est significativement différente de0, montrant que le salaire et l"ancienneté sont liés de
façon significative. Il en est de même pour la régression linéaire du salaire sur le nombre d"année
d"études. Dans cet enseignement, on verra comment estimer les paramètres du modèle et tester
leur nullité.Il peut être également intéressant de modéliser une variable en fonction de plusieurs autres
quotesdbs_dbs35.pdfusesText_40[PDF] explication méthode des moindres carrés
[PDF] méthode des moindres carrés mercatique
[PDF] tracer une perpendiculaire au compas
[PDF] comment tracer une perpendiculaire passant par un point
[PDF] tracer une droite perpendiculaire ? (ab) passant par a
[PDF] deux plans perpendiculaires dans l'espace
[PDF] évaluation droites perpendiculaires cm1
[PDF] tracer des droites perpendiculaires
[PDF] droites perpendiculaires ce2 lutin bazar
[PDF] séquence droites perpendiculaires cm1
[PDF] évaluation droites perpendiculaires cm2
[PDF] droites perpendiculaires definition
[PDF] exercices droites parallèles cm1
[PDF] séquence droites parallèles et perpendiculaires cm2
