[PDF] [PDF] Chapitre Méthode des moindres carrés - biskradz

View - Download [PDF] Chapitre Méthode des moindres carrés - biskradz

Previous PDF

Next PDF

Cours complet est disponible sur mon site web : http://sites.univ-biskra.dz/kenouche/Polycopi ´e de cours - Ann´ee Universitaire 2019/2020Chapitre

4M´ethode des moindres carr´es

SAMIRKENOUCHE- D´EPARTEMENT DESSCIENCES DE LAMATI`ERE- UMKB M

´ETHODESNUM´ERIQUES ETPROGRAMMATION

R

´esum´e

L"ajustement est une op

´eration d"optimisation portant sur la recherche du profil th´eorique qui colle le mieux possible aux donn

´ees exp´erimentales. Tr`es souvent la repr´esentation graphique s"av`ere insuffisante pour appr´ehender

la relation fonctionnelle liant les donn ´ees`a ajuster. En effet, la connaissance apriori du mod`ele th´eorique peut s"av´erer indispensable. Le processus d"ajustement doit permettre d"interpr ´eter et de pr´evoir les variations de la variable d

´ependante (yi) en fonction de la variable expliqu´ee (xi), suppos´ee connue. De nombreuses m´ethodes existent pour

ajuster les param

`etres du mod`ele th´eorique afin de choisir le meilleur ajustement. Dans ce chapitre, nous aborderons

l"ajustement au sens des moindres carr ´es ordinaires et pond´er´es. Ces techniques sont largement utilis´ees apr`es la collecte de donn

´ees que ce soit en Physique ou en Chimie. Dans ce chapitre il sera aussi question de l"´etude de

deux techniques de diagnostic de la r

´egression.

Mots cl

´es

Ajustement, moindres carr

´es, corr´elation, valeur atypique, Matlabr.

Table des mati

`eres

I Introduction58

II Les moindres carr

´es ordinaires 59

II-AIntervalle de confiance. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61

II-BStatistique de Student. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62

III Les moindres carr

´es pond´er´es 68

IV Notions de corr

´elation71

V Diagnostic de la r

´egression 73

V-AEffet levier. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73

V-BDistance de Cook. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73

VI Travaux pratiques avec des fonctions Matlab pr

´ed´efinies 74

I.INTRODUCTIONL

"objectif premier d"un ajustement des donn ´ees exp´erimentales, est la cherche du mod`ele th´eorique en ad´equation avec les donn

´ees exp´erimentales. Dans certains cas, la repr´esentation graphique est suffisante pour identifier

la relation math

´ematique liant les donn´ees exp´erimentales`a ajuster. Dans d"autres cas, la connaissance a priori du

mod

`ele th´eorique est in´eluctable. L"ajustement doit permettre de d´ecrire et de pr´evoir les variations de la variable

d

´ependante (yi) en fonction de la variable expliqu´ee (xi), suppos´ee connue. De nombreuses m´ethodes existent pour

ajuster les param

`etres du mod`ele th´eorique afin de choisir le meilleur ajustement. Dans cette section, on abordera la

S. Kenouche est docteur en Physique de l"Universit ´e des Sciences et Techniques de Montpellier et docteur en Chimie de l"Universit´e

A. Mira de B

´ejaia.

Site web : voir

http://www .sites.univ-biskra.dz/kenouche

Document corrig

´e, am´elior´e et actualis´e le 19.09.2019. Cours complet est disponible sur mon site web : http://sites.univ-biskra.dz/kenouche/Polycopi ´e de cours - Ann´ee Universitaire 2019/2020@ SAMIR KENOUCHE59 r

´egression lin´eaire1au sensdes moindres carr´es. D"un point de vue conceptuel, le mod`ele lin´eaire est caract´eris´e

par deux entit

´es d´eterministeet al

´eatoireselon :

variable al

´eatoirey=f(x;i)|{z}

D

´eterministe+i|{z}

Al

´eatoire(1)

La variable d

´ependanteya un caract`ere al´eatoire "h´erit´e" dei. Ce mod`ele de r´egression est construit en respectant

les hypoth `eses suivantes :

La distrib utiondes r

´esidus (ou erreur de r´egression)iest ind´ependante dex. C"est l"hypoth`esed"ind´ependance.

La distrib utiondes erreurs de r

´egression suit une loi normale centr´e et de variance constanteN(0;2). Cette hypoth `ese porte aussi le nom d"homosc´edasticit´e:

8i= 1;2;:::;nE(i) = 0;V(i) =2

Co v[i;j] = 0pouri6=j

Concr `etement cette derni`ere hypoth`ese s"interpr`ete en consid´erant : y

1=f(x;i) +1ety2=f(x;i) +2(2)

Il n"existe aucune relation fonctionnelle entre les variablesy1ety2. En d"autres mots, une variation de l"une des

variables n"entra ˆıne pas une variation pr´evisible pour l"autre.

II.LES MOINDRES CARR´ES ORDINAIRES

Le fondement de la m

´ethode des moindres carr´es est r´egit par la minimisation de la somme quadratique des´ecarts

(encore appel

´es r´esidus) entre les donn´ees exp´erimentales et le mod`ele consid´er´e. Le but consiste`a trouver le mod`ele

th

´eorique, de forme g´en´eralef(xi;i), qui ajuste le mieux les mesures exp´erimentales. Avec,isont les param`etres

du mod

`ele en question, ayant une signification physique. Dans la m´ethode des moindres carr´es, ces derniers sont

d

´etermin´es par minimisation d"unefonction-objectif(appel´ee aussifonction de coˆutoucrit`ere d"optimisation),

not

´eeS(^1;^2)2. Ainsi, le crit`ere d"optimalit´e est celui de la minimisation des r´esidus. Les estimations,^1et^2,

traduisent le minimum de lafonction-objectif. Nous allons illustrer ce propos, en consid´erant dans un premier temps

le mod `ele :^yi=1xi+2

S(^1;^2) =nX

ie 2i=nX i(yif(xi;i))2(3)

S(^1;^2) =nX

ie 2i=nX i(yi1xi2)2(4)

1. Le mot lin

´eaire ici s"applique aux coefficients et non pas`a la variable explicative. Dans ce cas@f(ai;xi)@ai

6=f(ai). Pour un mod`ele

non-lin

´eaire on aura@f(ai;xi)@ai

=f(ai).

2. Il convient de remarquer que la fonctionS(^1;^2)(voir l"´equation (4)) est strictement convexe. Elle admet un minimum en un unique

point (^1et^2), lequel est obtenu en annulant les d´eriv´ees partielles deS. Cours complet est disponible sur mon site web : http://sites.univ-biskra.dz/kenouche/Polycopi ´e de cours - Ann´ee Universitaire 2019/2020@ SAMIR KENOUCHE60 Cette expression traduit la somme de toutes les distances verticales, dont l"unit

´e est celle des abscisses, entre

les donn

´ees exp´erimentales et le mod`ele th´eorique consid´er´e. Math´ematiquement, cette minimisation s"exprime par :

8 >>>:S(1;2) 1

1=^1=nX

i=12(yi^1xi^2)(xi) = 0

S(1;2)

2

2=^2=nX

i=12(yi^1xi^2)(1) = 0(5) 8 >>>:2 nX i=1y i^1n X i=1x i^2# (xi) = 0 2 nX i=1y i^1n X i=1x i^2# (1) = 0(6) 8 >>>:2 nX i=1y ixi+^1n X i=1x

2i+^2xi#

= 0 2 nX i=1y i+^1n X i=1x i+^2# = 0(7) 8 1n X i=1x

2i+^2xi=nX

i=1y ixi 1n X i=1x i+^2=nX i=1y i(8)

Ce syst

`eme d"´equations peut s"´ecrire sous forme matricielle, selon : 2 6 6664n
X i=1x 2in X i=1x i n X i=1x i13 7

7775^1^2

=2 6 6664n
X i=1x iyi n X i=1y i3 7

7775(9)

Le vecteur des param

`etres estim´es s"obtient : ^1^2 =2 6 6664n
X i=1x 2in X i=1x i n X i=1x i13 7

777512

6 6664n
X i=1x iyi n X i=1y i3 7

7775(10)

Rappelons que l"inverse d"une matrice22se calcule simplement par la formule g´en´erale : M=A B C D )M1=1det(M)M=DB C A (11)

Avecdet(M) =ADB C

Cours complet est disponible sur mon site web : http://sites.univ-biskra.dz/kenouche/Polycopi ´e de cours - Ann´ee Universitaire 2019/2020@ SAMIR KENOUCHE61

La pente

^1et l"ordonn´ee`a l"origine^2sont d´etermin´ees`a partir des formules : 1=n X i=1x iyinX i=1x in X i=1y in X i=1x 2i nX i=1x i!

2et^2=n

X i=1x 2in X i=1y inX i=1x in X i=1x iyin X i=1x 2i nX i=1x i! 2

A.Intervalle de confiance

On donne sans d

´emonstration les incertitudes commises sur les deux param`etres d"ajustement en question : ^1=tn2;s^1=tn2;srv uutn X i=1(xix)2(12) ^2=tn2;s^2=tn2;srv uuuuuuutn X i=1x 2in nX i=1(xix)2(13)

Avectn2;(voir la table (VI)) est le quantile de la loi de Student`an2degr´es de libert´e, pour un niveau de

confiance1etsrest l"´ecart-type sur les r´esidus, donn´ee par : s r=v uut1 n2n X i=1(yi^yi)2(14)

On l"appelle aussi l"erreur quadratique moyenne. Plus la valeur desrest faible, meilleur est l"ajustement. A

partir des equations ci-dessus, on comprend sans peine que plus l" ´ecart-type des coefficients est faible, plus les valeurs estim ´ees de^1et^2sont pr´ecises. Ceci appelle les observations suivantes : Les mesures xidoiventˆetre dispers´ees autour de leur moyenne)la quantit´e statistiquenX i=1(xix)2doit etre la plus grande possible.

Le terme

nX i=1x

2idoitˆetre le plus faible possible. Lesxidoivent pr´esenter une faible moyenne en valeur absolue.

L "erreurquadratique mo yennesrdoitˆetre la plus faible possible. Plussrest faible, plus la droite de r´egression

est proche des points exp

´erimentaux.

Plus il y a de points e xp

´erimentaux (n grand), meilleure est la pr´ecision des param`etres d"ajustement.

L "incertitudeaf fectantles param

`etres d"ajustement d´epend aussi de niveau de confiance fix´e (1)`a travers le coefficient de Studenttn2;. La m

´ethode des moindres carr´es fournit des variances minimales pour les coefficients estim´es. Cette propri´et´e est

stipul

´e par le th´eor`eme de Gauss-Markov. La d´emonstration de ce th´eor`eme d´epasse largement le cadre de ce cours.

Le plus important pour un(e)

´etudiant(e) en sciences exp´erimentales, est d"avoir une d´emarche compr´ehensible et rigoureuse afin d"analyser ce type de probl

´ematique.

Cours complet est disponible sur mon site web : http://sites.univ-biskra.dz/kenouche/Polycopi ´e de cours - Ann´ee Universitaire 2019/2020@ SAMIR KENOUCHE62

B.Statistique de Student

Le test de signification des coefficients est r

´ealis´e au moyen du test de Student3. Un coefficient est dit significatif si la variable qui lui est associ ´ee a une influence sur la r´eponse. Dans ce cas de figure, la p-value est la probabilit´e qu"un coefficient soit n ´egligeable. On calcule cette p-value`a partir du rapport du coefficient`a son´ecart-type : t obs= ^is ^i(15)

On testera

`a ce propos, les deux hypoth`eses suivantes :

H0=)^i= 0coefficient non significatif

H

1=)^i6= 0coefficient significatif(16)

Si p-value=PH0(T > tobs)< =)l"hypoth`eseH0est rejet´ee au risque5%. Dans les logiciels de statistique,

la probabilit

´ePH0(T > tobs)est calcul´ee selon :

p-value=P(T > tobs) = 1P(T < tobs) = 1(tobs)(17)

Avec(tobs)est la fonction de r´epartition de la loi de Student ou encore la distribution cumulative de la loi de

Student (Student"s t cumulative distribution function). L"hypoth `eseH0est accept´ee dans le cas o`u :

1(tobs)0:05(18)

et elle est rejet

´ee si

1(tobs)<0:05(19)

Dans le cas o

`u l"hypoth`eseH0est accept´ee, cela veut dire que le coefficient en question n"est pas, au risque,

significativement diff

´erent de z´ero. Ainsi, la variable qui lui est associ´ee n"a pas d"influence sur la r´eponse. L"allure

de la distribution de la loi de Student et de celle de sa fonction de r ´epartition sont repr´esent´ees ci-dessous.Pour les

´etudiants (es) qui ont du mal`a se familiariser avec le calcul des probabilit´es, peuvent comparer

directement le quantiletn2;(voir la table (VI))`a celui calcul´e`a partir de la statistique de Student.Le test impose :P(T > tn2;) =

Sitobs> tn2;)P(T > tobs) tn2;))P(T > tobs)<

L"hypoth

`eseH0est rejet´ee au risque

Sitobs< tn2;)P(T > tobs)>P(T > tn2;))P(T > tobs)>

L"hypoth

`eseH0est accept´ee au risque3. On l"appelle aussi test de nullit

´e d"un coefficient.

Cours complet est disponible sur mon site web : http://sites.univ-biskra.dz/kenouche/Polycopi ´e de cours - Ann´ee Universitaire 2019/2020@ SAMIR KENOUCHE63 FIGURE1: Distribution et fonction de r´epartition de la loi de Student

Exercice+r

Nous avons mesur

´e la conductivit´e (mSiemens=cm2) d"un´electrolyte en fonction de sa concentration. Les mesures ont

´et´e r´ealis´ees`aT= 25C. On rappelle que la conductivit´e d"une solution s"´ecrit sous la forme :

=nX i=1c ii(20)

Avec,n´etant le nombre d"ions (cation et anion) pr´esents dans l"´electrolyte,ciest la concentration de l"ion i de

l" ´electrolyte etiest sa conductivit´e molaire ionique. Les r´esultats obtenus sont :

= [1.04 , 1.98 , 3.38 , 2.94 , 4.72 , 5.12 , 5.84 , 6.05 , 7.80 , 9.29 , 9.40 , 9.37 , 11.03 , 14.1 , 13.7 , 13.4 , 14.65]

La gamme des concentrations vaut [1 : 1 : 17] (mmol/L). D ´eterminer la droite de r´egression du nuage de points (ci;i). D ´eterminer l"intervalle de confiance des param`etres d"ajustement. R ´ealiser le Test de nullit´e d"un coefficient (ou test de Student). Commenter

Calculer le coef ficientde corr

´elation du nuage de points.

Commenter le r

´esultat obtenu.

Solution :commenc¸ons par appliquer les relations calculant^1et^2 ^1= 0:8698et^2= 0:0427 s r= 0:72 ;s^a= 0:04 ;s^b= 0:36 ;t15= 1:75`a95% Cours complet est disponible sur mon site web : http://sites.univ-biskra.dz/kenouche/Polycopi ´e de cours - Ann´ee Universitaire 2019/2020@ SAMIR KENOUCHE64

TABLEI: Calcul statistiquex

ix 2iy ix iyi1.00001.00001.04001.0400

2.00004.00001.98003.9600

3.00009.00003.380010.1400

4.000016.00002.940011.7600

5.000025.00004.720023.6000

6.000036.00005.120030.7200

7.000049.00005.840040.8800

8.000064.00006.050048.4000

9.000081.00007.800070.2000

10.0000100.00009.290092.9000

11.0000121.00009.4000103.4000

12.0000144.00009.3700112.4400

13.0000169.000011.0300143.3900

14.0000196.000014.1000197.4000

15.0000225.000013.7000205.5000

16.0000256.000013.4000214.4000

17.0000289.000014.6500249.0500

17 X i=1x i= 15317 X i=1x

2i= 178517

X i=1y i= 133:8117 X i=1x iyi= 1:55103

TABLEII: R´esultat de la r´egressiony

i^yie i=yi^yie

2i1.04000.90300.13700.0188

1.98001.76300.21700.0471

3.38002.62300.75700.5730

2.94003.4830-0.54300.2948

4.72004.34300.37700.1421

5.12005.2030-0.08300.0069

5.84006.0630-0.22300.0497

6.05006.9230-0.87300.7621

7.80007.78300.01700.0003

9.29008.64300.64700.4186

9.40009.5030-0.10300.0106

9.370010.3630-0.99300.9860

11.030011.2230-0.19300.0372

14.100012.08302.01704.0683

13.700012.94300.75700.5730

13.400013.8030-0.40300.1624

14.650014.6630-0.01300.0002

)^1= 2:130:04 = 0:06 )^2= 2:130:36 = 0:64

La droite de r

´egression s"´ecrit comme suit :

^y= 0:87(0:06)x+ 0:04(0:64)

Les intervalles de confiance s"

quotesdbs_dbs15.pdfusesText_21

[PDF] cours méthode moindres carrés

[PDF] méthode des moindres carrés exercice corrigé

[PDF] méthode des moindres carrés excel

[PDF] méthode des moindres carrés statistique

[PDF] méthode des moindres carrés calculatrice

[PDF] explication méthode des moindres carrés

[PDF] méthode des moindres carrés mercatique

[PDF] tracer une perpendiculaire au compas

[PDF] comment tracer une perpendiculaire passant par un point

[PDF] tracer une droite perpendiculaire ? (ab) passant par a

[PDF] deux plans perpendiculaires dans l'espace

[PDF] évaluation droites perpendiculaires cm1

[PDF] tracer des droites perpendiculaires

[PDF] droites perpendiculaires ce2 lutin bazar

[PDF] séquence droites perpendiculaires cm1