MT09-Analyse numérique élémentaire
Chapitre 3 : Résolution des problèmes de moindres carrés Exercice A.1.3 Factorisation A = QR par la méthode de Householder.
CORRIGÉ
Exercice 1. : On reprend l'exemple des 5 spécimens Déterminer par la méthode des moindres carrés ordinaires
Analyse Numérique
1.5 Exercices du chapitre 1 . 3.3.2 Méthode classique des moindres carrés . ... 5.8 Schéma de Newmark pour les problèmes d'ordre 2 .
Correction TD 1 : Approximation de fonctions
vos notes). 1 Méthode des moindres carrés. Exercice 1 (quartet d'Anscombe) Le statisticien Francis Anscombe a défini en 1973 plusieurs
Analyse numérique : Approximation de fonctions
???/???/???? 2 Méthode des moindres carrés ... Exercice introductif (correction) ... Le problème de l'interpolation linéaire par morceaux est que la.
Chapitre 5 - Méthode des moindres carrés
Vérifier que vos résultats sont identiques. Exercice 2 : 1. Simuler au moyen de la fonction Random de votre calculette une suite de n = 15 nombres aléatoires (
Table des matières 1 Calcul différentiel
QUELQUES EXERCICES CORRIGÉS D'OPTIMISATION méthode des moindres carrés on a ... des problèmes de moindres carrés menant à l'équation normale).
Sciences de gestion - Synthèse de cours exercices corrigés
Pour pallier le problème il faut spécifier a priori une forme fonctionnelle particulière de la Estimation par la méthode des moindres carrés ordinaires.
Feuille de TP 3
Le problème des moindres carrés consiste alors à chercher la ou les Méthode QR : la décomposition QR de la matrice A conduit à écrire A = QR où Q ...
2008 EXERCICES MOINDRES CARRES 2009 Exercice 1 : Exemple
a. Donner une équation de la droite ?1 d'ajustement par la méthode des moindres carrés. b. Déterminer une estimation des prêts accordés au quatrième
[PDF] Méthode des moindres carrés
Représenter les résidus et calculer la moyenne des carrés des résidus 5 Représenter l'histogramme des résidus Exercice 3 : Pour étudier les probl`emes de
[PDF] CORRIGÉ
Exercice 1 : On reprend l'exemple des 5 spécimens Déterminer par la méthode des moindres carrés ordinaires l'équation de la droite de régression de
[PDF] AJUSTEMENT LINÉAIRE METHODE DES MOINDRES CARRES
Calculez la droite des moindres carrés du poids des fils en fonction du poids des pères 2 Calculez la droite des moindres carrés du poids des pères en
[PDF] [PDF] MT09-Analyse numérique élémentaire - UTC - Moodle
Chapitre 3 : Résolution des problèmes de moindres carrés Exercice III 1 Exercice A 1 3 Factorisation A = QR par la méthode de Householder
[PDF] Méthode des moindres carrés - ISIMA
31 mai 2005 · Méthode des moindres carrés : meilleure approximation linéaire Gilles Leborgne 31 mai 2005 Table des matières 1 Rappel de dérivation
[PDF] Corrections des exercices - Pages personnelles Université Rennes 2
Exercice 1 3 (Variance des estimateurs) Nous avons Exercice 2 9 (Moindres carrés contraints) Le problème du test réside dans le calcul de ˆY0
[PDF] Régression - Droite des moindres carrés - Eirini Chavli
b) Calculer le coefficient de corrélation linéaire entre x et y Interpréter le résultat obtenu Exercice 6 On a procédé à l'ajustement affine d'un nuage de
(PDF) Méthode des moindres carrés Amine Azaoum - Academiaedu
Le meilleur ajustement déterminé par la méthode des moindres carrés est Deux problèmes distincts se posent alors: 1 le choix de l'équation de la courbe
[PDF] Chapitre Méthode des moindres carrés - biskradz
Ajustement moindres carrés corrélation valeur atypique Matlab® Le fondement de la méthode des moindres carrés est régit par la minimisation de la
Méthode des moindres carrés - PDF Téléchargement Gratuit
Le problème de la régression consiste à rechercher une relation pouvant MÉTHODE DES MOINDRES CARRÉS 5 5 Exercices Exercice 1 : On possède 6 spécimens
Comment calculer avec la méthode des moindres carrés ?
La méthode des moindres carrés consiste à déterminer la droite dite « de régression de y en x » qui rend minimale la somme . Les coefficients a et b de l'équation de cette droite sont définis par a = et , où ?x est l'écart-type de la série x, et ?xy la covariance des séries x et y.Quelle est l'équation d'ajustement linéaire par les moindres carrés ?
Dans un ajustement linéaire, la fonction f recherchée est une droite : La méthode des moindres carrés cherche une droite y=ax+b de manière à minimiser la somme des carrés des différences entre les points du nuage et ceux de la droite : ?i(yi?(axi+b))2.Comment déterminer la droite de régression ?
L'équation de cette droite est est égal à plus , où est égal à barre moins barre, où barre est la valeur moyenne de et barre est la valeur moyenne de . est égal à S divisé par S. S est la covariance de et divisé par et S est la variance de divisé par .- L'estimateur des Moindres Carrés Ordinaires
Si, comme la somme des valeurs absolues, la somme des carrés est toujours positive (et nulle si le modèle est parfait), elle présente en sus l'intérêt d'être dérivable, ce qui est plus simple pour déterminer le minimum.
Master 1 - Math. Fondamentales, CSMI
QUELQUES EXERCICES CORRIGÉS D"OPTIMISATIONYannick PRIVAT- yannick.privat@unistra.frTable des matières
1 Calcul différentiel
12 Analyse des problèmes d"optimisation sans contrainte
43 Analyse des problèmes d"optimisation sous contrainte
94 Algorithmes numériques pour les problèmes d"optimisation
121 Calcul différentielExercice 1.
1.Montrer que la fonction f:R2!R2définie par
f(x,y) =( y2x six6=0 ysix=0 admet des dérivées partielles au point(0,0), mais n"est pas continue en(0,0). 2. Soit E, unR-espace vectoriel muni d"un produit scalaireh,i. Montrer la continuité, puis ladifférentiabilité et calculer la différentielle de l"application " produit scalaire »F:E2!R
définie parF(x,y) =hx,yipour tous(x,y)2E2. 3.Soit A2 Mn,m(R), avec(n,m)2N2.
(a) Montrer que l"application J:Rm!Rdéfinie parJ(X) =kAXk2, où la notationk k désigne la norme euclidienne deRn, est différentiable et calculer sa différentielle. (b) Soit f2 C1(R). Montrer que l"applicationG:Rm!Rdéfinie parG(X) =f(J(X))est différentiable et calculer sa différentielle.Correction.
1.On a pou rtou tt2R,f(t,0)f(0,0) =02t
=0, ce qui montre que limt!0f(t,0)f(0,0)t =0,2.L "applicationFétant bilinéaire, sa continuité surE2est équivalente à sa continuité en(0,0). De
plus, d"après l"inégalité de Cauchy-Schwarz,jF(x,y)j kxk kykpour tous(x,y)2E2, où kxk=phx,xi. Étudions la différentiabilité deF. Fixons(x,y)2E2et(h,k)2E2. On a :F(x+h,y+k) =F(x,y) +F(x,k) +F(h,y) +F(h,k),
donc siL(h,k) =F(x,k) +F(h,y), on a kF(x+h,y+k)F(x,y)L(h,k)k=kF(h,k)k khk kkk=o(N(h,k)), en prenant par exempleN(h,k) =maxfkhk,kkkg. De plus,Lest linéaire et continue car jL(h,k)j kxk kkk+khk kyk N(x,y)N(h,k)!N(h,k)!00,
en vertu de l"inégalité de Cauchy-Schwarz. On en déduit simultanément queFest différentiable,
et quedF(x,y)(h,k) =L(h,k) =hx,ki+hy,hi. 3. ( a) L "applicationX2Rn7! kXk2estC¥donc différentiable surRn, car polynômiale. L"ap- plicationX7!AXest linéaire, donc différentiable. Par conséquent, l"applicationJest dif- férentiable en tant que composée de fonctions qui le sont. De plus, pour toutX2Rm, on aJ(X) =hAX,AXi=hA>AX,Xi,
avecA>A2 Sm(R). On en déduit que la différentielle deJenXest l"application linéaire dXJ:h2Rm7!2hA>AX,hi.
(b) Ut ilisonsle théorème de composition des dif férentielles.On obtient dXG(h) =dJ(X)fdXJ(h) =2f0(J(X))A>Ah.
pour touth2Rm.Exercice 2.On considère la fonctionf:R2!Rdéfinie par f(x,y) =( x3+y3x2+y2si(x,y)6= (0,0)
0 sinon.
La fonctionfest-elle continue surR2? de classeC1surR2? Correction.La fonctionfestC¥surR2nf(0,0)gen tant que produit, quotient ne s"annulant pas etc. de fonctions qui le sont. Reste à étudier la régularité en(0,0). On a8(x,y)2R2nf(0,0)g,jf(x,y)j jxj3x
2+jyj3y
2=jxj+jyj !(x,y)!(0,0)0.
en(0,0). En effet, soitt6=0 et(x,y)6= (0,0). On a f(tx,ty)f(0,0)t =t3(x3+y3)t3(x2+y2)!(x,y)!(0,0)x
3+y3x 2+y2.Or, sifétait différentiable en(0,0), cette limite coïnciserait avecd(0,0)f(x,y)et serait en particulier
linéaire par rapport à(x,y)ce qui n"est pas le cas.Exercice 3.(examen, juin 2018)Soitf:R2!R, une fonction différentiable. Soitx02R2. On
noterf(x0)le gradient defenx0.1.Soit d2R2, une direction non nulle telle quekrf(x0) +dk krf(x0)k.
Montrer quedest une direction de descente1defenx0. Trouver alors le pas optimalr2R minimisant la fonctionR3r7! krf(x0) +rdk. Exhiber une direction de descente qui n"appartient pas àvect(rf(x0))lorsquerf(x0)6=0. 2. Soit c2RetLc=fx2R2jf(x) =cg, la ligne de niveaucdef. On suppose qu"une représentation paramétrique deLcest donnée parx=g(t)avect2Roùg:R!R2est une fonction différentiable telle queg(0) =x0. Montrer querf(x0)est perpendiculaire au vecteur tangent àLcenx0. 3. Soit c2R. Les dessins de la figure ci-dessous représentent la ligne de niveaucd"une fonction quadratiquef:R2!R. Dans quels dessins (A ou B ou les deux) la directiondest-elle de descente au pointx? Une justification précise est attendue.Correction. 1.Puisque krf(x0) +dk krf(x0)k, on élève chacun des membres de l"inégalité au carré et on
les développe. On obtientkrf(x0)k2+2hrf(x0),di2+kdk2 krf(x0)k2et par conséquent, hrf(x0),di2 12 kdk2<0. Par conséquent, f(x0+#d)f(x0)# =hrf(x0),di2+o(#) 12 kdk2+o(#). Par conséquent, le second membre est strictement négatif si#est assez petit et la conclusion s"ensuit. Pour trouver le pas optimal, posonsj(r) =krf(x0) +rdket remarquons que le problème inf Rjest équivalent au problème infRj2. Or,j2(r) =krf(x0)k2+2rhd,rf(x0)i+r2kdk2, donc le minimum est atteint enr=hd,rf(x0)ikdk2et vaut infRj=krf(x0)k2hd,rf(x0)i2kdk2. En particulier, tout vecteur de la formed=rf(x0) +#u, oùuest un vecteur unitaire et#2 ]0,krf(x0)k[est une direction de descente. 2. Le vecteur tangent au point x0est donné parg0(0). La relationf(x) =cs"écrit encoref(g(t)) =cpour toutt2R. Dérivons cette relation en utilisant la composition des différentielles, il vient
hrf(x0),g0(0)i=0, autrement ditrf(x0)est perpendiculaire au vecteur tangent àLcenx0. 3. Notons d"abor dque deux lignes de niveaux cetc0avecc6=c0ne peuvent pas se croiser, car sinon, on auraitc=c0. Les lignes de niveau d"une fonction quadratique deR2sont des coniques (pardéfinition), des ellipses ici puisque les courbes sont fermées. Par conséquent, toutes les lignes
de niveau à l"intérieur de l"ellipse sont encore fermées donc sont des ellipses ayant toutes même
centre. Puisque l"opposé du gradient enypointe vers une direction de descente, on en déduit qu"une direction sortante de l"ellipse sera une direction de descente. Par conséquent,dest unedirection de descente dans le casAet pas dans le casB.1. autrement dit qu"il existe#0>0 tel quef(x0+#d) ce qui prouve quefest coercive surR2qui est fermé et de dimension finie. D"après le théorème fétant de classeC2, on va utiliser la caractérisation des points critiques à l"aide de la hessienne les inégalités précédentes sont obtenues pour desxarbitrairement petits, on en déduit que le En conclusion, puisque le problème(P)possède une solution, la caractérisation des points cri- (x,y)2R2f(x,y) =f(A) =f(B) =8.Exercice 5.(examen - juin 2018)On définit la fonctionJ:R2!RparJ(x,y) =y43xy2+x2. questions précédentes prouvent que(0,0)est un point selle deJ.Exercice 6.(moindres carrés)SoitN2N. On considère un nuage de pointsf(ti,xi)g1iN, et on cherche à mettre en oeuvre unerégression parabolique, autrement dit, on recherche la paraboleP d"équationy=at2+bt+c, oùa,betcsont trois réels à déterminer, telle que la somme sur tous les indicesivariant de 1 àNdu carré de la distance du point(ti,xi)au point de même abscisse sur Écrire ce p roblèmecomme un p roblèmede minimisation quadratique, c"est-à-dire un p roblème moins un, on conclut à l"existence et l"unicité.Exercice 7.(moindres carrés)On considère la fonctionfdéfinie sur l"intervalle[1,1]parf(x) = On souhaite déterminer le polynômePde degré inférieur ou égal à 1 qui approche le mieuxfau sens des moindres carrés, c"est-à-dire qui minimisekfPk2parmi tous les polynômes de degré inférieur Mettre ce p roblèmesous la fo rmed"un p roblèmede moindres ca rrésde dimension finie. Quelle trice hessienne associée est définie positive (cela se retrouve d"ailleurs en utilisant le formalisme des problèmes de moindres carrés menant à l"équation normale). On en déduit que la fonctionJ2 Analyse des problèmes d"optimisation sans contrainte
Exercice 4.On considère la fonctionfdéfinie surR2par f(x,y) =x4+y42(xy)2. 1. Montrer qu"il existe (a,b)2R2+(et les déterminer) tels quef(x,y)ak(x,y)k2+bpour tous(x,y)2R2, où la notationk kdésigne la norme euclidienne deR2. En déduire que le problème
inf(x,y)2R2f(x,y)(P) possède au moins une solution. 2. La fonction fest-elle convexe surR2?
3. Déterminer les p ointscritiques de f, et préciser leur nature (minimum local, maximum local, point-selle, ...). Résoudre alors le problème(P). Correction.
1.fest polynômiale donc de classeC¥(R2). En utilisant le fait quexy 12
(x2+y2), on écrit f(x,y)x4+y42x22y2+4xyx4+y24x24y2, pour tout(x,y)2R2. En utilisant le fait que pour tout(X,#)2R2,X4+#42#X20, il vient f(x,y)(2#4)x2+ (2#4)y22#4. Choisissons par exemple#=3, on en déduit
f(x,y)2(x2+y2)162!k(x,y)k!+¥+¥, 1 3y21
Rappelons quefest convexe surR2si, et seulement si sa matrice hessienne est semi-définie positive en tout point. Or, on vérifie aisément que les valeurs propres de Hessf(0,0)sont 0 et 2. Par conséquent,fn"est pas convexe.
3. Les points critiques de fsont donnés par les solutions derf(x,y) = (0,0), autrement dit, les points critiques sont solutions du système : x3(xy) =0 y 3+ (xy) =0,x3+y3=0
y 3+ (xy) =0,y=x
x 32x=0
On en déduit quefadmet trois points critiques :O(0,0),A(p2,p2)etB(p2, p2). Point A: Hessf(A) =20 4
4 20 donc la trace de Hessf(A)vaut 40 et son déterminant 384. On en déduit que Hessf(A)possède deux valeurs propres strictement positives donc queA est unminimiseur localpourf. Point B: Hessf(B) =Hessf(A), donc la même conclusion que pour le pointAs"impose. Point O: Hessf(O) =4 4
44
, donc la trace de Hessf(O)vaut8 et son déterminant est nul. Il vient que ses valeurs propres sont 0 et8. On ne peut donc rien conclure dans ce cas à l"aide de la matrice hessienne. En revanche, on peut donner un argument à la main : soit x2Rtel quejxj<2. On af(x,x) =2x48x2=2x2(4x4). Or,jxj<2 donc 4x2>0 et on en déduit quef(x,x)<0. De même, soitx2R. On af(x,x) =2x40. Puisque Déterminer les p ointscritiques de J.
2. Soit d= (d1,d2)2R2. En utilisant l"applicationR3t7!J(td1,td2), montrer que(0,0)est un minimum local le long de toute droite passant par(0,0). 3. Le p oint(0,0)est-il un minimum local de la restriction deJà la parabole d"équationx=y2? 4. Calculer la matrice hessienne de J. Quelle est la nature du point critique(0,0)? Correction.
1. On résout : rJ(x,y) =0()3y2+2x=0
4y36xy=0()x=32
y2 y 3=0()(x,y) = (0,0).
2. Soit t2R. On aJ(td1,td2) =t4d423t3d1d22+t2d21.Supposonsd16=0. Puisquey0(t) =4t3d42 9t2d1d22+2d21tety00(t) =12t2d4218td1d22+2d21, on ay0(0) =0 ety00(0) =2d21>0, donc 0 est
un minimum local dey. Sid1=0 etd26=0, alorsJ(0,td2) =t4d42et 0 est un minimum local de y. Enfin, le casd=0 est trivial. La conclusion attendue s"ensuit. 3. Soit (x,y)2R2tel quex=y2. Alors,J(x,y) =y4et il est alors clair queJ(x,y)On a Hess J(x,y) =26y
6y12y26x
et HessJ(0,0) =2 0 0 0 . Puisqu"une valeur propre de la hessienne en(0,0)est nulle, on ne peut rien conclure de ce calcul. En revanche, les deux Psoit minimale.
1. X2RnJ(X)avecJ(X) =12
hAX,Xi hb,Xi, (Q) avecA2 Sn(R),b2Rn. On devra donc explicitern,Aetb. On utilisera la notationSk=åNi=1tki.
2. Discuter de l"existence des solutions d"un tel p roblème. 3. On supp oseque la matrice Aest définie positive. Démontrer que(Q)possède une unique solution. Correction.
1. Le pr oblèmes"écrit
inf X2R3J(X)avecX=0
@a b c1 A etJ(X) =Nå i=1(xiat2ibtic)2. ÉcrivonsJ(X) =kMXkk2avecM=0
B @t 21t11
t 2NtN11
C Aetk=0
B @x 1... x N1 C A. D"après le cours sur la
méthode des moindres carrés, on a J(X) =12
hAX,Xi hb,Xi avecn=3,A=M>M2 S3(R)etb=M>k2R3. On calculeA=0 @S 4S3S2 S 3S2S1 S 2S1N1 A 2. Ce pr oblèmeest équivalent au pr oblèmede minimiser la distance euclidienne de kau sous es- pace vectoriel (de dimension finie) Im(M). C"est donc un problème de projection orthogonale, et il admet une solution. 3. Dans ce cas, on sait que Hess J(X) =Aqui est définie positive. Par conséquent,Jest strictement convexe, etJpossède au plus un minimum dansRN. Comme on a vu qu"elle en possède au 3. L"espaceC0([1,1])des fonctions continues sur[1,1]est muni du produit scalaire défini par
hh,gi=R1 1h(x)g(x)dxet on notek kla norme associée, définie parkhk=phh,hi, pour tous
(h,g)2(C0([1,1])2. Résoudre ce p roblème.
Correction.
1. Le pr oblèmed"optimisation sous-jacent s"écrit inf (a,b)2R3J(a,b), avecJ(a,b) =Z 1 1(x3axb)2dx.
On calcule alors
J(a,b) =Z
1 1(x6+a2x2+b22ax42bx3+2abx)dx=12
hAX,Xi h˜b,Xi+c, avecX= (a,b)>,A=4/3 0 0 4 ˜b=4/5
0 etc=27 . On s"est ainsi ramené à un problème d"optimisation de dimension 2. 2.Le pr oblèmed"optimisation précédent est un pr oblèmed"optimisation quadratique donc la ma-
[PDF] méthode moindres carrés prévision ventes
[PDF] équation de la droite d'ajustement par la méthode des moindres carrés
[PDF] loi de gumbel exercices
[PDF] hydrologie statistique pdf
[PDF] loi de gumbel hydrologie
[PDF] analyse fréquentielle hydrologie
[PDF] ajuster les nombres stoechiométriques des équations suivantes
[PDF] nombre stoechiométrique quantité de matière
[PDF] nombre stoechiométrique exercice
[PDF] exercices stoechiométrie avec corrigé
[PDF] stoechiométrie explication
[PDF] équations stoechiométriques
[PDF] nombres stoechiométriques exercices
[PDF] mélange stoechiométrique définition