optimisation convexe cours
Pierre Weiss
Ce document présente les notions de base de l'optimisation convexe une branche des mathématiques qui étudie les problèmes d'optimisation où la fonction objectif et les contraintes sont convexes Il aborde les concepts de convexité de dualité de conditions d'optimalité de méthodes de résolution et d'applications à divers domaines |
Cours Apprentissage
Dans ce cours on se limitera principalement aux problemes d'optimisation non-contraints i e mi-nimiser f(x) pour x 2 Rd Les minimas locaux sont tels que f0(x) = 0 et sont globaux lorsque f est convexe outils generiques ou des algorithmes iteratifs simples |
Chapitre 4: Optimisation convexe
dont l’espace de solutions est On s’intéresse au cas où ⊆ R Et où est un ensemble convexe |
Convex Optimization
For many general purpose optimization methods the typical approach is to just try out the method on the problem to be solved The full benefits of convex optimization in contrast only come when the problem is known ahead of time to be convex Of course many optimization problems are not convex and it can be |
Optimisation convexe
Optimisation convexe Ch Dossal Janvier 2017 Introduction Ce document est un support pour le cours d’optimisation Il n’a donc pas vocation a ^etre complet mais vient en appui aux s eances de cours L’objet de ce cours est de pr esenter des outils th eoriques d’optimisation con- |
Cours d’Optimisation
Cours d’Optimisation Matthieu Bonnivard (d’apr es le polycopi e d’Olivier Bokanowski) R ef erences bibliographiques : Philippe G Ciarlet Introduction a l’analyse num erique matricielle et a l’optimi-sation Jean-Baptiste Hiriart-Urruty Optimisation et analyse convexe (exercices cor-rig es) |
Comment construire une suite qui converge vers un point Xe ?
Cependantil existe un moyen de construire une suite qui converge vers un point \fxe d'unop\u0013erateurTqui en poss\u0012ede au moins 1 et qui est 1-Lipschitz en utilisant unproc\u0013ed\u0013e de m\u0013elange. Il s'agit de lalgorithme de Krasnosel'skii-Mann que nouspr\u0013esentons maintenant.
Comment calculer la somme de fonctions convexes ?
aussi appele Lagrangien du probleme. On a v ! L(v; ; ) convexe, puisque J convexe, j j(v) est convexe. En n la somme de fonctions convexes est convexe. De plus, rvL(u; ; ) = rJ(u) + Pp i=1 ir'i(u) + Pq j=1 jr j(u) = 0 d'apres KKT. Ainsi, u est un minimiseur global de L sur R 0). Ainsi J(u) J(v) pour tout ! R.
Quels sont les problèmes d'optimisation convexe ?
Dans cette partie nous nous int\u0013eresserons \u0012a des probl\u0012emes d'optimisationconvexes dits non lisses c'est a \u0012dire que la fonctionFque nous voulonsminimiser est non di\u000B\u0013erentiable. Un cas particulier de non di\u000B\u0013erentiabilit\u0013equi attirera notre attention est ce lui de la somme de deux fonctions convexesdont l'une au moins est non di\u000B\u0013erentiable :
Quels sont les différents types de fonctions convexes ?
L (v; C'est une fonction strictement convexe de v ; en e et, J est strictement convexe et les contraintes etant a nes, le terme h n; Cv fi est egalement une fonction a ne de v et en particulier c'est une fonction convexe de v. De plus, xe, la fonction v 7!
un entier positif un problème
dont l’espace de solutions est On s’intéresse au cas où ⊆ R Et où est un ensemble convexe ablondin.uqam.ca
Ensemble convexe
Soit ⊆ R On dit que est convexe si pour tous , ∈ , le segment de droite ⊆ convexe non convexe ablondin.uqam.ca
équivalents:
est l’intersection de demi-espaces est un polyèdre convexe (possiblement non borné) ablondin.uqam.ca
Problème linéaire
Problème d’optimisation Dont les solutions réalisables forment un polyèdre convexe Et dont la fonction objectif est linéaire Aussi appelé programme linéaire ablondin.uqam.ca
Terminologie
Les contraintes décrites par Ax b sont appelées contraintes □ fonctionnelles Certaines des variables peuvent être non restreintes Un vecteur x qui satisfait toutes les contraintes est appelé vecteur réalisable ou solution réalisable La fonction ( x) = c x est appelée fonction objectif ou fonction de coût Une solution x∗ qui optimise la fonction obj
Diférents scénarios (1/2)
Considérons le programme linéaire suivant: minimiser sous les contraintes ablondin.uqam.ca
Théorème
Soit un problème de programmation linéaire. Alors exactement un des scénarios suivants survient: Il existe une unique solution optimale Il existe plusieurs solutions optimales. L’ensemble des solutions peut être borné ou non borné Le coût optimal est +∞ ou −∞, et aucune solution réalisable n’est optimale L’ensemble des solutions réalisables est vid
Étapes
Identifier d’abord les variables (inconnues) qui seront les variables de décision et les représenter par des symboles Identifier toutes les contraintes ou restrictions du problème et les exprimer comme des équations ou inéquations linéaires en fonction des variables de décision Identifier la fonction objectif et l’exprimer en fonction des variables
Équivalence
Deux programmes linéaires sont dits équivalents si une solution optimale de l’un permet de construire une solution de l’autre. ablondin.uqam.ca
Observations
Tout programme linéaire peut être transformé en forme compacte Tout programme linéaire peut être transformé en forme standard ablondin.uqam.ca
Intérêt
La forme compacte (≤) simplifie les démonstrations La forme standard (=) est plus utile pour des raisons de calculs (algorithme du simplexe) ablondin.uqam.ca
Exemple
Transformons le problème suivant sous forme minimiser sous les contraintes ablondin.uqam.ca
Proposition
Le problème minimiser sous les contraintes est équivalent au problème minimiser sous les contraintes ≥ ablondin.uqam.ca
Idée générale
On part avec une solution réalisable x On calcule diférentes statistiques On choisit la dimension la plus prometteuse On modifie la solution selon cette dimension On répète jusqu’à ce qu’on ne puisse rien améliorer ablondin.uqam.ca
Dificultés
Comment trouver une solution initiale? Comment choisir la dimension prometteuse? ablondin.uqam.ca
Étape 1
On initialise le tableau avec les valeurs du problème Colonne pivot: minimise Ligne pivot: minimise le ratio positif solution/colonne pivot ablondin.uqam.ca
Exercice
Appliquer la méthode du simplexe au programme suivant: minimiser s. c. ablondin.uqam.ca
non
A dans la base en mettant à jour Théorie de la dualité ablondin.uqam.ca
Idée générale
Problème primal : on optimise dans une direction En cherchant l’infimum d’un ensemble Problème dual : on optimise dans la direction contraire En cherchant le supremum de l’ensemble = { ∣ ≤ , pour tout ∈ } En particulier, on a la relation inf( ) = sup( ) c’est-à-dire que les solutions admissibles se rencontrent ablondin.uqam.ca
Motivation
Deux principales motivations: La résolution du problème dual est parfois plus facile que la résolution du problème primal Pour toute solution ∈ et pour toute solution ′ ∈ , le nombre () − ( ′) est un majorant de l’erreur () − inf( ) Il est donc possible d’estimer l’erreur en lorsqu’on doit résoudre des problèmes linéaires en nombres entiers, qui s
dual
associé est donné par maximiser sous les contraintes y b ablondin.uqam.ca
y A ≤ c
Remarques et conséquences Le problème dual n’est ni sous forme standard, ni sous forme compacte, mais il peut facilement être transformé Chaque contrainte fonctionnelle est « remplacée » par une variable dans le problème dual De la même façon, chaque variable introduit une contrainte correspondante dans le dual ablondin.uqam.ca
Théorème (dual d’un dual)
Soit un programme linéaire, ′ son problème dual associé et dual associé au problème ′. Alors et ′′ sont équivalents. ′′ le ablondin.uqam.ca
Théorème de dualité forte
Considérons la paire de problème primal-dual suivante: minimiser sous les contraintes c x Ax = b x ≥ 0 maximiser y b sous les contraintes y A ≤ c Si un des deux problèmes admet une solution optimale, alors l’autre problème aussi admet une solution optimale et leurs valeurs optimales respectives coïncident. Logiciels ablondin.uqam.ca
Optimisation convexe
Ce cours se divise en deux grandes parties la premi`ere est consacrée `a l'optimisation de fonctions convexes différentiables |
COURS OPTIMISATION Cours en Master M1 SITN Ionel Sorin
On appelle fonction elliptique une fonction f : IRn ? IR de classe C1 et fortement convexe. 15. Page 16. 2.2.2 Exemples des fonctions convexes strictement |
COURS DOPTIMISATION [.2pc] ISIMA – F4 3ème année – Master
f (x) = 1/x x > 0 f (x) = |
Optimisation cours
Donc g est bien convexe. Théorème 2.12 (Continuité des fonctions convexes). Soit U ? Rn un ensemble convexe d'in- térieur non vide et f : |
Polycopié du cours : OPTIMISATION CONVEXE (Premi`ere partie)
2.2 Comment détecter la convexité de fonctions : fonctions convexes Le but de ce cours est d'introduire les concepts basiques de l'optimisation convexe. |
Cours doptimisation ENSAI Rennes
11 déc. 2019 1.4 Optimisation convexe . ... 7.4.1 Optimisation convexe . ... Dans ce cours les contraintes seront en général des fonctions continues. |
Cours Apprentissage - ENS Math/Info Optimisation Convexe
16 oct. 2015 Ce cours s'appuie sur le livre “Convex Optimization” de Stephen Boyd et Lieven Vandenberghe. |
Cours doptimisation ENSAI Rennes
15 mars 2019 Les pavés de Rn sont des ensembles convexes. 1.4.2 Fonction convexe. Une fonction peut être convexe strictement convexe |
Cours Apprentissage - ENS Math/Info Optimisation Convexe
24 oct. 2014 Ce cours s'appuie sur le livre “Convex Optimization” de Stephen Boyd et Lieven Vandenberghe. |
Optimisation convexe - Institut de Mathématiques de Bordeaux
Ce cours se divise en deux grandes parties, la premi`ere est consacrée `a l' optimisation de fonctions convexes différentiables, la seconde de l'optimisation des |
COURS OPTIMISATION Cours à lISFA, en M1SAF Ionel Sorin
f(x)=+∞ Proposition 2 10 Soit f : IRn → IR une fonction elliptique Alors elle est strictement convexe et coercive Elle vérifie en plus l |
Cours dOptimisation
Cas d'une fonction strictement convexe, dérivable : le minimum sur R est atteint au point x0 qui satisfait J (x0) = 0 On dit que x0 est un point critique de J 4 Page |
Optimisation cours
On dit que le problème est convexe si f et U sont convexes Dans ce cours on s' intéressera à résoudre des problèmes d'optimisation convexes, sans contraintes |
Cours Apprentissage - ENS Math/Info Optimisation Convexe
Optimisation Convexe Francis Bach 16 Octobre 2015 Ce cours s'appuie sur le livre “Convex Optimization” de Stephen Boyd et Lieven Vandenberghe |
Optimisation convexe : géométrie, modélisation et applications
19 nov 2009 · L'optimisation convexe est une discipline des maths applis émergente, utile Pour une bonne introduction (−→ cours ? niveau prépa ?) |
Résumé du cours doptimisation
13 sept 2005 · Soit K un convexe fermé non vide, J une fonction définie sur K à valeurs dans R, α-convexe continue Alors le problème de minimisation admet |
Optimisation linéaire & convexité
Ce cours présente les bases théoriques et numériques de l'optimisation linéaire et (iii) Si C est un convexe de IRn et f : IRn → IRm est une application affine, |