L'optimisation est un ensemble de techniques permettant de trouver les valeurs des variables qui rendent optimale une fonction de réponse appelée aussi fonction objectif ou crit`ere.
D'un point de vue mathématique, cela correspond `a la recherche des extrema de fonctions `a plusieurs variables.
Une fonction f est convexe sur I si et seulement si ∀λ ∈ [0,1], ∀(x, y) ∈ I2, f(λx + (1 − λ)y) ⩽ λf(x) + (1 − λ)f(y).
Une fonction f est strictement convexe sur I si et seulement si ∀λ ∈ [0,1], ∀(x, y) ∈ I2, f(λx + (1 − λ)y) < λf(x) + (1 − λ)f(y).