[PDF] Modélisation statistique et réduction de la dimension : une

View - Download Modélisation statistique et réduction de la dimension : une

Previous PDF

Next PDF

Plan Mod´elisation statistique et r´eduction de la dimension : une application `a l"estimation non-param´etrique et semi-param´etrique de courbes de r´ef´erenceMarie Chavent, J´erˆome Saracco

Universit´e de Bordeaux,

Institut de Math´ematiques de Bordeaux (IMB),

Equipe CQFD, INRIA Bordeaux Sud OuestRencontre CEA - Equipe CQFD, INRIA Bordeaux Sud Ouest -

Jeudi 23 octobre 2008

J. SaraccoMod´elisation statistique et r´eduction de la dimension Plan Plan

1Introduction g´en´erale

2Introduction sur les courbes de r´ef´erence

3Caract´erisation des quantiles

4Estimation non-param´etrique des courbes de r´ef´erence

5Application `a la construction de courbes de r´ef´erence pour des

propri´et´es biophysiques de la peau6Estimation semi-param´etrique des courbes de r´ef´erence

J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence Plan

1Introduction g´en´erale

2Introduction sur les courbes de r´ef´erence

3Caract´erisation des quantiles

4Estimation non-param´etrique des courbes de r´ef´erence

5Application `a la construction de courbes de r´ef´erence pour des

propri´et´es biophysiques de la peau6Estimation semi-param´etrique des courbes de r´ef´erence

J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence

Mod`ele param´etrique, non-param´etrique ou

semi-param´etrique : cas de la r´egressionObjectif de la r´egression : ´etudier les relations entre une variable `a

expliquerYet une variable explicativeX(unidimensionnelle ou multidimensionnelle).Souvent, un mod`eleparam´etriqueest utilis´e. Mod`ele param´etrique g´en´eral:Y=rθ(X) +?, o`uθ?Rd.Objectif: estimerθ. Exemple: mod`ele de r´egression lin´eaireY=β0+β1X+?avec

?≂N(0,σ2)→estimerθ= (β0,β1).M´ethodes standards d"estimation: moindres carr´es, maximum de

vraisemblance, etc..Probl`eme: Choix d"une "bonne" famille de mod`ele param´etrique. J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence Un mod`elenon param`etriquede r´egression apparaˆıt alors comme une alternative raisonnable. Th`eme commun de la r´egression non param´etrique: lissage local qui explore les propri´et´es de continuit´e et de d´erivabilit´e de la fonction de r´egression. Exemple de mod`ele non param´etrique:Y=r(X) +?, o`u

r?R={φcontinue deRdansR}.Objectif: estimerr(x0) pour une valeurx0donn´ee.M´ethodes standards d"estimation: estimateurs `a noyau, splines de lissage,

ondelettes, etc...Probl`eme: le fl´eau (ou mal´ediction) de la dimension ("curse of dimensionnality"). En pratique, il faut avoir suffisamment d"observations autour du point d"int´erˆet, ce qui pose un probl`eme d`es que la dimension dexaugmente.J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence

Comment surmonter ce probl`eme de dimension?

El´ements de r´eponse: modifier le mod`ele

?passer `a un mod`ele additif :y=Pp j=1fj(xj) +ε("Projection Pursuit") ?"retrouver" les caract´eristiques "int´eressantes" des donn´ees de grande dimension (x?Rd) sur des sous-espaces de dimension plus faible (souvent par

des projections)Id´ee : utiliser non plusxmais des combinaisons lin´eairesx?βk.?→mod`ele semi-param´etrique

Int´erˆet d"une mod´elisation semi-param´etrique incluant une r´eduction de dimension: Bon compromis entre la mod´elisation param´etrique (interpr´etabilit´e) et la mod´elisation non-param´etrique (souplesse) J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence Exemple de mod`ele semi-param´etrique de r´egression(Li, 1991) :

Y=g(X?B,?)Y?R= variable `a expliquer.X?Rp= variable explicative.B= [β1,...,βK] avecβk?Rp= param`etres euclidiens inconnues ,

NB : quandK< dex.Objectif: estimer le param`etre euclidienBet le param`etre fonctionnelg. Une m´ethode d"estimation de B:m´ethode SIR (Sliced Inverse Regression) J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence Plan

1Introduction g´en´erale

2Introduction sur les courbes de r´ef´erence

3Caract´erisation des quantiles

4Estimation non-param´etrique des courbes de r´ef´erence

5Application `a la construction de courbes de r´ef´erence pour des

propri´et´es biophysiques de la peau6Estimation semi-param´etrique des courbes de r´ef´erence

J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence Intervalles et courbes de r´ef´erence utilis´es dans les ´etudes biom´edicales ou

biom´etriques, les applications industrielles, ...Intervalle de r´ef´erence =intervalle de valeurs qui sont prises

"normalement" par une variable d"int´erˆetYdans une population cible Valeurs "normalement" prises = valeurs que l"on est susceptible d"observer avec une probabilit´e donn´ee, dans des conditions normales et pour des individus-types pr´esum´es en bonne sant´e ou sans d´efaut (les sujets de r´ef´erence)Exemple :intervalle contenant 90% des observations "centrales" deY, i.e. excluant les 5% d"observations les plus grandes et les 5%

d"observations les plus petites.Calcul de quantiles deY-→Construction d"intervalles de r´ef´erenceJ. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence R´eguli`erement, sur la population cible, on dispose simultan´ement de - la variable d"int´erˆetY?R, - une covariableX?Rp(Ex. :X= ˆage, cond. exp´erimentales) ?→Pour une valeur donn´eexdeX-→un intervalle de r´ef´erence.

?→Lorsquexvarie-→des "courbes" de r´ef´erence.Calcul de quantiles conditionnels deYsachantX=x-→Construction de

courbes de r´ef´erence J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence •D´efinition de l"intervalle de r´ef´erence `a100(2α-1)% (pourX=xet

α?]0.5,1[) :

I

α(x) = [q1-α(x) ;qα(x) ],

o`uqα(x) est le quantile conditionnel d"ordreαdeYsachant queX=x. •D´efinition des courbes de r´ef´erence :{(x,q1-α(x)}et{(x,qα(x)}lorsquexvarie. •Exemple :pourα= 95%, courbes de r´ef´erence `a 90% {(x,q5%(x)}et{(x,q95%(x)}lorsquexvarie. •Une "utilisation"a posteriorides courbes de r´ef´erence: comparer un individui`a la population de r´ef´erence→d´etecter si cet individu est "hors-norme" J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence Plan

1Introduction g´en´erale

2Introduction sur les courbes de r´ef´erence

3Caract´erisation des quantiles

4Estimation non-param´etrique des courbes de r´ef´erence

5Application `a la construction de courbes de r´ef´erence pour des

propri´et´es biophysiques de la peau6Estimation semi-param´etrique des courbes de r´ef´erence

J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence

SoitYune variable al´eatoire r´eelle.

Deux caract´erisations de la m´ediane :

?μ= argminθ?RE[|Y-θ|]

Soitα?(0,1).

Deux caract´erisations du quantile d"ordreαdeY, not´eμα: ?μα=F-1(α) ?μα= argminθ?RE[Lα(Y-θ)],

o`uLα(v) =|v|+ (2α-1)vd´efinit une "fonction de perte" surR.J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence Estimateur du quantileμα:{Y1,...,Yn},nobservations deY ?Approcheindirecte:μα,n=F-1n(α) ?Approchedirecte:μα,n= argminθ?R?n i=1Lα(Yi-θ)J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence Soitα?(0,1). SoitXun vecteur al´eatoire `a valeurs dansRp(avecp≥1).

Soitx?Rp.

Deux caract´erisations du quantile conditionnel d"ordreαde

Ysachant queX=x, not´eqα(x):

?Approcheindirecte:qα(x) =F-1(α|x) ?Approchedirecte:qα(x) = argminθ?RE[Lα(Y-θ)|X=x].

Comment estimer q

α(x)`a partir de{(Xi,Yi),i= 1,...,n}, n

r´ealisations de(X,Y)? ?→m´ethode param´etrique ?→m´ethode non-param´etrique

?→m´ethode semi-param´etriqueJ. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence Plan

1Introduction g´en´erale

2Introduction sur les courbes de r´ef´erence

3Caract´erisation des quantiles

4Estimation non-param´etrique des courbes de r´ef´erence

5Application `a la construction de courbes de r´ef´erence pour des

propri´et´es biophysiques de la peau6Estimation semi-param´etrique des courbes de r´ef´erence

J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence Un exemple d"une m´ethode param´etriqued"estimation deqα(x)

(approche param´etrique utilis´ee par le CERIES, centre de recherche sur la peau humaine financ´e par CHANEL)Hypoth`ese : F(y|x) est suppos´ee gaussienne,

i.e.Y|X=x≂N(m(x),σ2(x)) avecm(x) =E(Y|X=x),σ2(x) = var(Y|X=x)Quantile conditionnel "vrai" :q

α(x) =m(x) +zασ(x)o`uzαest le quantile d"ordreαdeN(0,1).M´ethode de Royston (1991) : mod´elisation polynomiale dem(x) et de

σ(x) avec une transformation ´eventuelle des donn´ees pour normaliser les valeurs r´esiduelles→mn(x) et deσn(x)Quantile conditionnel estim´e :q

α,n(x) =mn(x) +zασn(x).Critiques:

- hypoth`eses restrictives et mal adapt´ees `a la r´ealit´e des donn´ees biologiques (aucune garantie de l"existence d"une transf. permettant de normaliser les r´esidus), - sensibilit´e aux valeurs aberrantes, ... J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence =?D´eveloppement d"uneapproche non-param´etriquepermettant de pallier ces probl`emes d"hypoth`eses et de mod´elisation param´etriques Avantages :- pas d"hypoth`ese sur la nature de la distribution, - robustesse `a la pr´esence de points aberrants, ... Troism´ethodes non-param´etriquesd"estimation deqα(x)Deux m ´ethodes indirectes :estimation pr´ealable de la fonction de r´epartition conditionnelle ?→M´ethode d"estimation par noyau("Kernel estimator") ?→M´ethode d"estimation par noyau produit("double kernel estimation")Une m

´ethode directe :

?→M´ethode d"estimation lin´eaire locale par noyau("local linear kernel estimation") J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence Rapides notions sur les estimateurs `a noyau de la r´egression Mod`ele :Y=r(X) +εEchantillon :{(Xi,Yi),i= 1,...,n}

Estimateur der(x0) :r

n(x0) =nX i=1

K{(x0-Xi)/hn}P

n j=1K{(x0-Xj)/hn}! Y iavec :K= noyau (fonction),h=largeur de fenˆetre (r´eel)

Exemples de noyau:K(x) = (1- |x|)I{x?[-1,1]}(noyau triangulaire),K(x) = densit´e de N(0,1)Id´ee : donner plus de poids aux observations telles queXiest proche dex0.Remarque : estimation peu sensible au choix du noyau K

Largeur de fenˆetreh:param`etre de lissage←son choix est primordial

- plushest petit, moins on va donner de poids aux observations ´eloign´ees dex0→sous-lissage

- plushest grand, plus on va donner de poids `a des observations ´eloign´ees dex0→sur-lissage

-hoptimal? (validation crois´ee, ...)J. SaraccoMod´elisation statistique et r´eduction de la dimension

Introduction g´en´erale

Introduction aux courbes de r´ef´erence

Caract´erisation des quantiles

Estimation non-param´etrique des courbes de r´ef´erence

Application

Estimation semi-param´etrique des courbes de r´ef´erence

Vrai mod`ele :Y= cos(X) + 0.5X+ε(courbe noire)

Echantillon de taillen= 200

?→Courbe noire : trac´e de la fonctionr(x) = cos(x) + 0.5x→vraie courbe ?→Courbeverte: estimateur `a noyau avech= 0.1→sous-lissage ?→Courberouge: estimateur `a noyau avech= 1.5 (proche duh noptimalau sens de la validation crois´ee) ?→Courbebleue: estimateur `a noyau avech= 10→sur-lissagel l l l l ll l l ll l l l l l l l l l l l lquotesdbs_dbs24.pdfusesText_30

[PDF] Estimation et intervalle de confiance - AgroParisTech

[PDF] Estimation paramétrique

[PDF] QUEL SERA LE MONTANT DE VOTRE PENSION EN 2008, 2012

[PDF] Estimations et intervalles de confiance - Institut de Mathématiques

[PDF] Séance 5 : Exercices récapitulatifs sur l 'estimation ponctuelle

[PDF] Intentions de vote - Harris Interactive

[PDF] Cours 5: Inférences: Estimation, Echantillonnage et Tests

[PDF] Estimer ou mesurer une longueur Connaître les différentes unités et

[PDF] LA ESTIMULACION TEMPRANA - OEI

[PDF] Avis aux Candidats ? l accès ? l ESTM admis sur les listes d attentes

[PDF] Résultats de la sélection pour l 'accès au Bachelor of Electrical

[PDF] La lettre de l - ESTP Paris

[PDF] Nouveauté Filière Apprentissage Européen - EDHEC Business School

[PDF] Estran et marée - Académie d 'Amiens

[PDF] l 'île d 'oléron - DREAL Nouvelle-Aquitaine