[PDF] [PDF] Chaînes de Markov La loi d'une chaî





Previous PDF Next PDF



Chaînes de Markov

Si X est fini on notera N son nombre d'éléments. 1. Matrices stochastiques et propriété de Markov. 1.1. Chaînes de Markov. Une matrice stochastique sur X est 



Chaînes de Markov au lycée

Dire que TP=P signifie que P est vecteur propre de T pour la valeur propre 1. Or une matrice de transition (matrice stochastique) admet 1 comme valeur propre





Chaînes de Markov (et applications)

???/???/???? X est une chaîne de Markov si pour tout x0



Chaînes de Markov

a) est évident : pour n = 0 1Xn=k = 1 Pk-p.s. et les autres termes de la somme sont tous nuls (n < ?k). b) Calculons le j-ième terme (?k P)j du vecteur ligne 



1 Définition

est une chaîne de Markov si pour tout n ? 0



CHAÎNES DE MARKOV

Toute matrice de transition vérifie les propriétés suivantes : (1) pour tout couple (x y) de E



Stabilite de la recurrence dune chaine de markov sous ieffet dune

Considkrons une chaine de Markov sur Z rkcurrente et irrtductible



Théorème de limite centrale fonctionnel pour une chaîne de Markov

centrale fonctionnel pour une chaîne de Markov récurrente au sens de a2(s A t) si a est non nul et le processus dégénéré 0 si a est nul. Enfin pour p ...



Chapitre 8 Chaˆ?nes de Markov

fait les cha?nes de Markov sont des processus stochastiques dont l'évolution est régie N . Les termes non nuls de la matrice de transition sont donc.



[PDF] CHAÎNES DE MARKOV - ceremade

notes de cours de “Processus stochastiques” je m'en suis largement inspirée et en ai tiré tous les dessins de graphes pour les chaînes de Markov



[PDF] CHAÎNES DE MARKOV - Institut de Mathématiques de Bordeaux

Chapitre I Chaînes de Markov 5 1 Définition 5 2 Exemples 7 3 La relation de Chapman-Kolmogorov 9 4 Classification des états



[PDF] Chaînes de Markov - Institut Camille Jordan

1 7 5 Chaînes de Markov avec plusieurs pas de mémoire 37 récurrentes nulles ou de noyau récurrent nul ou transient Preuve :



[PDF] Chapitre 8 Chaˆ?nes de Markov - DI ENS

Pour introduire cette dynamique il faut tenir compte de l'influence du passé ce que font les cha?nes de Markov `a la façon des équations de récurrence dans 



[PDF] Chaînes de Markov

Une chaîne de Markov sur X de matrice de transition P est une suite de variables aléatoires (Xn)n2Ndéfinies sur un espace (? b P) et à valeurs dans X telle 



[PDF] Chaînes de Markov : théorie et applications

matrice stochastique sur X Une chaîne de Markov de matrice de transition P ou nuls telle que q0 = 0 et pk + qk + rk = 1 pour tout k ? N La chaîne de 



[PDF] Chaînes de Markov (et applications)

22 fév 2021 · Idée : Une chaîne de Markov est une suite de variables aléatoires dans le temps ou conditionnel- lement au présent le futur ne dépend pas 



[PDF] Chaînes de Markov

La loi d'une chaîne de Markov homogène est complètement dé- terminée par la donnée de sa matrice de transition et de la loi de X0 (appelée loi initiale) : 



[PDF] Chaines de Markov : compléments

Une cha?ne de Markov est dite irréductible lorsque tous ses états communiquent c'est-`a-dire lorsque pour toute paire d'états (xixj) la probabilité 



[PDF] Introduction aux chaines de Markov - CERMICS

Une cha?ne de Markov est une suite de variables aléatoires (Xnn ? N) qui permet de modéliser l'évolution dynamique d'un syst`eme aléatoire : Xn représente 

  • Comment montrer qu'une chaîne est une chaîne de Markov ?

    = P(Xn+1 = yXn = xn). Cette preuve permet de montrer rigoureusement que la marche aléatoire sur Zd est bien une chaîne de Markov. Dans le monde déterministe, cela revient à étudier les suites (xn)n?0 définies par ré- currence de la manière suivante : xn+1 = f(xn,n).
  • Comment calculer la période d'une chaîne de Markov ?

    Cela conduit au calcul suivant : P(X2 = s/X0 = m) = P(X2 = s/X1 = m) · P(X1 = m/X0 = m) + P(X2 = s/X1 = s) · P(X1 = s/X0 = m) = 0,15 · 0,0,55 + 0,15 · 0,1=0,0975. La cha?ne n'est pas périodique comme on peut le voir facilement sur son diagramme en points et fl`eches.
  • Quel est le principe Sous-jacent de la technique des chaines de Markov ?

    Si une chaîne de Markov est irréductible et si son espace d'états est fini, tous ses états sont récurrents positifs. La loi forte des grands nombres est alors en vigueur. Plus généralement, tous les éléments d'une classe finale finie sont récurrents positifs, que l'espace d'états soit fini ou bien infini dénombrable.
  • La chaîne est dite homogène si on a de plus pour tout k ? N et tout x et y dans E, P(Xk+1 = yXk = x) = P(X1 = yX0 = x).
[PDF] Chaînes de Markov Université des Sciences et Technologies de Lille U.F.R. de Mathématiques Pures et AppliquéesChaînes de Markov

Daniel Flipo

Agrégation de Mathématiques

Sommaire

1Définitions et exemples1

2Généralisations de la propriété de Markov4

2.1Cylindres sur EN. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .5

2.2Opérateurs de décalage sur EN. . . . . . . . . . . . . . . . . . . . . .7

2.3Propriété de Markov forte. . . . . . . . . . . . . . . . . . . . . . . . . 8

3Classification des états9

3.1Classes d"états communicants. . . . . . . . . . . . . . . . . . . . . . 9

3.2Récurrence et transience. . . . . . . . . . . . . . . . . . . . . . . . . . 10

4Théorèmes limites14

4.1Casjtransient. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

4.2Cas des chaînes irréductibles récurrentes. . . . . . . . . . . . . . . . 15

4.2.1Mesures invariantes. . . . . . . . . . . . . . . . . . . . . . . . 15

4.2.2Période d"un état. . . . . . . . . . . . . . . . . . . . . . . . . . 21

4.2.3Convergence en loi. . . . . . . . . . . . . . . . . . . . . . . . . 23

4.2.4Théorème ergodique. . . . . . . . . . . . . . . . . . . . . . . . 25

5Propriétés algébriques des chaînes de Markov

à espace d"états fini28

Exercices36

Bibliographie46

1Définitions et exemples

Définition1.1Soit(Xn)n2Nune suite de variables aléatoires de(,A,P)dans un espaceEfini ou dénombrable appelé espace des états.

1)O ndit qu e(Xn)n2Nest une chaîne de Markov si et seulement si

lesquels la probabilité conditionnelle a un sens, c.-à-d. tels que

2)S ien p lusla pr obabilitéP(XnÅ1AEjjXnAEi)ne dépend pas den, c.-à-d. si

8n2N,P(XnÅ1AEjjXnAEi)AEP(X1AEjjX0AEi)

on dit que la chaîne de Markov est homogène. nestconnueàl"instantn,la loi des variables futures (X nÅ1, XnÅ2etc.) ne dépend pas du passé (les valeurs de X n¡1, Xn¡2etc.). Vérifier à titre d"exercice que, si (Xn) est une chaîne de Markov homogène,

AEP(X2AEk,X1AEjjX0AEi). (1)

Exemples: vérifier dans chacun des exemples suivants que Xnest une chaîne de Markov homogène et préciser sa matrice de transition. dantes et de même loi à valeurs dansZ(ouZd), soit X0une variable aléatoire à valeurs dansZ(ouZd), indépendante des (Yn), on pose XnAEX0ÅPn iAE1Yipour tout entiern¸1.

2)Ruine du joueur: deux joueurs A et B disposant respectivement de fortunes

initialesaetb(entiers positifs) jouent à un jeu de hasard. La mise est de 1" par partie; les résultats des parties sont indépendants, à chaque partie A a la probabilitépde gagner,qde perdre etr¸0 de faire match nul (0ÇpÇ1,

0ÇpÇ1 etpÅqÅrAE1). Le jeu se poursuit indéfiniment ou jusqu"à la ruine

d"un des deux joueurs. On note X nla fortune du joueur A aprèsnparties. 1

3)Séries de succès: des candidats doivent répondre à une suite de questions de

diYculté variable, les performances des diVérents candidats sont indépen- dantes. La probabilité pour chaque candidat de bien répondre à une question de niveaukestpk, celle de donner une réponse fausse estqkAE1¡pk. Lors- qu"un candidat donne une réponse fausse, il est remplacé par le candidat sui- vant qui démarre au niveau 0. X nreprésente le niveau atteint par le candidat en lice à l"instantn:

4)Modèle de diVusion gazeuse: On considère une enceinte faite de deux com-

partiments séparés par une cloison poreuse. Au départ le compartiment de gauche contientamolécules de gaz de type A, celui de droitebmolécules de gaz de type B. On modélise la diVusion au travers de la paroi en suppo- sant qu"à chaque instant, il y a tirage au hasard d"une molécule dans chaque urnes après len-ième échange est complètement déterminée par la donnée de la variable X nnombre de molécules de gaz A dans l"urne de gauche. à un guichet. Un seul client est servi à la fois. On note X nle nombre de clients en attente ou en cours de service juste avant l"instant T net Dnle nombre de clients dont le service se termine dans l"intervalle [T n,TnÅ1[. On suppose les variables D nindépendantes et de même loi donnée : pour toutk2NpkAE P(D

0AEk). On a, siaÅAEmax(a,0) désigne la partie positive du réela,

8n2N, XnÅ1AE(XnÅ1¡Dn)Å

6)Gestion de stock: on s"intéresse au nombre de pièces d"un même type en

stock dans un entrepôt, à diVérents instants (tn)n2N, par exemple à chaque fin de journée ou de semaine. La demande pour ce type de pièces dans l"inter- valle [tn,tnÅ1[ est une variable aléatoire entière Dn. La suite des v.a. (Dn)n2N est supposée indépendante et de même loi connue. La politique de gestion est la suivante : lorsque le niveau du stock à un des instants (tn) descend en dessous d"un seuilsfixé on se réapprovisionne de façon à ramener le stock à son niveau maximal S déterminé par exemple par la taille de l"entrepôt ou les moyens financiers de l"entreprise. On admet que la livraison intervient sans délai, c"est-à-dire avant le début de la période suivante. La taille X ndu stock à l"instanttnvérifie

8n2N,(X

nÅ1AE(Xn¡Dn)Åsis·Xn·S X nÅ1AE(S¡Dn)Åsi XnÇs 2

7)Processus de branchement: de nombreux exemples de chaînes de Markov in-

terviennent en génétique (modèles de reproduction) et en physique (désin- tégrations atomiques). On suppose qu"à la fin de son existence chaque orga- nismeide lan-ième génération donne naissance à un nombre aléatoire Yi,n de descendants. Les variables aléatoires (Y i,n)(i,n)2N2sont supposées indépen- dantes et de même loi. Le nombre X nd"organismes de lan-ième génération vérifie

8n2N, XnÅ1AEX

nX iAE1Y i,n Remarque: si (Yn)n2Nest une suite de variables aléatoires indépendantes et de même loi à valeurs dans E et sif:E£E7!E est une fonction quelconque, alors la suite (X n)n2Ndéfinie par

8n2N, XnÅ1AEf(Xn,Yn) et X0donnée, indépendante des (Yn)n2N,

est une chaîne de Markov homogène. Ce résultat (à démontrer en exercice) four- nit un moyen assez général pour établir qu"une suite de variables aléatoires est une chaîne de Markov homogène. Définition1.2On appelle matrice de transition de la chaîne de Markov homo- gène(Xn)la matricePdéfinie par1:8(i,j)2E£E P(i,j)AEP(X1AEjjX0AEi). Proposition1.3La loi d"une chaîne de Markov homogène est complètement dé- terminée par la donnée de sa matrice de transition et de la loi deX0(appelée loi initiale)

2:8i2E,¹(i)AEP(X0AEi). Pour tout entiernet tousi0,i1,...,inétats

deE: Démonstration.Immédiate à partir de la formule P(n\iAE0Ai)AEP(A0)P(A1jA0)P(A2jA1\A0) ...P(AnjAn¡1\...\A0). (2)

et de la propriété de Markov homogène.Proposition1.4(Chapman-Kolmogorov)Pour tout couple(i,j)d"états deEet

pour tout couple(n,m)d"entiers naturels

P(XnÅmAEjjX0AEi)AEX

k2EP(XnAEkjX0AEi)P(XmAEjjX0AEk) (3)1. Si E n"est pas fini, la matrice a un nombre infini de lignes et de colonnes...

2. Le plus souvent X0est connue de manière déterministe, dans ce cas la loi initiale est une

mesure de Dirac. 3 En particulier la matrice des transitions ennétapes est la puissancen-ième de la matricePdes transitions en une étape3:

8n2N,8(i,j)2E£E,P(XnAEjjX0AEi)AEPn(i,j) (4)

Démonstration.CalculonsP(XnÅmAEjjX0AEi) en décomposant l"événement {X nÅmAEj} sur les événements ({XnAEk})k2Equi forment une partition de:

P(XnÅmAEjjX0AEi)AEP(XnÅmAEj\³

[k2EXnAEk´ jX0AEi) AE X k2EP(XnÅmAEj\XnAEkjX0AEi) AE X k2EP(XnÅmAEj,XnAEk,X0AEi)P(X0AEi) AE X AEX k2EP(XmAEjjX0AEk)P(XnAEkjX0AEi) car X nest une chaîne de Markov homogène. En particulier, pournAEmAE1 et pour tous (i,j)2E£E,

P(X2AEjjX0AEi)AEX

k2EP(X1AEjjX0AEk)P(X1AEkjX0AEi)AEX k2EP(i,k)P(k,j) ce qui établit (4) dans le casnAE2. PourmAE1 etnÈ1, l"égalité (3) s"écrit

8(i,j)2E£EP(XnÅ1AEjjX0AEi)AEX

k2EP(XnAEkjX0AEi)P(X1AEjjX0AEk) AE X k2EP(XnAEkjX0AEi)P(k,j) donc siP(XnAEkjX0AEi)AEPn(i,k) alorsP(XnÅ1AEjjX0AEi)AEPnÅ1(i,j) et la récurrence est établie.2Généralisations de la propriété de Markov Dans la section précédente nous avons travaillé sur les suites finies de variables aléatoires (X k)k·m, il est intéressant de considérer la chaîne " globalement » en

tant que variable aléatoire de (,A) dans ENmuni d"une tribuFadéquate. Si3. Dans toute la suite la notation Pn(i,j) désigne le terme de la lignei, colonnejde la ma-

trice P n, à ne pas confondre avec¡P(i,j)¢n! 4 on veut que XAE(Xn)n2Nsoit mesurable de (,A) dans (EN,F) dès que toutes ses composantes X nle sont de (,A) dans (E,P(E)), il ne faut pas choisirFtrop grande (en particulier le choixFAEP(EN) ne convient pas). On construitFà partir des "cylindres» de E

Ndéfinis ci-dessous.

2.1Cylindres surEN

Définition2.1On appelle cylindre deENtoute partieCdeENde la formeCAE B

0£B1£¢¢¢£Bn£E£E£E..., oùnest un entier quelconque et où lesBisont des

parties quelconques 4deE. On appelle tribu cylindrique surENla plus petite tribuFcontenant les cylindres deEN. Proposition2.2Les cylindres deENont les propriétés suivantes : a) l "intersectionde deu xc ylindrese stun cyli ndre; b) la réu nionde deu xc ylindresn"est pas toujoursun cylindre; c) le complémen taired "uncyli ndreest u neré unionfi niede cyl indres; d) l "algèbred eB ooleeng endréesur ENpar les cylindres est la familleBdont les éléments sont les réunions finies de cylindres.

Démonstration.a)S in¸m, on a

(B b)

C onsidérerla ré uniondes cyl indresB

0£E£E£... et E£B01£E£... (faire un

dessin dansR3pour B0et B01singletons deN). c) S oitC AEB0£B1£¢¢¢£Bn£E£E..., x2C() 8i·n,xi2Bidonc x2C() 9i·n,xi2B i£E£...}. d) M ontronsquelafamilleBestunealgèbredeBoole:ilestimmédiatdevérifier queE (cylindre)appartientàBetqueBeststableparréunionfinie.Vérifions queBest stable par complémentation : soit BAE [k jAE1Cjune réunion finie de cylindres, son complémentaireBAE \k jAE1C

jet d"après le point c), chaque4. E dénombrable, est muni de la tribu de toutes les parties de E. Si E était muni d"une tribuE

plus petite, il faudrait bien sûr prendre les B idansE. 5 C jest une réunion denjcylindres :C jAE [nj mAE1C0 j,m. Finalement, en posant nAEmaxj·k(nj) et C0 j,mAE;pournjÇm·n, on aBAEk\jAE1C jAEk\jAE1³ nj[mAE1C0 j,m´

AEk\jAE1³

n[mAE1C0 j,m´

AEn[mAE1³

k\jAE1C0 j,m´

AEn[mAE1C00m

où les C

00msont des intersections finies de cylindres donc des cylindres (point

a); le complémentaire de B est bien une réunion finie de cylindres. La familleBest donc une algèbre de Boole contenant les cylindres; récipro- quement toute algèbre de Boole contenant les cylindres contient par défini-

tion les réunions finies de cylindres, la proposition est démontrée.Proposition2.3Si pour toutn2N,Xnest mesurable(,A)7!(E,P(E))et siF

est la tribu cylindrique surEN, alorsXAE(Xn)n2Nest mesurable(,A)7!(EN,F). Démonstration.CommeFest la tribu engendrée par les cylindres, il suYt de vérifier que pour tout cylindre C, X

¡1(C) appartient àA. Mais

X i(Bi)2A car les X nsont mesurables (,A)7!(E,P(E)).Il reste à munir (E N,F) d"une probabilité, on pourrait s"en tirer en disant qu"il "suYt» de prendre la probabilité image deP(probabilité sur) par X, mais ce serait bien hypocrite carPn"a jamais été définie précisément! En fait comment construit-on (,A,P)? Qu"il s"agisse de construire un espace probabilisé (,A,P) pour une suite dé- nombrable (E,E) ou d"une chaîne de Markov, on procède de la même manière : on se p lacesu rl "espacep roduitE

Nque l"on munit de sa tribu cylindriqueF;

on essaie de pr olongerles pr obabilitésPndéfinies "de façon naturelle» sur les produits finis E nen une probabilitéPsur EN, l"existence et l"unicité dePsont assurées par le théorème de Kolmogorov (voir [4]) moyennant des conditions raisonnables de compatibilité desPn(la trace sur Ende la probabilitéPnÅ1 définie sur E nÅ1doit être identique àPn). Finalement l"espace (,A,P) ainsi construit pour porter la suite XAE(Xn)n2Nest

identiqueà l"espace d"arrivée (EN,F,P) et X est l"application identité.5. Le cas d"une suite finie de variables aléatoires indépendantes de lois données est trivial : on

se place sur l"espace produit muni de la tribu produit et de la probabilité produit (indépendance

oblige). 6 Dans le cas des chaînes de Markov homogènes lesPnsont définies à partir de la loi initiale¸et de la matrice de transition P (cf. prop.1.3) et la condition de compatibilité est facile à vérifier. On notera (,A,P¸) l"espace probabilisé adapté à la chaîne de Markov homo- gène de matrice de transition P donnée et de loi initiale¸(¸probabilité donnée déterministe), on notePxau lieu deP±xla probabilité construite sur(,A).

2.2Opérateurs de décalage surEN

Définition2.4On appelle opérateur de décalage (ou translation) surENl"appli- cationµdeENdans lui-même définie par

On considère également ses itérés, définis parµkÅ1AEµ±µk:µk¡(xn)¢AE¡(xnÅk)¢.

La proposition suivante énonce la forme globale de la propriété de Markov ho- mogène. Proposition2.5SoitXAE(Xn)n2Nune chaîne de Markov homogène définie sur (,A,P¸)à valeurs dans(EN,F), etAkAE¾(X0,...,Xk)la sous-tribu deAengen- drée par les variables aléatoiresX0,...,Xk. Alors, la loi conditionnelle deµk(X) sachantAkest la loi conditionnelle deXsachantXk: Démonstration.Il suYt de démontrer l"égalité ci-dessus pour les fonctions in- dicatrices (linéarité et passage à la limite croissante) et même pour les fonctions indicatrices de cylindres : ceci résulte par exemple du théorème d"unicité des mesures (la classe des cylindres est stable par intersection finie et contient E N). On peut aussi utiliser la proposition2.2et dire que si deux mesures coïncident sur les cylindres, elles coïncident sur les réunions finies de cylindres (formule de Poincaré et stabilité de la famille des cylindres par intersection finie) donc sur l"algèbre de BooleBengendrée et finalement aussi sur la tribu engendrée (cf. [1] th. I-4-7). Calculons donc pour le cylindre CAEB0£B1£¢¢¢£Bn£E£E£E... l"espérance conditionnelleE¸(1C(µk(X))jAk) sur l"événement XkAEik,...,X0AEi0:

Sur {X

P 7

On décompose les B

jpour pouvoir appliquer la propriété de Markov : P AEX (j0,...,jn)2B0£¢¢¢£BnP AE X (j0,...,jn)2B0£¢¢¢£Bn1 soit en sommant enj0et en appliquant la propriété de Markov homogène6: AE X (j1,...,jn)2B1£¢¢¢£Bn1

B0(ik)Pik(XnAEjn,...,X1AEj1)

Finalement, pour tousi0,...,ikde E, on a sur {XkAEik,...,X0AEi0} E ¸(1C(µk(X))jAk)AEEXk(1C(X)).2.3Propriété de Markov forte

Rappelons quelques définitions classiques :

Définition2.6Soit(,A,P)un espace de probabilité. On appelle filtration adaptée à la suiteXAE(Xn)n2Nla suite croissante de sous- tribus(An)deA, engendrées par les variables(Xk)k·n:AnAE¾(X0,...,Xn). pour la filtration(An)si et seulement si pour toutndeNl"événement{TAEn} appartient àAn. On définit ensuite la tribuATdes événements antérieurs àT(temps d"arrêt) par

8A2A, A2AT() 8n2N, A\{TAEn}2An.

On étend enfin la définition des opérateurs de décalage aux temps d"arrêt en po- santµTAEµnsur{TAEn}, ce qui définitµTsur l"événement{TÇÅ1}. Proposition2.7(propriété de Markov forte)SoitXAE(Xn)n2Nune chaîne de Mar- kov homogène définie sur(,A,P¸)à valeurs dans(E,F)etTun temps d"arrêt pour la filtration(AnAE¾(X0,...,Xn)), alors sur l"événement{TÇÅ1}

8fmesurable:(EN,F)7!(RÅ,B(RÅ)),E¸¡f(µT(X))jAT¢AEEXT¡f(X)¢.6. À faire en exercice en généralisant le calcul (1) p.1: utiliser la formule (2) p.3.

8 Démonstration.On calcule l"espérance conditionnelleE¸(f(µT(X))jXT,...,X0) sur l"événement {TÇÅ1} en la décomposant selon la valeur de T : E

¸¡f(µT(X))jAT¢1TÇÅ1AEX

k2NE

¸¡f(µk(X))jAk¢1TAEk

soit en utilisant la proposition2.5: AEX k2NE

Xk¡f(X)¢1TAEk

AEEXT¡f(X)¢1TÇÅ1.3Classification des états

3.1Classes d"états communicants

Définition3.1Soientietjdeux états deE. On dit que l"étatjest accessible à partir deisi et seulement si

9n¸0, Pn(i,j)AEP(XnAEjjX0AEi)È0.

On dit que les étatsietjcommuniquent et on noteijsi et seulement sijest accessible à partir deietiest accessible à partir dej. peut donc être partitionné en classes d"équivalence pour la relationij, appe- lées classes d"états communicants. Démonstration.La réflexivité est évidente (pournAE0P(X0AEijX0AEi)AE1), tout comme la symétrie. La transitivité résulte de la propriété de Chapman-

Kolmogorov : si P

n(i,k)È0 et si Pm(k,j)È0, P nÅm(i,j)AEP(XnÅmAEjjX0AEi)AEX

l2EPn(i,l)Pm(l,j)¸Pn(i,k)Pm(k,j)È0.Définition3.3Lorsque l"étatEest réduit à une seule classe (cas où tous les états

communiquent) on dit que la chaîne est irréductible. Pour rechercher les classes d"états communicants, il est commode de travailler sur le graphe de la chaîne plutôt que sur la matrice de transition : le graphe est obtenu en traçant pour tout couple d"états (i,j) un arc allant deiàjsi et seule- ment si P(i,j)È0. On peut ajouter une valeur à l"arc (la probabilité P(i,j)) dans ce cas la donnée du graphe valué est équivalente à la donnée de la matrice de transition. 9

Exemples:

PAE0 B

BBBB@½ ½ 0 0 0

¼ ½ ¼ 0 0

0 0 0 1 0

0 0 ½ 0 ½

0 0 0 1 01

C

CCCCA12345½

1

1La chaîne comporte deux classes : {1,2} et {3,4,5}.

Vérifier que l"espace d"états associé à la ruine du joueur comporte trois classes (à préciser). Vérifier que la promenade aléatoire surZ2telle qu"elle est définie à l"exercice5 comporte deux classes à préciser. En revanche la promenade aléatoire surZ2définie par (X nÅ1,YnÅ1)AE8 >>>:(X nÅ1,Yn) avec probabilité ¼ (X n¡1,Yn) avec probabilité ¼ (X n,YnÅ1) avec probabilité ¼ (X n,Yn¡1) avec probabilité ¼ est irréductible.

3.2Récurrence et transience

Définition3.4Un étatideEest dit récurrent si et seulement si, partant dei, la chaîneXrevientPi-presque sûrement à l"étati. Un état non récurrent est dit transient. On pose i(!)AE(inf{n¸1jXn(!)AEi}ou

Å1sur{8n¸1, Xn(!)6AEi}

iest un temps d"arrêt pour la filtration(AnAE¾(X0,...,Xn)), il est appelé temps valence suivante :

8i2E,itransient()Pi(¿iÇÅ1)Ç1

comme somme de variables aléatoires de BernoulliP0(¿0Ç Å1)AE1¡jp¡qj. 10 Ainsi, pourpAEqtous les états sont récurrents, tandis que pourp6AEqtous les états sont transients (le calcul fait pour l"état 0 vaut bien sûr pour tout autre état). On s"intéresse également à la variable aléatoire N inombre de passages de la chaîne par l"étatiaprès l"instant 0 : N i(!)AEX Nous aurons besoin du résultat intuitif suivant (expliquer sa signification) : Proposition3.5Soientietjdeux états quelconques deE, on a

8n2N,Pj(Ni¸nÅ1)AEPj(¿iÇÅ1)Pi(Ni¸n). (5)

Démonstration.On considère l"instant¿ide premier passage de la chaîne par l"étati. L"événement {Ni¸nÅ1} peut s"écrire7: {N où N

i±µ¿idésigne le nombre de visites à l"étatiaprès l"instant¿i. La propriété

de Markov forte appliquée à l"instant¿idonne : P

AEPi(Ni¸n)Pj(¿iÇÅ1) car X¿iAEisur {¿iÇÅ1}.Remarque: il est possible de contourner le recours à la propriété de Markov forte

dans la démonstration de (5). On remarque que {Ni¸1}AE{¿iÇ Å1} et on dé- compose l"événement {N i¸nÅ1} en fonction des valeurs prises par¿i, instant de premier passage pari:

8n¸0, {Ni¸nÅ1}AEn

N

8n¸0,Pj(Ni¸nÅ1)AEX

AE X AE X

¢Pj(XkAEi,Xk¡16AEi,...,X16AEi)

AE X

AEPj(¿iÇÅ1)Pi(Ni¸n).7. Dans cette formule,µopère sur, ce qui supposeAEEN, voir la construction de (,A,P¸)

page6. 11 Proposition3.6Les conditions suivantes sont équivalentes : a) l "étatiest récurrent (Pi(¿iÇÅ1)AE1); b) la ch aîneXrevientPi-p.s. une infinité de fois à l"étati:Pi(NiAEÅ1)AE1; c) la sér ie P n2NPn(i,i)diverge.

Les conditions suivantes sont équivalentes :

a") l "étatiest transient (Pi(¿iÇÅ1)Ç1); b") la v ariablealéatoir eNiestPi-p.s. finie (Pi(NiAE Å1)AE0) et elle suit une loi géométrique c") la v ariablealéat oireNiestPi-intégrable :Ei(Ni)AEP n¸1Pn(i,i)ÇÅ1. Démonstration.Appliquons l"égalité (5) dans le casjAEi. Casirécurrent:Pi(¿iÇÅ1)AE1, l"égalité (5) s"écrit pourjAEi: doncPi(NiAEÅ1)AE1 et l"implication (a)b) est établie.

Casitransient:®iAEPi(¿iÇÅ1)Ç1, l"égalité (5) donne ({Ni¸1}AE{¿iÇÅ1}) :

doncPi(NiAEÅ1)AElim#(®i)nAE0, Nisuit une loi géométrique surN; rappelons que, pour toute variable Z à valeurs dansN, on a

E(Z)AEX

n2NnP(ZAEn)AEX n¸1P(Z¸n), d"où E i(Ni)AEX n¸1P i(Ni¸n)AE®i1¡®iÇÅ1.

L"égalitéEi(Ni)AEP

n2NPn(i,i) découle immédiatement du théorème de Tonelli : E i(Ni)AEEi³ X AEX chargeÅ1, Nine peut être intégrable etP n2NPn(i,i) diverge). Les implications (c)a) (contraposée de (a")c")) et (c")a") (contraposée de (a)c)) sont éta-

blies aussi.8. Elle charge 0 contrairement aux lois géométriques usuelles : pour toutnpositif ou nul,

P 12 Proposition3.7La récurrence et la transience sont des propriétés de classe : si les étatsietjcommuniquent, alorsietjsont tous deux récurrents ou tous deux transients.quotesdbs_dbs29.pdfusesText_35
[PDF] chaine de markov résumé

[PDF] chaine de markov matrice de transition

[PDF] chaine d'acquisition de données

[PDF] chaine de mesure audioprothèse

[PDF] acquisition de données du capteur ? l ordinateur

[PDF] chaine de mesure pdf

[PDF] chaine d'acquisition capteur

[PDF] les capteurs exercices corrigés

[PDF] chaine de markov apériodique

[PDF] chaine de markov apériodique exemple

[PDF] chaine de markov reversible

[PDF] chaine de markov récurrente

[PDF] chaine de markov exemple

[PDF] chaine de markov irreductible exemple

[PDF] chaine de markov exercice corrigé