[PDF] Introduction aux probabilités et à la statistique Jean Bérard

View - Download Introduction aux probabilités et à la statistique Jean Bérard

Previous PDF

Next PDF

Introduction aux probabilités

et à la statistique

Jean Bérard

2

Avertissement

Ces notes sont en cours d"élaboration. Il se peut donc qu"y subsistent un certain nombre d"erreurs, d"incohérences, et/ou de passages inachevés.

Table des matières

Introduction 7

1 Le modèle probabiliste 13

1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

1.2 Le point de vue formel . . . . . . . . . . . . . . . . . . . . . . . . . . 15

1.3 Mais que représente exactement ce formalisme? . . . . . . . . . . . . 16

1.3.1 Espace des possibles et choix du niveau de description . . . . 16

1.3.2 Sens concret - sens formel . . . . . . . . . . . . . . . . . . . . 19

1.3.3 Signification concrète de la probabilité . . . . . . . . . . . . . 23

1.4 Probabilité et événements . . . . . . . . . . . . . . . . . . . . . . . . 30

1.4.1 Probabilité d"un événement . . . . . . . . . . . . . . . . . . . 30

1.4.2 Probabilité et opérations sur les événements . . . . . . . . . . 32

1.4.3 Quelques exemples de modèles probabilistes . . . . . . . . . . 35

1.5 Probabilités conditionnelles . . . . . . . . . . . . . . . . . . . . . . . 40

1.5.1 Notions de dépendance et d"indépendance entre événements . 46

1.5.2 Effet de loupe et biais de sélection . . . . . . . . . . . . . . . 54

1.5.3 Représentation en arbre des modèles probabilistes . . . . . . . 60

1.6 Construire un modèle approprié . . . . . . . . . . . . . . . . . . . . . 70

1.6.1 Quelques pistes . . . . . . . . . . . . . . . . . . . . . . . . . . 70

1.6.2 Compatibilité de deux modèles . . . . . . . . . . . . . . . . . 72

1.6.3 De l"importance de décrire explicitement le modèle . . . . . . 73

1.7 Un exemple fondamental : la succession d"épreuves indépendantes . . 74

1.7.1 Une histoire de singe . . . . . . . . . . . . . . . . . . . . . . . 83

1.7.2 Tout résultat est exceptionnel! . . . . . . . . . . . . . . . . . 86

1.7.3 Succession indépendante? . . . . . . . . . . . . . . . . . . . . 87

1.8 Coïncidences troublantes . . . . . . . . . . . . . . . . . . . . . . . . . 89

1.8.1 C"est vraiment incroyable! . . . . . . . . . . . . . . . . . . . . 89

1.8.2 Ce que l"on observe est presque toujours improbable . . . . . 90

1.8.3 Des coïcidences surprenantes doivent se produire . . . . . . . 90

1.8.4 Attention à l"interprétation . . . . . . . . . . . . . . . . . . . 91

4

1.8.5 Quand s"étonner? . . . . . . . . . . . . . . . . . . . . . . . . 91

1.8.6 Un magicien doué . . . . . . . . . . . . . . . . . . . . . . . . 93

1.9 Auto-évaluation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95

1.10 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96

2 Variables aléatoires 121

2.1 Introduction et définition . . . . . . . . . . . . . . . . . . . . . . . . 121

2.2 Loi d"une variable aléatoire . . . . . . . . . . . . . . . . . . . . . . . 125

2.2.1 Le point de vue formel pour les variables aléatoires discrètes . 125

2.2.2 La loi dans l"interprétation fréquentielle de la probabilité -

notion de loi empirique . . . . . . . . . . . . . . . . . . . . . . 128

2.2.3 Fonction de répartition d"une loi discrète . . . . . . . . . . . . 131

2.2.4 Représentations graphiques . . . . . . . . . . . . . . . . . . . 131

2.2.5 Quelques lois discrètes classiques . . . . . . . . . . . . . . . . 145

2.2.6 Variables aléatoires et lois continues . . . . . . . . . . . . . . 153

2.2.7 Exemples de lois continues . . . . . . . . . . . . . . . . . . . . 166

2.3 Loi jointe de plusieurs variables aléatoires, vecteurs aléatoires . . . . 170

2.3.1 Indépendance de variables aléatoires, cas discret . . . . . . . . 171

2.3.2 Vecteur aléatoire continu . . . . . . . . . . . . . . . . . . . . . 172

2.3.3 Somme de variables aléatoires indépendantes . . . . . . . . . 172

2.4 Opérations sur les lois de probabilité . . . . . . . . . . . . . . . . . . 175

2.5 Loi d"une fonction d"une variable aléatoire . . . . . . . . . . . . . . . 176

2.6 Espérance et variance . . . . . . . . . . . . . . . . . . . . . . . . . . 177

2.6.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177

2.6.2 Espérance et moyenne, loi empirique . . . . . . . . . . . . . . 180

2.6.3 Le raisonnement de Huygens * . . . . . . . . . . . . . . . . . 181

2.6.4 L"utilité espérée * . . . . . . . . . . . . . . . . . . . . . . . . . 181

2.6.5 L"espérance comme indicateur de position . . . . . . . . . . . 182

2.6.6 Variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 192

2.6.7 L"inégalité de Markov . . . . . . . . . . . . . . . . . . . . . . 197

2.6.8 Opérations algébriques : linéarité de l"espérance . . . . . . . . 200

2.6.9 Opérations algébriques : espérance d"un produit . . . . . . . . 204

2.6.10 Espérance et variance des lois usuelles . . . . . . . . . . . . . 210

2.6.11 Régression linéaire . . . . . . . . . . . . . . . . . . . . . . . . 215

2.7 Probabilité, loi et espérance conditionnelles . . . . . . . . . . . . . . 226

2.8 Conditionnement par une variable aléatoire de loi continue . . . . . . 229

2.9 Transformées de Laplace et de Fourier d"une loi de probabilité * . . . 230

2.9.1 Fonction génératrice . . . . . . . . . . . . . . . . . . . . . . . 230

2.9.2 Transformée de Laplace . . . . . . . . . . . . . . . . . . . . . 231

2.9.3 Transformée de Fourier . . . . . . . . . . . . . . . . . . . . . 232

5

2.9.4 Transformées des lois classiques . . . . . . . . . . . . . . . . . 232

2.10 Quelques mots de théorie de l"information * . . . . . . . . . . . . . . 233

2.10.1 Entropie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233

2.10.2 Questionnaires . . . . . . . . . . . . . . . . . . . . . . . . . . 234

2.11 Quelques mots sur le hasard simulé . . . . . . . . . . . . . . . . . . . 241

2.12 Les lois de Benford et de Zipf . . . . . . . . . . . . . . . . . . . . . . 241

2.12.1 La loi de Benford . . . . . . . . . . . . . . . . . . . . . . . . . 241

2.12.2 Lois de Zipf-Mandelbrot et de Pareto . . . . . . . . . . . . . . 241

2.13 Auto-évaluation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 242

2.14 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244

3 Loi des grands nombres 285

3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285

3.2 Loi faible des grands nombres . . . . . . . . . . . . . . . . . . . . . . 285

3.2.1 Cadre et hypothèses . . . . . . . . . . . . . . . . . . . . . . . 285

3.2.2 Enoncé . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 286

3.2.3 Preuve . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 287

3.2.4 Qu"est-ce qu"un grand nombre? . . . . . . . . . . . . . . . . . 288

3.2.5 Attention à l"approximation . . . . . . . . . . . . . . . . . . . 295

3.2.6 Loi forte des grands nombres . . . . . . . . . . . . . . . . . . 295

3.2.7 Robustesse . . . . . . . . . . . . . . . . . . . . . . . . . . . . 303

3.2.8 L"hypothèse de répétition indépendante . . . . . . . . . . . . 304

3.2.9 L"existence de l"espérance . . . . . . . . . . . . . . . . . . . . 324

3.2.10 Position de la loi des grands nombres . . . . . . . . . . . . . . 329

3.3 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 332

3.3.1 L"assurance et la mutualisation du risque . . . . . . . . . . . 333

3.3.2 Sondages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 335

3.3.3 Mécanique statistique . . . . . . . . . . . . . . . . . . . . . . 335

3.3.4 Méthodes de Monte-Carlo . . . . . . . . . . . . . . . . . . . . 336

3.4 Inégalités de déviation . . . . . . . . . . . . . . . . . . . . . . . . . . 338

3.5 Convergence de la loi empirique . . . . . . . . . . . . . . . . . . . . . 338

3.5.1 Convergence des histogrammes . . . . . . . . . . . . . . . . . 338

3.5.2 Le théorème de Glivenko-Cantelli . . . . . . . . . . . . . . . . 338

3.6 Auto-évaluation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339

3.7 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339

4 La courbe en cloche 341

4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 341

4.2 Les lois gaussiennes unidimensionnelles . . . . . . . . . . . . . . . . . 341

4.3 Le théorème de la limite centrale . . . . . . . . . . . . . . . . . . . . 348

6

4.3.1 Cadre et énoncé . . . . . . . . . . . . . . . . . . . . . . . . . 348

4.3.2 Des illustrations lorsque la loi deX1++XNest connue

explicitement . . . . . . . . . . . . . . . . . . . . . . . . . . . 350

4.3.3 Des illustrations lorsque la loi deX1++XNn"est pas connue

explicitement . . . . . . . . . . . . . . . . . . . . . . . . . . . 367

4.3.4 Deux erreurs fréquentes . . . . . . . . . . . . . . . . . . . . . 369

4.3.5 Preuve du théorème de la limite centrale . . . . . . . . . . . . 374

4.3.6 Le théorème de la limite centrale et la loi des grands nombres 374

4.3.7 Attention à l"échelle . . . . . . . . . . . . . . . . . . . . . . . 378

4.3.8 Quantification de la convergence dans le théorème de la limite

centrale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 381

4.3.9 Robustesse du théorème de la limite centrale . . . . . . . . . 382

4.3.10 Le théorème de la limite centrale et le caractère universel (?)

de la loi gaussienne . . . . . . . . . . . . . . . . . . . . . . . . 400

4.4 Des exemples concrets . . . . . . . . . . . . . . . . . . . . . . . . . . 402

4.4.1 Des exemples approximativement gaussiens . . . . . . . . . . 403

4.4.2 Des exemples non gaussiens, même approximativement . . . . 417

4.4.3 Phynances! . . . . . . . . . . . . . . . . . . . . . . . . . . . . 428

4.5 Quelques applications du TCL . . . . . . . . . . . . . . . . . . . . . 434

4.5.1 Sondages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 434

4.5.2 Méthodes de Monte-Carlo . . . . . . . . . . . . . . . . . . . . 436

4.6 Lois gaussiennes multidimensionnelles - Vecteurs aléatoires gaussiens 436

4.6.1 Vecteurs gaussiens et régression linéaire . . . . . . . . . . . . 436

4.6.2 Le principe du test du chi-deux . . . . . . . . . . . . . . . . . 436

4.7 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 436

5 Bibliographie 439

5.1 Ouvrages recommandés pour travailler ce cours. . . . . . . . . . . . . 439

5.2 Ouvrages et articles de référence. . . . . . . . . . . . . . . . . . . . . 440

Introduction

La théorie des probabilités constitue un cadre mathématique pour la description du hasard et de la variabilité, ainsi que pour le raisonnement en univers incertain. Elle forme un tout cohérent dont les concepts, les méthodes et les résultats interviennent dans de très nombreux domaines des sciences et des technologies, parfois de manière fondamentale. En voici, à titre de motivation pour ce cours, une petite liste non- exhaustive. En physique, la description de la nature à l"échelle microscopique, donnée par la mécanique quantique, est de nature probabiliste : seule la probabilité pour une particule de se trouver dans tel ou tel état est accessible à la théorie. En physique encore, la description des systèmes constitués d"un très grand nombre de particules (ce qui est le cas de tous les systèmes physiques macroscopiques) s"appuie générale- ment sur une modélisation probabiliste du comportement individuel des particules (mécanique statistique). En biologie, dans le domaine médical ou environnemental, la

prise en compte de la variabilité naturelle des phénomènes étudiés nécessite souvent,

et à toute sorte de niveaux, le recours à la modélisation probabiliste (il peut aussi bien s"agir d"étudier des mécanismes moléculaires comme la réplication de l"ADN, le développement morphologique d"un organisme, sa réponse à un traitement médi- cal, ou encore la propagation des épidémies ou des feux de forêt, la croissance et les migrations de populations animales, la diffusion de polluants dans un sol, les phé- nomènes de crue, etc...). La modélisation probabiliste s"applique aussi au traitement des données et des signaux (codage, compression, débruitage), ou à l"analyse des er- reurs de mesure. Elle intervient également dans le domaine économique et industriel (fiabilité et performance des systèmes et des procédés, dont le comportement comme l"environnement de fonctionnement sont variables, gestion des approvisionnements et des stocks, politiques d"assurance, prévisions économiques, décisions d"investisse- ment, et plus généralement évaluation et gestion du risque). L"intelligence artificielle, et notamment les techniques d"apprentissage automatisé et d"extraction de données (reconnaissance de formes, traitement d"image, systèmes experts, fouille de données, réseaux neuronaux...) reposent également, pour une part sur une modélisation pro- babiliste de l"information qu"ils traitent. Mentionnons enfin l"utilisation devenue in- 8 contournable du "hasard simulé» par ordinateur, qu"il s"agisse d"étudierin silico le comportement d"un système réel que l"on a modélisé, d"employer un algorithme randomisé (d"optimisation, de tri, de vérification,... ), ou de résoudre un problème numérique à l"aide d"une méthode de Monte-Carlo.

Un point de vocabulaire

Bien que les frontières délimitant les deux domaines ne puissent pas toujours être

très précisément tracées, on distingue en général lathéorie des probabilitéset la

statistique, en disant que la première a pour objet principal de définir des modèles mathématiques du hasard et de l"incertitude, et d"étudier leurs propriétés, tandis que la seconde a notamment pour but de confronter ces modèles mathématiques

à la réalité, en particulier à l"expérience et aux données observées, afin de choisir,

d"ajuster et de valider les modèles, et de les exploiter pour effectuer des prévisions, tester des hypothèses, prendre des décisions.

Objectifs du cours

Tous les exemples cités ci-dessus sont d"un niveau assez (voire très) élevé, et se rattachent à des domaines scientifiques spécialisés qu"il est bien entendu impossible d"aborder ou même de résumer dans un cours de base comme celui-ci. L"objectif principal de ce cours, qui requiert idéalement une première familiarisation, à un niveau intuitif avec les notions probabilistes, est de vous fournir des bases solides et correctement formalisées en probabilités. Il s"agira essentiellement d"assimiler les principaux outils conceptuels permettant d"aborder la modélisation mathématique de l"incertitude, du hasard et de la variabilité, ainsi qu"un certain nombre de tech- niques qui s"y rapportent. Après ce cours, vous devriez être en mesure de comprendre comment s"articulent les différents aspects (formalisation, intégration des données, résolution mathématique et/ou simulation, validation, exploitation, appréciation des limites de validité) de la modélisation de situations simples. Quelques objectifs plus spécifiques : - dépasser le stade des raisonnements approximatifs et parfois douteux auxquels les étudiants sont bien souvent habitués quand il s"agit de probabilités; - aller au-delà des conclusions parfois insuffisantes ou même incohérentes que le simple "bon sens» permet de tirer; - être à l"aise vis-à-vis de l"utilisation des probabilités dans des domaines plus spécialisés, lorsque vous les rencontrerez. Fournir des bases, notamment destinées à permettre un approfondissement et une spécialisation ultérieurs n"exclut pas, bien entendu, de présenter des exemples simples illustrant les applications potentielles dans quelques-uns des domaines plus avancés évoqués précédemment. D"autre part, posséder une connaissance correcte

Introduction9

des notions abordées dans ce cours présente également un intérêt du point de vue de la la formation des citoyens, à l"heure où les arguments fondés sur des modèles et des statistiques de toute nature (économique, sociale, médicale, environnemen- tale,...) sont au coeur des débats, bien que trop peu d"individus possédent un bagage conceptuel suffisant pour soumettre ces arguments à une analyse critique informée et raisonnée. Le niveau mathématique assez modeste dont nous nous contenterons ne doit pas masquer la véritable difficulté - celle sur laquelle l"effort doit porter principalement - que représente la compréhension en profondeur des notions abordées. Ce cours est entre autres un cours de mathématiques, où s"imposent donc des normes élevées de précision et de rigueur, mais les objets mathématiques qui y sont manipulés sont

destinés à modéliser certains aspects de la réalité. Ainsi, toutes les notions abordées

présentent un double aspect, formel et concret, ce qui rend leur maîtrise difficile à acquérir. De nombreux exemples serviront à illustrer le propos, mais il est indispensable de dépasser le stade de la simple compréhension des exemples pour pouvoir utiliser efficacement les notions abordées dans des situations nouvelles.

Dés, cartes, et pièces de monnaie

Les cours de probabilités auxquels vous avez pu être confrontés font souvent la part belle aux exemples issus des jeux de hasard, tirages de carte, roulette, loteries et autres jeux de pile ou face. Quoique l"étude des jeux de hasard ait été l"une des motivations initiales du développement de la théorie des probabilités (principale- ment à partir du dix-septième siècle), il ne s"agit plus guère aujourd"hui que d"un domaine d"application anecdotique. Les exemples qui sont présentés dans ce cadre ne présentent que peu d"intérêt en tant qu"applications réelles, mais ils permettent faci- lement d"illustrer des notions ayant une portée beaucoup plus vaste, et peuvent donc servir de représentations conceptuelles simples à des situations réelles complexes. C"est dans cet état d"esprit qu"il est souhaitable d"aborder l"étude de ces exemples, ainsi que des exercices dans lesquelles des hypothèses très simplificatrices sont posées.

Comment travailler ce cours

Le volume de ce document vous affole peut-être... Pas de panique! Ces notes forment en effet un ensemble d"une longueur certaine, mais le style est générale- ment peu dense, et une lecture à un rythme soutenu est (en principe) possible. Les définitions et résultats importants sont généralement mis en caractères gras. Des as-

térisques signalent les parties plus spécialisées et dont la lecture peut être omise sans

compromettre sérieusement la compréhension de l"ensemble. 10 Ces notes sont - en principe - destinées à être lues au moins une foisdans leur plus grande partie; elles servent de référence vis-à-vis du cours magistral, et apportent de nombreux détails et approfondissements par rapport à ce qui est présenté lors des séances de cours. À la fin de chaque chapitre, avant les exercices, se trouvent des questions d"auto-évaluation auxquelles vous devez impérativement savoir répondre, car elles portent sur les notions fondamentales du cours. Si la réponse à l"une de ces questions vous échappe, il est indispensable de relire et de retravailler le chapitre correspondant. Quant aux nombreux exercices, dont la difficulté est très variable, il est indispen- sable, pour en tirer profit, d"en chercher d"abord la solution de manière autonome.

Une partie importante d"entre eux est destinée à être traitée lors des séances de tra-

vaux dirigés. Des commentaires sur les exercices sont également proposés. Rappelons à toutes fins utiles que la solution d"un exercice doit être relue en grand détail de façon à vous assurer que vous en maitrisez toutes les étapes, et que vous en avez as- similé les idées globales. Seul ce travail de fond pourra vous assurer tant l"acquisition durable de connaissances et de méthodes que le succès à l"examen! Il est important de ne pas vous laisser abuser par le cadre, parfois artificiel ou trivial en apparence, dans lequel certains exercices sont proposés; il s"agit le plus souvent d"illustrer une question réellement importante, tout en essayant de ne pas vous noyer sous la complexité qu"appelle inévitablement la modélisation de situations plus réalistes. Par ailleurs, un certain nombre de questions posées ont un caractère ouvert : on ne vous demande pas simplement de prouver tel ou tel résultat, mais de donner un sens précis à une question formulée de manière un peu vague, et de tenter d"y

répondre à l"aide d"un modèle que vous aurez vous-même élaboré et justifié. Le but

de ces questions n"est pas de vous décontenancer (encore que...) : tout en restant dans un cadre assez simple, elles font bien davantage appel aux capacités d"initia- tive, d"autonomie et d"esprit critique dont vous aurez à faire preuve dans votre vie professionnelle, et que votre formation est censée vous permettre de développer, que ne le font les questions de type plus traditionnel, et auxquelles vous pouvez être da-

vantage habitués. Elles sont l"occasion de mettre à l"épreuve votre capacité à utiliser

vos connaissances, et vous guident également vers une compréhension approfondie des notions et des méthodes abordées. La manière d"exposer les différentes notions et résultats retenue dans ce cours repose, inévitablement, sur un certain nombre de partis pris pédagogiques. Des va- riations, légères ou plus significatives, par rapport à d"autres cours ou à des ouvrages cités dans la bibliographie, peuvent donc apparaître, tout-à-fait normalement (le souci de simplicité nous ayant en particulier conduit à ne pas traiter dans toute leur

généralité un certain nombre de notions, et à insister sur certains modes de présenta-

tion au détriment d"autres, plus classiques). La cohérence avec la plupart des autres

Introduction11

exposés du même sujet est cependant assurée, moyennant éventuellement un petit effort (toujours fructueux) d"adaptation. Les chapitres 1 et 2 présentent les bases du formalisme de la théorie des probabi- lités et de sa mise en oeuvre pratique, et introduisent l"essentiel des notions utilisées dans la suite. Les chapitres 3 et 4 présentent les deux grandes "lois du hasard» que sont la loi des grands nombres et le théorème de la limite centrale.

Chapitre 1

Le modèle probabiliste

1.1 Introduction

quotesdbs_dbs32.pdfusesText_38

[PDF] Economie et gestion de la santé Master 2015-2016

[PDF] Documentation utilisateur FReg.NET

[PDF] Procédure générale et critères d appréciation des dossiers pour l entrée en M1

[PDF] MARSEILLE PROVENCE MÉTROPOLE s engage pour le climat

[PDF] CONVENTION DE PERIODE DE FORMATION EN MILIEU PROFESSIONNEL BAC Pro Maintenance Automobile / Nautique

[PDF] MASTER TERRITOIRES, CULTURE, TOURISME ET DYNAMIQUES TRANSFRONTALIERES. www.univ-littoral.fr SCIENCES HUMAINES ET SOCIALES

[PDF] Domaine de l univers social Géographie 1 er cycle du secondaire JOURNAL DE BORD DE L ÉLÈVE

[PDF] Table des matières ENVIRONNEMENT

[PDF] 2 e sommet social du canton de Berne

[PDF] Vos dépôts sont protégés, c est garanti! Au Québec, l Autorité des marchés financiers protège vos dépôts jusqu à 100 000 $

[PDF] AMCEN/SS/IV/INF/7. Déclaration de Libreville sur la biodiversité et la lutte contre la pauvreté en Afrique

[PDF] Guide d'installation de l'application Facebook. (version 1) "Fédéral Hôtel" - Réservation d'hôtels en ligne

[PDF] Chocolat au lait : 34% de cacao minimum. Chocolat au lait : 34% de cacao minimum

[PDF] Règlement de Consultation (RC) Cahier des Clauses Administratives et Techniques Particulières (CCATP)

[PDF] LES DIFFERENTS RISQUES ET LES MESURES DE BONNE GESTION