Cette liste d’exemples d’utilisation des probabilités en théorie de l’information est loin d’être exhaustive. Plusieurs autres aspects de la théorie (codage de la source, codage du canal, reconstitution du message, etc.) nécessitent l’utilisation de méthodes proba- bilistes. Quant à l’utilité de la statistique, elle est vaste.
—La théorie des probabilités est aujourd’hui formalisée dans le cadre de lathéorie delamesure.On sedonne(imaginons-le˝xéunefoispourtoutes)un ensemble , un ensemble de parties de et une applicationP: !»0; 1…. 0.2.PROBABILITÉS9 L’ensemble est appelé l’univers et les éléments de desévènements; si A est un évènement,P„A”estsaprobabilité.
I Théorie des probabilités; statistique mathématique7 2 Théorie élémentaire des probabilités9
Cette remarque a des implications capitales en théorie de l’information car le traite- ment, la transmission et l’extraction de l’information sont en effet des processus phy- siques. Or cette réalité est souvent occultée en théorie de l’information où très souvent les notions pertinentes sont décrites sous leur aspect purement mathématique.