Donnons de premières définitions générales : la théorie des probabilités est l'étude mathématique des phénomènes caractérisés par le hasard et l'incertitude ; la statistique consiste à recueillir, traiter, interpréter et présenter un ensemble de données.
Les statistiques sont l'étude des données collectées à partir d'une population.
Les probabilités sont une branche des mathématiques qui étudie la fréquence avec laquelle un certain événement se produit.
En 1361, le calcul des probabilités est alors une « science dont le but est de déterminer la vraisemblance d'un évènement ».