Donnons de premières définitions générales : la théorie des probabilités est l'étude mathématique des phénomènes caractérisés par le hasard et l'incertitude ; la statistique consiste à recueillir, traiter, interpréter et présenter un ensemble de données.
Les statistiques sont l'étude des données collectées à partir d'une population.
Les probabilités sont une branche des mathématiques qui étudie la fréquence avec laquelle un certain événement se produit.
Les statistiques descriptives comprennent la moyenne, la médiane, l'écart-type, la variance, les quantiles mais aussi l'aplatissement et l'asymétrie pour une variable quantitative.
Pour une variable qualitative, on utilise généralement le mode et la proportion par modalité comme statistiques descriptives.