Un algorithme est la description d'une suite d'étapes permettant d'obtenir un résultat à partir d'éléments fournis en entrée.
Par exemple, une recette de cuisine est un algorithme permettant d'obtenir un plat à partir de ses ingrédients
On distingue trois principales catégories d'algorithmes de Machine Learning : supervisés, non-supervisés, et semi-supervisés.
La méthode la plus utilisée actuellement est sans doute la méthode de tri rapide ou Quicksort, qui a été inventée par Sir Charles Antony Richard Hoare en 1960 – d'aucuns disent que c'est l'algorithme le plus utilisé au monde