On présente le modèle de base de la Théorie de l'information , dans lequel des messages sont émis par une source aléatoire.

Les différentes versions de l'entropie de Shannon , qui permet de quantifier le débit moyen d'information associé à une source aléatoire, seront présentés.

La question du codage optimal , avec ou sans perte de l'information émise par la source est alors traitée.

Channel Coding

Error Correcting Codes