Théories De La Communication

|

Les lois de Shannon

Ce que l'on nomme la théorie moderne de la communication et de l'information

remonte aux premiers travaux de Norbert Wiener et d'un de ses anciens élèves,

devenu ingénieur, Claude Elwood Shannon qui écrivit avec Warren Weaver The

Mathematical Theory of Communication (1949), instaurant ce qui a été longtemps le dogme du schéma ternaire, universellement connu :

Schéma d'un système de communication «Warren Weaver, en 1949» :

[pic]

En fait, Shannon s'écartait fortement des idées de Wiener, puisque son schéma oubliait (volontairement) une caractéristique tenue pour fondamentale par Wiener, celle du concept de rétroaction (feedback), générant lui-même par la suite la théorie

systémique, nouveau cadre encore plus général.

Schéma de Shannon élargi :

[pic]

Premier théorème de Shannon :

Efficacité maximale d'un code (binaire)

Pour toute source, il existe un codage irréductible en codant par «!mots!» ou «!séquences!» suffisamment longs.

Second théorème de Shannon :

Critère de fidélité d'un canal bruyant

Tant que la quantité d'informations à transmettre dans un temps T (débit) reste inférieure à la capacité du canal, c'est-à-dire la quantité d'information qu'il peut transmettre dans le temps T, il est possible de rendre la probabilité d'erreur aussi petite que l'on veut

Redondance Répétition.

Information et savoir :

[pic]

Information et apprentissage :

[pic]

La cybernétique de Norbert Wiener :

Le terme de “feedback” a été introduit en 1914 par E. H. Armstrong pour désigner

un circuit de régénération de signal dans un poste de radio. Il a été repris par Norbert

Wiener en 1948 dans Cybernetics, or Control and Communication in the Animal and

the Machine, Paris, Hermann, 1948. L'approche de Wiener est résolument circulaire

alors que celle de son collègue et disciple C. E. Shannon demeure linéaire, entre

autres pour des raisons pratiques, liées au laboratoire d'électronique dans lequel ce

dernier travaille.

Caractéristiques de la rétroaction :