{"word_count": 3444, "character_count": 21809}
Diagramme de rétropropagation du gradient de l'erreur dans un réseau de neurones en Machine Learning (Gilles Le Bris)Puisque nous parlons de déconfinement, je voudrais m’attarder sur le concept de rétropropagation. Une première partie traitera de la propagation des messages qui vont orienter le déconfinement avec l’effet paradoxal de la démobilisation que cela peut entrainer. La seconde partie exploitera plusieurs analogies dans des disciplines diverses à partir du concept de rétropropagation qui me vient de la science des données et du Machine Learning pour voir précisément ce que l’on peut en apprendre pour les propagations et les méthodes à mettre en place. Il ne s’agit plus de l’origine des propagations (voir le billet sur le sujet) ni même exactement de leur fin mais de la boucle possible de réversion qu’elles peuvent ou non effectuer.Et tout d’abord sur les messages qui annoncent le déconfinement. Il est aisé de constater que le seul fait d’en parler et d’annoncer une date provoque une anticipation qui n’est pas seulement mentale mais aussi comportementale. Ce qui est tant désiré finit par traverser les barrières d’inhibition qui avaient été difficilement construites. L’enjeu attentionnel du relâchement de l’autocontrôle est une constante de toutes les politiques de prévention. S’autocontrôler comme nous l’avons fait est un effort cognitif important, qui demande de l’énergie, une vérification constante, des résolutions de problème multiples car rien n’est plus naturel. Ce travail du cerveau 2 de Kahneman, celui qui sert à résoudre les problèmes, est nécessaire pour briser les habitudes, les étouffer et les empêcher de reprendre le pouvoir, puisqu’après tout, elles sont bien plus économes, car elles fonctionnent en régime automatique. Pour cela les messages et les exemples sont indispensables pour parvenir à un renforcement constant. Dès lors que ces messages sont incohérents (suivez mon regard), que les exemples sont contradictoires (j’ai des noms !), la pression cognitive et normative s’affaiblit. Le message du confinement ne se propage plus si bien car la compétition avec les messages alternatifs du laisser-faire est souvent perdue d’avance. Mais si l’on commence à annoncer la fin de cet effort, si l’on relâche la pression surmoïque aurait dit la psychanalyse, l’attention est déjà focalisée sur autre chose et les comportements relativisent la contrainte.N’oublions pas que la peur a été l’alliée indéfectible des prescriptions d’un gouvernement et d’administrations qui n’ont rien fait pour créer la confiance, c’est le moins qu’on puisse dire. Mais si en plus, la peur se dérobe et que le désir reprend sa place originelle, et c’est une bonne chose, car la vie dans la peur, c’est une vie de zombie, comme dit Damasio, le déconfinement se fait dans les têtes avant de se faire dans les comportements mais ceux-ci finissent par suivre. Notons une fois de plus que tout cela est affaire de message, d’attention, et de propagation avant même que de contrôle des corps et des conditions matérielles. C’est pourquoi en matière de sécurité routière, sujet que j’ai étudié sur le terrain des praticiens de la sécurité routière, j’avais remarqué que l’important n’était pas tant l’efficacité d’une mesure ponctuelle (ceinture, vitesse, alcool, etc.) mais le fait qu’au moins une mesure soit annoncée par an pour relancer la vigilance, le doute et une certaine peur d’un nouveau type de contrôle. Chaque année où rien n’a été annoncé (Gayssot fin des années 90 et Macron 2018), les scores d’accidents ont aussitôt augmenté. Uniquement parce que l’attention des conducteurs n’avait pas été réactivée par la propagation d’un message d’alerte, quel qu’il soit. La qualité du message importait peu, le medium était le message, un signal pur de rappel que la route n’est pas le far-west.On peut alors regretter que cette emprise des messages de contrôle soit nécessaire pour maintenir ou diffuser des comportements civiques. En fait, les promoteurs des nudges ont porté cette critique en inventant des messages encapsulés dans des situations qui suffisaient à donner des « coups de pouce » (nudge) au niveau des signaux attentionnels les plus faibles en charge cognitive (du type de la mouche dans l’urinoir). Ainsi, les ralentissements sur les routes anglaises (hors routes principales et autoroutes) sont obtenus par le seul fait de concevoir des voies sans espaces pour les piétons sur les bas-côtés et de laisser la végétation des haies créer un mur visuel qui rétrécit l’espace perçu et qui génère la peur du croisement. Toute solution de design de ce type sera utile pour encourager le maintien des gestes barrières. Il s’agit là d’une propagation par répétition et par occupation du champ perceptif dans des situations urbaines ordinaires (une station de métro mettant en valeur un système de nettoyage des mains par rayonnement comme à Lyon). Mais les messages continueront d’être nécessaires à la condition qu’ils soient prolongés dans les faits, par des dispositifs disponibles comme masques et tests, et dans la précision des procédures et des consignes ( que faire en cas de détection ? Quel type de confinement pour quel profil ? etc.), toutes choses qui ont manqué jusqu’ici, puisque tout s’est joué sur un confinement brutal et massif poussé par la peur du virus et des sanctions. La transformation culturelle profonde en matière d’hygiène et de relations interpersonnelles en public sera très longue, progressive si la conscience d’un monde avec contagions se propage suffisamment. Mais elle peut aussi échouer complètement en raison des incohérences des politiques conduites et des messages qui les accompagnent. Et, comme souvent en matière de catastrophe et comme me l’ont souvent répété les spécialistes de la sécurité civile et des pompiers avec lesquels j’ai travaillé, « dans six mois, tout sera oublié ». La fenêtre d’attention associée à cette peur et à ce traumatisme du confinement est extrêmement brève et la mémoire de ces consignes et de cette précaution sera contrecarrée par l’impérieuse nécessité de jouir de la liberté retrouvée soutenue par les exemples qui ne manqueront pas de se présenter dans notre voisinage. La compétition des propagations que j’ai déjà décrite dans un autre article pourra éventuellement devenir une guerre de normes sociales, générant une tension dans l’espace public comme ce fut le cas pendant plusieurs années à propos de la fumée du tabac, mais avec un risque immédiat nettement plus élevé.Du déconfinement à la rétropropagationTout cela indique qu’il n’est pas simple de revenir en arrière, de revenir au monde d’avant, sans pour autant rêver d’un monde d’après qui tout d’un coup résoudrait tout ce que nous n’avons jamais voulu regarder en face précédemment. Là aussi, les habitudes sont le plus souvent les plus fortes et et se repropagent vite, comme la rivière revient dans son lit après la crue, même si parfois, elle a fini par briser des digues ou trouver un nouveau lit qui va devenir le lit principal. Le concept de rétropropagation s’est présenté comme un bon candidat pour cette discussion quand bien même, nous le verrons, il a tout l’air d’un faux ami si on abuse des analogies.Les processus de rétropropagation peuvent couvrir beaucoup de situations et le concept se découvre dans des usages très différents. Certes, en matière d’épidémiologie, il ne s’agit pas d’un retour à l’état initial dont on pourrait rêver pour une pandémie ou à l’inverse d’un retour à l’envoyeur où le sujet contagieux, l’hôte se verrait à nouveau contaminé par un virus faisant le parcours inverse du chemin originel. La question se pose cependant de l’arrêt de la pandémie et pour l’instant, on n’en parle que sous la forme de l’immunité collective ou du vaccin. L’absence de nouveaux hôtes à contaminer suffit pour éteindre la réplication du virus programmé pour cela mais bloqué dans son extension ( ce qui ne veut pas dire qu’il disparait mais que la contagion devient tellement rare qu’on peut penser que l’épidémie s’est arrêtée et qu’elle repasse à un rythme de propagation faible).De même, pour toutes les autres propagations qu’on peut étudier, il n’existe pas de marche arrière. Lorsqu’une rumeur s’est répandue, on sait à quel point il est très difficile de faire se propager un démenti avec la même force virale : les parcours, les rythmes et les relais seront totalement différents. Il s’agit plus alors de compétition entre candidats à la propagation, comme on le voit avec toutes les tentatives des décodeurs de Fake News qui échouent souvent à rétroconvaincre les personnes qui ont propagé ou adhéré à (ce qui est différent) l’info virale. Ces services parviennent cependant à créer une forme d’immunité autour de ces agents qui peuvent convaincre un autre réseau de personnes.Dans un tout autre domaine qui relève pourtant aussi de la propagation, quand on parle de « mode rétro », c’est la même chose, il ne s’agit jamais de revenir en arrière mais de relancer une mode épuisée, tout en exploitant son caractère dépassé comme trait susceptible de capter l’attention de certains publics et de créer de la distinction. Nous sommes ici plutôt dans des processus cycliques de relance constante du stock de mèmes de la mode ou d’idées, la particularité étant de ne pas les faire muter (ce qui est très souvent le cas dans la mode) mais de les reprendre en exploitant la connotation retro, porteuse de nostalgie et/ou de distinction. La répétition est la loi de ces propagations mais le seul fait de les répéter dans un milieu devenu totalement différent, les rend « retro ».Analogies diverses et fécondes (ou abusives) en matière de rétropropagation Du point de vue formel, le suivi d’une propagation est toujours orienté par le temps qui traite tous les processus sur une même ligne. Les courbes temporelles ne prévoient pas de représenter des boucles de récursivité, des retours en arrière, des cycles. Lorsqu’une récurrence se produit, elle s’ajoute sur la même ligne temporelle car il s’agit d’une nouvelle occurrence de la même entité mais on ne s’intéresse quasiment jamais au fait que ce puisse être aussi les mêmes émetteurs ou les mêmes parcours de transmission concernés, ce qui obligerait ici à revenir à une représentation en images de graphes. Pour rendre compte de toute rétropropagation, il faut garder la mémoire du parcours et de son pattern et non seulement additionner des occurrences d’un mème par exemple. Cela donne une limite à des approches trop linéaires ou simplistes de la propagation orientée par la flèche du temps. C’est ce qu’ont tenté de modéliser et de visualiser les data scientists qui travaillent sur des graphes multiniveaux (comme mes anciens collègues de l’EPFL avec P. Vandergheynst en propagation du signal). Dans cette approche, le temps n’est qu’un des features du graphe global qui rend compte de la connectivité des entités qui se propagent.Mais du point de vue de la phylodynamique (voir article précédent), il est cependant possible de constater que les passages d’un virus chez un hôte ont affecté légèrement certains de ces composants (quelques millièmes seulement), ce qui du point de vue de la méthode permet d’effectuer une approche en rétropropagation, pas si éloignée que ça que la rétropropagation de l’erreur produite en Machine Learning chez les connexionnistes (réseaux de neurones) dont nous allons parler plus loin. On remonte la chaine des propagations du virus à partir des différences minimes qui sont détectées dans chacun des prélèvements, et le gradient des différences permet de reconstituer une ligne de propagation.Il existe cependant un cas de rétropropagation intéressante à étudier dans le cas de la transcriptase inverse. Normalement le virus transforme l’information génétique de l’ADN vers l’ARN. « En biologie moléculaire, la transcription est la première étape de l'expression génique basée sur l'ADN, au cours de laquelle un segment particulier d'ADN est « copié » en ARN par une enzyme appelée ARN polymérase. Chez les eucaryotes, la transcription se déroule dans le noyau des cellules » (Wikipédia). Cette transcription a donc un sens, une orientation, c’est un « processus hautement régulé, permettant notamment aux cellules d'activer des gènes en fonction des stimuli externes » (Wikipédia). Or, certains virus appelés retrovirus (dont le VIH) peuvent remonter le processus à l’envers, en transcrivant de l’ARN en ADN dans le génome de l’hôte grâce une enzyme, la transcriptase inverse (reverse transcriptase, RT). « La transcription inverse d'ARN est un des mécanismes principaux permettant la génération de séquences répétées dans les génomes, en particulier les répétitions dispersées. Dans le génome des mammifères, les séquences LINE ou les rétrovirus endogènes contiennent ainsi souvent un gène codant une transcriptase inverse permettant la réplication et la multiplication de ces éléments mobiles ». Dans notre tentative analogique (abusive !), le mot important est ici celui de répétition, qui renvoie au processus de variation, élément clé de l’évolution. Je suppose que cela se traduit par des échecs possibles par la suite puisque certaines de ces réplications échouent sans doute. L’encodage d’ADN en ARN n’est pas en tant que telle une propagation d’une entité, on pourrait dire qu’il s’agit de la phase de la traduction lorsque le virus atteint l’hôte. Ces pistes sont très prometteuses pour l’étude des propagations mais demandent un examen détaillé de la littérature avant de prolonger une analogie de façon un peu trop sauvage.La rétropropagation est par ailleurs une méthode classique de data science en général et plus particulièrement utilisée par le Machine Learning.Voici ce que nous en disons dans notre article sur le Machine learning et les sciences sociales publié avec El Mahdi El Mahmdi dans la Revue d’anthropologie des connaissances (2020). « Un algorithme d’apprentissage mérite ici notre attention : la descente de gradient. Cette manière d’apprendre consiste à évaluer l’erreur commise par la valeur actuelle du modèle (en le testant sur les données d’apprentissage), puis à modifier le modèle en suivant la plus forte pente possible de la courbe d’erreur, afin de minimiser cette dernière. C’est l’acte de poursuite de cette plus forte pente qu’on appelle « descente du gradient ». C’est ainsi que les chercheurs décrivent aussi certains phénomènes naturels. Cet algorithme décrit bien certains phénomènes d’optimisation dans la nature. Ainsi, un spermatozoïde suit la plus forte pente de concentration chimique des marqueurs d’ovule pour se diriger vers celui-ci, un moustique suit la plus forte pente de la courbe de luminosité d’un lieu pour remonter à la lampe qui émet la lumière etc. Dans toutes les situations, la descente (ou la remontée) du gradient permet de retrouver un minimum (ou un maximum). Dans le cas du ML, la descente de gradient est un déplacement dans l’espace des paramètres pour retrouver la configuration de l’algorithme d’exécution (le modèle) qui minimise l’erreur commise sur les données d’apprentissage. Cet algorithme d’apprentissage est d’une importance significative car on le retrouve aussi bien chez les connexionnistes (rétro-propagation de l’erreur), chez les analogistes (pour la régression et ses variantes comme Lasso) ou encore chez les Bayésiens (Mandt, Hoffman &#38; Blei, 2017). (…)L’apprentissage humain fonctionnant par ajustement de la force des connexions entre neurones (poids synaptiques) selon les réponses et notamment en fonction des erreurs, le trait majeur apporté par les connexionnistes fut l’idée de rétropropagation du gradient de l’erreur, qui ajuste et pondère synapse après synapse, couche après couche, tels qu’ils sont logiquement constitués dans les algorithmes en question. »Ce qui veut dire que la rétropropagation porte sur ( et est portée par) un système apprenant, qui mesure des écarts au modèle et cherche le point qui sera le plus proche de ce qui est attendu. Le gradient de l’erreur est alors retourné à tout le système pour modifier les pondérations en tenant compte de cette nouvelle information. Ce qui suppose une notion de « système » et non d’entités indépendantes ainsi que des algorithmes de modification qui exploitent l’apprentissage.Si nous transposons cela à l’étude des propagations classiques (et en dehors du fait qu’on peut utiliser aussi des techniques de ML pour précisément vérifier la similarité entre occurrences d’une propagation de message à l’aide de réseaux de neurones), le principe de la rétropropagation peut-il s’appliquer au monde que l’on décrit ? Par voisinage progressif, une rumeur, un message peuvent-ils apprendre ? Cela serait une attribution d’agency, de capacité d’agir trop importante. En revanche, par effet de variations et d’essais erreurs, comme dans toute loi de l’évolution, une même rumeur/ message/ mème peut être émise et réémise à répétition et finir par trouver une faille dans une défense (culturelle, idéologique ou seulement conjoncturelle) qui va constituer un terrain propice à des futures propagations de rumeurs/ idées / messages/ mèmes de type identique ou voisin (effet de clustering mentionné déjà chez Everett Rogers pour les innovations). La rétropropagation ne se valide donc qu’au sein d’un système communicationnel, sans agent ni message qui apprendrait mais par le seul effet systémique de la variation répétée qui exploite les signaux de retour pour modifier les conditions du milieu, mais tout cela étant gouverné par un pur algorithme de variation au hasard, ce qui est le point clé de la théorie de l’évolution. Un peu comme pour les spermatozoïdes qui « pratiquent » la descente de gradient, la rumeur/ message/ meme suit la pente de la résistance la plus faible pour sa propagation mais les spermatozoïdes, eux non plus, « n’apprennent » rien en tant que tels, puisque c’est seulement par la prolifération des tentatives qu’ils parviennent finalement à atteindre puis à pénétrer l’ovule. Ce qui se propage dans la rétropropagation de l’erreur de la data science, c’est uniquement un gradient d’erreur par rapport à un modèle (appris sur un autre dataset, donc on sait ce qu’il faut atteindre).Dans le cas des processus naturels, la rétropropagation se fait sous la forme de la sélection des candidats qui ont atteint la cible ou optimisé un processus dans un certain milieu. Il s’agit donc d’un processus d’héritage différencié, d’un processus de génération ( ce que disait Tarde déjà).Dans le cas des processus de propagation de messages (ou d’entités culturelles), c’est aussi la variation au hasard qui finit par faire « gagner » un message (avec toutes les réserves sur cette expression qui devrait déjà comporter les croyances et les désirs). Mais dans un univers social, ce « succès » est public ou tout au moins perçu par d’autres, ce qui va engendrer de l’imitation par voisinage, par le seul fait d’être en présence de ces possibles et du « succès » d’une des occurrences. Dès lors, on peut considérer que par imitation, l’expérience des uns est transmise aux autres, qui peuvent réviser leur propre expérience et apprendre. Après tout, c’est ce que font les scientifiques de façon systématique et organisée selon des procédures de révision et de validation qui font apprentissage collectif. Eux aussi procèdent par rétropropagation de l’erreur et éliminent les chemins qui ne mènent nulle part, comme on le voit dans la controverse sur la chloroquine ( !) d’aucuns diraient que dans le climat antiscientifique actuel, c’est au contraire l’erreur qui se propage mieux. C’est souvent exact en termes de rythmes et selon le moment où l’observateur se place, mais sur le plus long terme, les épreuves diverses permettent de réduire l’erreur.Le point précédent peut paraitre spécieux, jargonneux, ou abusivement analogiste, mais il pose un problème de méthode fondamental. Si l’on adopte provisoirement (ce que j’ai toujours préconisé) une approche élémentariste qui cherche à suivre ce que fait une entité circulante en la dotant d’un pouvoir d’agir qui lui est propre ( en allant au-delà de Tarde qui au fond attribue tout le pouvoir d’agir à des cerveaux, ce qui n’est pas faux mais sans doute réducteur de la puissance de l’intuition de Tarde lui-même), on peut assez facilement rater les effets de variation qui seuls permettront de dégager l’entité qui va se propager de façon suffisamment profonde, durable, intense, étendue (ici toutes les métriques sont possibles). Il faut donc veiller (ce que j’ai toujours proposé) à conserver toujours une dimension comparative à ces analyses. Comparaison qui portent soit sur les entités similaires considérées comme des variations (dérivations en mémétique) soit sur les milieux, car c’est de leur ajustement qu’émerge une propagation qui se stabilise. Mais cela ne suffira pas encore à rendre compte de l’effet d’apprentissage de ce milieu, sachant que ce ne sont pas les entités isolées qui peuvent bénéficier de cette rétropropagation. On parle ici alors d’imitation horizontale, voire de combinaison assez proche de ce que Keck mentionnait dans le papier republié sur ce blog.Bref, cette méditation méthodologique sur la rétropropagation, aura été l’occasion de réfléchir non seulement sur la fin d’une propagation (après avoir étudié l’origine, c’était impératif et il faudra y revenir) mais une fin paradoxale, qui annule en fait les propagations précédentes malgré la flèche indétournable du temps. Gagnepain disait que la capacité humaine d’histoire était de dépasser la mémoire pour en faire « un devenir qui se récapitule », c’est exactement cet enjeu dans cette rétropropagation : nous ne sommes plus dans la mémoire stock mais dans la mémoire apprentissage qui réécrit (ou réinterprète) les traces qu’elle a laissées, c’est alors une histoire et non plus une mémoire.&#160;