Post-vérité, Qu’est ce qui augmente le R(t) de l’irrationnel ? (4/5)

Pour ceux qui n’ont pas le temps de lire, vous pouvez regarder le pendantLaBiere #13 (lien externe) où j’explique en live cet article.

Dans l’épisode précédent, nous avons vu les 3 brèches qui expliquent que le plus beau rempart aux sornettes que l’humanité ait inventé, la science, soit en train de s’effondrer.

Post-vérité, la science est-elle encore dans le “vrai” ? (3/5)
3 raisons qui expliquent pourquoi le discours scientifique a de plus en plus de mal à se diffuser en 2020apreslabiere.fr

Dans l’article d’aujourd’hui nous allons voir les 2 armes de diffusion massive dont elles bénéficient en 2020 :

Nous en avons déjà parlé dans l’épisode 2, nous sommes des “fabricants de récits sur pattes”.

Que nous soyons des fabriques à histoires ambulantes n’est pas nouveau. L’effondrement de la confiance en la science ne fait que laisser de la place à l’émergence et à la diffusion de nouveaux types de récits allant parfois à l’encontre des connaissances scientifiques.

Cette diffusion de faits ou de récits “alternatifs” serait selon certains¹ très nettement amplifiée par les algorithmes de recommandation qu’utilisent toutes les plateformes de réseaux sociaux actuelles : facebook, instagram, twitter, snapchat, tiktok, youtube.

Pour ceux pour qui sont aussi familiers avec les algorithmes de recommandation que moi avec les méthodes d’évaluation de la comestibilité des champignons, sachez qu’il s’agit simplement de programmes informatiques dont l’objectif est de dénicher dans tout le contenu de la plateforme quel est le contenu qui vous sera “proposé”. L’algorithme se sert pour remplir sa mission de critères et de méthodes qui sont propres à la plateforme : le contenu que vous avez déclaré apprécier, le contenu avec lequel vous interagissez (à l’insu de votre plein gré), le contenu qui vous “scotche” le plus à la plateforme, etc etc.

(Attention d’ailleurs à ne pas confondre “ce que nous déclarons aimer” et “le contenu que nous consommons vraiment”. Comme le notait avec malice un article de 2012 à propos d’un sondage ifop sur les habitudes télévisuelles des français : “Pourquoi les français adorent Arte mais regardent TF1 ?” ²)

Lorsqu’on réalise que pour 62% des adultes américains, les réseaux sociaux constituent un point d’entrée à l’information et à l’actualité ³, on est en droit de s’interroger. Recevoir de l’actualité au travers des “réseaux sociaux”, c’est quelque part faire confiance à un algorithme de recommandation pour nous apporter des informations pertinentes. Pour une mission sociétale aussi centrale, est-ce un choix éclairé que de faire confiance à des programmes dont le seul but de capter notre attention ?

Là où le bas blesse vraiment, c’est qu’en se concentrant sur la captation de l’attention humaine et en disposant d’une quantité astronomique de données quant à nos habitudes de visionnage, les algorithmes de recommandation redécouvrent rapidement tous nos raccourcis de pensée (autrement appelés biais cognitifs). Ils débusquent empiriquement ces “faiblesses” humaines que les études scientifiques ne cessent d’identifier depuis des dizaines d’années.

Ce sont ces raccourcis de la pensée que notre évolution et notre culture nous ont planté dans le crâne qui expliquent en partie nos difficultés actuelles à intégrer les discours complexes, non manichéens et apaisés. Ces idées complexes et pleines d’incertitudes n’ont pas l’énorme “pouvoir de scotchage” qu’ont d’autres concepts, plus élémentaires et plus appréhendables. Par conséquent, elles ont tendance à être délaissées par les algorithmes.

A contrario, certaines thèses et récits alternatifs, qui vont à l’encontre des faits, des connaissances et de la logique auront un pouvoir de captation gigantesque.

Nous vivons dans un monde où nous sommes de plus en plus nombreux à avoir peur ou bien à penser qu’on nous ment partout et tout le temps jusqu’à tenir pour certains des postures “risibles” de prime abord. Quelle que soit la certitude collective à laquelle votre récit alternatif s’attaque, vous pouvez toujours dire qu’il s’agit d’un complot extrêmement bien fait :

Dans ma logique, l’une des explications les plus probables à l’accumulation gigantesque de preuves que la terre soit ronde (#vendéeGlobe) est peut-être … le fait qu’elle le soit. Pourtant cette logique ne semble plus pouvoir atteindre des gens qui ont déjà investi trop d’énergie dans la défense de sa platitude et qui ne peuvent par conséquent plus faire demi-tour. L’exemple est volontairement caricatural afin de permettre à chacun de comprendre le mécanisme sans que ses propres croyances soient mises en défaut. (Les miennes aussi ⁴)

En attendant d’être exhumés dans le dernier épisode de cette série, Ockham, son rasoir et sa méthode de discernement redoutablement efficace peuvent continuer à se retourner, d’une théorie du complot farfelue à l’autre, dans leur tombe.

Si des “entités” ont bien compris que les explications les plus probables et logiques n’étaient ni les meilleures ni les plus scotchantes pour un cerveau humain, ce sont bien ces algorithmes de recommandation. Ils sont conçus pour détecter tous les “trous noirs attentionnels” qui existent sur leur plateforme. Une fois détectés ils les mettent en avant, quoiqu’en pensent les faits, la logique, la morale et la rationalité et surtout quoiqu’il nous en coûte.

La métrique qu’observe attentivement les algorithmes de recommandations, c’est le temps de scotchage, ce n’est pas à quel point la société est en train de voler en éclat.

Quand on sait que l’algorithme de recommandation de Youtube est directement responsable de ce que regarde l’humanité 700 millions d’heures par jour ⁵, on peut facilement paniquer…

C’est ainsi que Guillaume Chaslot a découvert grâce à son projet AlgoTransparency que Youtube avait proposé les vidéos de Trump 6 fois plus souvent que celles de Clinton lors de la dernière campagne présidentielle⁶. Il est assez facile de comprendre la logique aussi efficace qu’implacable de l’algorithme… Nous sommes nombreux à avoir été scotchés beaucoup plus de temps que de raison devant certaines des énormes saucisses ⁷ ⁸(“grab’em by the pussy et le truc avec le calendrier) dont seul Trump est capable.

Forcément à côté, les vidéos de Hilary, c’est un peu comme regarder du curling…

On me dira qu’il ne tient qu’à nous, armés de notre libre arbitre de “ne pas cliquer”. En disant ça, on ne réalise pas à quel point il est vain de parler de “libre arbitre” en 2020 alors que les algorithmes de recommandation sont nourris avec tellement de données qualifiées à notre sujet qu’ils connaissent mieux nos goûts et leurs évolutions que nous ne les connaîtrons jamais. C’est pour cela que Tristan Harris, spécialiste du sujet déclare à ce propos :

Aux irréductibles du libre arbitre qui pensent toujours au fond d’eux qu’il s’agit d’un “choix” que nous serions “libres” de faire ou de ne pas faire, je tiens à dire que ce qu’il se passe actuellement avec les algorithmes de recommandation, c’est comme si dès qu’on mettait un pied dans la cuisine, PAF il y avait un chef étoilé qui sortait d’un placard. Afin de concocter exactement le plat, les bonbons, les beignets ou les croissants qui auraient le plus de chance de nous transformer en aspirateur à lipides, le chef aurait en plus à sa disposition toute l’historique de tout ce qu’on a mangé, aimé et détesté depuis que nous sommes nés et tous les meilleurs produits que la Terre ait porté. Personnellement, dans ces conditions, je déménage directement dans la cuisine, ce sera plus pratique étant donné qu’après 2 semaines de ce régime, je ne pourrai de toute manière plus m’y rendre.

On vient tous de passer 2 mois en confinement, on sait que la “volonté nécessaire” à ne pas s’empiffrer de trucs sucrés ou gras en permanence est immense, là c’est le même principe en encore plus machiavélique. Pour résister aux recommandations, ce n’est plus de l’illusion de libre arbitre dont nous avons besoin mais plutôt de volonté surhumaine.

Arrêtons de parler de libre arbitre à tout bout de champs et admettons une bonne fois pour toute que l’être humain a des failles béantes dans la manière dont il pense. De toute manière, le libre arbitre au sens où on l’entend ne semble pas pouvoir exister, mais c’est une autre histoire ¹⁰.

Nous laissons donc à des algorithmes infiniment plus puissants que nos meilleures écoles le soin de diffuser massivement les récits auxquels la version la plus primitive et la moins réfléchie de l’homo sapiens a envie de croire ?

On se dit souvent que les algorithmes de recommandation n’ont pas de morale. Il n y a pour eux pas de “bon” ou de “mauvais” contenu au sens de la morale. Il y a simplement du contenu qui “fonctionne” ou qui “ne fonctionne pas”. Autrement dit, il y a du contenu qui maximise les chances pour qu’un utilisateur reste longtemps sur la plateforme et du contenu qui nous laisse ou bien fait partir. C’est simple et surtout ça donne l’impression d’être un critère politiquement et moralement “neutre”. Sauf que quand on comprend les conséquences de cette logique, on réalise que l’algorithme devient à la longue et “par design” non pas a-moral (sans morale) mais immoral (à l’encontre de la morale).

C’est en tous les cas la thèse de Guillaume Chaslot ¹ ⁶. Selon cet ingénieur qui travaillait justement sur l’algorithme de recommandation de Youtube, l’algorithme va avoir tendance à recommander des contenus immoraux ou plutôt qui vont à l’encontre du consensus de la société sur un sujet donné.

Prenons l’exemple du changement climatique et remarquons que le même raisonnement fonctionnerait avec n’importe quelle thèse qui va à contre- courant du consensus sociétal/scientifique : de la pyramidologie aux anti-vax en passant par la terre plate.

Après 10 ans d’âpres luttes pour faire accepter le consensus scientifique du GIEC, les informations climato sceptiques sont aujourd’hui peu présentes dans la sphère médiatique classique. Les gens qui s’intéressent à ces thèses ou bien qui ont le potentiel d’y être sensibles (voir pourquoi on peut s’intéresser à des thèses irrationnelles dans l’épisode 3 (lien externe)) vont donc trouver le contenu qui les brosse dans le sens de leur croyance uniquement sur youtube. Lorsqu’ils vont enfin tomber sur le graal de leur croyance en vidéos sur youtube, ils risquent alors de bingewatcher la série tel un fan de GoT revenant à la civilisation après s’être échoué “seul au monde” au milieu de la saison 3.

Ces vidéos deviennent par conséquent un très bon point d’entrée à proposer étant donné que d’après les données dont l’algorithme dispose, les gens qui commencent à regarder une vidéo restent sur la plateforme trèèèèèès longtemps. Selon l’algorithme ces vidéos constituent les “trous noirs attentionnels” de la plateforme et il aura par conséquent tout intérêt à faire graviter tous les utilisateurs à leur proximité. Pour ce faire, il lui suffira de les recommander aussi chaudement que je vous recommande le podcast de tristan Harris (à tout hasard) : your undivided attention¹.

Lorsque j’ai compris cela, j’ai réalisé que c’était pire que ce que je pressentais. Non seulement l’algorithme qui décide de ce que l’humanité va penser demain (700 millions d’heures par jour, 700 MILLIONS d’heures par JOUR !!!) n’a pas de morale mais il est finalement immoral.

L’histoire prend tout son mordant lorqu’on comprend que c’est précisément grâce aux fruits technologiques de la science et de la raison qui nous sommes en train de nous attaquer aux bases mêmes de l’arbre de la rationalité. L’obscurantisme d’aujourd’hui doit son meilleur vecteur de diffusion aux outils qui prennent leur source dans la défaite de l’obscurantisme d’hier.

#Ironie

Combien de temps pour que l’obscurantisme gagne sa revanche ?

Réponse courte : ça peut aller vite … très très vite

Le monde semble pris dans un vortex dont l’accélération s’auto alimente. Sa puissance et sa rapidité semblent se nourrir de tout ce qui en sort.

Plus le monde et les événements qu’il créé accélèrent et plus nous sommes sommés de réagir rapidement.

En voulant avoir un avis rapide sur tout, nous tombons nécessairement et par définition dans le parfum de post-vérité qu’on a appelé dans le premier épisode (lien externe) le parfum “des prévisions à l’emporte-pièce”. Plus ça va vite et plus il devient important d’avoir des certitudes agissantes rapides. Comment pourrait-on rester immobiles face à un péril vers lequel on se précipite ? Vous ne pouvez pas rester figés, les mains sur le volant alors que vous vous rapprochez d’un mur à vitesse grand V, si ?

Il en va de même pour de nombreuses situations sociétales actuelles. La rapidité et l’ampleur de leur évolution nous sommes d’y réagir plus rapidement que ce que notre capacité à digérer leur complexité ne devrait le permettre.

C’est ce parfum de post-vérité dans lequel on tombe tous le plus facilement, moi le premier …

La prudence est un choix difficile (voire impossible) face à l’urgence. Si nous n’en étions pas convaincu en 2019, depuis l’urgence covid est venu mettre à l’épreuve notre prudence déjà moribonde.

Alors que “la maison brûle” littéralement, il n’est par exemple pas évident de prendre le réflexe de la “crédence” où il s’agit d’associer à nos propositions le degré de certitude qu’on leur attribue :

“La maison brûle et je suis sûr à 48% que tenter d’étouffer le feu avec une couverture n’est pas la solution optimale”.

Nos fonctionnements et le fonctionnement des plateformes modernes se modèlent dans une boucle de rétro-action quasi infinie.

Quand on appréhende la complexité vertigineuse du monde, on en vient à se demander s’il est même possible d’y faire des choix “éclairés”. La page wikipedia des fameuses “unintended consequences” est pleine de ces exemples où le diable s’est caché dans les détails de la complexité.

Comme cette fois où l’obligation législative du port du casque en vélo semble avoir globalement — et reconnaissons-le “assez contre-intuitivement”- desservi la santé des australiens. Et oui, trop ont tout simplement préféré faire moins de vélo que d’avoir l’air d’une tortue mal lunée avec leur casque décathlon. ¹¹

#LaCoolitudeTue

Quand on réalise la puissance prodigieuse des conséquences inattendues de phénomènes infimes, on se demande légitimement quelles pourront bien être les conséquences titanesques du covid et des confinements ?

Dans tous les cas, cette rétro-action entre la vitesse des changements environnementaux (qu’ils soient ou non causés par l’humanité) et la rapidité d’action nécessaire pour les “contrôler” a tendance à mettre en avant dans notre société moderne les certitudes plutôt que le doute.

Essayez donc d’exprimer votre crédence, vos doutes et de la complexité en 280 caractères… N’est pas Edgar qui veut…

Et si par miracle vous y parvenez, vous aurez toujours moins de likes que Juliette Binoche et ses interventions instagramesques qui feraient passer un pixel pour un nuancier :

A ce manque de promotion du doute et de la complexité dans les prises de position publique, qualités qui devraient pourtant être l’indicateur le plus fiable d’une intelligence affûtée, vient s’ajouter deux nouveaux manques, également accentués par l’accélération en cours et qui aggravent la décomposition de notre capacité à créer une vérité partagée :

En pleine accélération technique, au moment où la maîtrise des conséquences de notre puissance technique nécessiterait une bien meilleure appréhension de la complexité, nous semblons condamnés à des modes d’expression instantanés qui nous en éloigne de plus en plus.

Nous sommes donc dans une société où la démarche de connaissance la plus efficace que nous connaissons (en ce qui concerne le “comment” des choses) se trouve très affaiblie. (voir épisode 3 (lien externe))

Dans le même temps, ce sont les récits qui vont le plus à son encontre qui se diffusent le plus massivement et le plus rapidement.

Et l’accélération technique que nous vivons nous intime de réagir de plus en plus rapidement au moment même où la complexité de notre monde mérite une maturité collective dont nous semblons incapables et dont nous nous éloignons au vue des 2 points sus-mentionnés.

Dans le cinquième et dernier épisode de cette série (dans 3 semaines), on essaie de réfléchir à ce qu’on peut faire pour traverser et peut-être écourter/adoucir cette ère de la post-vérité:

Post-vérité, Contre l’obscurantisme qui vient, une vérité plus inclusive ? (5/5)
La meilleure manière de lutter contre la post-vérité, c’est peut-être de lutter “pour” une vérité plus “inclusive” …apreslabiere.fr

En attendant, je vous souhaite plus que jamais:

Paix et santé,

Et tant que vous êtes là ;), voici quelques manières de suivre et de soutenir le projet d’ApresLaBiere :

1) Soutenir ApresLaBiere sur Tipeee (lien externe) (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)

2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :

3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)

4) Liker et suivre ApresLaBiere sur facebook (lien externe), twitter (lien externe) ou instagram (lien externe)

5) Penser à faire appel à Homo Conscientus (moi :)) (lien externe) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.

SOURCES / LIENS / POUR ALLER PLUS LOIN :

¹ Guillaume Chaslot l’explique très bien dans cet excellent podcast (your undivided attention (lien externe)) en anglais : “Down the rabbit hole (lien externe)”
² L’article / entretien “Pourquoi les Français aiment Arte mais regardent TF1 (lien externe)” avec le démographe Jé (lien externe)rôme Fourquet où il analyse les comportements télévisuels des français. 
³ Rapport (lien externe) sur l’influence des réseaux sociaux sur l’engagement politique où il y a des chiffres sur les pourcentages de personnes se servant des réseaux sociaux comme source d’actualités aux US.
⁴ Par exemple, je viens de parcourir ça (lien externe) et forcément je me questionne …
⁵ Intro du site “AlgoTransparency (lien externe)” mais j’ai souvent vu le chiffre apparaître depuis 2017, vraisemblablement, il n’a pas diminué … #Croissance #Confinement
⁶ Article (lien externe) du guardian, en collaboration avec Chaslot sur le sujet
⁷ Une vidéo célèbre où Trump expose ses méthodes de drague (lien externe) qui, hélas, sans lui être propre sont propres à une époque qu’on espère révolue. 
⁸ Ce calendrier (lien externe) des conneries qu’a sorti Trump pendant le début de la pandémie vaut bien la peine d’aller chercher quelques popcorns
⁹ Citation originale “If I have data, then I know exactly what’s going to move your psychology, and I can persuade your mind in ways that you wouldn’t even know were targeted just at you.” dans cet article (lien externe)
¹⁰ J’ai pas mal réfléchi au libre arbitre dans une série d’articles (lien externe) consacrés au sujet et dans un TedX (lien externe) à l’INSA de Toulouse
¹¹ La page wikipedia extraordinaire des “conséquences inattendues (lien externe)” (en anglais) avec notamment le truc des casques de vélo Australie (note de bas de page 30, lien cassé pour l’instant). 
¹² Article des Inrockuptibles qui résume l’affaire : “Démission de Delevoye, Christophe Barbier dit tout et son contraire en moins de 24 heures (lien externe)”