Pour ceux qui n’ont pas le temps de lire, vous pouvez regarder le pendantLaBiere #17 (lien externe) où j’explique en live (et en tout petit) cet article.
Instinctivement et sans y réfléchir plus que ça, on se dit qu’un idéal de société simple, ce serait que
“Tout le monde soit heureux !”
“Basique” … Et plutôt attrayant comme programme non ? Même si ça sonne un peu trop “mangez des pommes” pour être sérieux.
Qui, finalement, ne signerait pas pour qu’il advienne instantanément ? Si seulement c’était possible !
Et pourtant, même dans cette éventualité, tout porte à croire que nous ne signerions pas…
Imaginons que débarquent sur Terre des extra-terrestres et imaginons qu’ils soient à la fois techniquement plus développés et plus bienveillants que nous. Dans leur grand clémence, ils nous offrent, si nous le désirons, de nous rendre tous “maximalement heureux”, c’est-à-dire de maximiser notre bonheur, chacun selon sa vision et ses préférences. Cette offre est valable pour tout individu ou bien tout groupe d’individus qui le souhaite.
Le hic, c’est lorsque vous et vos proches allez voir les extraterrestres afin d’accéder à ce bonheur suprême, ils vous dirigent vers des sarcophages individuels dans lesquels vous devrez vous introduire et vous brancher pour vivre une vie “simulée” par le sarcophage. En fonction de l’évolution de votre “vie”, de vos réactions et de vos préférences, la machine sarcophage simulera les expériences optimales pour maintenir au plus haut votre taux de bonheur.
Si votre vision du bonheur passe par des expériences incroyables avec vos amis (les mêmes avec qui vous êtes allés voir les extraterrestres bienveillants), la machine l’intégrera et vous fera vivre des expériences fantastiques avec la version “optimale” et simulée de vos amis. Pendant ce temps, vos amis seront dans leur sarcophage et ils joueront avec une version optimale et simulée de vous-même. Chacun filera par conséquent son bonheur parfait, tranquillement allongé, côte à côte, dans son sarcophage.
Bien entendu, si le fait de savoir que vous vivez dans une illusion entrave votre bonheur, alors la machine s’arrangera pour que vous ayez, une fois branché, simplement la sensation de vous réveiller et de commencer une vie idéale sans avoir le moindre souvenir des extra-terrestres bienveillants ou du sarcophage dans lequel vous êtes.
Si vous pensez être influencé par le choix de vos proches car vous ne voulez ni en abandonner certains à la vie “réelle” ni être laissé pour compte en ne vous branchant pas, imaginez simplement que tous vos potes vous suivent quel que soit votre choix : vous y allez, tous vos proches se branchent, vous n’y allez pas, personne ne se branche.
Tout cela étant dit, la question est :
Que faites vous ?
Quel que soit votre choix, il n’est pas forcément évident, il y a souvent une petite résistance et c’est précisément celle-ci qui est intéressante. Et même si individuellement, certains d’entre nous peuvent n’éprouver aucune résistance à choisir soit l’option 1, soit l’option 2, on notera que les choix sont finalement plutôt partagés dans la population humaine (50/50 d’après le sondage sur un échantillon “conséquent mais non représentatif” de Mr Phi).
On ne serait donc même pas foutus d’être d’accord sur “un bonheur pour tous obtenu sans causer de tort à personne ?”
On est quand même sacrément tracassés quand on y réfléchit.
On constate avec cette expérience de pensée qu’en réalité, ce vers quoi nous voulons que le monde tende est un peu plus complexes que simplement “être heureux” et ce même si chacun a droit à sa propre version du bonheur (ce qui semble déjà être un critère quasi-impossible à réaliser).
Il y a finalement d’autres valeurs que le bonheur final des uns et des autres qui entrent en compte dans notre calcul.
C’est justement la “fragilité” de ces valeurs que souligne l’inoubliable dialogue entre les deux personnages principaux du roman “Le Meilleur des mondes”, Mustafa Menier et John le sauvage.
John est révolté face au bonheur généralisé garanti par l’ordre mondial qu’il combat. Il s’agit pour lui d’un bonheur artificiel, sans beauté ni vérité. Or pour John le sauvage le bonheur doit être acquis à grand renfort de noblesse, de courage et d’héroïsme.
Mustapha Menier, l’administrateur mondial tente de lui expliquer qu’il n’est point besoin de tout cela pour que chacun ait accès au bonheur dans la société qu’il administre :
“Ici, vous êtes conditionné de telle sorte que vous ne pouvez vous empêcher de faire ce que vous avez à faire. Et ce que vous avez à faire est, dans l’ensemble, si agréable, on laisse leur libre jeu à un si grand nombre de vos impulsions naturelles, qu’il n’y a véritablement pas de tentations auxquelles il faille résister. Et si jamais, par quelque malchance, il se produisait d’une façon ou d’une autre quelque chose de désagréable, eh bien, il y a toujours le soma (une drogue) qui vous permet de prendre congé, de vous évader de la réalité.”
Cette vision du bonheur laisse John interloqué car pour lui :
“les larmes sont nécessaires […].”
Or pour Mustapha, la souffrance et l’héroïsme ne sont en rien nécessaires à l’accession collective au bonheur, à part peut-être dans le monde imaginaire et fantasmé de John le sauvage. Seulement, le monde de Mustapha est tout autre :
“Là où il y a des guerres, là où il y a des serments de fidélité multiples et divisés, là où il y a des tentations auxquelles on doit résister, des objets d’amour pour lesquels il faut combattre ou qu’il faut défendre, là, manifestement, la noblesse et l’héroïsme ont un sens. Mais il n’y a pas de guerres, de nos jours.”
Mais cette vision du bonheur n’est pas compatible avec celle de John le sauvage, tout simplement car elle est issue d’un monde qui n’est pas le sien. John a beau se rendre compte que le monde n’est pas tel qu’il se l’est imaginé, le système de valeurs issu du monde dans lequel il a grandi et avec lequel il continue de l’analyser ne l’a, en quelque sorte, pas suivi. Il est par conséquent totalement logique qu’il se révolte face à l’exposé, froid et rationnel de Menier :
“Mais je n’en veux pas, du confort. Je veux Dieu, je veux de la poésie, je veux du danger véritable, je veux de la liberté, je veux de la bonté, je veux du péché”
Ce qui dans le système de valeurs de Menier, basé sur la valeur unique du bonheur et dans un monde où la mise en danger n’a aucune “utilité” (en terme de bonheur apporté), n’a aucun sens :
“En somme, vous réclamez le droit d’être malheureux. […] Sans parler du droit d’avoir la syphilis et le cancer; du droit d’avoir trop peu à manger; du droit d’avoir des poux ; du droit de vivre dans l’appréhension constante de ce qui pourra se produire demain : du droit d’attraper la typhoïde, du droit d’être torturé par des douleurs indicibles de toutes sorte.”
Nous voudrons de l’héroïsme même s’il n’avait plus lieu d’être. Nous voudrons du courage même s’il n’était plus nécessaire. Nous voudrons toutes ces valeurs, non parce qu’elles seront demain vitales mais car elles transpirent du monde dans lequel nous avons grandi. Dans l’histoire des civilisations dont nous descendons, ces valeurs ont été au “mieux” nécessaires et au pire “sans conséquences négatives”.
Ce que met en avant ce dialogue, ce n’est peut-être pas tant une “dystopie” mais l’impossibilité que nous avons à imaginer et à nous satisfaire de toute “utopie” quand bien même elle adviendrait. C’est comme ci, quelque part, nous étions physiquement incapables d’être satisfaits…
Les dystopies numériques, on connait, mais les utopies numérique, elles donneraient quoi ?
C’est exactement ce qu’explicite Yuval Harari dans une discussion avec le fondateur de Humanetech dans le dernier épisode ² du podcast “Your undivided attention” :
“Et c’est une chose que je trouve très troublante. Même en mettant de côté les dystopies [portant sur une I.A mal intentionnée]. Reste une entité [I.A] qui n’est pas vous et qui en vient à vous connaître mieux que vous-même, et ce sera de plus en plus “elle” qui prendra toutes les décisions de votre vie.
Prenons pour exemple des questions telles que “Quelle matière étudier ?”, “Quel type de musique écouter ?”, “Qui élire pour une rencontre amoureuse ou sexuelle?” ou “Avec qui se marier ?” La plupart des gens pensent qu’une intelligence artificielle sollicitée sur ces thèmes les enfermerait dans une sorte de chambre d’écho. Pour revenir sur la musique, elle ne proposerait que ce à quoi vous êtes déjà habitués. C’est une erreur. Le type d’I.A dont nous parlons ici aurait une capacité à élargir vos goûts musicaux jusqu’alors inégalée. Vous pourriez lui dire : « J’aimerais ouvrir mes horizons musicaux. Manipule-moi dans ce sens ».
Le système identifierait tout d’abord le meilleur moment pour vous faire écouter un nouveau style de musique. Disons que vous aimez le jazz. Il saurait choisir le moment de la journée ou de la semaine où vous êtes le plus ouvert à de nouvelles expériences pour vous faire découvrir tel ou tel groupe de hip hop, de K-pop coréenne ou que sais-je encore. Il saurait également quel pourcentage de nouvelles musiques vous donner à entendre. 50 %, c’est beaucoup trop : difficilement encaissable, cela vous fatiguerait… 1 %, ce n’est pas assez… Il saurait déterminer la quantité optimale de nouveauté pour vous et vous seul, en fonction de votre personnalité, votre vécu, etc… Disons par exemple 5% : ce gars est capable d’apprécier une moyenne 5% de nouveauté en musique ; allons-y pour 5% !
Droits réservés : On remarquera que c’est ce qu’a tenté de faire spotify en 2019 avec sa playlist personnalisée “Votre face cachée”
Beaucoup de domaines pourraient être affectés de manière similaire. L’intelligence artificielle serait pour vous quelque chose comme un compromis entre un assistant dévoué et un mentor, un guide de vie. Je le rappelle : je ne parle pas ici d’un système maléfique, mais vous perdez quand même du pouvoir d’agir sur votre propre vie. C’est également très difficile de définir ce que sont vos meilleurs intérêts et qui les définit ? Je me pose cette question depuis longtemps et je ne trouve pas la réponse. Quand j’essaie vraiment d’imaginer à quoi cela ressemblerait, j’ai l’impression que mon imagination s’effondre.”
Effectivement, lorsqu’on réfléchit profondément et sincèrement à ces 3 différentes situations, l’inextricabilité de la position humaine nous saute aux yeux. La “bonne” réponse à ces questionnement n’existe pas et n’existera jamais.
Ce qui est intéressant dans ces 3 expériences, c’est qu’elles nous mettent face à nous-mêmes, face aux contradictions qu’on voudrait tellement pouvoir glisser sous le tapis. Parmi les différents types de réactions possibles, il y en a deux, selon moi, qui sont riches pour les individus qui en font l’expérience :
Dans les deux cas, nous réalisons l’existence et la “fragilité” de nos systèmes de valeurs. C’est précisément cette conscience de la fragilité de toute idéologie humaine que nous devrions garder à l’esprit lorsque nous nous croyons idéologiquement et politiquement si supérieur à notre interlocuteur. La complexité abyssale de ces questionnements nous rappelle à quel point les postures politiques engagées et militantes se basent, par définition, sur une énorme simplification de ce qui serait “bien pour tous”.
Mais comme dans tout système complexe, nous sommes “condamnés” à faire ces simplifications si nous voulons interagir avec celui ci, c’est ce que nous rappelle Hervé P. Zwirn dans son livre “Les systèmes complexes” :
“Il n’y a aucun moyen de prévoir comment une modification quelconque va influencer la dynamique du système. Le seul moyen de savoir est d’observer ce qui se passe réellement. Acteur d’un tel système, Kauffman nous dit que nous ne pouvons jamais prévoir les conséquences de nos actions et que le mieux que nous puissions faire est de les optimiser localement sans espoir de maîtriser ce qui se passe globalement.”
Notre histoire et notre environnement communs font que tous les systèmes de valeurs humains sont en grande partie similaire.
Mais la diversité de nos histoires et les milieux spécifiques dans lesquels les communautés humaines se sont développées ont également engendré de la variabilité dans ces systèmes de valeurs. C’est le sujet de l’épisode 2 de cette série :
Des systèmes de valeurs qui reflètent notre environnement et nos histoires tracassées (2/3)
Est ce l’environnement qui façonne la culture ou bien l‘inverse ? Forcément, c’est plus complexe …apreslabiere.fr
Pour s’attaquer aux problématiques qui concernent tous les êtres humains (et plus largement tous les êtres vivants) aujourd’hui - changement climatique, disparition des espèces, dégradation des éco-systèmes terrestres - est-il plus judicieux de miser sur une plus grande globalisation de notre société (et donc de ses systèmes de valeurs) ou bien l’inverse ?
Qu’est-ce qui émergera du chaos climatique : mondialisme ou communalisme ? (3/3)
Dans le chaos à venir qui se fait tous les jours plus probable, est-ce que nos systèmes auront tendance à s’unifier ou…apreslabiere.fr
Sur ce, je vous souhaite à tous,
Paix et santé,
Et tant que vous êtes là ;), voici quelques manières de suivre et de soutenir le projet d’ApresLaBiere :
1) Soutenir ApresLaBiere sur Tipeee (lien externe) (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)
2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :
3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)
4) Liker et suivre ApresLaBiere sur facebook (lien externe), twitter (lien externe) ou instagram (lien externe)
5) Penser à faire appel à Homo Conscientus (moi :)) (lien externe) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.
SOURCES / LIENS / POUR ALLER PLUS LOIN :
¹ La très chouette vidéo de Mr Phi sur le sujet : “LA MACHINE À EXPÉRIENCE de Robert Nozick (lien externe)”
² Your undivided attention : “28 — Two Million Years in Two Hours: A Conversation with Yuval Noah Harari (lien externe)”
Informations
Crédits
Transcription