L’intelligence artificielle, l’enjeu qui éclipse tous les autres?

Mercredi dernier, j’ai eu la chance d’animer une journée de débat passionnante à l’ICAM de Toulouse (lien externe) qui aurait très bien pu s’appeler “Est ce que l’avènement de l’intelligence artificielle (IA) va envoyer le changement climatique au bac à sable des enjeux sociétaux?”. 60 élèves ont débattu avec fougue de ces questions pendant une journée, le résultat des courses avait une allure de “même pas peur et même si on crée quelque chose de beaucoup plus intelligent que nous, on sera toujours supérieur”. En soi, pourquoi pas, ils ont raison, il faut avoir confiance en l’avenir mais je pense qu’il faut se donner les moyens de cette confiance et pour ça, il faut être vraiment conscient de ce qui se joue et ne surtout pas être condescendant de ce que l’homme peut créer car comme le disait Paul Valéry: “L’homme sait assez souvent ce qu’il fait, il ne sait jamais ce que fait ce qu’il fait.” Ça n’a jamais été aussi vrai que dans le cas de l’intelligence artificielle (IA).

Salut Arthur, [50 prénoms de personnes nées dans la fin des 90's], Léopold,

Avant d’aborder le nerf de la guerre (qui a très peu de chance d’ailleurs de ressembler à ça (lien externe)) de la thématique, c’est important, comme dans toute réflexion sur la technique, sur l’innovation, de commencer par mettre 2/3 points sur 2/3 “i”:

Premier point:

L’intelligence artificielle, comme toute autre innovation technique, doit être développée au nom d’un projet de société qu’on aura choisi collectivement. L’intelligence artificielle pourra peut-être nous aider à dire ce qui est mais elle ne nous dira jamais ce qui doit être, ou bien pour être plus juste: peut être nous aidera-t-elle aussi à construire ce qui, selon l’humain, doit être. Tout ça on l’a déjà un peu abordé là (lien externe).

Deuxième point:

Comme toute technologie, l’intelligence artificielle viendra avec son lot évident d’avantages mais aussi avec son lot beaucoup moins évident et beaucoup moins évoqué de désavantages. Après on peut toujours se la jouer Amish et stopper le progrès à l’année que l’on trouve opportune:

“Moi l’iphone 8? Jamais! J’ai tout stoppé en 2016, je me contente du 7, c’est clairement et à jamais le meilleur!”

Mais l‘aventure et la curiosité humaine étant ce qu’elles sont, je pense qu’il y a très peu d’intérêt sociétal à freiner des quatre fers, si l’humain peut développer une IA qui modifiera profondément le monde, il le fera, point barre. Que vous et votre communauté Amish 2.0 ne soyez pas pour n’y changera absolument rien.

Vous ne serez de toute manière même pas tranquilles car le jour où ça lui semblera utile, l’IA hackera vos iphones 7 avec la même facilité que notre matheux national calcule la CSG sur les fiches de paie (lien externe) de l’institut Poincaré.

Le seul combat qui compte est donc de faire en sorte que cette IA serve notre projet collectif et que ça ne soit pas nous qui la servions ou bien pire qu’on ne lui serve tout simplement à rien et qu’elle commence à nous traiter comme nous traitons les fourmis: avec le plus total désintérêt de leur existence comme de leur disparition.

Comment faire en sorte que cette technologie participe à notre liberté et non à un nouveau type d’asservissement? On a déjà un peu parlé de ça avec Ellul (lien externe) mais il y a aussi Illich (lien externe) qui en parle très bien.

Troisième point:

On pourrait croire que je suis un grand fan du sujet depuis toujours et que ça a toujours été pour moi l’enjeu du XXIème siècle, que petit je rêvais de me transformer en R2D2 pour pouvoir manger au p’tit déj mes tartines de nutella en faisant des vocalises:

Point du tout, ce sujet de l’IA est resté très longtemps pour moi un “non-sujet” et ce pour plein de raisons:

Je pars du postulat que pour l’instant l’espèce humaine est l’espèce la plus intelligente sur la planète. Alors quand on dit ça, on se fait souvent tomber dessus à bras raccourcis par les SHN débat (SHN débat: Sportifs de Haut Niveau débat). On va, par conséquent, commencer par donner une définition de l’intelligence (une parmi des millions), pour éviter les phrases du type:

“Ouiiii, mais l’humain tu sais, c’est pas forcément le plus intelligent, les chauve souris, elles ont une boussole interne (lien externe), les chats, ils voient dans le noir et retombent toujours sur leurs pattes, les dauphins sont des êtres super sensibles et hyper intelligents et puis surtout y a les chiens, y’en a même un qui a retrouvé son maître jusqu’en AN-TAR-CTI-QUE, tu te rends compte???”

On est en 2017 donc vivons avec notre temps et faisons confiance à wikipédia:

“ L’intelligence est l’ensemble des processus de pensée d’un être vivant qui lui permettent de s’adapter à des situations nouvelles, d’apprendre ou de comprendre […]. L’intelligence peut être également perçue comme la capacité à traiter l’information pour atteindre ses objectifs.”

En ce sens, l’espèce humaine est pour l’instant la plus intelligente de la planète, c’est elle qui a le plus su modifier son environnement pour réaliser ses “objectifs”. Tim Urban de waitbutwhy (lien externe) représente donc l’échelle des intelligences des espèces de manière minimaliste:

Et évidement, si on n’est pas complètement anthropocentré (lien externe) et qu’on ne perd pas toute faculté de jugement (en rejoignant la poule sur sa marche à chaque fois qu’on évoque de la place de l’homme dans l’univers), il n’y a strictement aucune raison que l’homo sapiens en 2017 occupe la plus haute marche possible de cet escalier. Instinctivement on se dit même qu’il y a encore une infinité de marche au-dessus de la notre.

Et l’IA? Elle peut se placer sur cet escalier? Quelle marche peut-elle potentiellement atteindre? Dans le domaine de l’intelligence artificielle, il y a en quelque sorte deux disciplines:

L’intelligence artificielle faible/étroite (weak/narrow AI) qui se concentre sur la résolution de problèmes spécifiques du type: jouer aux échecs, faire des calculs mathématiques, piloter un avion, dégommer un autre robot le plus rapidement possible (lien externe)

Dans cette discipline, l’homo sapiens se fait allègrement découper dans de plus en plus de problèmes. De nouvelles intelligences artificielles étroites viennent augmenter chaque jour les rangs des domaines où l’homme se fait gentiment humilier. C’est ce type d’intelligence artificielle qui va notamment être responsable de la vague d’automatisation dont on parlait dans cet article (lien externe). Mais ce type d’intelligence ne se place pas vraiment sur l’escalier ci-dessus car en fait, il ne s’agit pas vraiment “d’intelligence”…

L’IA “générale” (“strong” ou “full” AI en anglais) qui est un objectif à proprement parler de la recherche en IA et qui consiste en une IA qui pourrait exécuter toutes les tâches intellectuelles qu’un esprit humain peut effectuer : raisonner, stratégiser, planifier, apprendre, communiquer en langage naturel, enseigner, coordonner toutes ses compétences au service d’un objectif, etc etc.

En terme d’IA “générale”, nous en sommes en ce moment à une IA dont les capacités se situent au niveau de l’insecte (celui de base, on est pas à la reine des abeilles encore hein): “ooooh, que c’est mignon, un p’tit robot fourmi!”. Si on se base sur les tendances et la vitesse de l’évolution technique de ces 30 dernières années (le web a 25 ans), il n’y a pas de raison qu’on n’atteigne pas un jour une IA générale du niveau d’un humain: 2040 d’après une étude (lien externe) de Nick Bostrom qui compile les avis des experts du domaine.

La singularité ou l’explosion d’intelligence

Et le jour où on arrive à ce stade, il peut/va se passer quelque chose d’incroyable, ces intelligences là, qui seront par définition capables d’apprendre seront également capables de s’auto-améliorer et de se reproduire. Et quand vous cogitez à des fréquences de l’ordre du GHz (200 Hz pour nos neurones) et que vos signaux filent à la vitesse de la lumière (300 000 fois moins vite dans notre cerveau), vous pouvez écrire l’histoire très très … très vite:

Si vous voulez en savoir plus, de manière plus précise, que vous avez un peu de temps et que vous êtes à l’aise en anglais, je vous recommande chaudement cet article du blog waitbutwhy: “The AI Revolution: The road to superintelligence” (lien externe)

Ben là, ça se complique, très nettement parce qu’une fois qu’on aura inventé une IA générale du même niveau que l’humain, du fait de l’explosion d’intelligence qui s’en suivra, on perdra instantanément la main. A ce moment là, il y aura donc: la dernière IA générale programmée par une équipe humaine. Ensuite cette IA s’auto-améliorera plus rapidement toute seule que grâce à n’importe quelle équipe d’Einsteins qu’on s’avèrera avoir sous la main aux alentours de 2040. Cette IA là sera par conséquent la dernière invention de l’humanité avant qu’on ne file le témoin à cette autre “espèce” (une Super Intelligence Artificielle, SIA) qu’on aura conçu de toutes pièces. Pourquoi pas me direz vous, mais, c’est tout de même gros comme une gare que cette aventure semble comporter “quelques” “risques”:

Cette équipe humaine qui a programmé cette fameuse IA travaille pour l’une de ces entreprises qui nous veut du bien (Google, Amazon, Facebook, Apple à tout hasard et par exemple) et là, on passe donc le témoin de l’histoire à une sorte de dieu qui est:

2. Oups, les gens, demi-tour, on arrête tout, c’est pas du tout ce qu’on avait prévu

Si cette équipe ne s’est pas complètement trouée, on espère qu’elle aura pensé à mettre 2/3 principes éthiques dans le bazar. Sauf que c’est très compliqué de cadrer éthiquement quelque chose qui est voué à avoir une compréhension et une puissance sur le monde infiniment supérieures aux vôtres. Cette IA ne fera-t-elle pas très vite évoluer et diverger son éthique dans un sens qui ne conviendra pas aux humains? Et même si on arrive à donner un cadre qu’elle respecte, quel cadre éthique lui mettrait-on? L’éthique est un sujet qui évolue en permanence, les philosophes grecs, inventeurs de l’éthique, philosophaient tranquillement en mangeant des olives pendant que leurs esclaves trimaient sous un soleil de plomb. Que dirait-on s’ils avaient créé une IA à l’époque qui aurait condamné le monde, ad vitam aeternam, à se développer avec cette éthique là? Ou bien tout simplement que dirait-on d’une SIA (Super Intelligence Artificielle) basée sur l’éthique de personnes avec qui on est en désaccord?

Que diront les indiens et tous les végétariens du monde quand la SIA, développée à la base par une équipe argentine fana de plancha, décidera que pour le plaisir des palets humains, installer un cheptel bovin d’un milliard de têtes sur la lune semble être la meilleure idée?

Et si on se loupe d’une autre manière (et il semble y avoir une infinité de manières de se louper), on peut très bien imaginer une SIA qui au nom de l’atteinte de ses objectifs décide que la petite espèce de primates qui est partout sur la planète est plus dérangeante qu’autre chose et nous supprime (sans aucune malveillance) de la surface de notre très “chère” terre.

Enfin si on se dit qu’au final, on pourra toujours débrancher Jean-Michel la SIA, on s’enfonce très certainement le doigt dans l’œil jusqu’au talon, les humains qui tentent de neutraliser la SIA en coupant le courant/internet, c’est un peu comme si DSK voulait susciter la clémence des juges en entamant une grève du sexe:

1. Pas beaucoup de chance que ça fonctionne, c’est compliqué de désactiver quelque chose de plus intelligent que vous et qui donc a forcément 1 voire 10 000 coups d’avance.

2. C’est clairement nous qui allons le plus souffrir de la grève d’électricité ou d’internet si tant est qu’on est seulement capable de tenter.

Nick Bostrom (encore lui) parle de ce problème de la SIA qui “dérape” de manière un peu plus exhaustive dans cet article (lien externe)

3. Le scénario de “les humains deviennent tarés et s’annihilent tout seul avant même que ça arrive vraiment”

Et là c’est le scénario magnifique, c’est le scénario de « c’est pas moi qui vais y arriver, je ne veux pas perdre donc je dézingue les types en face avant qu’ils n’y arrivent ». Ça se comprend, étant donné que cette intelligence artificielle est la dernière invention de l’homme avant que celle-ci ne se charge du reste, de TOUT le reste, celui qui codera la dernière ligne aura potentiellement gagné la partie de risk planétaire que joue l’humanité depuis un bout de temps.

Alors bien sûr, on peut aussi obtenir une divergence vers du meilleur, on parviendrai du premier coup à créer une IA avec une base éthique parfaite et évolutive. Cette IA deviendrait ensuite une SIA qui serait des millions de fois plus intelligente que nous et dont la seule raison de vivre resterait justement le bien être de l’humanité, une SIA qui s’épanouirait en mettant sa supériorité au service de notre intelligence/éthique collective. Pourquoi pas, sur le papier, c’est séduisant, mais dans toutes ces suppositions, ce qui semble certain, c’est que ce scénario n’adviendra pas tout seul. C’est pour ça que tout un tas de personnes plus intelligentes les unes que les autres se questionnent sur le sujet, pour qu’on mette tout en œuvre pour tomber du bon côté de la barrière:

On a Nick Bostrom dont j’ai déjà parlé et qui planche sur le sujet depuis un moment déjà, son ted sur “Que se passera-t-il quand nos ordinateurs deviendront plus intelligents que nous?” est vraiment excellent:

“Est ce que nos machines intelligentes nous aideront à préserver l’humanité et nos valeurs — ou auront elles leurs propres valeurs?”

Quand on a Elon Musk (lien externe), Bill Gates (lien externe) et Stephen Hawking, (lien externe) pas forcément réputés pour leur propension à la panique ou pour leur vision catastrophiste de l’avenir du monde, qui pensent que quand même, il faudrait sérieusement se pencher sur le sujet, c’est peut-être, je dis bien peut-être qu’il y a un sujet. Si Elon Musk fonde un projet qui répond au doux nom d’ “Open AI (lien externe)”, ce n’est peut-être pas parce qu’il avait un créneau de libre, entre faire décoller une fusée et inventer un train qui file à 1000 km/h dans un tube en verre.

Un autre grand bonhomme, Sam Harris, nous a pondu une super conférence pile poil sur le sujet:

Et c’est pour toutes ces raisons, toutes ces craintes et tous ces espoirs que je pense qu’il faut qu’on soit tous, citoyens, politiques, consommateurs d’objets techniques, scientifiques et bien sûr futurs ingénieurs, de plus en plus conscients des choses qui vont se jouer dans le domaine de l’IA dans les 30 ans à venir. Il n’y a qu’en étant infiniment conscients qu’on aura une chance de ne pas complètement passer à côté du sujet en créant une IA qui satellisera l’humanité dans un avenir qui nous fait rêver plutôt que dans un barbec géant où nous ferons office de merguez.

Pace é Salute,

Si vous avez aimé l’article: Partagez-le!

Les 4 meilleures manières de t’investir et de soutenir ApresLaBiere:

2. Applaudir et commenter sur Medium

3. Liker et suivre ApresLaBiere sur facebook, en suivant le tutoriel de Mr Mondialisation:

Comment continuer à suivre Mr Mondialisation sur Facebook en une minute !
S’il vous plaît, prenez une minute de votre temps pour lire ceci. Chercherait-on à décapiter les médias des réseaux…mrmondialisation.org

4. Partager cet article et ce blog à tes contacts que ça pourrait intéresser :)

Ressources:

2 articles du blog WaitButWhy: