Ça me fait rire, y'a du vrai dans ce comic... et pourtant son succès, mesuré en amplification algorithmique notamment, est déjà un aveu d'échec.
Se moquer d'Anthropic et d'OpenAI, ces nouveaux GAFAM qui jouent avec nos univers mentaux comme un enfant joue avec une balle, ça vaut toujours le coup. Mais ce genre de contenu révèle aussi une tendance de certains milieux technocritiques à l'autoconviction et à l'aveuglement. Il y a parfois chez certains experts une condescendance tranquille : "Avec une vraie syntaxe machine, on est plus exact, plus précis, plus proche du vrai que ces systèmes probabilistes ne le seront jamais."
Certes. Si vous cherchez un billet d'avion en cochant les bonnes cases prévues par un ingénieur logique, vous aurez une info plus fiable que si vous dites à un chatbot : "je voudrais le billet le moins cher pour aller de Paris à Berlin demain ou après-demain." Seulement voilà : pour la plupart des gens, parler en langage naturel est plus accessible que s'adapter au langage machine. Les opérateurs logiques sur un moteur de recherche sont puissants. Qui les utilise vraiment ? C'est la même erreur que certains libristes qui ne comprennent pas pourquoi la plupart des gens préfèrent macOS à OpenBSD, alors qu'"OpenBSD te laisse tellement plus de contrôle, de liberté et de sécurité." Et derrière ce réflexe, il y a le même biais qu'à l'époque où l'on trouvait suspect de faire confiance à Wikipédia parce que "c'est truffé d'erreurs."
Les critiques légitimes de ces systèmes, sur leur illégalité, sur les aberrations en termes de concentration de pouvoir qu'ils incarnent, ne doivent pas occulter une réalité : pour beaucoup de gens, dans beaucoup de cas, ils fonctionnent. Ils donnent accès à des services et des connaissances qui n'étaient tout simplement pas accessibles avant. Ces systèmes ne sont pas conçus pour dire le vrai. Mais une réponse imparfaite et souvent correcte, ça reste mieux qu'une erreur 404 garantie. Si ça ne marchait pas du tout, est-ce que des centaines de millions de personnes les utiliseraient tous les jours ?