Numérique éthique en entreprise : levier de changement ou concert de pipeau ?

Une entreprise tech peut-elle être éthique ou bien pousser un “numérique éthique” par exemple tout en grossissant ? On a souvent l’impression que 

• Si tu réussis à grande échelle, c'est que le système t'a corrompu.
• Si tu restes intègre à petite échelle, tu n'as aucun impact systémique.
• Si tu refuses tout compromis, tu parles dans le vide.

Ces dilemmes et ces cas de conscience, je me les pose tous les jours depuis à peu près 15 ans. Pas de façon théorique. De façon très concrète, parce que c'est exactement ce que j'ai essayé de résoudre avec Palanca il y a plus de 10 ans et de résoudre aujourd'hui avec Lyfe Catalyst. Cet article / conférence, c'est ma tentative d'être honnête sur ce que j'observe, y compris quand c'est inconfortable.

Spoiler : il n'y a pas de bonne réponse. Mais il y a des trajectoires. Aucune n'est parfaite et elles peuvent toutes être un peu déprimantes, chacune à leur façon et ce tant qu'on n'a pas accepté que nous étions des particules dans un système complexe. Nous avons certes notre rôle à jouer mais ce qui adviendra de ce système nous dépasse bien plus que ce que nous sommes souvent prêts à accepter.

Quand on observe les entreprises qui ont essayé de faire du numérique (ou tout autre chose) "autrement", on tombe systématiquement sur l'un de ces trois schémas.

OpenAI. Fondée en 2015 comme organisation à but non lucratif, avec une mission écrite noir sur blanc : développer une intelligence artificielle "bénéfique pour l'humanité dans son ensemble". Pas pour les actionnaires. Pour l'humanité.

On connaît la suite. Levées de fonds massives, partenariat avec Microsoft, restructuration donnant davantage de pouvoir à une entité commerciale, contrat avec le Pentagone. Le même OpenAI qui avait mis dans ses statuts fondateurs qu'elle ne devait pas être contrôlée par des intérêts privés est aujourd'hui valorisée à plusieurs centaines de milliards de dollars et a donné le coup de sifflet initial de la plus grande expérience sociologique sauvage que l’humanité ait jamais entrepris : l’exposition de milliards d’êtres humains à des systèmes mimant parfaitement la manière dont l’intelligence humaine s’exprime dans un contexte numérique.

Anthropic, c'est littéralement la même histoire. Des fondateurs partis d'OpenAI précisément parce qu'ils estimaient que l'éthique y était sacrifiée et qui ont recréé exactement la même mécanique, juste avec un storytelling plus soigné et un concept maison ("l'IA constitutionnelle") qui sonne bien en conférence.

La mécanique est toujours identique : ils commencent éthique, ils lèvent des fonds, le marché les rattrape et leur demande de la rentabilité (no shit), et ils "pivotent” leurs valeurs. #TraduisonsLes : ils les abandonnent en rase campagne. Chaque compromis est justifié par le suivant. Et au bout du compte, l'entreprise est devenue exactement ce qu'elle disait vouloir éviter.

Ce n'est pas une question de mauvaise foi des fondateurs. C'est structurel. Quand on lève de l'argent, on crée des obligations. Quand on a des obligations, on fait des compromis. Quand on fait trop de compromis, on dérive et on perd tout contrôle. Le marché dérégulé ne peut pas être un partenaire de l'éthique, c'est une force de gravité qui nous attire vers le bas.

L'autre trajectoire, c'est celle des entreprises qui tiennent bon sur leurs valeurs. Elles existent et parviennent à se maintenir dans le temps long, ce qui en soit est déjà énorme. Mais elles ne changent pas grand chose à l'échelle du secteur.

Fairphone est l'exemple parfait. Téléphone modulaire, conçu pour durer, avec une vraie démarche sur les conditions d'extraction des minerais, la réparabilité, les droits des travailleurs dans la chaîne de production. C'est réel, c'est sérieux, c'est bien fait (et ça a un prix...).

Mais ça n'a pas bouleversé le secteur. Apple, Samsung ou Xiaomi continuent à produire leur téléphone comme bon leur semble, c’est-à-dire en suivant le marché. Le marché du smartphone continue grosso modo comme il aurait évolué sinon. Fairphone représente une fraction de pourcent des ventes mondiales et n'a qu'une influence marginale sur les pratiques du secteur.

Patagonia, c'est pareil. L'image de l'entreprise responsable par excellence, la marque qui dit à ses clients "n'achetez pas cette veste" dans ses publicités, le fondateur qui a donné tout son entreprise à une fondation environnementale. Tout ça est réel et franchement ouf. Mais ça n’empêche pas Shein de faire cent fois leur volume sans sourciller. Le succès de Patagonia, et le fait que beaucoup les collectionnent sans vraiment les réparer, n'a pas ralenti le raz de marée de la fast fashion une seconde.

Le problème de cette trajectoire, c'est pas qu'elle échoue, c'est qu'elle réussit dans une bulle. Elle prouve que c'est possible et c'est vital mais ça ne changera pas la structure, le système et ses conséquences dramatiques.

La troisième trajectoire, c'est celle que pourrait incarner Richard Stallman et son Linux libre.

Pour ceux qui ne connaissent pas : Stallman est le père du mouvement du logiciel libre. C'est lui qui a posé les bases philosophiques et juridiques de ce qu'on appelle aujourd'hui le logiciel libre. Sans lui, pas de Linux avec lequel tourne la moitié des serveurs d’internet.

Sauf que pour Stallman, aucune des distributions de Linux aujourd'hui n’est satisfaisante car, selon lui, aucune n'est vraiment "libre" et encore moins la plus connue de toutes : Ubuntu. Toutes les distributions populaires de Linux contiennent des composants qui ne respectent pas à 100% ses critères de liberté. Alors il promeut une distribution Linux Libre, une version expurgée de tout ce qui ne passe pas ses critères éthiques.

Une version où il faut plus ou moins coder ses drivers soi-même et où pas grand chose ne marche vraiment si tu n'as pas les compétences en développement de Stallman. Forcément, les parts de marché de la distribution ne sont pas incroyables et on ressent de la frustration en se disant que systémiquement ça ne sert à rien.

Ce n'est pas une entreprise, mais l'illustration est parfaite : quand tu refuses tout compromis, tu obtiens une cohérence absolue et une adoption quasi nulle. Tu as raison sur toute la ligne mais tu es seul. Et avoir raison tout seul, c'est quelque part avoir tort

C'est la trajectoire du jusqu'au-boutisme. Éthiquement irréprochable. Pratiquement inaudible.

Ces trois trajectoires couvrent à peu près tout le spectre. Et elles posent toutes le même problème, formulé différemment :

• Si tu réussis à grande échelle, c'est que le système t'a corrompu.
• Si tu restes intègre à petite échelle, tu n'as aucun impact systémique
• Si tu refuses tout compromis, tu n’as pas d’impact … du tout

Alors qu'est-ce qu'on fait ?

Je vais être direct : je n'ai pas de solution. Ce que j'ai, c'est une tentative. Et je préfère l'expliquer honnêtement plutôt que de la vendre comme une révolution.

Lyfe Catalyst, c'est une boîte qu'on a montée avec Gaëtan Séverac. On a des clients et des missions sérieuses mais on en est qu'aux tout débuts. Ce que j'explique ci-dessous, c'est l'intention, pas un bilan et encore moins une leçon.

L'idée de départ, c'est de ne pas chercher à révolutionner le système. Je l'assume. Les trajectoires décrites plus haut montrent de toute manière les limites à tout engagement éthique. Ce qu'on cherche à faire, c'est d'agir sur plusieurs leviers à la fois, modestes mais concrets, qui s'articulent entre eux. Car la sensation d'appuyer, ne serait-ce qu'un peu, sur plusieurs leviers à la fois, c'est intégrer quelque part la complexité du système qu'on aimerait tellement voir changer.

A Lyfe Catalyst, on aimerait que nos systèmes démocratiques fonctionnent mieux. La démocratie ne peut fonctionner que sur la sagesse des foules et dans un écosystème informationnel sain. Aujourd'hui, nos systèmes numériques font le contraire, ils extraient en masse notre débilité et provoquent des marées noires informationnelles qui mettent en péril notre capacité à vivre ensemble. Quels leviers pour changer ça sans tomber dans les dérives des 3 trajectoires ? Et surtout, comment trouver un modèle économique et faire en sorte que le changement des systèmes informationnels en entreprise ruisselle sur nos systèmes démocratiques ?

1️⃣ En convaincant les entreprises par l'efficacité, pas par l'éthique.

Évidemment que les entreprises n'ont aucun intérêt à ce que leurs salariés se détestent, ne coopèrent pas ou passent leur temps à consulter des informations qui ne leur servent à rien. Mais surtout, les systèmes informationnels tels qu'ils sont aujourd'hui conçus et déployés dans les entreprises par les GAFAMs ne sont pas optimaux. Ils ne donnent pas tout le contrôle aux entreprises qui les utilisent et n'ont pas été développés pour répondre à leurs priorités. Certaines boîtes ont des centaines de milliers de SharePoints différents, autant de silos d'information qui ne se parlent pas, qui prennent autant de temps à être créé qu'à être retrouvé dans les terabytes du cloud. C'est un problème d'efficacité de la collaboration avant d'être un problème de démocratie. Mais c'est le même problème que le nôtre : la coopération à grande échelle dans un univers informationnel bouleversé. Tenter de le résoudre avec des briques open source (et non “libre” justement) dans les entreprises, c'est progresser sur la problématique démocratique plus large.

Ce qu'on propose, c'est d'aider les entreprises à mieux gérer la masse d'information contenue dans tous les documents mais aussi la connaissance implicite et non formalisée, bien plus stratégique, éparpillée dans les collaborateurs. Pour cela, on essaie de les accompagner pour développer des outils pour gérer eux-mêmes la recommandation au sein de leur écosystème en se basant sur l'expertise des salariés plutôt que d'adopter les systèmes de recommandation par défaut conçus comme ceux des réseaux sociaux grand public, optimisés pour l'engagement et non pour l'utilité.

2️⃣ En faisant financer les briques open source d’un numérique pour davantage d’efficacité collective par les entreprises pour en faire profiter par ricochet nos systèmes démocratiques

L'open source a été adopté massivement par les entreprises. Pas pour des raisons éthiques : parce que c'est efficace et moins cher. Linux fait tourner la quasi-totalité des serveurs dans le monde, y compris ceux d'Amazon, Google et Microsoft. Ces boîtes ont bénéficié du travail de milliers de contributeurs bénévoles sans nécessairement rendre grand chose en retour.

Notre idée : quand on accompagne une entreprise à développer des outils de coopération interne, on pousse pour que ces développements soient faits en open source. L'entreprise y gagne en efficacité. Et par effet ricochet, ces développements améliorent des outils open source qui peuvent ensuite être utilisés par des associations, des collectivités, des structures démocratiques, pas seulement des entreprises.

Ce n'est pas de la philanthropie. C'est de l'alignement d'intérêts.

3️⃣ En reversant 10% du (hors frais de structure mais AVEC les salaires) à des projets open source utiles aux démocraties.

10% du CA (moins les frais de structure mais avant les salaires) de Lyfe Catalyst est fléché directement vers des projets open source qu'on estime bénéfiques pour l'efficacité démocratique.

C'est moins spectaculaire que "je veux céder 80% de ma fortune", comme l'a annoncé, en grande pompe, le fondateur d’Anthropic. Mais c'est du revenu réel, pas des actions dont la valeur dépend d'une valorisation hypothétique. Et c'est récurrent tant que le projet vit, ça n’est pas un geste unique. Et surtout ça ne dépend pas d'un individu, c'est dans l'ADN de la structure elle-même, c'est intégré à son modèle économique.

4️⃣ En s'auto-contraignant par des engagements solides.

C'est le point que je trouve le plus important et le plus difficile à tenir.

Les déclarations d'intention n'engagent que ceux qui les croient. OpenAI en est la démonstration parfaite : ils avaient un plan (sur la comète) magnifique, des principes fondateurs clairs, et ça a volé en éclats à la première pression sérieuse du marché. Parce que ces engagements n'étaient pas (assez) juridiquement contraignants.

Ce qu'il faut chercher à faire, c'est ancrer nos engagements dans un marbre qui survie aux personnes. Certains statuts d’entreprise, par exemple, ne disparaissent pas si le fondateur part ou change d'avis. Alors certes status n'est pas vertu mais les statuts restent un des dispositifs les plus contraignants, pour tous les membres, actuels et à venir.

C’est pour ces raisons qu’on travaille à créer une structure la plus auto-contrainte possible sur ces questions par ses statuts. Certes pour l’instant et ce jusqu’à la fin de l’année (date à laquelle on devrait avoir des status), on pourra aisément cesser de donner 10% de notre CA à des projets Open Source mais c'est autour de cette ambition qu’on a pensé le projet. Mais en attendant, on espère qu’un engagement publique comme celui-ci sera assez contraignant pour pallier la faiblesse humaine. Ces engagements créent une forme de pression sociale et de traçabilité non négligeable.

Honnêtement : on ne sait pas encore. C'est trop tôt pour le dire.

Ce que je sais, c'est que cette approche évite les trois frustrations que peuvent provoquer les trajectoires décrites plus haut car on tente d’appuyer sur plusieurs leviers à la fois, reflétant ainsi, par la diversité de nos engagements, la compréhension systémique du problème que nous portons.

Est-ce que c'est suffisant pour changer quelque chose à l'échelle du secteur ? Jamais seuls mais ça s'articule avec de multiples facettes du problème et peut-être surtout avec l'évolution du contexte. Si l'idée est reproductible, si d'autres boîtes adoptent des mécanismes similaires, alors peut-être que ça contribue à déplacer légèrement le centre de gravité. On créé un nouvel “adjacent possible”, comme Patagonia ou GNU/Linux finalement ?

“Changer un peu le monde” est certes moins romantique que de "changer le monde" mais c'est plus honnête.

Si tu veux réagir, aller plus loin ou challenger ce que j'ai dit ici, les commentaires sont ouverts. Et le pendant la bière #37 est disponible en vidéo et en podcast si tu préfères le format audio.