Depuis quelques semaines, un pays revient systématiquement dans les discussions sur les réseaux sociaux, l’enfance et la régulation : l’Australie.

On dit partout¹ qu’elle aurait « interdit l’accès aux réseaux sociaux comme Youtube » et c’est un semi-mensonge. Cette approximation n’est pas anodine : elle permet de transformer un débat précis sur le profilage algorithmique en une caricature liberticide.

« De quel droit retirez vous aux mineurs cette liberté fondamentale ? »

La fameuse liberté fondamentale de se faire laver le cerveau quotidiennement par les plateformes du numérique venant de pays nous voulant massivement du bien : les USA et la Chine.

Ce que l’Australie a fait est plus ciblé (bien qu’imparfait) et beaucoup plus intelligent — et donc beaucoup plus dérangeant pour les plateformes : interdire aux mineurs d’avoir un compte, et donc empêcher leur profilage algorithmique. Le tout sans empêcher l’accès aux contenus publics comme les vidéos sur la fusion nucléaire et la géopolitique qu’ils s’arrachent massivement et qui constituent le gros de leur consommation, c’est bien connu.

Autrement dit : on ne supprime pas la liberté des mineurs d’aller sur Youtube, on supprime la capacité de YouTube de les connaître intimement à 13 ans.

Et c’est pour ça que cette levée de bouclier si violente peut sembler étonnante : éviter le profilage psychologique tout en laissant accès à certains contenus, c’est plutôt une bonne idée non ?

Et bien penser qu’une bonne idée suffit à emporter le consensus dans un tel débat, c’est ne pas comprendre à quel point les narratifs anti-régulation poussés par les big tech se sont diffusés dans toutes les strates de la société. Dès qu’on parle de régulation des plateformes pour les plus jeunes, une série d’arguments surgit, presque mécaniquement. Des arguments présentés comme rationnels, pragmatiques, parfois même progressistes. Des arguments qu’on entend dans les médias, chez certains chercheurs, chez des responsables politiques, et souvent chez des gens sincèrement préoccupés par l’éducation.

Je les ai tous entendus et j’avoue qu’après examen, je suis d’autant plus convaincu qu’une régulation spécifique aux jeunes est pertinente…

1. « Ça ne sert à rien, les adolescents adorent contourner »

C’est l’argument d’ouverture quasi systématique. Il a l’avantage d’être simple, intuitif… et intellectuellement aussi solide que la diction de Joe Biden.

Alors oui, les adolescents contournent.
Oui, ils trouveront des astuces.
Oui, certains arriveront à outrepasser les limitations en s’épaississant les sourcils ou en se laissant pousser la moustache pour paraître plus vieux lors de la vérification comme en Australie en ce moment².

Mais depuis quand le fait qu’une loi sur ne soit pas parfaitement appliquée est-il un argument pour la décrédibiliser ? Avec ce raisonnement, on peut directement abroger toutes les lois et abandonner toute velléité de régulation.

Autant arrêter la politique, ça ira plus vite !

J’ai eu la chance de vivre cinq ans en Suède (jag älskar Sverige ! 🇸🇪) et en matière de régulation de l’alcool c’est toute une histoire. L’accès à la substance y est (extrêmement) restreint, aucune chance de pouvoir en acheter sans montrer une “legitimation” à moins que vous ayez des allures de père Fourras.

Les prix sont élevés et la distribution est contrôlée par l’État dans des magasin « systemblolaget » (450 en tout et pour tout en Suède) dont les plus grands ferment à 15h le samedi et qui sont (évidemment) tous fermés le dimanche.

Résultat ?

• Oui, certains mineurs contournent et se bingent de temps à autre
• Mais la consommation globale des mineurs y est l’une des plus basses d’Europe avec la Finlande, la Norvège et l’Islande qui ont également une régulation stricte.

Mais qu’est-il arrivé au Danemark qui partage pourtant la culture scandinave et qui lui affole les compteurs ? Surprise surprise, il a une régulation plus permissive…

La régulation ne vise jamais l’éradication totale et parfaite. Elle vise la réduction des dommages et la transformation des normes collectives comme le rappelle d’ailleurs Mme Grant, eSafety Commissioner australienne :

Même si certains enfants peuvent trouver des moyens créatifs de rester sur les réseaux sociaux, il est important de rappeler que, comme pour les autres lois de sécurité en vigueur dans la société, le succès se mesure à la réduction des préjudices et au réajustement des normes culturelles³

Et puis, dans le monde numérique, l’argument du « c’est impossible à réguler » devient franchement étrange quand on voit à quel point certaines régulations techniques fonctionnent très (trop) bien. La censure de l’internet chinois n’est peut-être pas parfaite, mais elle est largement efficace. Ce n’est pas parce que les « VPN » existent qu’on parle pour la Chine ou l’Iran d’ « Internet libre ».

Une régulation n’a pas à être un mur infranchissable mais simplement une friction supplémentaire entre le citoyen (jeune ou moins jeune) et le comportement qu’on estime individuellement et/ou collectivement néfaste.

2. « Il faut tout réguler, sinon rien »

Celui-là est plus subtil⁴ et c’est celui dont je me sens le plus proche. L’argument, ce serait en gros de dire :

« Réguler uniquement les jeunes ne règle pas le vrai problème, qui est le modèle économique des plateformes fondé sur l’attention. » (existe aussi en version anti-capitaliste)

C’est vrai.
Mais cet argument est aussi une impasse politique totale autrement appelé « sophisme de la solution parfaite ». Réguler les plateformes pour les mineurs, ce n’est pas prétendre avoir réglé le problème.
C’est ouvrir une brèche et mettre le pied dans la porte de la régulation.

Refuser cette étape sous prétexte qu’elle n’est pas suffisante, c’est exactement ce que veulent les plateformes : que rien ne commence tant que tout n’est pas prêt car elles savent très bien que tout ne sera jamais prêt (et elles font tout pour).

Historiquement, toutes les grandes batailles de santé publique et de régulation ont commencé par des régulations à visée plus restreinte — que ce soit en termes de population concernée ou de rayon d’application. Pour le tabac et l’alcool, on a commencé par les plus jeunes⁵; pour les ceintures de sécurité par les routes hors agglomérations et uniquement pour les sièges avant⁶.

On commence toujours là où le consensus social apparaît en premier et justement pour la question qui nous intéresse ici, il est là ! 👇

3. « Il va y avoir une levée de boucliers, c’est impossible politiquement »

C’est faux, et les chiffres sont très clairs.

Les enquêtes d’opinion montrent une adhésion massive à l’idée de limiter l’accès des plus jeunes aux plateformes, de restreindre l’ouverture de comptes, ou même de retarder l’accès aux smartphones.

Ce sujet fait partie de ceux où il y a le moins de clivages politiques. Les parents, toutes catégories confondues, sont inquiets… à juste titre. Le consensus social est apparu là, profitons en pour mettre le pied dans la porte (cf point 2).

La fameuse « levée de boucliers » existe surtout dans certains cercles médiatiques et technophiles⁷, parfois liés par des conflits d’intérêt avec le monde de l’ed-tech⁸, pas dans la population générale.

Même les jeunes sont d’accord puisque selon , ils seraient prêt à payer pour que Tiktok et Instagram soit supprimé pour eux et tout leur congénère⁹.

4. « Les Big Tech seront bien contentes qu’on ne régule QUE les jeunes »

Regardez simplement comment les Big Tech réagissent quand on régule uniquement les jeunes… De l’Australie aux USA, elles font TOUT ce qui est en leur pouvoir pour faire sauter ces régulations¹⁰.

Pour les plateformes, les jeunes ne sont pas un marché secondaire. Non seulement c’est la population la plus présente sur les réseaux sociaux¹¹

mais c’est également le futur de leur rente.

De la même manière qu’un jeune fumeur est un fumeur à vie (certes plus courte), un utilisateur dont tous les liens sociaux sont sur les plateformes est un utilisateur qui y passera sa vie.

Un utilisateur fidélisé très jeune, c’est :

• un utilisateur captif car plus sa vie sociale sera sur la plateforme et plus il y sera enfermé,
• un comportement façonné et rendu prévisible par les logiques algorithmiques
• une inconscience renforcée de ce qui se joue : « mais où est le problème à ce que je regarde ce qu’une plateforme me recommande, je fais ça depuis toujours ? »

Et ici, on ne parle pas seulement d’habitude et d’usage, mais de construction cognitive et attentionnelle, d’une éducation digitale à des manières de penser qui avantageront les plateformes toute une vie de consommateur durant.

Imaginer que les plateformes se réjouiraient d’une régulation qui les empêche d’exploiter pleinement l’attention des mineurs, c’est ne pas comprendre ce qui fait leur richesse. C’est être aveugle au fait que dès qu’une législation qui va dans ce sens est osée par un pays ayant encore un peu de courage politique, elles s’insurgent¹².

5. « Liberté des enfants » et « dérive sécuritaire »

C’est souvent formulé avec des slogans très efficaces :

« Interdire n’est pas éduquer. »
« Attention à la dérive sécuritaire. »

Personne ne dit que l’éducation se réduit à l’interdiction. Mais prétendre qu’il n’y aurait aucune interdiction dans l’éducation, c’est … périlleux…

Éduquer, c’est évidemment poser des cadres, des limites, des interdits partiels et temporaires. Toujours.

Et ici, on ne parle pas de la liberté des enfants d’aller à la rivière faire des moulins en bois

mais de la liberté laisser aux plateformes d’exploiter :

• les biais cognitifs,
• l’immaturité émotionnelle,
• la recherche de validation sociale,
• et les mécanismes d’addiction.

Parler de « liberté » dans ce contexte sans parler de l’asymétrie de pouvoir entre l’utilisateur (jeune ou moins jeune) et la plateforme, c’est un détournement de vocabulaire dont seuls les ultra-libéraux ont le secret.

6. « On pénalise tous les enfants pour une panique morale qui ne concerne qu’une minorité vulnérable »

C’est en substance la ligne adoptée par Grégoire Borst¹³. Mais de quelle minorité parle-t-on exactement ? Le cancer du poumon ne touche qu’une minorité de fumeurs, est-ce pour autant qu’on dit :

« Allez-y, fumez ! ».

Le décor, c’est 85 % des adolescents équipés d’un smartphone dès 14 ans, qui y passent 6,6 heures par jour (hors école)¹⁴ et ils ont beau être vif, ils se font avoir comme tout le monde. J’expliquais à des élèves de 3ème comment les titres « putaclic » du genre « Les 8 ponts les plus longs du monde (le 5ème va vous étonner) » nous manipulent lorqu’un enfant (au demeurant très vif) m’a répondu :

« Ah mais moi je ne me fais pas avoir, je clique et je vais direct au 5ème »

…

La recherche ne parle pas d’addiction (pour éviter les débats sans fin) mais de PIU (Problematic Internet Usage). Les chiffres sont là : selon une étude la fourchette haute, ce serait environ 40 % des ados qui présenteraient des symptomes visibles de PIU et 5 % à des niveaux destructeurs¹⁵.

Alors certains diront que 5 % c’est peu et qu’une autre étude ailleurs parle de 1% mais il n’en reste pas moins que sur des centaines de millions d’adolescents, c’est dans tous les cas absolument massif et parler de « panique morale » face à cette réalité, c’est …¹⁶

C’est comme le Covid : un petit pourcentage sur un phénomène systémique, c’est une catastrophe. Si c’est la logique algorithmique qui déclenche ces comportements, on ne peut pas se contenter de protéger ceux qui « déclenchent le cancer »; il faut protéger toute la jeunesse (et toute la population).

7. « Ce qu’il faut, c’est davantage d’éducation »

C’est l’argument le plus rassurant et le plus pratique, il permet à tout le monde de continuer sans rien changer. C’est l’argument massue pour surtout ne rien changer.

« Surtout hésite pas, appelle-moi dès que t’as besoin de rien.»

À l’échelle mondiale, on parle aujourd’hui de près de 2 milliards d’heures visionnées chaque jour sur Youtube¹⁷. Sur cette masse de vie humaine, plus de 70% est choisie directement par l’IA de recommandation de Youtube qui aiguille par conséquent chaque jour plus d’1 milliard et demi d’heures. En termes plus palpables, cela représente l’équivalent de ce qu’enseigneraient 50 000 professeurs durant toute leur carrière — chaque jour.

Il ne s’agit donc pas seulement des usages problématiques individuels touchant une minorité vulnérable (de quelques dizaines de millions de jeunes quand même) mais également d’une reconfiguration massive de l’écosystème informationnel. On ne parle pas seulement de pathologies individuelles touchant une minorité, on parle d’un phénomène structurel qui affecte notre capacité à faire démocratie et à rester souverain.

Bien sûr qu’il faut de l’éducation. Bien sûr qu’il faut former à l’esprit critique, à la compréhension des médias et aux biais cognitifs (et pourquoi pas à la politique tiens). Mais croire que l’éducation seule peut compenser la puissance de plateformes qui mangent dans la main de l’autoritarisme le plus pur relève d’un optimisme presque naïf.

La métaphore est simple : nous vivons dans un lac d’information littéralement saturé de merde par ces plateformes et on dit aux individus — enfants compris — de développer des branchies pour trier ce qui est potable. Chacun avec sa petite gourde, à analyser l’eau pendant 45 minutes avant de boire.

À un moment, une société sérieuse devrait se poser une autre question :

Est-ce qu’on ne devrait pas empêcher les plus gros pavés de merde de tomber dans le lac ?

Les ordres de grandeur sont parlants :

• ARCOM : quelques dizaines de millions dont quelques uns au maximum pour gérer « la régulation systémique des plateformes »¹⁸.

VS

• Plateformes numériques : des centaines de milliards chaque année investis dans la recherche afin de mieux capter l’attention¹⁹.

Face à une telle asymétrie, faire reposer l’intégralité de la responsabilité sur l’individu, c’est ramer avec des nouilles dans du béton.

8. « Oui mais le numérique est utile pour l’éducation »

Certes.
Mais pardon, TikTok, c’est pas Matlab !

C’est important de le dire, parce que cet argument joue volontairement sur une confusion. Personne ne parle d’interdire le numérique éducatif. Personne ne propose de bannir l’informatique, les outils pédagogiques ou les vidéos éducatives.

Le débat porte sur TikTok, YouTube, Instagram, et leurs mécanismes les plus toxiques : autoplay, scroll infini, recommandations ultra-personnalisées, micro-ciblage comportemental.

Même les jeunes le savent comme leur montre leur réponse à une chercheuse les questionnant sur leur usage de Tiktok²⁰ :

Je ne sais pas, c’est assez difficile de décrire ce que je vois sur ma page « Pour toi »

dit l’un de mes participants.

Oui, c’est comme…

un autre s’interrompt, cherchant le mot juste.

C’est surtout du brain rot (de « la pourriture cérébrale »), tu vois ?

Opposer « le numérique éducatif » à la régulation de ces plateformes, c’est comme refuser la régulation de l’alcool au nom du fait qu’on se sert aussi d’alcool pour désinfecter des plaies. Ce sont deux sujets différents.

9. « On ne peut pas protéger les enfants du monde, il faut les entraîner au monde numérique »

C’est un argument qui sonne adulte, réaliste, presque courageux. Et pourtant, il cache une énorme contradiction.

Oui, on ne peut pas protéger les enfants de tout et il faut les entrainer à vivre dans le monde tel qu’il est.
Mais on n’entraîne pas quelqu’un en le jetant du haut d’une falaise pour voir s’il se met à planer.

L’entraînement suppose :

• des règles,
• des paliers,
• des protections,
• un cadre.

Aujourd’hui, on fait exactement l’inverse. On expose les enfants à des systèmes que même les adultes n’arrivent pas à vraiment maîtriser en prétendant que la bonne méthode pédagogique, c’est de les jeter en pâture aux algorithmes dès que possible armés de nos 2/3 conseils malhabiles.

Ce n’est pas de l’entraînement, c’est de l’abandon.

10. « Les moyens de limiter l’accès aux réseaux aux mineurs sont généralement extrêmement invasifs du point de vue de la vie privée. »

Pour moi, il s’agit davantage d’un argument contre les mises en œuvre actuelles que contre le principe même de réguler l’accès des jeunes ; pourtant, il revient souvent. Même si c’est un peu la dernière cartouche de la personne acculée, il souligne des craintes importantes et légitimes, notamment dans cette époque où l’autoritarisme semble vouloir sortir des livres d’histoire. Trois éléments de réponse à cette objection :

1️⃣ Notre capacité (de plus en plus justifiée) à être extrêmement vigilant vis à vis de l’état n’a d’égale que notre incapacité chronique à l’être vis-à-vis de la violation des données personnelles (des jeunes et des moins jeunes) par les plateformes. La vie privée n’existe déjà plus²¹, le concept même (particulièrement chez les jeunes pour qui ne pas partager sa localisation avec ses amis — et donc avec les plateformes - commence à être mal vu²²) n’a plus aucun sens. Cette disparition n’est pas le fait de l’état qui nous scrute mais avant tout le fait des plateformes pour qui la vie privée correspond à un arrêt de leur modèle économique. En effet, tant qu’il existera des moments que nous garderons privés et intimes, il existera des données qui échapperont à leurs modèles économiques voraces. C’est justement cela qu’on doit inverser. Si nous étions un dixième aussi méfiant envers les plateformes que nous le sommes vis-à-vis de l’état, peut-être ces problèmes n’existeraient pas ?

2️⃣ Les solutions techniques existent, il est techniquement possible de vérifier de manière robuste l’âge de quelqu’un sans que son identité ne soit révélée à quiconque (pas même à la plateforme chargée de la vérification). Ça s’appelle la « preuve à divulgation nulle de connaissance »²³ et ça doit devenir un standard.

3️⃣ En attendant, on peut commencer avec de la « device based verification » qui est effectivement loin d’être idéal mais dans la réalité que nous avons créé, l’idéal ne fait pas partie des options.

Conclusion : commencer par les jeunes, sans s’arrêter là

La régulation australienne ne dit pas que les réseaux sociaux sont intrinsèquement mauvais. Elle dit quelque chose de beaucoup plus précis :
👉 le profilage algorithmique des mineurs est inacceptable.

Et cette question dépasse effectivement les enfants. Si certaines pratiques sont jugées trop toxiques pour eux, il faudra bien, à un moment, se demander pourquoi elles seraient acceptables pour les adultes.

Réguler pour les plus jeunes, c’est ouvrir une brèche politique. Mettre le pied dans la porte. Créer un précédent. Mais il ne faudra évidemment pas s’arrêter là.

Le cœur du problème reste le modèle économique fondé sur la captation de l’attention, l’ultra-personnalisation et la recommandation algorithmique.

En attendant que le politique ait le courage de bouger, il existe déjà une forme de résistance individuelle et collective : arrêter de croire ou de donner autant de pouvoir aux algorithmes.

Comprendre que s’abonner à quelqu’un sur les plateformes, c’est avant tout donner de l’information à un algorithme qui vous montrera (ou pas) les contenus de cette personne.

Il est donc de plus en plus nécessaire de :

• Soutenir directement les créateurs indépendants.
• S’abonner à des newsletters.
• Sortir, autant que possible, des feeds « For You » — très littéralement traduisible par « Pour ton toi impulsif » et participer à des projets qui oeuvre pour des feeds « For Us » 🌻.

Paix et santé,

Tant que vous êtes là ;), voici 5 manières de suivre et de soutenir le projet d’ApresLaBiere :

1) Soutenir ApresLaBiere sur Tipeee (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)

2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :

3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)

4) Liker et suivre ApresLaBiere sur facebook, twitter ou instagram

5) Penser à faire appel à Homo Conscientus (moi :)) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.

SOURCES / LIENS / POUR ALLER PLUS LOIN :

¹ Australie : Les adolescents de moins de 16 ans sont officiellement interdits de réseaux sociaux. (2025, décembre 10). Le Monde.

² L’angle choisi par la journaliste Constance Villanova est justement celui du contournement — Quel premier bilan peut-on tirer de l’interdiction des réseaux sociaux aux mineurs australiens ? (2025, décembre 18). Franceinfo.

³ Australie : Un mois après l’interdiction des réseaux sociaux. (15:51:58 +01:00). euronews.

⁴ L’argument est bien développé par Jean Cattan —Cattan, J. (2023, avril 15). TikTok : « Comment révolutionner le modèle économique des réseaux sociaux pour les fonder sur une expérience de qualité et sur notre liberté de choix ». Le Monde.

⁵ Apollonio, D. E., & Glantz, S. A. (2016). Minimum Ages of Legal Access for Tobacco in the United States From 1863 to 2015. American Journal of Public Health, 106(7), 1200‑1207. https://doi.org/10.2105/AJPH.2016.303172

⁶ Ceinture de sécurité. (2026). In Wikipédia.

⁷ A l’image de Grégoire Borst sur france Culture : « TikTok : Comment protéger les jeunes ? » (2025, octobre 23). [Émission].

⁸ Grégoire Borst est par exemple cité dans « ENQUÊTE. Écrans et enfants : Quand la recherche publique flirte avec les intérêts privés. » (2025, juin 13). Franceinfo.

⁹ Bursztyn, L., Handel, B., Jiménez-Durán, R., & Roth, C. (2023). When Product Markets Become Collective Traps : The Case of Social Media (SSRN Scholarly Paper No. 4597079). Social Science Research Network.

¹⁰ Utah faces new lawsuit over social media restrictions for minors. Here’s why. The Salt Lake Tribune.

¹¹ Young people — Digital world. (s. d.). Eurostat

¹² Regardez comment Youtube a l’air ravi de la législation autralienne — What’s changing for under 16s and parents on YouTube in Australia. (2025, décembre 3). Google.

¹³ TikTok : Comment protéger les jeunes ? (2025, octobre 23). [Émission] et

¹⁴ Dadi, A. F., Dachew, B. A., & Tessema, G. A. (s. d.). Problematic internet use : A growing concern for adolescent health and well-being in a digital era. Journal of Global Health, 14, 03034.

¹⁵ Tomczyk, Ł., Szyszka, M., Stošić, L., Tomczyk, Ł., Szyszka, M., & Stošić, L. (2020). Problematic Internet Use among Youths. Education Sciences, 10(6).

¹⁶ Sur la critique de l’utilisation du terme « panique morale », l’article de Louis Derrac est impeccable : Éduquer au numérique dans la ligne de crête entre « paniques morales » et technorassurisme. (2024, septembre 8). Louis Derrac.

¹⁷ Which Devices Are Consumers Using To Watch YouTube Videos? (2025, juin 30). THE MEASURE. & Roth, E. (2025, février 11). YouTube is now even bigger on TVs than phones. The Verge.

¹⁸ Superviser les plateformes en ligne et les réseaux sociaux | Arcom. (s. d.).

¹⁹ Research & Development (R&D) Expense of Big Tech companies. Trendline.

²⁰ Why teenagers are deliberately seeking brain rot on TikTok | Psyche Ideas. (2024, octobre 8).

²¹ Zuboff, S. (2019). The age of surveillance capitalism : The fight for a human future at the new frontier of power (First edition). — chapitre 17 : le droit à un sanctuaire

²² Hughes, A. (2025, août 16). Location sharing is part of social life with Gen Z — but it can take a mental toll. CBC News.

²³ Preuve à divulgation nulle de connaissance. (2025). In Wikipédia.

TikTok n’est pas Matlab : le profilage algorithmique n’est ni de l’éducation, ni de l’émancipation was originally published in Après La Bière on Medium, where people are continuing the conversation by highlighting and responding to this story.

“So you are voting with your thumbs by watching a video, by swiping it, by liking it, by sharing it”¹

Lui c’est Shou Zi Chew, le CEO de TikTok et effectivement, à chaque fois que je swipe, que je like et que je partage, je donne mon avis, mais est ce que je vote vraiment comme le prétend Shou ? Dans ce passage, il sous-entend que Tiktok aurait un fonctionnement démocratique étant donné que les amplifications algorithmiques sont en effet basées sur nos interactions. Ces interactions, il choisit de les qualifier de “vote” : et c’est surtout pas innocent.

Zhou avec son “vote” comme Musk avec son “town square”² tentent de faire quelque chose d’extrêmement simple : nous faire croire que les plateformes qu’ils contrôlent seraient des espaces où une véritable démocratie, bien plus directe, s’exerce. Le pouvoir au peuple cliqueur en quelque sorte.

Alors bien entendu, on sent bien qu’ils nous prennent pour des énormes pigeons mais êtes vous vraiment capables de dire en quoi le swipe n’est pas un vote ?

Perso, quand j’ai entendu cette take, j’ai commencé par régurgiter du café et ensuite, une fois le péril mortel écarté, j’ai terminé ma tasse en me demandant : “purée, mais c’est pas si con, pourquoi c’est pas un vote ?”

C’est en les prenant au pied de la lettre et en questionnant leurs prétentions démocratiques qu’on peut clarifier comment devraient fonctionner des plateformes vraiment sociales et démocratiques.

Dans cette vidéo, nous allons voir pourquoi, en dépit de leurs discours marketing, ces plateformes ne sont pas du tout démocratiques et, sur cette base, nous allons identifier 4 piliers qui permettraient aux réseaux sociaux de devenir des plateformes démocratiques et réellement pro sociales. 📽️

Passons sans plus attendre à la première propriété essentielle à tous systèmes démocratiques, celle qui distingue le swipe du vote : la transparence des lois et des processus, notamment ceux qui régissent les élections.

1) Pilier 1 : Comptabiliser les voix de manière transparente et vérifiable

Lorsque nous allons voter, nous connaissons le processus. Pendant les cours d’éducation civique, on nous a expliqué comment un ou une maire était élu et comment fonctionnait l’élection présidentielle uninominale à deux tours. Même si on continue à buter sur le uninomitruc, on a plus ou moins en tête la manière dont notre voix va être comptabilisée, ce qu’elle signifie et le poids qu’elle va avoir par rapport à toutes les autres. On a aussi en tête qu’il y a une procédure bien précise : en premier lieu il faut s’inscrire sur une liste électorale, puis le jour du vote, des gens vont nous demander nos papier d’identité, on va signer un registre, on va refermer le rideau de l’isoloir, on va zieuter dans la petite corbeille pour faire des pronostics en fonction des bulletins qui y ont été jeté et puis on attendra l’énergique “à voter” qui concluera la partie pro active de notre participation démocratique…

C’est d’ailleurs parce qu’on sait comment ça fonctionne qu’on est par exemple conscient des risques de dispersion au premier tour d’une élection à deux tours.

Si on n’avait pas cette connaissance, il n’y aurait pas de vote utile. Lorsque le fonctionnement est opaque, il est plus difficile de savoir comment optimiser son vote et seuls certains pourront investir l’énergie et l’argent pour y parvenir.

Pour qu’on puisse parler de vote démocratique, il faudrait que tous les votant aient la même connaissance quant à la manière dont il va être comptabilisé. Or comment est comptabilisée mon like sur TikTok précisément ? Si je savais que mon commentaire de rageux sous une énième interview de Yann Lecun³ allait augmenter les probabilités que l’algorithme propose une autre de ses interviews en suivant, est ce que je le ferai ?

Justement, la plupart d’entre nous, on n’en sait rien. Mais ce n’est pas le cas de tout le monde. Les enjeux informationnels et donc politiques sont tellement énormes que ça crée un incitatif monumental à décoder les IA de recommandation afin d’en exploiter le fonctionnement et les faiblesses. Il se crée alors un immense marché où on peut vendre et acheter à prix d’or tout un tas de services qui permettront en fait de truquer le vote. Qu’importe si on appelle ça marketing, relation publique, Optimisation pour les moteurs de recherche, ce dont on parle c’est de truquer le fameux vote de “zhou”. Cette opacité génère une asymétrie d’information énorme entre nous les citoyens lambdas et les organisations qui décident d’investir massivement dans cette guerre informationnelle et ça, c’est tout sauf démocratique.

En fait aujourd’hui, quand on “vote” sur Tiktok ou sur une autre des grandes plateformes, c’est littéralement comme si on élisait des représentant sans vraiment savoir le nom inscrit sur notre bulletin ni même comment il allait être comptabilisé, à côté d’autres votants qui eux connaitraient toutes les règles sur le bout des doigts; le tout conçu et surveillé par la plateforme elle-même. On est sur de la grosse grosse démocratie donc

Cette nécessité de transparence et d’applicabilité, c’est la raison pour laquelle les plateformes comme Tournesol, pol.is, decidim ou agora citizen décident d’adopter des licences ouvertes. Bien entendu, ça facilite l’adoption, la modification et les améliorations par la communauté des développeurs mais aussi et surtout ça permet aux individus de comprendre comment leur participation va influencer les résultats, voire pour les plus sceptiques de vérifier qu’elle a bien été prise en compte comme annoncé dans les codes publiés des logiciels.

La plateforme Tournesol est une plateforme où on vote pour les vidéos qu’on voudrait voir massivement recommandées en les comparant les unes aux autres.

Les vidéos qui bénéficient d’un grand nombre de comparaisons positives obtiennent un meilleur score, un peu comme un joueur d’échecs obtient un bon score ELO en se “comparant positivement” à beaucoup d’autres joueurs, en les battant quoi.

C’est pour répondre à ce besoin de transparence que nous aimerions développer sur Tournesol un mécanisme rendant visible à l’utilisateur l’influence qu’a eu son vote, autrement dit sa comparaison, sur le score Tournesol des vidéos comparées. L’utilisateur qui vient de comparer deux vidéos saura si cela a fait grimper ou chuter les notes de ces vidéos et puis de combien.: 2, 5, 7 points ?

La plateforme pol.is tente également de rendre visible l’influence de la participation de chacun. Si vous n’en avez jamais entendu parlé, sachez que Pol.is est une plateforme où chacun va voter sur des propositions répondant à l’objet d’une consultation. Une consultation prend la forme d’une question ouverte sur un sujet controversé, comme par exemple celle que nous avons lancée avec Lê il y a quelques semaines… mois “Quels messages et quelles propositions soutenir collectivement au sujet de l’IA ?”⁴.

Lors d’une conversation pol.is, les participants et participantes peuvent alors se positionner par rapport à des propositions déjà faites et en écrire de nouvelles qui seront ensuite soumises aux autres. L’une des forces de pol.is est que l’algorithme, en analysant tous les votes, détecte les motifs de vote et met en évidence des communautés de votants qui ont des comportements de vote similaires.

Lorsqu’on vote sur les propositions d’une conversation pol.is, on peut voir en live comment chacun de nos votes fait évoluer cette cartographie des différents regroupements émergeant de la consultation. On observera potentiellement que notre dernier vote a changé la face de la consultation en faisant passer le découpage de 2 à 3 regroupements. A chaque vote, on verra également évoluer notre propre positionnement dans cette cartographie. Ainsi, si deux groupes ont émergé des votes qui ont précédé les vôtres, vous pourrez à chacune de vos prises de position savoir si celle-ci vient de vous rapprocher du groupe A ou bien du B.

Alors bien sûr, que ce soit dans pol.is ou dans Tournesol, il y a encore un énorme travail de vulgarisation et d’explicabilité à mener⁵. Plus les principes et le fonctionnement seront connus et compris de tous et plus ces plateformes seront réellement démocratiques. Il faut toutefois garder à l’esprit qu’un arbitrage difficile devra toujours être fait entre, d’une part, l’explicabilité et la transparence totale, et d’autre part, l’efficacité, à lutter contre la polarisation notamment.

Une autre chose à laquelle on s’attend sur une plateforme démocratique, c’est que le droit de “vote” soit réservé à des “humains” authentiques…..

2) Pilier 2 : Assurer la robustesse des IA de recommandation

S’il y a bien une chose qu’on a compris avec l’élection présidentielle roumaine de fin 2024, c’est que la plateforme Tiktok n’était pas robuste face à la fabrique de faux mouvements d’opinion appelé “astroturfing” ou “similitantisme” en québécois.

Plusieurs techniques peuvent être utilisées pour créer ces faux mouvements spontanés mais dans un univers où la diffusion de l’information est contrôlée par des IA de recommandation, ceux qui ont plus d’informations quant à leur fonctionnement peuvent tout simplement en exploiter les faiblesses.

Comme l’a bien montré et expliqué Florent Lefebvre dans une étude⁶, la manipulation des élections générales en Roumanie est un cas d’école de similitantisme. Cette campagne a exploité une caractéristique bien précise de l’IA de recommandation de Tiktok : celle-ci prend en compte le contenu des commentaires sous une vidéo pour choisir la prochaine vidéo qu’elle vous collera sous le nez.

Ce qu’on fait les attaquants est donc extrêmement simple : ils ont créé des armées de bot pour inonder toutes les vidéos Tiktok des candidats à l’élection de commentaires en mode “Go Georgescu” pour que ses vidéos soient ensuite massivement recommandées par l’IA. Alors est ce que ça a beaucoup influé ou pas sur les élections, je vous laisse juger mais quand on voit la courbe de l’évolution des sondages, on sent qu’un phénomène pas tout à fait organique est sans doute à l’oeuvre :

Aujourd’hui sur la plateforme démocratique de Zhou, avec l’astroturfing, c’est un peu comme si des entreprises avec des intérêts privés ou des partis pouvaient venir bourrer les urnes dans des proportions complètement insensées

Face à ce type d’attaques, il faut absolument que les plateformes puissent garantir que les acteurs s’exprimant sont des acteurs authentiques. C’est pour cela que pour pouvoir influer pleinement sur les scores Tournesol, il faut s’être inscrit avec un email reconnu comme étant fiable, c’est à dire un nom de domaine avec lequel il ne sera pas possible de générer 1000 emails afin de créer 1000 compte tournesol pour pouvoir truquer les recommandations. Autant dire qu’avec mon email en apreslabiere.fr, c’était un peu mort et j’ai donc dû faire appel à un second mécanisme : un système de garant où quelqu’un qui est déjà reconnu comme ayant un compte authentique sur la plateforme Tournesol garanti qu’il y a bien un humain derrière cet email chelou.

Après, dans un contexte où l’autoritarisme monte, on comprend assez facilement la réticence de certains à s’inscrire sur des plateformes où ils vont exprimer des avis finalement très politiques à l’aide d’un email qui les identifie. Parce que oui, dire que cette vidéo là est celle que je recommande le plus sur Youtube, c’est un avis extrêmement politique. Ce qu’on veut c’est garantir à la fois qu’on a à faire à un humain et que les idées de cet humain resteront anonymes. Et ce problème n’est pas nouveau dans l’organisation démocratique, c’est d’ailleurs sa résolution qui a donné lieu à la plus grande innovation technique de ces derniers siècles en termes de démocratie : le vote à bulletin secret⁷.

Le vote à bulletin secret est une telle évidence aujourd’hui qu’on a du mal à le considérer comme une “innovation”, à fortiori “grande” mais c’est oublié que depuis la démocratie athénienne, les pratiques démocratiques ont finalement évolué extrêmement lentement.

Et l’équivalent du vote à bulletin secret pour les plateformes numériques, ça existe en partie. On peut par exemple prouver qu’on rempli les conditions nécessaires à la participation à un vote numérique, sans pour autant transmettre son identité. En gros je peux prouver à une plateforme que je possède bien un passeport français sans jamais avoir besoin de le transmettre. Des plateformes basées sur un tel système d’authentification garantirait à la fois l’anonymat à celles et ceux qui expriment leur opinion et le fait que les participants s’exprimant soient bien des humains ou bien des citoyens de tel ou tel pays.

C’est d’ailleurs une des grosses limites de la plateforme pol.is, il n y a pour l’instant pas vraiment de système de login. C’est pour cette raison que la consultation que nous avons faite nécessitait une certaine dose de confiance car j’aurai très bien pu déployer mon armée de bot apreslabiere.fr en faveur de la proposition 5

Mais ça ne suffit pas pour être une plateforme numérique démocratique d’arriver à dégager les bots et de n’avoir que des votants en chair et en os, il faut également parvenir à récolter les votes de la partie informée de chacun d’entre nous.

3) Pilier 3 : Collecter les avis “réfléchis”

Dans une démocratie, on tente, autant que faire se peut, de collecter les avis “réfléchis” des citoyens.

Pour vulgariser le concept, j’aime bien dire qu’on a tous 2 personnes un peu différentes aux manettes du vaisseau humain dans lequel nous sommes embarqués. Moi par exemple, quand je vais me coucher et que je me projette dans la journée de demain, j’imagine toujours qu’au réveil, je lirai un livre extrêmement intelligent en buvant une tisane bio avant de travailler sur un script pendant quelques heures en mode “deep focus” avant de finalement sortir du mode avion mais uniquement pour répondre aux messages whatsapp et aux emails importants ; évidemment. Ca c’est ce que se dit le type qui va se coucher et puis il y a le type qui se lève, qui a qu’une envie c’est d’enfourner les dragibus par poignée en regardant des shorts sur les plus gros ollie que les humains n’aient jamais fait…

Ces deux personnes coexistent en permanence et les deux ont leur qualité et leur faiblesse. Je les aime toutes les deux mais si je devais consulter l’une d’entre elles sur qui il faudrait placer à la tête du pays ou sur comment il faudrait réguler les big Tech, je sais très bien vers laquelle je me tournerai. Or les big techs ont très bien compris que pour leur modèle d’affaire, c’était nettement plus rentable de s’adresser à la personne qui a tout le mal du monde à résister aux dragibus. La démocratie selon Chow, c’est comme si dans l’isoloir, on nous bombardait d’actualités sensibles spécifiquement conçues pour susciter chez nous des réactions émotionnelles fortes, indignation, colère, rage...

Démocratiquement, on continue de ramer très fort au tiktokistan

Au contraire des big tech, je vais profiter d’avoir accès en ce moment à votre partie réfléchie pour vous demander de vous poser sincèrement la question de : “est ce que ça serait pas une bonne chose à faire de soutenir le modèle d’affaire d’ApresLaBiere ?”. Et oui, parce que pour continuer à résister aux sirènes des RS et du clash tout en continuant à faire un travail que j’espère sérieux et divertissant le ventre pas trop vide, j’ai besoin de financement. Donc si vous voulez que je continue de plus belle à vulgariser et à diffuser du contenu sur les enjeux informationnels et démocratiques, le lien tipeee est juste là.

Ou bien encore mieux faites moi intervenir en conférence sur ces sujets.. Et si vous êtes en galère, croyez-moi, je comprends, n’hésitez pas à simplement diffuser la vidéo en la partageant manuellement ou bien en nourrissant l’algorithme. Je vous ferai pas l’affront de vous dire comment, je sais que vous savez faire. Et merci vraiment aux parties réfléchies de mon audience qui font déjà l’effort de me soutenir.

En tous les cas, ce sont ces parties réfléchies des citoyens qui sont censées être à la base du fonctionnement de nos démocraties. Celles-ci ont mis en place des règles et des principes qui permettent de recueillir les votes du côté réfléchi des citoyens. Lors des élections, une trêve médiatique commence le vendredi soir précédant le dimanche du vote. Elle a pour ambition de laisser un moment de réflexion aux citoyens afin que leur choix ne soit pas influencé par une dinguerie de dernière minute.

De la même manière, les règles du conclave de l’élection papale encouragent la réflexion. Dès le début du processus d’élection du nouveau pape, les cardinaux sont enfermés “cum clave”, c’est-à-dire avec une clé en latin, d’où le nom “conclave”. Les cardinaux sont alors coupés du monde jusqu’à ce qu’ils se mettent d’accord sur le nom de leur prochain leader.

Historiquement, ça n’est pas vraiment pour protéger leur réflexion qu’on a commencé à mettre les mettre sous clés mais plutôt parce que les catholiques du XIIIème siècle trouvaient que 2 ans et 9 mois pour élire un nouveau pape, c’était quand même un peu long⁸. Impatients, ils ont enfermé les cardinaux en mode coup de pression : “vous sortez pas tant que vous vous êtes pas mis d’accord”…

Mais 8 siècles plus tard, alors que les élections papales ont clairement gagné en efficacité, on constate que la pratique est restée, notamment parce qu’elle a d’autres intérêts : préserver l’élection du pape de toute tentative d’influence extérieure et permettre à la partie réfléchie des cardinaux de voter.

Cette incitation au temps long de la réflexion, c’est ce que Tournesol cherche à reproduire.

Tout d’abord en étant très clair sur ce que “signifie” un “like” ou bien dans le cas de Tournesol une comparaison en faveur d’une vidéo plutôt que d’une autre : “cette vidéo plutôt que l’autre devrait être davantage recommandée à tout le monde”. Rien que ça, ça permet de distinguer le like qui signifie “je me suis bien marrer” du like de recommandation où ce qu’on veut dire c’est ““Si cette vidéo était massivement vue, la société fonctionnerait bien mieux“. En effet, mon pouce bleu sous la vidéo des écureuils ninja warrior ne signifie pas vraiment la même chose que celui sous la vidéo de CGP Grey : “This will make you angry”.

Ensuite, une autre manière pour Tournesol de plutôt recueillir les avis réfléchis, c’est d’empêcher les positionnements rapides et instinctifs que permettent les likes et les swipes. Sur Tournesol, l’utilisateur doit choisir parmi les X positionnement possibles d’un curseur, cela crée une friction qui ralentit et encourage la réflexion.

Malgré cette interface pensée pour éviter les comparaisons instinctives et sans réflexion, des motifs étranges sont quand même observés. On constate par exemple que les comparaisons sont souvent à l’avantage de la vidéo vue le plus récemment.⁹

Mais ce biais pour la vidéo la plus récente disparaît dès que les personnes qui comparent prennent le temps d’également comparer les 2 vidéos selon les critères “optionnels”. Lorsque les utilisateurs prennent le temps de se demander également si la vidéo en question est plus distrayante ou plus robuste aux retours négatifs que l’autre, le biais pour la vidéo la plus récente disparaît. Cette tendance semble être une illustration parfaite du “biais de récence” où on donne plus d’importance aux événements récents qu’anciens. L’observation de ce biais dans les comparaisons montre que notre personnage rapide et instinctif parvient quand même à s’exprimer malgré la friction imposée par le curseur.

Par contre, face à la friction de plusieurs curseurs, là il lâche l’affaire et laisse toutes les manettes à notre personnage plus réfléchi.

Le design de pol.is est lui aussi pensé pour contrer l’instinct et les pulsions rageuses des utilisateurs. Dans l’interface de pol.is, l’utilisateur est incité, non pas à critiquer et à clasher les propositions des autres mais à simplement faire de nouvelles propositions et même à faire des propositions qui vont générer une adhésion la plus large possible…

En fait, vous ne pouvez tout simplement pas répondre ou rebondir à une suggestion, même si vous la trouvez totalement éclatée. Vous pouvez simplement faire une nouvelle proposition. Et s’il s’agit en fait d’un commentaire adressé à une proposition bien précise, c’est bien mais vous serez le seul à le savoir parce que personne ne le verra. Pour les autres utilisateurs, ce sera simplement une proposition parmi tant d’autres sans aucune référence à la proposition qui vous a fait monter dans les tours.

Alors chassez le naturel et il revient au galop bien évidemment. Il est fascinant de constater que nous évoluons depuis plus d’une décennie dans des plateformes qui nous ont tellement habitués au clash qu’on l’a métabolisé : c’est devenu un réflexe. Pour certains, s’il existe un champ pour s’exprimer sur une plateforme numérique, c’est forcément pour clasher son prochain.

Par exemple dans la consultation sur l’IA, on a vu arriver dans l’interface de gestion de la consultation, des réponses étranges à la question qui était posée “Quels messages et quelles propositions soutenir collectivement au sujet de l’IA ?” :

Il s’agit simplement d’utilisateurs qui répondaient à des propositions avec lesquelles ils étaient pas tout à fait d’accord. Chacune de ces suggestions a d’ailleurs ce ton caractéristique des échanges numériques et on pressent déjà la discussion riche, sereine et polie qui devrait s’en suivre…

Sauf que pol.is n’est pas une plateforme classique, elle n’est pas conçue pour le clash. Non seulement il n’aura jamais lieu mais on ne saura même pas quelles étaient les propositions qui en ont pris pour leur grade, même pas le modérateur.

Mais c’est quand même fou, même lorsque l’interface est faite pour nous en détourner, nous sommes désormais tellement matrixés qu’on tente quand même de se clasher. Un peu comme si nous gardions l’habitude de signer les documents officiels de manière manuscrite dans un monde où tout se numérise, ça serait complètement con quand même. Et bien là c’est pareil mais avec le clash. Quand je vois le mal qu’on a à se dépêtrer de la signature manuscrite, je me dis qu’il serait vraiment stratégique de modifier l’habitude du clash avant qu’elle soit tellement ancrée dans notre psychologie collective qu’elle survive même sur des plateformes pensées pour le vivre et délibérer ensemble.

Mais pour vivre ensemble, il faut davantage que de ne pas se clasher tous les 4 matins, il faut également avoir un socle commun que ce soit en terme de valeurs, notamment démocratique mais aussi en terme d’information sur le monde. Comment faire démocratie avec des gens qui ne partagent même pas les faits les plus basiques sur ce qui est en train de se passer ? Et c’est une autre différence, peut-être la plus importante et la plus difficile à faire saisir, notamment dans les sphères militantes : pour vivre ensemble, il faut, d’une manière ou d’une autre, avoir un écosystème informationnel qui crée et entretient ce socle commun.

4) Pilier 4 : Construire un socle informationnel commun

Pour qu’une démocratie fonctionne, un socle commun est nécessaire et il ne s’entretient ni ne se construit tout seul. De nombreux mécanismes dont l’objectif est de nous donner la culture commune qui facilite le vivre ensemble existent et sont globalement acceptés. Alors tout le débat se portera évidemment sur ce qu’on doit considérer comme étant une brique essentielle de cette culture commune. Débat complexe et épineux au cœur de nombreuses empoignades mais on remarque qu’il n y a aucun débat sur le fait qu’il est nécessaire qu’une forme de culture commune existe. Il est par exemple assez consensuel de dire qu’il est pratique que la plupart des gens dans une société aient une langue commune. De la même manière, nous sommes globalement d’accord avec le fait qu’il y ait un système éducatif avec des programmes communs. On discute beaucoup de ce qu’il doit y avoir dans ce socle commun de connaissance, c’est-à-dire ce qu’il y a dans les programmes mais on discute très peu du fait qu’un programme commun existe.

Alors bien sûr, on a envie de dire que tout ça, ça ressemble très fort à de la propagande et du matrixage et ça a tendance a ne pas trop plaire à la partie de nous adepte de liberté absolue. Mais j’ai une mauvaise nouvelle, une certaine dose de matrixage est inévitable, ça s’appelle la socialisation et ça a son utilité….

Or aujourd’hui, une grosse partie de l’information que nous consommons ne vient pas de l’éducation nationale ou de l’audiovisuel public mais des réseaux sociaux. Et ceux-ci se sont construits à l’opposé de cette logique de socle commun. Les grandes plateformes ont exploité une capacité technologique nouvelle : la capacité à individualiser les flux d’information. Cette capacité technique leur a permis d’écraser les médias classiques avec qui il partage pourtant le modèle économique. Comme le résumait l’ancien PDG de TF1, Patrick Lelay, dès 2004 :

Big tech / TF1 même combat finalement !

Mais la personnalisation des flux a permis aux plateformes du numérique de conquérir le monde, de rassembler toutes les audiences, toutes les idéologies en les isolant. Là où les médias classiques devaient au moins construire un socle, commun à leur audience, les grandes plateformes se sont extraites de cette contrainte et se sont justement développées sur le fait qu’elles n’ont même pas à s’embarrasser d’un socle commun.

Cela fait 20 ans que la part de l’information que nous consommons et qui n’est absolument pas pensée pour construire un socle commun grandit. La “démocratie des big techs”, c’est un pays où tout le monde, depuis l’enfance, est scotché à sa propre chaîne de télé qui lui dit potentiellement l’exact inverse de celle de son collègue.

Quand les citoyens binge-watchent, c’est la démocratie qui trinque quelque part.

Ces dernières décennies, nous nous sommes dangereusement éloignés de cet équilibre subtil entre “pluralisme” et “cohésion”. Cet éloignement se traduit notamment par l’augmentation de la polarisation émotionnelle et la montée des tensions. Il devient de plus en plus difficile de faire société avec des gens qui ne nous semblent pas vivre dans la même réalité que nous et il devient de plus en plus aisé de les haïr…

Et ce mouvement d’individualisme informationnel n’est pas uniquement le fait des big tech. Aujourd’hui, l’énorme recherche académique sur les IA de recommandation part presque toujours de l’ambition politiquement discutable que celles-ci doivent être optimisées pour la consommation individuelle de chaque utilisateur (et même plus exactement pour sa rétention). Si certaines notions d’équité ou de qualité informationnelle émergent, cette philosophie ultra-individualiste reste largement prédominante. Après bon, connaissant l’influence de l’industrie des Big Techs sur le monde académique en informatique, on est pas non plus mega dépaysés¹⁰ !

Mais concrètement, ça signifie que beaucoup de chercheurs académiques, payés par les contribuables français, en sont venus à accélérer la perte des communs informationnels qui nous permettent de “faire société”.

Sur TikTok et conformément à beaucoup de recherches académiques donc, on ne vote pas pour la société, on vote pour soi même, pour sa propre rétention. En fait, on vote pour s’auto capturer.

Pour parvenir à combler cette fracture informationnelle grandissante, il nous faut remettre du “commun” dans nos diètes informationnelles. Il faut lutter contre l’hyper individualisation de nos feeds et renoncer à des flux qui nous correspondent totalement pour embrasser des flux qui nous font davantage correspondre aux autres. Une partie des recommandations doit nous aider à partager des valeurs, des constats et des envies au nom desquels on dépassera nos différences. Les recommandations doivent créer un peu de commun. C’est au nom du commun qu’on parvient à se faire violence et à dépasser nos différences. Sans commun on se contente d’écraser les différences dans la violence.

Ainsi, dans un système numérique démocratique, le citoyen doit voter non pas pour optimiser ses propres recommandations mais pour des contenus d’intérêt général qui seront diffusés par delà les chambres d’écho. Pour y parvenir, on peut par exemple penser aux “bridging algorithms” ou bien “algorithmes de rapprochement” qui sont précisément conçus pour favoriser la confiance et la compréhension mutuelle entre des points de vue différents.

C’est précisément ce que fait pol.is quand le système de recommandation met en avant les propositions qui ont le plus de chance de générer des consensus transpartisans, c’est-à-dire des propositions qui sont plébiscitées par les groupes qui ont pourtant des motifs de vote différents . Et surtout là où pol.is crée du commun, c’est dans sa manière de présenter les résultats et de donner à tous les participants la même vision de la discussion. On ne finit pas avec les mêmes opinions mais pol.is nous donne la possibilité de partager la même vision de la conversation, des lignes de clivage et surtout des lignes où on pourra se retrouver et avancer plus facilement.

Dans le cas de la consultation sur l’IA par exemple, un gros point de clivage semble être l’importance relative des IA de recommandation versus les IA dites génératives mais le point de consensus c’est que tous les gens ayant participé à la consultation veulent davantage de régulation.

Avoir un bout d’information commune et transpartisane, c’est aussi le principe qu’il y a à la base derrière les “community notes” de X qui sont écrites collectivement et qui ne sont publiées que si de nombreuses personnes ayant des opinions très différentes entre elles ont toutes jugées cette note utile. Ce principe, sur lequel Twitter avait commencé à réfléchir avant Musk, reste utile et devrait vraiment être implémenté ailleurs puisque bon X depuis Musk, question démocratie….

C’est pour lutter contre l’individualisation des feeds que nous tenons à Tournesol à ce que les scores Tournesol des vidéos soient les mêmes pour tous, quelles que soient les propres opinions de l’utilisateur. Ainsi le “top tournesol” contient les vidéos qui ont été jugées le plus positivement par la communauté et non les vidéos que j’ai le plus de chance de juger moi positivement. Le top tournesol ne diffère pas en fonction des centres d’intérêt de l’utilisateur. Je peux classer les vidéos selon un critère qui me convient davantage mais je verrai là aussi le même classement que Lê.

Alors que je doute qu’il soit fasciné comme moi par le curage de sabots…

Conclusion

Tournesol et d’autres organisations cherchent activement à construire ces 4 piliers d’un numérique démocratique qu’il semble tous les jours plus urgent de bâtir. Participez et aidez nous en rejoignant Tournesol ou en effectuant des dons à l’Association (lien en description), ou tout simplement en diffusant autour de vous les appels à investir dans un numérique démocratique.

Tous les jours, les autocraties se renforcent grâce à leur maîtrise du numérique. Si nous n’arrivons pas, de notre côté à faire du numérique un atout démocratique nous permettant de sortir de la sidération et de traiter les enjeux de notre époque, on ne pourra que constater le glissement pas si lent que ça vers un autoritarisme numérique qui ne fera qu’une bouchée des postures radicalement anti tech. Si vous voulez en savoir plus sur pol.is, allez voir la vidéo de Lê qui traite plus exhaustivement de la consultation que nous avons organisé et rejoignez nous pour construire une plateforme numérique qui intègre ces 4 piliers.

C’est tout pour aujourd’hui, à bientôt, sur des plateformes plus démocratiques j’espère !

Paix et santé,

Et tant que vous êtes là ;), voici 5 manières de suivre et de soutenir le projet d’ApresLaBiere :

1) Soutenir ApresLaBiere sur Tipeee (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)

2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :

3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)

4) Liker et suivre ApresLaBiere sur facebook, twitter ou instagram

5) Penser à faire appel à Homo Conscientus (moi :)) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.

SOURCES / LIENS / POUR ALLER PLUS LOIN :

¹ “TikTok’s CEO on its future — and what makes its algorithm different” : https://www.ted.com/talks/shou_chew_tiktok_s_ceo_on_its_future_and_what_makes_its_algorithm_different/ (7min 13)

² “Elon Musk talks Twitter, Tesla and how his brain works — live at TED2022” : https://www.youtube.com/watch?v=cdZZpaB2kDM

³ “Grande entrevue avec Yann Le Cun” : https://www.youtube.com/watch?v=lJOx_x5DXuo

⁴ La conversation pol.is sur l’intelligence artificielle organisée au printemps : https://pol.is/4cacski7ha

⁵ Sur l’explicabilité en français : https://golem.ai/fr/blog/explicabilite-en-ia

⁶ L’étude de Florent Lefebvre pour Digi humanism : https://www.canva.com/design/DAGYbEVMmA8/vjqD3NhJxpmLHkGfvSUxqw/view

⁷ L’histoire du vote à bulletin secret : https://www.sealionpress.co.uk/post/the-history-of-the-secret-ballot et quelques explications / illustrations de son “successeur” numérique “la preuve à divulgation nulle d’information” : https://www.circularise.com/blogs/zero-knowledge-proofs-explained-in-3-examples

⁸ Sur l’élection pontificale un peu longuette : https://fr.wikipedia.org/wiki/%C3%89lection_pontificale_de_1268-1271

⁹ “The Tournesol dataset: Which videos should be more largely recommended?” : https://openreview.net/pdf?id=5WFzk0H27p

¹⁰ “The Grey Hoodie Project: Big Tobacco, Big Tech, and the threat on academic integrity” : https://arxiv.org/abs/2009.13676 mais aussi notre tribune : “Pourquoi il est urgent de porter de l’attention aux conflits d’intérêt des « experts en IA »” : https://usbeketrica.com/fr/article/ia-pourquoi-il-est-urgent-de-porter-de-l-attention-aux-conflits-d-interet-des-experts-en-ia et ma vidéo sur le sujet “Quand la désinformation de l’industrie du tabac inspire Big🚬Tech ?” : https://tournesol.app/entities/yt:vOOxi9MfgNE

Liker n’est pas voter, 4 piliers pour un numérique (vraiment) démocratique was originally published in Après La Bière on Medium, where people are continuing the conversation by highlighting and responding to this story.

Vers un Numérique Démocratique : La Solution face à la désinformation climatique ? (ft. Rodolphe Meyer)

Que faire face aux impacts environnementaux les plus graves du numérique ?

Je ne parle pas ici de nos doses de streaming quotidien ou de la fabrication des terminaux, mais d’impacts indirects, Qui me préoccupent encore plus.

Ce “permis de détruire”, accordé à quelques milliardaires qui structurent nos écosystèmes informationnels sans aucun contre-pouvoir, a des conséquences environnementales majeures, trop souvent négligées.

J’ai eu la chance de détailler ces enjeux dans une vidéo avec la chaîne “Le Réveilleur”.

Dans cette vidéo on s’est intéressés à tous les impacts climatiques du numériques, les impacts directs bien entendu mais aussi les impacts environnementaux indirects qu’on occulte selon moi trop souvent…

Rodolphe : Si j’ai bien retenu ta sélection d’impacts indirects, il y a :

1. La surconsommation dûe à la publicité ciblée
2. Les informations fausses ou trompeuses, entres autres sur les questions environnementales, qui pullulent sur les plateformes
3. La mauvaise hiérarchisation de l’information qui ne maximise pas notre capacité collective à analyser et résoudre les problèmes environnementaux
4. La détérioration du débat démocratique qui mine notre capacité politique à prendre des mesures pertinentes pour réduire les dommages environnementaux

Jean-Lou : Exactement ! Si vous ne l’avez pas encore vu, je vous encourage vivement à aller la voir, le lien est évidemment en description !

Rodolphe : Reste la question à laquelle on n’a pas répondu dans ma vidéo : que pourrait-on faire pour limiter ces impacts indirects ?

Jean-Lou : Et bien c’est exactement ce dont on va parler dans cette vidéo.

Métaphore du barrage

Qu’il s’agisse d’incitation à la surconsommation, d’informations fausses ou trompeuses, de mauvaise hiérarchisation ou de détérioration de la démocratie, nous sommes à chaque fois confrontés à une dure réalité : notre écosystème informationnel est merd***, voilà ça y est c’est dit….

Autrement dit : les citoyens nagent dans de l’information de m*** - de très mauvaise qualité et cela aggrave des problèmes sociétaux qu’il est pourtant urgent de résoudre.

Et c’est peut-être ça la première chose que nous devons faire : réaliser et admettre l’ampleur du problème. Si l’information était de l’eau, nous serions tous et toutes en train de nous abreuver dans un réservoir où les pollutions fécales seraient de plus en plus fréquentes et massives.

D’où viennent ces pollutions ? Si on file la métaphore, en amont du réservoir “ecosystème informationnel du citoyen”, il y a un barrage au sein duquel coexistent différents mécanismes pour filtrer les flux informationnels.

Depuis notre plus tendre enfance, l’information que nous consommons nous parvient filtrée. Soit par notre entourage, soit par l’éducation nationale, soit par les médias dit “classiques”, soit par … les médias dit “sociaux”. Dans le cas de médias classiques, de l’audiovisuel public ou de les systèmes d’éducation, énormément d’énergie et d’argent est investie par toutes les démocraties libérales afin que l’information diffusée aux citoyens, ne soit pas de trop mauvaise qualité. Pour avoir un ordre d’idée, la France débourse chaque année la coquette somme de 160 milliards d’euro pour contrôler l’écosystème informationnel dans lequel évolue les petits citoyens.

Que ce soit sous forme de régulation, d’aide à la création audiovisuelle ou de programme scolaire, de nombreux mécanismes sont en tous les cas mis en place pour que l’information émanant des médias classiques et de l’école ne soit pas trop polluée.

Et la régulation du flux des réseaux sociaux dans tout ça ? Parce qu’étant donné que l’humanité passe littéralement des milliards d’heures quotidiennement à regarder des vidéos dessus, ça doit être des budgets colossaux, à l’image de la quantité d’information que ca représente non ?

Et bien pour la France, c’est une toute partie du budget de l’Arcom : l’autorité de régulation de la communication audiovisuelle ET numérique. L’arcom a comme son nom l’indique des prérogatives vertigineuses pour un budget qui l’est beaucoup moins : 46 millions d’euros… Une petite partie de 46 millions d’euros face à la puissance d’amplification informationnelle des big tech, comment dire….

Face à ces pollutions, on évoque souvent l’esprit critique mais cette approche est très très insuffisante¹. Enseigner l’esprit critique c’est un peu comme tenter de donner des gourdes filtrantes et des pastilles de purification aux personnes qui veulent ou peuvent attendre 30 minutes avant de boire alors qu’ils sont en train de mourir de soif. Le “débunkage” qui consisterait quant à lui à dépolluer le lac après les contaminations les plus massives semble plus pragmatique et il s’avère essentiel comme on le verra plus tard. Mais est-ce vraiment une stratégie efficace dans l’écosystème actuel ?

Quelque chose dont on ne parle quasiment jamais par contre, c’est d’agir directement sur les IA de recommandation qui filtrent le contenu en amont. Nous pourrions les concevoir pour qu’elles mettent en sourdine les contenus faux et trompeurs tout en amplifiant les contenus de qualité. Ce serait équivalent à mettre de nouveaux filtres spécifiquement conçus pour les plateformes numériques dans le barrage en amont du réservoir où nous nous abreuvons. Plus précisément, entre les contreforts où s’écoule l’information des médias sociaux.

Chacune des stratégies visant à ce qu’on consomme au final de l’eau potable a son intérêt mais vous aurez peut-être saisi grâce à mon choix de métaphore absolument pas neutre que je pense que beaucoup beaucoup beaucoup trop d’énergie est passée dans l’approche “individualiste” du problème, celle où on distribue des gourdes filtrantes sur les routes de France. Et ce choix non stratégique s’explique assez facilement : qu’il s’agisse de pollution informationnelle (ou écologique d’ailleurs), il est beaucoup plus aisé, notamment pour les politiques et les industries, d’en appeler à la responsabilité individuelle du consommateur plutôt que de remettre en question les mécanismes structurels à l’origine de ces pollutions.

C’est pour cela qu’on se retrouve avec des politiques qui vont plutôt culpabiliser le consommateur, que dis je le consom’acteur. Il devrait lui-même vérifier toutes les sources de tous les articles ET calculer l’empreinte carbone de tous ses voyages. Pour être un vrai acteur de la transition écologique, vous devriez décider de vous-mêmes de payer un billet de train moins carboné pour le double du prix du même trajet en avion. Et tout ça pendant que le kérosène continue à être subventionné².

La quantité d’énergie collective à investir est bien plus importante dans l’option où on demande à tout le monde de faire des efforts de leur côté mais elle demande moins de courage et de sacrifices de la part des gens qui ont beaucoup de pouvoir…

Ce sont les mêmes mécanismes qui motivent la manière privilégiée avec laquelle on lutte contre la pollution informationnelle. Encore une pollution où ce sera au consommacteur de faire en sorte de trier le vrai du faux dans toutes les feeds auxquels il est exposé plutôt que de demander aux plateformes d’assumer une once de responsabilité quant aux contenus qu’elles choisissent de massivement amplifier sans se préoccuper, évidemment, des conséquences sociétales… Classique….

Mais avant de prendre les 4 impacts indirects qu’on a vu avec Rodolphe et voir comment on pourrait modifier la structure de notre écosystème informationnel pour qu’on ne se retrouve pas avec de l’information frelatée dans nos fils d’actualité, on va être égoïste et court termiste 30 secondes.

Rodolphe : Notons qu’il existe une solution plus efficace que de tout vérifier soi-même, ce qui pour des raisons de motivation, de temps et de compétence est impossible. On peut identifier des tiers de confiance et se fier aux informations qu’ils fournissent. On peut accorder notre confiance au système éducatif, à certains médias, à des institutions scientifiques, à des individus ou à n’importe quelle source d’informations. Évidemment rien n’empêche de vérifier certaines informations et de faire évoluer, au fil du temps, cette confiance qu’on accorde à des tiers mais une fois qu’on a trouvé des tiers crédibles, on gagne un temps considérable en s’informant sans tout vérifier. Vous pouvez arrêter d’être manipulé par des algorithmes de recommandation qui ne poursuivent pas vos intérêts. Par exemple, en vous abonnant à des newsletters écrites par de vraies personnes qui savent de quoi elles parlent. Si je me place dans l’allégorie de Jean-Lou, ça revient à faire confiance aux filtres d’un canal et à venir remplir sa gourde ici plutôt qu’au milieu du réservoir là où tout s’est mélangé.

Jean-Lou : Mais tu ne fais que déplacer le problème puisque rien ne garantit que ces canaux sont, effectivement, de bonne qualité. Quelqu’un peut accorder sa confiance à un individu ou a une organisation qui lui raconte absolument n’importe quoi.

Rodolphe : C’est vrai qu’il faut bien choisir à qui on accorde sa confiance. Disons qu’il s’agit d’exercer son esprit critique à la sélection de tiers de confiance plutôt qu’à chaque information. Par exemple, sur les questions climatiques, j’accorde une grande confiance aux rapports du GIEC mais également à CarbonBrief, un excellent média qui n’a, malheureusement, pas d’équivalent en langue française. Et pour ceux que ça intéresse, j’ai déjà expliqué, par exemple, ce qui fait la force des rapports du GIEC.

Jean-Lou : Parfait, merci Rodolphe, grâce à tes techniques, on va pouvoir s’hydrater tout en économisant un peu d’énergie, ce qui est essentiel si on veut pouvoir s’attaquer à la structure de nos écosystèmes informationnels. Or s’attaquer à la structure est vital car même si on arrive à soi-même rester à l’abri de la pollution informationnelle, notre bien être est dépendant de la santé politique, économique, environnementale de nos sociétés. Or celle-ci risque de continuer à se détériorer si une grande partie de la population se retrouve avec de l’information frelatée dans ses fils d’actualités.

Du coup, que peut-on faire structurellement ? Autrement dit, que faire au niveau du barrage pour éviter que le réservoir dans lequel tous les citoyens s’hydratent soit plein de … bon vous avez saisi je crois…

La première chose, c’est de :

1️⃣ Limiter les effets environnementaux dévastateurs de la publicité ciblée

Pour limiter les envies d’achat compulsif et leur coût carbone associé, nous pourrions nous baser sur la législation déjà existante et l’appliquer. Autrement dit, il faudrait arrêter de considérer le monde en ligne comme un far west numérique où l’état de droit ne s’applique pas vraiment.

A) Remettre un peu d’état de droit / Principe de non conformité

Par exemple, il est déjà inscrit dans la loi qu’on ne peut pas faire ce qu’on veut dès qu’il s’agit de bombarder les enfants de publicité. Il est interdit par exemple de diffuser des publicités de pari sportif et de poker aux alentours des émissions destinées aux enfants. Sur France télévision il est également interdit de mettre de la publicité autour des programmes dont l’âge du public est de moins de 12 ans. Sur le web, de telles réglementations sont soit inexistantes soit totalement inappliquées, ce qui d’un point de vue pratico pratique revient strictement au même³. Et c’est pareil aux Etats-Unis :

De manière générale, les autorités échouent à faire appliquer les lois qui encadrent la publicité aux espaces numériques même si elles le devraient au nom de l’état de droit. Le Web est un far west numérique où, de facto, la réglementation semble se volatiliser et ne pas s’appliquer, en tous les cas pas de manière effective.

Au contraire, nous devrions avoir une approche bien plus stricte de la régulation de tout le secteur. A la manière d’un nouvel avion ou bien d’un nouveau médicament, nous pourrions partir du principe que chaque nouveau produit, qu’il s’agisse d’un nouvel algorithme de recommandation ou d’une nouvelle technique de ciblage publicitaire, est par défaut non conforme à la mise sur le marché. C’est à airbus de prouver que son nouvel avion ne va pas s’écraser trop fréquemment. On pourrait s’inspirer de ce mécanisme et demander aux big tech d’amener des éléments prouvant que les conséquences anticipables de leurs nouvelles technologies n’ont pas des conséquences dramatiques sur la société. Enfin déjà, s’ils prouvent que c’est moins pire que la version précédente, on est bien.

B) Faire des lois “Evin du numérique”

Mais nous devrions également suivre les recommandations du rapport ministériel “Contribution et régulation de la publicité pour une consommation plus durable”⁴ et réguler en fonction du type de produit concerné.

Par exemple, on pourrait estimer que la publicité de produits à forte empreinte carbone devrait être surtaxée afin de financer la transition énergétique. Vous voulez afficher une publicité pour un aller retour à Lisbonne pour 50 euros sur le feed de quelqu’un qui vient de faire la recherche “how to get summer abs 2025” ? Pas de souci, par contre 75% du coût d’achat de cette publicité sera taxé et pourra servir, à tout hasard, au financement du développement et de l’entretien du réseau ferroviaire français.

Et on pourrait faire ça pour les publicités en lignes de secteurs dont on estime que l’empreinte carbone est extrêmement élevée au regard de l’amélioration de la qualité de vie qu’ils apportent, une liste non exhaustive :

• Les voyages en avion
• La fast fashion
• Les voitures thermiques
• Les systèmes de chauffage fossiles

Mais, sachant à quel point le marché de la publicité en ligne est aujourd’hui opaque, Lê, dans sa vidéo “Taxons la pub”⁵ proposait d’aller plus loin en présumant que toutes les publicités étaient néfastes pour l’environnement et donc de toutes les taxer par défaut. Il pourrait simplement y avoir une exception pour celles qui prouveraient qu’elles auraient des conséquences bénéfiques pour l’environnement. Par exemple, une publicité dont l’objectif serait de convaincre le potentiel acquéreur d’un gros scooter thermique de plutôt acheter un vélo électrique, pourrait se voir exemptée de taxe.

On pourrait également légiférer non pas en fonction de la thématique de la publicité mais de la technique marketing utilisée. Ainsi, on pourrait encadrer certaines des techniques publicitaires les plus intrusives du web comme le micro ciblage ou encore mieux le reciblage publicitaire. Ca, c’est quand un site que vous avez consulté continuera à vous suivre lors de votre surf, enregistrera votre innocente requête “nettoyage tâche tapis” sur un moteur de recherche quelconque pour tenter ensuite de vous refourguer une shampouineuse dans un encart qu’il aura acheté⁶ ⁷.

C) Considérer l’effet rebond du numérique

Les mécanismes par lesquels la publicité génère un changement de comportement sont loin d’être triviaux. L’un d’eux c’est de modifier et de façonner nos imaginaires⁸. La diffusion et l’adoption massive de toutes ces technologies est basée sur un imaginaire technosolutionniste qui considère uniquement et systématiquement seulement les conséquences positives du numérique à base de :

“Amazon évite aux consommateurs l’impact carbone dû à leur déplacement”

“L’IA va permettre d’accélerer certaines innovations qui bénéficieront à la lutte contre le changement climatique”

sous entendu : “pour toute poste fermée, un data center”⁹.

Bien sûr que les nouvelles technologies ont des conséquences positives, encore heureux, mais il faut réfléchir aux effets rebonds magistraux qui, si rien n’est fait, ont toutes les chances d’advenir. C’est sans doute mieux d’acheter un câble en ligne lorsque vous en avez besoin que d’aller à la Fnac en voiture. Mais est ce qu’il est toujours pertinent d’avoir ce raisonnement quand tout le monde se met à acheter des gadgets quotidiennement parce que c’est quand même plus simple de cliquer puis de recevoir le colis 2 jours plus tard que de se déplacer jusqu’au magasin ?
Pour ça je recommande les articles de Gauthier Roussilhe qui vulgarise très bien toutes les manières dont la numérisation impacte l’environnement¹⁰ ainsi que ce rapport de l’Ademe¹¹ qui traite de tous les impacts numériques sans négliger les impacts indirects en s’intéressant notamment à tous les types d’effet rebond causée par l’adoption d’un nouvel usage numérique.

Mais pour augmenter les probabilités que ce genre de législation soit poussée, il faudrait qu’il y ait un minimum de pression populaire et pour ça, il faudrait que nous soyons mieux informés et plus conscients des enjeux climatiques.

C’est pour cela qu’après avoir limité les effets environnementaux de la publicité ciblée, il nous faut :

2️⃣ Limiter la désinformation climatique sur les RS

Principe de présomption de non recommandabilité

Par défaut, tout contenu uploadé sur une plateforme est “recommandable”. Peu importe s’il s’agit de bébé kangourou, de propagande d’état ou bien d’une compétition internationale de pétanque, c’est du point de vue de l’IA de recommandation potentiellement recommandable et ce sans aucune vérification humaine bien entendu.

Ce principe ne nous paraît même pas choquant et c’est précisément ça qui est choquant. On laisse à des systèmes totalement opaques et sans aucune supervision le soin de décider si tel ou tel contenu va être servi à des centaines de millions d’êtres humains¹².

Quand Michel accoudé au bar après 20 ballons de pinard s’exclame que

“Je sais que c’est pas politiquement correct de dire ça mais …”

Personne ne lui tend un porte voix planétaire en lui disant

“Go Michel, je sens que ça va être hyper pertinent”

Et si quelqu’un le faisait, on lui en tiendrait rigueur :

“Attend mais pourquoi t’as donné le haut parleur planétaire à Michel, ça faisait déjà des heures qu’il disait dinguerie sur dinguerie ?”

Et bien les plateformes considèrent qu’à partir du moment où un système détecte qu’un contenu génère de l’engagement, il est normal de pouvoir le recommander sans se préoccuper du pourquoi du comment de cet engagement. Les Big tech considèrent que c’est Ok de donner des micros planétaires à tous les Michel à partir du moment où leur punchlines sont percutantes…

Or contrairement à ce que nous avons été habitués à penser, ce fonctionnement ne va pas de soi… du tout. On pourrait très bien imaginer un système sensiblement différent : pourquoi ne pas établir qu’à partir d’un certain seuil de viralité, on applique une procédure de vérification où la plateforme valide que la viralité de ce contenu est acceptable et sans conséquences extrêmement négatives ? Cela revient à donner un petit micro à tout le monde, y compris à Michel. Sauf que cette fois, avant de lui donner accès à un broadcast planétaire, on fait 2,3 vérifications.

Pour ça, on pourrait se baser sur une métrique que tous les créateurs de contenu connaissent : le “nombre d’impression”, c’est-à-dire, le nombre de fois où l’IA de recommandation choisit d’afficher un contenu, la miniature d’une vidéo par exemple, sur sa plateforme. On pourrait envisager que jusqu’à 100 000 impressions d’une miniature par l’IA de recommandation de Youtube, on laisse faire en ne demandant pas à Youtube d’analyser plus précisément ce que son IA a pourtant déjà recommandé 100 000 fois. Par contre, dès lors qu’on atteindrait ce seuil, on imposerait à Youtube d’avoir un processus de validation où, truc de fou, un humain regarderait le contenu. Lors de cet examen, la plateforme pourrait veiller à ce que le contenu n’ait pas des conséquences négatives évidentes dont Youtube ne voudrait pas porter la responsabilité.

On ne peut pas traiter Youtube comme un média classique où le contenu de chaque programme, chaque article, chaque une, relève d’un choix humain conscient correspondant à une ligne éditoriale. Il y a bien trop de contenus sur Youtube pour que ce soit humainement possible. Mais on doit par contre imposer aux plateformes d’être plus responsables des contenus qu’elles choisissent d’amplifier à des échelles stratosphériques. Il est difficile de réaliser ce que signifie de recommander des contenus à des centaines de millions de personnes. On a du mal à appréhender le pouvoir quasi divin¹³ que cela représente et il est inconscient de laisser faire les big tech, tous les jours et sans leur demander d’endosser la moindre responsabilité.

A eux de définir un règlement, un cadre dans lequel ils s’autoriseront à piocher les contenus qu’ils choisiront d’amplifier massivement, une sorte de “champ éditorial” d’amplification. La société pourra ensuite leur demander des comptes sur les conséquences dramatiques de l’amplification de certains contenus s’il s’avèrent qu’elles étaient anticipables de manière relativement évidente. Plutôt qu’une ligne éditoriale, il s’agit ici de demander aux plateformes de délimiter un champ éditorial d’amplification. Hors ce champ éditorial, il pourrait y avoir, par exemple, la désinformation climatique. Nous pourrions alors réclamer des comptes aux plateformes dès lors qu’elles auront “choisi” d’amplifier de la désinformation climatique au-delà de ce seuil de viralité…

Rodolphe : Ça parait très bien tout ça mais, concrètement, ça ressemblerait à quoi ?

Jean-Lou : Mettons qu’une vidéo vient d’atteindre le seuil de viralité, avant de continuer sa carrière de vidéo virale, elle doit traverser un processus visant à déterminer si elle est dans le “champ éditorial d’amplification” de Youtube. A l’issu de cette examination, on pourrait avoir 4 grands types de décision :

1. Le contenu enfreint en fait les conditions de la plateforme et le contenu est purement et simplement supprimé de la plateforme.
2. Le contenu n’enfreint pas directement les conditions mais il est jugé comme ne correspondant pas au champ éditorial d’amplification de Youtube car il comporte des mensonges et des contre-vérités scientifiques évidentes. Sa promotion algorithmique est arrêtée séance tenante. Le contenu reste accessible à tous ceux qui obtiennent le lien ou bien qui surfe sur une page web où il est embarqué mais il ne profitera pas de sa 100 000 unième impression par la plateforme
3. Le contenu est dans une zone grise, imaginez une vidéo dont l’amplification peut avoir des conséquences sociétales très importantes et où il est difficile de les anticiper et de les évaluer. La plateforme Youtube, si elle ne veut pas prendre de risque et ne pas avoir à endosser la responsabilité de son amplification, pourrait déléguer la décision, éminemment politique, à une instance démocratique comme l’ARCOM
4. Le contenu correspond de manière évidente au champ éditorial d’amplification de Youtube qui peut alors pleinement assumer la responsabilité de son envolée algorithmique.

Toute la question sera bien entendu de savoir à partir de quel nombre d’impression, on enclenche le processus. Il est même probable qu’un nombre d’impression fixe soit un indicateur trop simple. Peut-être devrait-on tenir compte d’autres paramètres comme le rythme d’impression ou le nombre d’abonnés de la personne qui a uploadé ce contenu ?

Peut-être mais la logique reste identique : la responsabilité de la plateforme est engagée lorsque l’amplification perdure au-delà d’un certain niveau. Celle-ci ne pourra plus se réfugier derrière le sacro saint argument : “Nous, Youtube, ne sommes pas responsables, tout est la faute de l’IA de recommandation et on ne sait pas précisément ce qu’elle fait”. IA de recommandation qu’ils ont eux-mêmes développé… du coup je ne comprends même pas comment cette ligne de défense peut être considérée…

Bref…

De la même manière qu’un média a une responsabilité éditoriale des articles ou des documentaires qu’il choisit de diffuser, nous devons imposer aux plateformes une responsabilité éditoriale sur les contenus que son IA de recommandation choisit d’amplifier massivement.

Mais ça, ça marche uniquement avec du contenu viral qui sort de ce champ éditorial d’amplification, quand il est évident qu’un contenu en passe de devenir viral ne devrait pas pouvoir l’être. Ça ne répond pas à la question, immensément difficile de : au sein de ce champ éditorial immense où l’amplification est possible, comment choisir ce qui va être amplifié et ce qui ne va pas l’être sans faire uniquement confiance à la viralité “organique” ? Parce que oui, il nous faut

3️⃣ Amplifier les informations politiquement pertinentes

En effet, on est en droit de se demander, dans un univers où l’information a une importance aussi vitale que dans le nôtre si consommer une attention humaine limitée pour n’importe quel type de contenu, aussi innocent soit-il, est opportun ?

Dans le traitement de l’information que vous faites au quotidien par exemple, le jour où vous traversez sans faire attention, vous êtes bien content que des mécanismes cognitifs suspendent vos précieuses réflexions sur la couleur de votre prochain canapé et orientent toute votre attention sur les coups de klaxons du bus sous lequel vous vous apprêtez à vous jeter.

Ca ne veut pas dire que votre réflexion sur la couleur de votre prochain canapé n’était pas légitime, ni même qu’elle aurait de mauvaises conséquences dans l’absolu. Cela signifie simplement que dans un univers où il n’est pas possible de traiter toute l’information instantanément, au moment précis où vous vous apprêtez à vous jeter sous le bus obnubilé par votre décoration, toutes les informations ne se valent pas. Toutes les informations n’ont pas le même impact sur notre capacité à agir, à changer le monde et à survivre.

Il en va de même pour l’information dans une société qui ne manque pas de bus sous lesquels se jeter : changement climatique, contrainte énergétique, limites planétaires, tensions géopolitiques et j’en passe, hélas. Notre société a cruellement besoin de mécanismes qui priorisent l’information de manière stratégique. Or aujourd’hui, cette fonction de filtrage, de priorisation et d’amplification de l’information à laquelle nous allons collectivement donner de l’attention est remplie par les IA de recommandation des big tech. Et quand on voit comment elles gèrent l’information environnementale, elles ne donnent pas la sensation d’être totalement au point.

En France à l’été 2021, au moment de la sortie du 6ème rapport du GIEC, était-il si essentiel de parler en long, en large et en travers de l’arrivée de Messi au PSG, tout ça pour gagner 4 ans plus tard une fois toutes les stars reparties… ?

Cette année là, la vidéo la plus vue de Mr Beast, le plus gros youtubeur de la planète, fut : “I spent 50 hours buried alive”¹⁴

Choix particulièrement mordant pour une civilisation globale qui est en train de s’enterrer vivante. Nous traversons les yeux bandés une 8 voies remplies de bus et nous nous concentrons de plus en plus fort sur la couleur du papier peint.

Non, pour éviter les collisions il nous faut complètement repenser notre manière de sélectionner l’information qui sera ensuite massivement diffusée.

Mais la question est extrêmement complexe : si les choix d’amplification ne sont pas uniquement basés sur l’engagement, en fonction de quels critères devons-nous choisir de recommander du contenu ?

La question est très très difficile mais je suis convaincu de quelques principes :

Principe 1: status quo indéfendable.

Le status quo est indéfendable, il nous faut trouver et développer des IA de recommandation alternatives. On ne peut pas se contenter de la structure informationnelle actuelle.

Principe 2: pluralité algorithmique

Il faut chercher et proposer des IA et des systèmes de recommandation différents. C’est bien sûr tout le projet de Tournesol, d’essayer de voir comment nous pourrions évaluer et recommander les contenus différemment. Non pas en fonction de ce que Musk pense qu’il faudrait que l’humanité regarde, ni en fonction de ce que la Parti Communiste Chinois ou bien la future ex-ORTF pense qu’il faudrait qu’on regarde mais en fonction de ce que chacun de nous voudrait recommander. C’est notre projet, un parmi pas tant d’autres et c’est d’ailleurs peut être déjà ça la première étape : réclamer davantage de projets algorithmiques différents, davantage de “pluralité algorithmique” en somme, afin de mieux comprendre les avantages, les désavantages et les conséquences des différents systèmes.

Principe 3: création de commun.

Il faut dans le même temps faire attention à ne pas faire de la pluralité algorithmique “une fin en soi”. La pluralité algorithmique nous donnera simplement la possibilité d’avoir le choix entre plusieurs algorithmes. C’est d’ailleurs en ce sens que je trouve l’initiative de blue sky intéressante car c’est une de ses promesses : faire en sorte qu’on puisse avoir accès à des IA de recommandation différentes. Si vous voulez l’affichage purement chronologique vous pouvez, si vous voulez uniquement les posts mais sans les fils de commentaires vous pourriez et si vous voulez uniquement les posts qui déclenche les plus vifs débats parce que 15 ans de shit storm en intraveinseuse sur Twitter vous ont transformé en junkie du clash, vous pourriez aussi… Seulement pour faire démocratie, il faudra aller au-delà de la pluralité algorithmique, il faudra créer un socle commun, une réalité partagée, une envie, des valeurs communes, appelez ça comme vous voulez mais vous ne faites pas démocratie avec des gens avec qui vous ne partagez rien. Par conséquent, il faudra que les plateformes numériques et nous-mêmes donc, nous dépassions notre envie d’individualisation des flux. Autrement dit nous devons renoncer à des flux qui nous correspondent totalement pour embrasser des flux qui nous font davantage correspondre aux autres. Il faut qu’une partie des recommandations nous aide à partager des valeurs, des constats et des envies au nom desquels on dépassera nos différences. Il faut que les recommandations créent du commun. C’est au nom du commun qu’on parvient à se faire violence et à dépasser nos différences. Sans commun on se contente d’écraser les différences dans la violence.

En parlant de commun, le but de cette chaîne, c’est justement de parler de comment on pourrait transformer nos éco systèmes informationnels pour bâtir un socle commun permettant à nos systèmes démocratiques de perdurer. Comme c’est pas vraiment le sujet le plus viral du game, pour que je puisse continuer à résister aux sirènes des RS et du clash tout en continuant à faire un travail que j’espère sérieux et divertissant le ventre pas trop vide, j’ai besoin de financement donc si vous voulez que ça continue de plus belle, le lien tipeee est en description ou bien encore mieux faites moi intervenir en conférence sur ces sujets.

Et si vous êtes en galère, croyez-moi, je comprends, vous pouvez simplement diffuser la vidéo en la partageant manuellement ou bien en nourrissant l’algorithme. Je vous ferai pas l’affront de vous dire comment, je sais que vous savez faire. En tous les cas merci vraiment à celles et ceux qui font l’effort de me soutenir.

En tous les cas, ce qui est incroyable c’est que tout ce dont on vient de parler, qu’il s’agisse de limiter l’amplification de la désinformation ou au contraire d’amplifier certains contenus vitaux, ressemble beaucoup à ce que la plateforme Youtube proposait elle-même de faire en 201⁹¹⁵ dans sa stratégie des 4R :

1. Remove : Retirer le contenu qui enfreint notre politique le plus rapidement possible

2. Raise : Faire entendre des voix qui font autorité lorsque les gens recherchent des nouvelles et des informations de dernière minute

3. Reward : Récompenser les créateurs et les artistes de confiance et éligibles

4. Reduce : Réduire la diffusion des contenus qui frôlent la limite de notre règlement..¹⁶

Mais les promesses n’engagent que ceux qui les reçoivent et c’est donc à nous de mettre la pression et d’imposer leurs responsabilité aux plateformes. Mais en attendant qu’on y parvienne, est-ce qu’on pourrait pas quand même lutter contre la désinformation, par exemple avec des contenus de debunk ?

Rodolphe : Plusieurs fois sur la chaîne, je me suis livré à l’exercice d’analyse critique de discours climato-sceptiques, on pourrait parler de debunk. Dans l’écosystème informationnel, cet exercice est utile parce qu’il peut permettre de convaincre des personnes exposées à la désinformation initiale mais sensible à un argumentaire logique et sourcé.
Mais, c’est également un exercice qui a un impact limité. D’abord, parce qu’il est beaucoup plus facile et rapide de produire de la désinformation que de produire une analyse critique de qualité. Ensuite parce que ce format atteint souvent beaucoup moins de personnes que la désinformation initiale. Répondre à la désinformation peut limiter les dommages mais c’est une guerre qu’on ne peut pas vraiment gagner et qui demande beaucoup d’efforts.

Jean-Lou : Et comme nous n’avons pas des millions de main, il nous faut être stratégique et nous attaquer spécifiquement aux contenus et aux discours qu’on observe être massivement amplifiés par les IA de recommandation. Aujourd’hui, ça représente un travail herculéen mais si on modifie les règles du jeu ça change tout !

Rodolphe : Les idées que tu as présenté pourraient limiter la viralité de la désinformation et donc réduire l’exposition de nos concitoyens. Dans un cadre où les désinformations virales seraient moins nombreuses, ça a plus de sens d’y répondre directement, surtout si un algorithme peut distribuer cette réponse à ceux qui ont été exposés à la désinformation initiale. Par contre, cette démarche continuera à n’avoir de sens que pour ceux qui partagent les mêmes bases logiques et une appréciation similaire de ce qui fait la crédibilité d’une information.

Jean-Lou : D’où l’importance de créer du commun justement. Et pour ça il faut réguler contre les logiques actuelles et s’il y a une chose qui est évidente lorsqu’on s’attaque à la régulation d’une grande industrie comme la tech, c’est qu’il s’agit toujours de rapports de force.

Sans volonté politique, ceux-ci tournent à l’avantage des plateformes et au détriment de nos sociétés. Les grands principes, s’ils ne sont pas imposés, maintenus et assurés par la force publique, ne signifient absolument rien.

En l’état actuel des rapports de force, les big tech et leurs IA de recommandation nous précipitent sous le bus en amplifiant les contenus de piètre qualité sur des sujets dont notre existence ne dépend pas vraiment. Nous devons par conséquent dépasser les stratégies vitales mais défensives qu’on vient d’évoquer consistant à débunker à posteriori. On doit commencer à agir en amont, dans les mécanismes qu’il y a au sein du barrage, pour que les IA de recommandation amplifient du contenu qui maximise nos chances et notre capacité d’agir.

Sans ce type d’intervention, il est très peu probable que nous parvenions à lutter contre le dernier impact environnemental que l’écosystème informationnel actuel a et qu’il nous faut absolument limiter !

4️⃣ Limiter la dégradation des démocraties et de notre capacité à agir ?

Convaincre nos politiques

Nous devons lutter et nous battre pour faire en sorte que les pouvoirs publics comprennent que leur propre survie dépend de la régulation des éco systèmes informationnels.

Certains politiques en ont conscience, notamment ceux qui ont écrit à meta pour témoigner qu’un changement algorithmique les incitait à prendre des positions plus clivantes pour garder la même visibilité¹⁷. Hélas, les politiques qui sont conscients de ce danger et qui ne jouent pas le jeu des algorithmes sont défavorisés par l’écosystème informationnel. Et c’est difficile d’être élu quand personne ne vous connaît.

La classe politique dans sa globalité doit réaliser que si rien n’est fait, ils devront continuer la surenchère de la division et du clivage pour obtenir le minimum d’attention dont ils dépendent… Et cela jusqu’à ce que notre mort démocratique à tous s’ensuive.

Il faut qu’il devienne évident pour tous les politiques que si nous voulons que nos institutions démocratiques survivent, les big tech doivent impérativement être tenues responsables. On ne peut pas les laisser continuer à être des “Careless people”¹⁸….

Remettre l’industrie à sa juste place

Plus généralement, nous devons arrêter de penser que l’industrie et l’innovation sont des buts en soi. Si on veut développer les moyens de transport décarbonés, ça n’est pas parce que ça serait mieux en soi mais parce que ça permettrait d’atténuer le changement climatique et que ça rendrait notre société globalement meilleure.

De la même manière, on ne doit pas laisser faire les big tech au nom de l’innovation ou bien parce que ça pourrait nous permettre de faire des choses qu’on ne savait pas faire avant. C’est seulement lorsqu’on estime que ça rendrait la société globalement meilleure qu’on doit permettre et encourager l’innovation. Ça n’est pas à la société et à la politique de s’adapter à l’économie, aux grandes organisations et à leurs innovations mais l’inverse.

Développer, financer et diffuser des réseaux prosociaux

Alors vous allez sûrement me demander : quelles innovations faudrait-il favoriser ? Personnellement, je pense que l’une des directions que nous devrions massivement investir, c’est de lutter pour des développements technologiques qui renforcent nos pratiques et nos valeurs démocratiques. C’est précisément ce que propose l’ancienne ministre du numérique de Taïwan Audrey Tang avec sa notion de réseau pro social¹⁹.

Rodolphe : Un système démocratique n’est pas une garantie de justice ou de prise en compte adéquate des enjeux environnementaux. Mais il crée les conditions pour que chacun puisse faire entendre sa voix, défendre ses droits et exiger des comptes. Ces capacités sont essentielles pour préserver des piliers de notre qualité de vie, comme les libertés fondamentales, l’accès aux soins et à l’éducation, ou encore le droit à un environnement sain.

Face aux défis écologiques, les démocraties offrent des outils uniques : débats publics, presse libre, mobilisations collectives, recherche indépendante, contre pouvoir contre les puissants. Ces outils permettent de confronter les intérêts particuliers aux besoins collectifs de long terme.

Les imperfections, voire les dysfonctionnements de nos systèmes démocratiques, ne doivent pas faire oublier que les alternatives ont de grandes chances d’être bien pires pour la majorité d’entre nous. Revivifier nos démocraties, recréer de la confiance et regagner de la capacité d’action collective sont sans doute des étapes indispensables pour affronter efficacement les crises environnementales à venir.

Jean-Lou : Ce dont notre société a besoin, ça n’est pas d’autoritarisme mais de plus de démocratie. Et pour ça le numérique peut nous être d’une grande aide, à condition qu’il soit pensé en ce sens, autour de 4 piliers du numérique démocratique notamment. 4 principes qui devraient être l’alpha et l’omega de toute plateforme voulant renforcer la démocratie plutôt que d’en être le parasite. Ces 4 piliers, j’en parlerai dans une vidéo spécifique qui sortira dans 15 jours et que je m’empresserai de rajouter ici.

Du coup peut-être à tout de suite et sinon à bientôt, sur des plateformes plus démocratiques j’espère !

Et sur ce, on vous souhaite,

Paix et santé,

Et tant que vous êtes là ;), voici 5 manières de suivre et de soutenir le projet d’ApresLaBiere :

1) Soutenir ApresLaBiere sur Tipeee (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)

2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :

3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)

4) Liker et suivre ApresLaBiere sur facebook, twitter ou instagram

5) Penser à faire appel à Homo Conscientus (moi :)) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.

SOURCES / LIENS / POUR ALLER PLUS LOIN :

¹ Conférence “PENDANT LA BIERE #28, La pensée critique, fausse bonne idée ?” et “[Live] Une certaine vision de l’esprit critique — Commentaires conférence G. Bronner ‪@ApresLaBiere‬”

² Article LeMonde.fr “Prendre le train en France coûte 2,6 fois plus cher que l’avion”

³ Dossier législatif “Enfants face à la publicité télévisuelle” / Papier addictions-france.fr “Promotion de l’alcool, les réseaux sociaux, un nouveau far west” /

⁴ Rapport “Contribution et régulation de la publicité pour une consommation plus durable”

⁵ Vidéo Science4All “La technologie que tous les écolos oublient (ft. @ChezAnatole)”

⁶ Article Wikipedia “Recyclage publicitaire”

⁷ Article “The Most Hated Online Advertising Techniques” et article Wired “Why Don’t We Just Ban Targeted Advertising?”

⁸ Vidéo Blast “PUBLICITÉ : EST-CE QUE ÇA MARCHE VRAIMENT ? — CORPORATE EP5”

⁹ Rapport de l’IEA “Energy and AI”

¹⁰ Articles de Gauthier Roussilhe “Les émissions évitées de la numérisation” et “Les effets environnementaux indirects de la numérisation”

¹¹ Rapport ADEME “Evaluation environnementale des effets directs et indirects du numérique pour des cas d’usage”

¹² Article The Guardian “Social media algorithms ‘amplifying misogynistic content” et rapport “SAFER SCROLLING How algorithms popularise and gamify online hate and misogyny for young people” (university of Kent)

¹³ Vidéo de Science4All “5 IA surpuissantes”

¹⁴ La vidéo la plus vue de Mr Beast pour 2021 “I Spent 50 Hours Buried Alive” (soyons honnêtes, je ne l’ai pas vue…, peut-être est-elle incroyable ?)

¹⁵ Article de Youtube “The Four Rs of Responsibility, Part 1: Removing harmful content”

¹⁶ Version originale “1. Remove content that violates our policy as quickly as possible 2. Raise up authoritative voices when people are looking for breaking news and information 3. Reward trusted, eligible creators and artists 4. Reduce the spread of content that brushes right up against our policy line”

¹⁷ Interview 60 Minutes “Facebook Whistleblower Frances Haugen: The 60 Minutes Interview” et article du Wall Street Journal “Facebook Tried to Make Its Platform a Healthier Place. It Got Angrier Instead.”

¹⁸ Livre “Careless People: A Cautionary Tale of Power, Greed, and Lost Idealism” et ted talk de Carole CadWalladr “This is what a digital coup looks like”

¹⁹ Papier de Audrey Tang, E. Glen Weyl & al “Prosocial Media”

Climat, information, démocratie : comment réparer notre écosystème numérique ? (ft. Rodolphe Meyer) was originally published in Après La Bière on Medium, where people are continuing the conversation by highlighting and responding to this story.

Les réflexions humaines prennent toute racine dans notre expérience physique du monde, dans ce que nous sommes, ce que nous cherchons à accomplir et dans la vision du monde qui en découle. Il ne peut par conséquent pas exister de pensée absolument libre de positionnement ou d’une idéologie. Nous pensons “comprendre” le monde alors que nous ne pouvons que l’appréhender. Cette appréhension, qui dépend de notre expérience sensorielle et de notre vécu, est le prisme par lequel nous analysons notre environnement, notamment les propos et les thèses des autres.

Il n’existe pas de pensée absolument libre de toute idéologie. Les réflexions humaines dépendent de notre expérience physique du monde, de ce que nous sommes, de ce que nous avons vécu, de ce que nous cherchons à accomplir et, plus globalement, de la vision du monde qui en découle.

Ainsi, notre condition de sapiens détermine nos sujets de préoccupation. La désertification ne semble pas aussi dramatique dès lors qu’on pose la question à des dromadaires. Il en va de même de notre condition sociale. La fin du monde n’est pas si urgente lorsque le compte est déjà en négatif le 15 et que la fin du mois semble aussi lointaine que le XXIIe siècle.

Les débats gagnent à aller au plus vite à la raison la plus profonde des désaccords. En tirant le fil, on finit souvent par constater un différend dans notre vision du monde. Pour rendre les discussions plus productives, il faut la définir le plus précisément et honnêtement possible.

Ainsi on évitera de débattre des heures sur la responsabilité du Lichtenstein dans la chute de la biodiversité avec un interlocuteur qui fondamentalement ne verrait pas le problème si la Terre était transformée en parking Vinci de 148 millions de km2.

Ce document est une tentative conjointe avec Rodolphe de la chaîne Le Réveilleur de partager notre vision du monde pour clarifier notre approche et notre positionnement sur un certain nombre de sujets. C’est un document de travail qui continuera probablement d’évoluer. N’hésitez pas à nous faire des retours et des suggestions d’amélioration sur le Github créé à l’occasion. Et si vous voulez “forker”, c’est notre tournée !

Nous prenons cette initiative parce qu’il semble que nous ayons de plus en plus souvent des désaccords avec des personnes portant un discours anti-transition sur des bases idéologiques et logiques nous semblant à la fois floues et fragiles. Elles peuvent pourtant revendiquer de lutter contre les mêmes problèmes environnementaux que nous et nous partageons même certaines de leurs propositions.

PRINCIPES MORAUX

Dans nos sociétés, il existe un désaccord raisonnable sur les principes moraux. Nous cherchons à rassembler autour de la validité de nos raisonnements (si nous faisons bien notre travail !) plutôt que sur la justesse de nos principes moraux sous-jacents. On vous a mis un exemple de principes moraux avec lesquels nous sommes en phase annexe. Certains d’entre vous peuvent très bien défendre des principes moraux différents et pourtant être en accord avec notre démarche.

Comment arbitrer si nos décisions vont dans la direction de nos principes moraux ?

Une fois ses principes moraux définis, se pose la question de l’adéquation entre nos actions et ces principes. Pour juger de la moralité de nos actions et propositions, nous faisons appel à un raisonnement conséquentialiste borné par un cadre déontologique. Dans la démarche conséquentialiste, une action comme un mensonge ne sera pas jugée comme étant mauvaise en soi mais plutôt en fonction de ses conséquences. Dans la démarche déontologique au contraire, on évaluera une action en fonction de sa conformité à certains devoirs. Les limites de nos capacités à prédire les conséquences implique une certaine humilité épistémique, et un retour à la boussole déontologique dès que nous commençons à faire trop de plans sur la comète.

Serait-il judicieux de volontairement saboter les infrastructures pétrolières mondiales avec l’ambition de générer un électrochoc accélérant la transition énergétique mondiale vers du renouvelable ? Et si cette stratégie avait surtout pour conséquence de générer de la précarité énergétique, voire de précipiter un effondrement de nos systèmes énergétiques ? Face à l’impossibilité de faire de telles prédictions, il nous paraît justifié de revenir à un principe déontologique : ne pas saboter des infrastructures centrales aux fonctions vitales de nos sociétés.

Les sociétés humaines font face à un certain nombre de menaces (crises environnementales, pouvoir des algorithmes de recommandations, montée de l’autoritarisme, effritement de L’État de droit) qui peuvent inciter à des changements rapides et radicaux de nos sociétés. Mais, des changements trop brusques peuvent provoquer des dommages importants et irrémédiables. Si nous mettons tout à plat demain matin, sommes-nous bien sûr que le nouveau système qui émergera d’une telle entreprise sera meilleur que l’existant ? Un changement abrupt est un pari sur l’avenir extrêmement incertain. La reconnaissance de ce que nous avons et des risques associés aux changements brutaux nous incitent à une certaine prudence.

Quand nous réfléchissons à une trajectoire d’évolution souhaitable, on se retrouve donc à faire des arbitrages entre ces deux forces opposées : la nécessité d’évoluer rapidement en tant que sociétés et le danger à le faire. Quelque part se trouve une trajectoire équilibrée ou de moindre mal dont l’identification est extrêmement difficile.

La question de la décarbonation de l’économie est illustrative. Supprimer d’un claquement de doigt l’ensemble des ressources fossiles causerait des dommages considérables parce que la survie de milliards d’individus en dépend. Mais, continuer d’exploiter les ressources fossiles au rythme actuel condamne les sociétés humaines aux conséquences dramatiques du changement climatique. Trouver la vitesse de réduction préférable entre ces deux extrêmes n’a rien d’évident mais on peut, a minima, avoir conscience des risques d’aller trop lentement et des risques d’aller trop vite.

On navigue un bateau dans la tempête, on ne le téléporte pas.

LE CHOIX LE PLUS CRÉDIBLE

Le choix le plus judicieux pour comprendre le monde nous semble être d’adopter l’épistémologie bayésienne. Dans cette philosophie de la connaissance, la part belle est faite à la révision de toutes nos croyances (connaissances comprises). Celles-ci sont ainsi toujours exprimées sous la forme de degrés de crédibilité en différentes propositions. Toutes les nouvelles observations doivent être utilisées pour modifier les degrés de crédibilité attachés à nos croyances. Cette manière d’envisager notre compréhension du monde et nos modèles prédictifs rend notre état de connaissances robuste, sans pour autant figer nos croyances.

Si on présente un corbeau albinos à un enfant. Il sera logiquement amené à croire que les corbeaux sont blancs. Au fil de ses rencontres avec des corbeaux qui seront très probablement noirs, son jugement sur la couleur des corbeaux sera amené à évoluer pour rejoindre la position “presque tous les corbeaux sont noirs”.

Se baser sur les éléments les plus crédibles à un moment donné est la stratégie rationnelle la plus efficace pour élaborer des propositions de changement social et ce pour plusieurs raisons :

Raison 1 : Les modèles qui font les meilleures prédictions sont les plus utiles.

Il est trivial qu’identifier un problème et le comprendre donne de meilleures chances de le résoudre.

Si vous ne vous apercevez pas que votre plante fane, vous ne la sauverez pas. Si vous vous apercevez que votre plante fane mais que vous ne savez pas si elle manque d’eau, de lumière ou de nutriments, ses chances de survie sont livrées au hasard.

Il faut donc s’attacher à avoir les modèles les plus justes possibles même si ce ne sont pas les plus intuitifs ou les plus séduisants. Il faut s’appliquer à les améliorer et à les affiner constamment. Cette importance d’une bonne compréhension est ce qu’expliquait Marshall MacLuhan, qui s’appliquait à comprendre les ressorts de la technologie malgré son très grand conservatisme :

“Je suis résolument opposé à toute innovation, à tout changement, mais je suis déterminé à comprendre ce qui se passe. Parce que je n’ai pas choisi de m’asseoir et de laisser le rouleau compresseur me rouler dessus. (…)Tout ce dont je parle est presque certainement quelque chose à quoi je suis résolument opposé. Et il me semble que la meilleure façon de s’y opposer est de le comprendre. Ensuite, vous saurez où éteindre les boutons.”

— Marshall McLuhan, 1966[1]

Raison 2 : Le langage probabiliste force à admettre nos limites prédictives, ce qui facilite la recherche de consensus.

Avec une approche bayésienne, on se rend compte qu’une bonne compréhension du monde est avant tout une bonne gestion de l’incertitude. Avec cette approche et le langage probabiliste qui la traduit, on est forcé de ne voir le monde que sous formes de croyances plus ou moins crédibles. Cette approche permet d’avoir toujours la meilleure compréhension du monde disponible mais permet aussi d’identifier ce qui est plus moins certain. Cette gestion de l’incertitude permet d’identifier les sujets qui méritent davantage de recherche, qui sont les plus à même d’évoluer ainsi que d’identifier les risques d’erreur.

Si je dois dimensionner un pont dans un monde touché par le changement climatique, je ne peux plus me baser sur les crues passées. Je dois prendre en compte des scénarios d’évolutions futures. Je dois faire des choix éclairés en intégrant ces incertitudes et l’évolution future potentielle de la compréhension actuelle des enjeux climatiques.

Raison 3 : S’astreindre à suivre le consensus scientifique est la stratégie la plus sûre.

Le préjugé bayésien sur un sujet qu’on ne connaît pas devrait logiquement être de se rallier au consensus scientifique. Le consensus scientifique constitue la connaissance la plus crédible du moment car elle est le fruit d’un énorme travail d’une communauté dédiée à la quête de la connaissance. Cette communauté utilise des méthodes visant à minimiser les biais individuels et les risques d’erreur ainsi qu’à s’auto-corriger en permanence. A contrario, les avis individuels allant à l’encontre du consensus ont un risque bien plus élevé d’être faux, soit car leurs auteurs ont commis des erreurs, soit parce qu’ils sont biaisés par leur idéologie ou bien encore parce qu’ils sont corrompus.

Le GIEC (Groupe d’experts intergouvernemental sur l’évolution du climat) produit des éléments crédibles par construction puisque (i) ses auteurs sont des spécialistes des sujets abordés (ii) ils ont une approche alignée avec l’approche bayésienne (iii) les éléments proposés passent par une large revue par des pairs. Par conséquent, il faut des éléments extrêmement crédibles pour remettre en question les rapports du GIEC et ça ne peut pas se faire sur la base de préjugés et d’incompréhensions publiés sur un forum, les réseaux sociaux ou dans un livre.

Raison 4 : Ne pas rallier un consensus scientifique peut décrédibiliser

Notons que se rallier au consensus scientifique est également plus stratégique sur le long terme. En cas d’erreurs ou d’insuffisances, ce consensus évoluera et on pourra facilement justifier notre ancienne croyance maintenant erronée et l’actualiser avec ce qui se fait de mieux actuellement.

Tomber malade en suivant les conseils de son médecin est moins probable mais aussi plus facilement justifiable que de tomber malade en suivant les conseils santé du premier venu sur les réseaux sociaux.

De plus, commettre une erreur en étant volontairement éloigné du consensus scientifique à un moment donné peut décrédibiliser tout un discours.

L’utilisation d’informations fausses pour lutter contre le nucléaire (par exemple : le nucléaire est très émetteur de gaz à effet de serre) décrédibilise certains milieux écologistes diminuant leur capacité à convaincre et facilite le travail de leurs adversaires.

De la même manière, certains désinforment sur la voiture électrique pour lutter contre la voiture individuelle. Mais est-ce une bonne stratégie ? Est-ce que le résultat ne sera pas juste que nos concitoyens garderont leur voiture thermique ? Il y a une probabilité non nulle de finir avec un résultat sous optimal.

Plus généralement, est-on bien sûr qu’en désinformant volontairement on obtiendra le résultat espéré ? Plutôt que de faire un pari à 9 bandes où les incertitudes se multiplient à chaque bande, il nous semble qu’il est bien plus défendable de ne diffuser que les éléments les plus crédibles à un moment donné. Mentir pour convaincre peut se défendre moralement si nous avons un très grand degré de confiance dans l’évaluation de toutes les conséquences de notre mensonge, ce qui est rare quand on intervient dans un système aussi chaotique et complexe que la société humaine.

Pourquoi mettre à jour ses croyances n’est pas évident ?

Il peut paraître banal de dire qu’il est préférable de mettre à jour continuellement nos modèles du monde en fonction des nouveaux éléments auxquels nous avons accès et de s’y tenir. En réalité, il y a plusieurs raisons qui font que c’est incroyablement difficile.

Se renseigner et être capable de faire évoluer son opinion avec les nouvelles informations est chronophage et demande une grande rigueur intellectuelle. Se replier sur ses certitudes et s’y tenir est cognitivement beaucoup plus simple et agréable. L’incertitude émanant de l’approche bayésienne est difficile à gérer et l’appréhender est cognitivement coûteux.

Il peut être paradoxalement plus rassurant d’être persuadé de l’effondrement des sociétés que de garder un espoir honnête en maintenant notre incertitude quant à leur avenir.

De nombreuses dynamiques peuvent nous enfermer dans une appréhension erronée et entraver l’actualisation de nos degrés de confiance dans nos différentes croyances : notre vécu, nos prises de position publiques, nos dépendances économiques à certaines opinions, notre culture, notre histoire… Les dynamiques sociales semblent notamment avoir une place prépondérante dans la difficulté à changer d’opinion. Nous croyons des choses parce qu’elles sont crus par des êtres qui nous sont chers ou véhiculés par des communautés auxquelles nous appartenons. Actualiser ses croyances est extrêmement difficile dès lors qu’on ressent que cela pourrait nous couper de notre cercle social.

Nous sommes tous victimes de mécanismes de déni qui existent pour une bonne raison : nous rendre l’existence plus simple et agréable. Lutter contre demande du temps, de la discipline et des efforts. Nous essayons d’avoir une vision du monde la plus crédible possible mais c’est un objectif inatteignable. On ne peut que tenter de l’approcher.

LE RESTE N’EST QUE CONSÉQUENCE

Il semble rationnel de ne pas avoir de préjugés au-delà de nos fondements moraux. La description de nos principes moraux et des logiques d’arbitrage exposées nous semblent suffisantes pour émettre un jugement sur un certain nombre de sujets.

Si nous voulons lutter contre le réchauffement climatique, c’est parce que ce changement climatique a des conséquences désastreuses pour l’épanouissement des sociétés humaines, de ses individus et pour les autres êtres sentients. Il y a fort à parier que si on vivait un refroidissement planétaire (naturel ou non), on discuterait aussi de comment lutter contre. Lutter contre le réchauffement climatique découle donc de nos principes moraux et de nos logiques d’arbitrages.

Appel à la tradition.

Par exemple, l’appel à la tradition ne devrait avoir aucun sens pour quelqu’un pour qui la tradition n’a pas de valeur en tant que telle. Pourtant beaucoup de gens qui ne semblent pas consciemment attacher de valeur aux traditions peuvent parfois faire ce qu’on nomme un “appel à la tradition”, c’est-à-dire justifier quelque chose par son existence passée. Or si l’ancien peut effectivement être meilleur selon nos principes moraux, ce ne devrait pas être en vertu de son caractère ancien mais en vertu de ses conséquences actuelles. En effet, on hérite de normes ou de traditions dont on peut avoir du mal à s’extraire à cause de dynamiques sociales, économiques ou culturelles mais qui ont pourtant des conséquences sociales dramatiques. Ce qui nous vient du passé doit être certes compris et respecté lorsque certains humains y sont attachés mais cela doit également être discuté et ne doit pas être considéré comme allant de soi. Heureusement que l’appel à la tradition n’a pas suffit à nous décourager de supprimer l’esclavage et la torture ou de découvrir l’anesthésie, les antibiotiques et les systèmes de traitement des eaux usées.

On pourrait citer en exemple l’omniprésence légale de l’alcool parmi les substances récréatives malgré les souffrances induites pour les consommateurs et la société en général. Même dans le contexte des substances récréatives, la légalisation de l’alcool tandis que d’autres substances telles que le LSD ou les champignons hallucinogènes sont interdites ne semblent pas pouvoir se défendre par des critères objectifs et, encore moins, par nos principes moraux. On peut se demander si l’alcool ne doit pas sa place dans les sociétés modernes qu’à son histoire.

Appel à la nature

Parmi les biais les plus répandus dans les milieux environnementaux, il y a l’idée (souvent implicite) que ce qui est naturel est bon en soi. Pourtant une molécule a exactement le même effet qu’elle soit synthétisée ou extraite de l’environnement. Une méthode peut être préférable à une autre parce qu’elle permet d’avoir plus facilement une substance ou avec un moindre impact environnemental. Mais, il n’y a pas de raison a priori de préférer une substance de synthèse à une substance naturelle ou inversement.

Un exemple notable est la nécessité pour les vegans de complémenter leur alimentation avec une vitamine produite synthétiquement (B12). Le régime vegan ne pourrait donc pas reposer sur une alimentation entièrement “naturelle”. Et alors ? Ça n’empêche en rien le régime vegan d’être préférable à d’autres au vu de nos principes moraux. Et d’ailleurs, un régime basé sur des légumes sélectionnés par des centaines de génération d’agriculteurs est-il vraiment naturel ?

Un autre exemple concerne les extinctions de masse du passé qui bien que naturelles n’en sont pas bonnes pour autant.

Appel à la détestation de l’humain

Il est étonnamment fréquent de trouver des discours de détestation de l’humain, au travers de ses activités humaines ou bien de la société en général. On peut parfois lire, par exemple, que l’homme est mauvais par nature ou bien que l’humanité serait un cancer. Ces discours nous paraissent fragiles et difficiles à défendre même quand cette prémisse idéologique est assumée. Surtout, ils paraissent découler de principes moraux et de logiques complètement différents des nôtres.

Ne pas confondre la fin et les moyens

Les organisations des sociétés humaines ne sont que des réponses tentées par certains humains face aux contraintes environnementales au sens large. Il faut les juger à l’aune de leurs conséquences anticipables et en déduire les modifications sociales nécessaires suivant nos principes moraux.

Cela implique également que nous n’avons pas de préférence a priori sur des leviers technologiques par rapport à des leviers comportementaux. Ils doivent être jugés vis-à-vis des principes moraux. Si une activité apporte peu d’épanouissement, sa réduction est d’autant plus facile à justifier. D’autant que la réduction de consommation présente des avantages indéniables : instantanéité des résultats et bénéfices évidents. Mais si une technologie permet de fortement réduire les dommages d’une activité économique, il faut également apprécier les conséquences de sa diffusion. Notons qu’il est courant d’opposer ces deux approches alors que nous pensons qu’elles relèvent de logiques complémentaires.

Réduisons le nombre de voitures de ce qui est collectivement possible et convertissons ce qui reste à l’électrique.

Les débats sont vifs quand on parle de politique dans les milieux environnementaux, certains n’hésitant pas à faire passer la lutte contre les problèmes environnementaux en une lutte contre le capitalisme parfois sans même faire l’effort de justifier ce point de vue. Il paraît nécessaire de pointer du doigt les éléments problématiques du système actuel et d’expliquer en quoi une alternative est préférable. Et, surtout, ne pas confondre un moyen (par exemple changer le système politique) et une finalité (par exemple éviter un effondrement environnemental).

IMPLICATIONS IMPORTANTES POUR NOTRE HYGIÈNE MENTALE

Être capable de s’actualiser

Il nous semble intéressant de se poser régulièrement la question de sur quoi on fait reposer une croyance donnée. Pourquoi suis-je convaincu que le photovoltaïque a un rôle à jouer dans la lutte contre le changement climatique ? En gardant à l’esprit sur quels éléments on s’appuie pour émettre un jugement et en faisant l’effort de le questionner régulièrement, on est plus à même de le faire évoluer. Pour faciliter cette actualisation qui peut parfois être ressentie comme une mise en danger de notre identité, essayez de ne pas être fier d’être “celui qui ne se trompe jamais” mais plutôt d’être “celui qui s’actualise le mieux”.

Ne pas confondre la fin et les moyens

Il convient également de réviser régulièrement ses jugements en gardant à l’esprit la finalité de ce qu’on souhaite entreprendre. Rester attaché à un moyen devenu sous optimal fait perdre du temps, de l’énergie, de l’argent… etc.

La voiture à hydrogène pouvait paraître une solution pour la mobilité légère il y a quelques décennies mais, aujourd’hui, il est très clair qu’une voiture à batterie est largement préférable.

Se replier sur les experts

Essayer de se faire une opinion éclairée sur certains sujets permet de rapidement se rendre compte qu’on ne peut pas le faire correctement sur tout. L’implication directe est que le jugement le plus crédible sur un sujet donné est émis par les experts de ce sujet. On peut remettre en question certains jugements de ces experts mais il faut le faire avec des éléments solides, le meilleur réflexe a priori est de leur faire confiance. C’est d’autant plus vrai qu’on est ignorant de ce sujet.

Lutter contre notre biais de confirmation

Le biais de confirmation est un mécanisme naturel contre lequel il est très difficile de lutter et qui peut amener des jugements biaisés en ne cherchant que des éléments qui les confirment. Il est important d’essayer de lutter contre. Un bon réflexe est d’essayer d’invalider un jugement plutôt que de le confirmer.

J’attache un très haut degré de crédibilité dans la proposition “le changement climatique est d’origine humaine”. Plutôt que de lire une énième étude qui va dans ce sens, je peux aller lire des choses qui remettent cette proposition en question. (Ce qui peut confirmer le jugement initial si les éléments opposés sont faibles).

Il est aussi important d’essayer de rester ouvert à d’autres opinions (varier les groupes sociaux, diversifier les sources d’information). Pour réaliser l’ampleur de cette diversité, n’hésitez pas à faire des recherches Youtube en mode incognito.

Dans cette diversification, il est essentiel de choisir ceux qui défendent le mieux les opinions qui vont à l’encontre des nôtres. Si je suis pro-nucléaire, je dois me forcer à trouver des groupes ou des personnes qui selon moi développent les meilleures critiques du nucléaire civil. Rire et tourner en ridicule les opinions qu’on jugera claquées est simplement une manière de se conforter dans sa vision du monde. Il est essentiel d’aborder chaque discussion avec l’empathie intellectuelle nécessaire à la considération sincère de l’opinion de l’autre. Un bon réflexe à avoir face à des croyances qui divergent des nôtres est d’accepter la possibilité que ce soit nous qui soyons dans l’erreur.

Savoir se préserver

Certaines interactions ne mènent nulle part. Il arrive d’interagir avec des personnes qui ne partagent pas les mêmes valeurs, les mêmes logiques d’arbitrages ou la même honnêteté que nous. Identifier les interactions stériles est important pour utiliser son énergie où elle est pertinente. Il est d’autant plus important d’éviter les interactions stériles qu’elles ont lieu avec des gens qu’on aime.

Approche consensuelle

Il peut être intéressant de limiter les désaccords et les incompréhensions en se limitant aux éléments strictement nécessaires à la poursuite de notre objectif, en veillant à ne pas lancer des sous-sujets conflictuels inutilement et en veillant à rester audible de tous (idée compréhensible, pas de références inutiles… etc).

ANNEXE

Si vous voulez un exemple de principes moraux auxquels on peut appliquer les raisonnements qu’on développe dans ce document :

• (1) Une société juste est une société qui maximise les opportunités de chaque personne à mener une vie épanouie.
• (2) La société doit garantir un certain nombre de droits fondamentaux à toutes les personnes, au plus haut niveau compatible avec le même système de droits pour tous
• (3) Il faut minimiser la souffrance de tous les êtres sentients.
• (4) Nous souhaitons faire progresser la compréhension du monde.

La connaissance engrangée par l’humanité est magnifique et elle est, en elle-même, porteuse de sens. En tant qu’espèce, une de nos contributions les ce à quoi nous pouvons participer de plus uniques est sans doute de faire progresser la compréhension du fonctionnement de ce bout d’univers dont nous sommes, comme le disait Sagan, la partie consciente :

“The cosmos is within us. We are made of star-stuff. We are a way for the universe to know itself.”

Et sur ce, on vous souhaite,

Paix et santé,

Et tant que vous êtes là ;), voici 5 manières de suivre et de soutenir le projet d’ApresLaBiere :

1) Soutenir ApresLaBiere sur Tipeee (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)

2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :

3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)

4) Liker et suivre ApresLaBiere sur facebook, twitter ou instagram

5) Penser à faire appel à Homo Conscientus (moi :)) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.

Notre boussole dans la tempête was originally published in Après La Bière on Medium, where people are continuing the conversation by highlighting and responding to this story.

Il est la mise en forme du script du premier épisode de la série “Moloch, quand la tech nous submerge” réalisée avec Victor Fersing de la chaîne Youtube La Fabrique Sociale.

Introduction

“L’homme sait assez souvent ce qu’il fait, il sait rarement ce que fait ce qu’il fait” (Paul Valéry)

En ce moment, On est tous un peu largués par la direction que prend notre société. A la limite, les tensions géopolitiques et la destruction de l’environnement, on commençait à avoir l’habitude.

Mais tout récemment il y a eut l’avalanche de ce qu’on appelle les IA génératives (de textes et d’images).

L’intelligence artificielle vient rajouter de l’incertitude à l’incertitude. On entre dans une période où personne ne peut prédire à quoi notre monde ressemblera dans 6 mois ? Avec Victor de la chaîne Youtube La Fabrique Sociale on s’intéresse énormément à l’impact qu’a la technologie sur notre société. Et en ce moment, il y a de quoi être sur le pont h24 parce qu’il semblerait qu’elle se développe un peu trop vite pour nos deux petits cerveaux de primates.

Alors on a décidé de se pencher sur le sujet à travers une série de vidéos, retranscrites ici sous forme d’articles, histoire de comprendre dans quelle direction nos innovations technologiques risquent de nous emmener.

Pour commencer, on va tenter dans ce premier article de comprendre comment des technologies ont bouleversé nos sociétés, pour le meilleur, comme pour le pire.

I) EXEMPLES HISTORIQUES

A) L’exemple de la charrue

Le terme “technologie” a des usages et des définitions différentes. On retiendra celle-ci :

“La technologie, c’est l’application de connaissances complexes à la résolution de problèmes, intégrées dans des artefacts conçus intentionnellement et suffisamment compliqués pour nécessiter une ingénierie.”¹

Donc par exemple, une ampoule peut-être considérée comme une technologie, puisque ça résout un problème :

Et c’est un objet complexe qui est aussi le produit d’une réflexion humaine.

À l’inverse, la lumière du Soleil n’est pas une technologie à proprement parler, puisqu’elle n’a pas nécessité d’intervention humaine, même si elle très utile et qu’elle est issue d’un processus complexe.

Alors oui, on sait tous que les technologies comme l’ampoule ont profondément changé nos sociétés. Mais est ce qu’on réalise vraiment à quel point ?

Pas certains...

Dans son livre “Sex, ecology and spirituality”², l’écrivain américain Ken Wilber analyse l’impact qu’a pu avoir une technologie aussi “innocente” que la charrue.

La charrue, comme toute technologie, avait un objectif principal : augmenter la production de nourriture, et donc diminuer les risques de famine.

Mais l’adoption de la charrue aurait eu tout un tas de conséquences imprévisibles sur notre monde..³ ⁵ ⁷

Lorsqu’une technologie est adoptée par une société, elle remplit non seulement un objectif principal, mais elle provoque aussi malgré elle d’autres changements.

C’est ce qu’on appellera : un effet indirect.

Selon de nombreuses recherches, la charrue aurait pu avoir des effets indirects extrêmement importants sur nos sociétés, à commencer par nos croyances religieuses. Nos ancêtres chasseurs-cueilleurs étaient certes déjà croyants, mais leur croyance n’avaient rien à voir avec les grands courants religieux actuels.

Les chasseurs-cueilleurs attribuaient souvent un esprit aux êtres vivants, comme les animaux, mais aussi aux objets inanimés, comme les pierres ou le vent. Il s’agit d’un type de religion qui voit de la personnalité dans les phénomènes naturels : l’animisme. L’adoption massive de la charrue aurait précipité la disparition de ce type de croyances. Daniel Schmachtenberger résume l’argument ainsi :

“Tu ne peux pas harnacher un boeuf à un joug, lui couper les testicules et le battre à longueur de journée et avoir des croyances animistes”⁶

La contradiction est en effet “délicate” à maintenir dans le temps. A croire que la souffrance due à la dissonance cognitive n’est pas seulement un phénomène moderne.

Mais alors dans quelle direction pencher pour résoudre cette dissonance ?

Abandonner l’utilisation de la charrue pour conserver les valeurs de l’animisme, ou bien faire une croix sur ces valeurs pour se protéger d’éventuelles famines ?

La survie a primé sur les valeurs.

Et alors que les sociétés animistes se considéraient comme partie intégrante de la nature, les sociétés agraires ont complètement changé de philosophie.

Nous n’étions plus les enfants de la nature, nous étions devenus ses maîtres.

Ce rapport au monde est encore aux fondements de la civilisation moderne : la nature doit être au service de l’humain, et non l’inverse.

Mais les effets indirects de la charrue ne se sont pas arrêtés en si bon chemin. Selon différentes études, la répartition des rôles entre hommes et femmes pourraient en partie être expliquée par les traditions agricoles d’une société. L’adoption de la charrue aurait pu y jouer un rôle déterminant.

Maîtriser une charrue est un exercice qui nécessite des capacités spécifiques : beaucoup de force en haut du corps et une forte poigne pour contrôler l’objet ou l’animal qui la tire.

Des caractéristiques qui sont surreprésentées dans la population masculine. La charrue aurait donc donné à l’homme le rôle de producteur principal de nourriture dans les sociétés agricoles.

Ce n’était pas forcément le cas dans les sociétés horticoles, où à l’inverse, les femmes pouvaient produire la majorité de la nourriture.

L’anthropologue Peggy Sanday analysait⁴ ainsi que les divinités féminines apparaissent quasiment exclusivement dans les sociétés horticoles, qui précédaient l’invention de la charrue. À l’inverse, dans les sociétés qui utilisaient la charrue, quasiment toutes les divinités étaient masculines.

Des milliers d’années après son invention, l’adoption de la charrue laisse encore des traces dans nos sociétés actuelles. Au Burundi par exemple, un pays où l’agriculture est marquée par l’utilisation de la houe et non du joug, 90% des femmes travaillent hors du foyer. A l’inverse, en Inde où l’agriculture a été marquée par la charrue, les femmes restent beaucoup plus présentes dans le foyer³.

L’adoption massive de la charrue aurait donc engendré des effets indirects extrêmement importants, et a pu changer malgré elle l’histoire des sociétés humaines, pour le meilleur comme pour le pire.

Passons maintenant à un exemple, de merde… littéralement

B) L’exemple de merde

Au XIXème siècle dans le centre du monde moderne que constituait Londres, le transport des individus et des marchandises dépendait fortement d’un moyen de transport assez particulier : le cheval.

Pour assurer la mobilité de ses habitants, Londres devait employer les gros moyens. On estime qu’en 1900, la capitale anglaise disposait d’au moins 100 000 chevaux pour déplacer les londoniens. Mais alors que les besoins de déplacement augmentaient avec le temps, un effet indirect et qui n’aurait pas du être si inattendu que ça, est apparu : le caca de cheval.

Effectivement, le cheval, comme tout animal, fait caca. Quand il y en a un, ça va, quand il y en a 100 000...

Ainsi, le magazine Time calculait qu’au rythme de défection des chevaux londoniens, dans 50 ans chaque rue de Londres serait ensevelie sous 3 mètres de caca.

Le caca rendait la ville extrêmement puante, collait aux semelles des chaussures des pauvres londoniens, et contaminait l’approvisionnement en eau. Une véritable cascade d’effets indirects s’était abattue sur Londres. L’heure était grave. ⁸ ⁹ ¹⁰

Il fallait trouver une solution avant que Londres ne se transforme en une gigantesque pyramide de fumier. Heureusement, quelques années plus tard, une solution miracle fit son apparition : la voiture.

L’automobile, en remplaçant le cheval comme mode de transport principal, a non seulement facilité le déplacement des londoniens, mais a également résolu ce fameux problème de merde.

Mais ne crions pas victoire trop vite.

L’automobile, comme les chevaux ou la charrue, allait provoquer des effets indirects inattendus, parfois bons, parfois mauvais.

Par exemple, la prolifération des pots d’échappement a participé à l’accélération de la carbonation de nos sociétés industrielles, ce qui a in fine débouché sur le changement climatique contre lequel nous luttons aujourd’hui.

Mais au-delà de son impact environnemental désastreux, la voiture a également eut des effets indirects catastrophiques sur notre cerveau.

En 1911, l’ingénieur Thomas Midgley invente le plomb tétraéthyle, une molécule qui permet de rendre le moteur des voitures moins bruyant. La solution est rapidement adoptée par les constructeurs automobiles du monde entier.

Sauf que Midgley a caché une information au grand public.

Le plomb tétraéthyle est une molécule extrêmement nocive qui attaque le cerveau des personnes la respirant. Le plomb tétraéthyle, en attaquant le cerveau, pourrait également être responsable de l’explosion des crimes violents dans le monde dans les années 60’s.

Tous ces effets n’ont réellement été compris que des décennies plus tard. En attendant, les dommages causés sont irréversibles.¹¹

Ces deux exemples ont de quoi encourager l’humanité à un minimum d’humilité quand elle diffuse une nouvelle tech et c’est d’autant plus vrai que nous rendons une technologie accessible au monde entier, quasi instantanément, de partout, tout le temps et gratuitement.

C) L’exemple de Google

On va maintenant se pencher sur une technologie plus “récente”, après la charrue c’était pas mission impossible : le moteur de recherche de Google sorti en 1998. L’objectif premier de cette technologie était simple : mettre un peu d’ordre dans le bazar du Web. Et c’était franchement hyper nécessaire.

Les plus anciens eux s’en souviennent, à cette époque, il commençait à y avoir des pages dans tous les sens et plus personne ne s’y retrouvait vraiment. Quand on cherchait une info, on avait l’impression d’être Gaston Lagaffe qui cherchait le fameux contrat dans sa grotte creusée dans une montagne de dossier”, il fallait un meilleur moyen de s’y retrouver.

A l’époque y’avait un portail de recherche qui s’appelait “Lycos”, le symbole c’était un chien noir qui était supposé filé comme l’éclair dans les tréfonds d’internet pour nous rapporter l’info comme s’il s’agissait d’un baton. Sur le bouton pour lancer la recherche, y’avait littéralement écrit “go get it”.

On connait tous ces chiens qui font semblant de rapporter le bon bâton en remuant la queue tout fier d’eux alors qu’ils ont un vieux sac plastique entre les crocs. Le chien de Lycos, c’était pareil mais avec les infos de la toile.

Personne à l’époque n’avait réussit à faire “sens” de toute l’information qu’il y avait sur le Web et c’est là où google est arrivé avec un algorithme qui est depuis entré dans la légende : “page rank”¹². Cet algorithme partait du principe très simple que plus il y avait de liens qui pointaient vers votre site, notamment quand ces liens venaient de sites qui eux mêmes étaient importants, plus la probabilité était grande que votre site soit pertinent¹³.

Et ça a complètement changé le game, Google avait des réponses bien plus pertinentes que les autres et en l’espace de 4 ans, Google a mis le chien fou en PLS et est devenu le leader du marché avec un moteur de recherche digne de ce nom.

On a du mal à y croire aujourd’hui mais il y avait à l’époque zéro pub sur Google. Les fondateurs de Google s’étaient même exprimés publiquement contre le lien entre publicité et moteur de recherche, c’est dire si c’est loin...¹⁵

Alors bien sûr on peut se dire qu’il s’agit cette fois d’une techno avec simplement des effets directs positifs.

Oui mais en fait non pas du tout parce que certes ils avaient zéro pub mais ils avaient surtout zéro modèle économique. Et quand les investisseurs ont sonné la fin de la récré et que la bulle internet a éclaté, Google a dû, pour survivre, reconsidérer sa position un peu idéaliste quant à la pub.

Encore une fois, la survie a primé sur les valeurs.

Par contre, tant qu’à la reconsidérer, Google l’a fait de la manière la plus “maline” possible.¹⁶

Pour comprendre le génie de comment ils ont implémenté la pub sur leur moteur de recherche par rapport à ce qui se faisait à l’époque dans la concurrence, il faut se remettre dans l’esprit des années 2000.

A l’époque, on est d’accord, c’est la préhistoire d’internet et donc à fortiori de la pub sur le web. Rien que vendre des mots-clés à des annonceurs pour leur assurer l’affichage de leur site en fonction d’une requête utilisateur, c’était une innovation incroyable et il y avait d’ailleurs qu’une seule plateforme qui le faisait : goto.com¹⁷

Et Google, en plus d’avoir un moteur de recherche bien plus efficace, est allé un cran plus loin : ils se sont mis à vendre non plus des mots clés mais des nombres de clicks. Les annonceurs ne choisissaient plus leurs mots clés eux-mêmes mais ils déléguaient la tâche à Google qui, avec toutes les infos à sa disposition — à commencer par les requêtes utilisateurs — choisissait d’imprimer les publicités uniquement aux utilisateurs les plus à mêmes de cliquer.

En fait les annonceurs ne payaient que si l’impression aboutissait à un click. Ça avait pour effet de maximiser l’impact des campagnes côté annonceurs tout en évitant de polluer les résultats côté utilisateur comme sur goto.com — où les grosses marques achetaient tout un dictionnaire de mots-clés histoire de s’assurer une grosse présence sur le Web et empêcher la concurrence d’exister.¹⁸

Et c’est avec ce nouveau produit “AdWords Select” que les revenus publicitaires de Google ont explosé.

C’est en voyant le succès de cette stratégie basée sur les données personnelles, que sont nos requêtes sur un moteur de recherche, que Google a réalisé à quel point il était rentable de pouvoir “prédire” ce qui allaient faire cliquer les internautes. De là, Google a étendu le raisonnement à TOUTES les données personnelles, qui peuvent par définition, améliorer leur prédiction et donc par la même occasion rendre l’impression de publicité plus efficace.

Ils étaient assis sur une mine d’or.

Et ça, ça a été le début … de la fin. C’est littéralement le début de l’économie de l’attention et aussi de ce que l’excellente Zuboff a appelé “le capitalisme de surveillance” où tous les moyens sont bons et légitimes pour extraire le plus de données possibles de ce qu’on fait sur le net afin de vendre toujours plus de clicks à des annonceurs qui tenteront ensuite de nous refourguer toute la merde dont on ne savait pas qu’on avait besoin.

En fait, c’est tout simplement le début de la personnalisation du web, des algorithmes de recommandation et de l’extraction de toutes les données personnelles possibles et inimaginables. Et donc par voie de conséquence c’est le début : des réseaux sociaux, des bulles de filtres numériques, de l’aggravation de la polarisation politique¹⁹ ²⁰ ²¹, de la culture du clash, de la manipulation massive d’élections²², de l’augmentation des maladies mentales chez les jeunes filles²³, etc.

Et tous ces effets indirects monumentaux parce qu’à un moment, Google a un peu modifié sa technologie pour trouver un modèle économique…

En fait c’est de ce “péché” originel qu’a émergé une bonne partie de la mouise de laquelle on essaie tous et toutes de se sortir au quotidien.

II/ Un peu d’humilité technologique

Ces trois exemples démontrent qu’une technologie peut avoir des effets indirects, imprévisibles, et parfois destructeurs pour notre société. Pourtant, notre culture associe encore trop souvent “innovation technologique” à “progrès”.

Cette conception du progrès technologique, qu’on peut renommer le modèle “naïf”, a la peau dure. Selon le chercheur américain Langdon Winner, le modèle “naïf” de la technologie s’appuie sur les “constats” suivants :

• Les humains comprennent parfaitement les technologies qu’ils créent.
• Nos technologies sont parfaitement sous notre contrôle.
• Les technologies elles-mêmes sont neutres.

Il y a beaucoup à dire de ces 3 “constats” mais on peut commencer en remarquant que l’adoption d’une technologie crée tout un tas d’effets indirects que nul ne peut ni contrôler ni anticiper. Et parfois, nos inventions créent des problèmes encore plus importants que ceux qu’elles étaient censées résoudre, comme lorsque nous sommes passés du cheval à la voiture, en créant un problème de pollution encore bien plus important

Mais les effets indirects qu’on a décrit précédemment démontent un autre mythe du modèle naïf : celui de la neutralité.

Au contraire, une technologie est souvent créée dans la poursuite de certaines valeurs et aboutit à la création et à la transformation d’autres valeurs, comme l’a montré l’exemple de la charrue. Cette technologie semblait bien innocente de prime abord. Elle n’a pas été construite dans le but de faire disparaître l’animisme ou de modifier les rapports entre hommes et femmes. Et pourtant, elle aurait pu changer fondamentalement tous ces aspects de notre société.

La technologie n’est donc jamais neutre : elle a un impact sur nos valeurs et sur notre conception du monde.

On peut donc opposer au modèle naif un modèle de pensée plus réaliste. Appelons-le, le modèle “HUMBLE” de la technologie. Le modèle Humble fait des propositions opposées au modèle classique :

• On ne comprend pas toujours nos technologies
• Les technologies ont un certain nombre d’effets indirects qui ne sont pas toujours sous notre contrôle
• Les technologies ne sont jamais neutres.

Voilà pourquoi il nous faut retrouver un peu d’humilité avant d’adopter en tant que société une nouvelle technologie. Mais face à tant de complexité, existe t-il un moyen d’anticiper les effets indirects d’une technologie ?

C’est difficile car par définition les effets indirects sont imprévisibles, la seule chose qu’on peut faire dans une certaine mesure, c’est être grandement sur nos gardes face à des technologies au potentiel d’effets indirects énorme.²⁴

Et il y a un type de technologie qui a toujours profondément bouleversé les sociétés humaines, ce sont les technologies liées à notre capacité à communiquer les uns avec les autres.

III/ L’importance des technologies de la communication

Comme l’explique Henrich dans son excellent “le secret de notre succès”, ce qui fait que nous sommes parvenus à une domination écologique planétaire, ça n’est pas, comme nous aimons le penser, une supériorité cognitive absolue mais une supériorité cognitive bien plus spécifique.

Il y a tout un tas de tests cognitifs sur lesquels on est à peine meilleurs que les orang outang et où les chimpanzés nous mettent la petite pichenette de l’humiliation :

Non, là où vraiment on sort du lot et où on écrase nos lointains cousins, c’est dans nos capacités d’apprentissage social et dans notre aptitude à acquérir le savoir-faire accumulé dans la culture dans laquelle on grandit, au travers notamment de la langue, des coutumes, des normes, de la maîtrise des outils.²⁵

Ce sont nos savoir-faire culturels et non notre génétique qui permettent aux communautés humaines de survivre dans tant de milieux différents et par des températures tellement extrêmes que même les loups arctiques sont un peu dans le durs.

C’est à cet apprentissage et à cette transmission culturelle que nous sommes particulièrement bien adaptés. Cette supériorité dans le domaine de l’apprentissage social est décuplée par l’utilisation de technologies qui permettent de communiquer encore plus rapidement et encore plus efficacement. D’où l’importance pour les groupes humains des technologies qui améliorent ce qui est la raison première de notre dominance écologique : la communication.

L’évolution culturelle cumulative, où chaque génération en sait plus que la précédente et parvient ainsi à mieux s’adapter à son environnement, est depuis des centaines de milliers d’années et aujourd’hui encore la force centrale de l’évolution humaine et ce type d’évolution dépend énormément de nos capacités à communiquer nos savoir faire.

Lorsqu’on observe l’évolution culturelle humaine, on s’aperçoit que chaque grande phase historique correspond à une nouvelle “technologie” de la communication.²⁶ ²⁷

En prenant ce léger recul historique de 2 millions d’années, on comprend mieux pourquoi les technologies qui changent, améliorent et accélèrent ce qui fait notre force en tant qu’espèce, c’est-à-dire notre capacité à communiquer les uns avec les autres, génèrent autant d’effets indirects. Ces technologies augmentent notre pouvoir collectif dont on se sert la plupart du temps pour modifier notre environnement pour qu’il fasse à peu près ce qu’on veut qu’il fasse.

Les innovations technologiques dans le domaine de la communication, ce sont des graines d’ouragans d’effets indirects.

Et il y a un Ouragan force 5 en approche qui pourrait tout détruire sur son passage…

ChatGPT risque d’être une technologie … révolutionnaire avec un potentiel de destruction sans équivalent.

Certains experts vont même jusqu’à considérer les grands modèles de langage comme un danger civilisationnel.

Mais comment ? Et quels seront les effets indirects des modèles de langage, et plus généralement, de l’intelligence artificielle ?

Qu’en pensez quoi ? Avez-vous lu ou vu des trucs intéressants sur le sujet, mettez tout en commentaires. Avec Victor, on est à fond sur le sujet et on écumera tout ça.

Le prochain article (et vidéo) sortira dans deux semaines.

En attendant,

Paix et santé,

Et tant que vous êtes là ;), voici 5 manières de suivre et de soutenir le projet d’ApresLaBiere :

1) Soutenir ApresLaBiere sur Tipeee (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)

2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :

3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)

4) Liker et suivre ApresLaBiere sur facebook, twitter ou instagram

5) Penser à faire appel à Homo Conscientus (moi :)) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.

SOURCES / LIENS / POUR ALLER PLUS LOIN :

[1] Article de “The consilience project” “La technologie n’est pas neutre du point de vue des valeurs : Mettre fin au règne du design nihiliste” : https://consilienceproject.org/technology-is-not-values-neutral-ending-the-reign-of-nihilistic-design-2/

[2] Livre “Sexe, écologie, spiritualité : L’esprit de l’évolution” de Ken Wilber : https://www.thriftbooks.com/w/sex-ecology-spirituality-the-spirit-of-evolution_ken-wilber/312947/

[3] Sur les origines des rôles de genre “Les femmes et la charrue” : https://www.nber.org/system/files/working_papers/w17098/w17098.pdf

[4] Livre “Pouvoir féminin et domination masculine : Aux origines de l’inégalité sexuelle” de Peggy Reeves Sanday : https://www.thriftbooks.com/w/female-power-and-male-dominance-on-the-origins-of-sexual-inequality_peggy-reeves-sanday/338598/#edition=3530503&idiq=7790754

[5] Article “Pour comprendre la discrimination envers les femmes, il faut remonter à la charrue” : https://www.letemps.ch/economie/carrieres/comprendre-discrimination-envers-femmes-faut-remonter-charrue

[6] Daniel Schmachtenberger dans le deuxième épisode de la série “Bend not break” avec Nate Hagens : https://www.youtube.com/watch?v=Nkv5mpBA8o4

[7] Papier “Le rôle de la femme dans le développement économique” : https://www.researchgate.net/publication/280887884

[8] Article “La grande crise du fumier de 1894”: https://fee.org/articles/the-great-horse-manure-crisis-of-1894/

[9] Article wikipedia sur le phénomène : https://en.wikipedia.org/wiki/Great_horse_manure_crisis_of_1894

[10] Article “Le problème du fumier de cheval” : https://www.anglicansamizdat.net/wordpress/the-horse-manure-problem/

[11] Article “La moitié de la population américaine exposée à des niveaux de plomb défavorables dans la petite enfance” : https://www.pnas.org/doi/abs/10.1073/pnas.2118631119

[12] Pour une explication détaillée du fonctionnement de l’algorithme légendaire de Facebook, la vidéo “PageRank, a trillion dollar algorithm” : https://www.youtube.com/watch?v=JGQe4kiPnrU

[13] Les bouts d’entretien avec les deux fondateurs sur leur début sont passionnants, on peut y discerner l’origine geek, tâtonnante et bêtement techno-enthousiaste de Google. Tous les passages là : https://achievement.org/achiever/sergey-brin/#interview. Le passage où Larry Page explique l’algorithme : https://youtu.be/1wi9veSf93s

[14] Evolution des parts de marché des différents moteurs de recherche de 1994 à 2019 : https://www.youtube.com/watch?v=yMpj33Y95ZU

[15] Papier de recherche où les deux co-fondateurs de google remettent en question la pertinence des publicités sur les moteurs de recherche en 1998, “The Anatomy of a Large-Scale Hypertextual Web Search Engine”, partie “8 Appendix A: Advertising and Mixed Motives” : http://infolab.stanford.edu/~backrub/google.html

[16] Page 73 et suivante de “The age of surveillance capitalism” de Shoshana Zuboff : https://www.amazon.com/Age-Surveillance-Capitalism-Future-Frontier/dp/1610395697

[17] Un article sur comment Google a piqué l’idée de goto.com pour ensuite l’améliorer “Google’s Big Break“ : https://slate.com/business/2013/10/googles-big-break-how-bill-gross-goto-com-inspired-the-adwords-business-model.html

[18] Un article sur l’histoire du PPC (pay per click) marketing “A Beginner’s Guide to Pay-Per-Click Marketing“ : https://www.capterra.com/resources/a-beginners-guide-to-pay-per-click-marketing/

[19] Sur la polarisation, voir page 123 de “They don’t represent us” de Lawrence Lessig : https://www.amazon.com/They-Dont-Represent-Reclaiming-Democracy/dp/0062945718

[20] Sur la polarisation, voir également le livre de Barbara Walter “How civil war start” : https://en.wikipedia.org/wiki/How_Civil_Wars_Start (son passage dans le très bon podcast “Your undivided attention” : https://www.humanetech.com/podcast/50-what-is-civil-war-in-the-digital-age -

[21] Sur la polarisation, voir aussi le chapitre 3 “the downward spiral” de l’excellent livre de Tim Urban du blog waitbutwhy.com “What’s our problem, a self help book for societies” : https://waitbutwhy.com/2023/02/wop-chapter-3.html

[22] Sur la manipulation d’élections, le livre “Mindf*ck: Cambridge Analytica and the Plot to Break America” https://www.amazon.com/Mindf-Cambridge-Analytica-Break-America/dp/1984854631 et le documentaire “the great hack” : https://www.netflix.com/fr-en/title/80117542

[23] Sur le lien entre réseaux sociaux et santé mentale des jeunes, lire les très bons articles de Jon Haidt sur sa substack : https://jonathanhaidt.substack.com/ notamment son article “Social Media is a Major Cause of the Mental Illness Epidemic in Teen Girls. Here’s the Evidence.” : https://jonathanhaidt.substack.com/p/social-media-mental-illness-epidemic

[24] Épisode “Peut-on gouverner l’intelligence artificielle” du podcast “your undivided attention” sur la législation autour de l’IA : https://www.humanetech.com/podcast/can-we-govern-ai

[25] Schéma page 15 de l’excellent livre “The secret of our success” : https://www.amazon.fr/Secret-Our-Success-Evolution-Domesticating/dp/0691166854

[26] Article “Changements marquants dans l’évolution culturelle de la communication” : https://onlinelibrary.wiley.com/doi/full/10.1111/jtsb.12361

[27] Article “Le langage en tant que technologie : Quelques questions que la linguistique évolutive devrait aborder” : https://mufwene.uchicago.edu/publications/Language%20as%20Technology.pdf

De la charrue à Google, le côté obscur de la tech (Moloch 1/6) was originally published in Après La Bière on Medium, where people are continuing the conversation by highlighting and responding to this story.

On reproche souvent au système attentionnel moderne de détourner notre attention collective des sujets sociétaux essentiels tels le changement climatique ou les inégalités de par le monde pour l’orienter vers des sujets futiles tels les méthodes de conduite hétérodoxes d’humoriste dont la dernière punchline date de 2007. Dans le cadre de la guerre cognitive¹, l’éco-système attentionnel devient une arme qui va permettre d’amplifier au contraire l’attention collective donnée à des sujets sociétaux aussi importants que brûlants; non pas bien entendu pour nous aider à les résoudre mais pour les empirer au profit de l’attaquant. Il existe une illustration quasi parfaite de ce phénomène :

I) Le double noyautage de la “conversation” #BlackLivesMatter

Une équipe de chercheurs a observé dès 2016, quasi par inadvertance d’ailleurs, un phénomène qui illustre parfaitement cette intrication et l’instrumentalisation de nos luttes et de nos colères numériques par des puissances étrangères. Cette équipe s’intéressait à la “guerre de cadrage” faisant rage autour du mouvement “Black Lives Matter” sur Twitter.

Qu’est ce qu’un cadrage ?

En termes simples, un cadre c’est une façon de voir et de comprendre le monde qui nous aide à interpréter de nouvelles informations. Le cadrage c’est le processus qui consiste à façonner les cadres des autres, à orienter la façon dont les autres interprètent les nouvelles informations. Les concours ou guerre de cadrage se produisent lorsque deux groupes (ou plus) tentent de promouvoir des cadrages différents. Par exemple, on a une guerre de cadrage quasi-permanente au sujet de “la fraude à l’argent public en France”.

Certains pensent que le gros sujet, c’est la fraude au RSA, c’est-à-dire les gens qui se la coulent douce en plongeant dans leur piscine remplie de pièces de 2 centimes grassement accumulées grâce aux généreux 500 euros par mois de RSA qu’ils grugent ou bien on peut aussi penser que s’occuper de l’évasion fiscale des très très riches, ça serait peut-être un poil plus efficace.

Forcément, de ces deux cadres de compréhension, on ne tirera ni les mêmes conclusions ni les mêmes stratégies d’action politique.

Le but de la recherche² était donc de s’intéresser à la bataille de cadrage continue qui a lieu aux USA autour du mouvement “Black lives matter” depuis 2013. Pour cela, les chercheurs se sont penchés sur la “conversation” #blackLivesMatter sur Twitter. Ils ont analysé 66 000 Tweets provenant de plus 8500 comptes et ils ont fait ce que tout bon chercheur moderne fait : des images avec plein de couleurs.

Et notamment celui ci :

Sans surprise, la guerre de cadrage oppose deux pôles. Il y a un pôle (plutôt à gauche en violet) qui pousse un narratif qui soutient la cause défendue par le mouvement Black lives Matter et un (plutôt à droite en vert) qui se veut critique du mouvement.

Dans le cluster de gauche, le contenu créé mettra en lumière les cas et plus généralement toutes les informations qui confirment le cadrage suivant “les Afro-Américains sont disproportionnellement et injustement victimes de violence policière”. Dans ce cadre de pensée, les Afro-américains sont victimes d’un racisme systémique et d’injustices permanentes.

Et dans le cluster de droite, le contenu créé mets en avant toute violence étant commise par et au sein des communautés afro-américaines, soutenant implicitement la thèse selon laquelle la police agit en fait légitimement en recourant à la force face à des communautés afro-américaine au sein desquelles il y a plus de violence qu’ailleurs..

Jusque là, rien de très nouveau sous le soleil, une énième documentation d’un énième exemple de la polarisation des débats numériques sur un sujet politique extrêmement sensible. Polarisation dont on sait quasiment tout et contre laquelle on ne fait quasiment rien.

Mais là où ça devient “drôle”, c’est qu’en Novembre 2017, quelques semaines seulement après la publication de cette étude, une liste de comptes Twitter Russes a été publiée par Twitter³. Plus précisément, il s’agissait d’une liste de comptes affiliés à l’Internet Research Agency (RU-IRA), une agence de propagande russe située à Saint-Pétersbourg.

Twitter l’a publiée dans le cadre des enquêtes sur les interférences russes dans la campagne présidentielle de 2016.

Et en voyant cette liste, les chercheurs se sont dits⁴ :

“Tiens, bizarre bizarre, on en reconnaît quand même un paquet de ces comptes. Mais que viennent faire ces comptes russes dans une question politique americo-americaine comme black lives matter ?”

Les chercheurs aimant chercher, ils se sont alors attelés à une seconde analyse⁵ en croisant cette nouvelle liste des comptes russes avec les données de la première étude pour voir si ces comptes affiliés à la Russie trollaient simplement à tout va ou bien s’ils avaient une stratégie particulière. Peut-être qu’il y avait un “cadre” particulier qu’ils soutenaient ou bien au contraire un cadre contre lequel ils luttaient ?

Et là :

Ci-dessous, le schéma de tout à l’heure sauf que les comptes russes apparaissent en orange au milieu des comptes authentiques tous en bleu.

Ce qu’on peut voir, c’est que la stratégie est claire : les comptes russes participent aux deux pôles et tentent de radicaliser le discours et les positions dans chacun de ces deux pôles.

Et de la même manière que l’argent n’a pas d’odeur pour le capitaliste, la radicalisation des positions politiques aux US, n’a pas d’odeur pour la Russie. Peu importe quel côté politique va gagner telle ou telle bataille de cadrage, ce qui compte c’est comme le disent les chercheurs

D’orienter stratégiquement le discours de manière à “tuer la possibilité d’un débat et d’une politique basée sur la réalité”.

Et pour cela quoi de mieux que de se faire passer pour des militants de tout bord défendant mordicus et avec le moins d’empathie possible les positions qu’ils trouvent juste. Ainsi, on mimera tour à tour un afro américain de Virginie œuvrant pour sa communauté, un conservateur texan, chrétien, fier d’être père et défendant la liberté du port d’armes ou bien on se fera passer pour un média alternatif qui œuvre pour la justice raciale aux Etats-Unis.

Cet exemple est l’illustration parfaite et documentée de la quasi impossibilité pour le moindre militant occidental de ne pas être récupéré et instrumentalisé d’une manière ou d’une autre par une puissance étrangère dans le cadre d’une guerre cognitive.

L’attention et la colère des militants peut à tout moment devenir l’arme de destruction massive des puissances étrangères. Si vous êtes un militant convaincu d’une cause, qui a envie d’en découdre avec l’autre bord, tout aussi convaincu, vous serez une cible de choix des tentatives d’instrumentalisation des puissances étrangères. En participant pro activement à la diffusion et à la radicalisation de votre voix, et celle de vos adversaires, une puissance étrangère pourra affaiblir la puissance dont vous faites partie.

Ça ne veut certainement pas dire qu’il faut arrêter de militer ou de se battre pour les causes que nous pensons justes. Seulement, prendre conscience de notre potentielle instrumentalisation devrait au moins nous inciter à parfois appuyer sur pause et tenter de prendre un peu de hauteur.

Et d’ailleurs, on peut également envisager que cet article soit instrumentalisé, non pas par les russes cette fois-ci mais par les pouvoirs des régimes libéraux occidentaux (la France en l’occurence) pour pousser un narratif prônant une sorte de statu quo dans lequel rien ne bouge.

C’est un risque car il est d’autant plus difficile de détecter une manipulation qu’elle va dans le sens de nos croyances. C’est justement ce que note les chercheurs dans les conclusions de leur étude en évoquant leurs propres réactions face à la partie des trolls Russes qui poussait le narratif auquel ils étaient sensibles : celui de gauche.

Étant donné que ces comptes essayaient de se présenter comme des membres de notre “tribu” et de parler de nos vérités (c’est-à-dire en utilisant des informations chargées de valeurs progressistes partagées par les membres de notre équipe de recherche), nous étions parfois dans un état de doute et de confusion quant à savoir si ces comptes de l’agence russe s’affichant comme étant de gauche étaient vraiment de mauvais acteurs. Nous exprimions alors des doutes quant à la méthodologie utilisée par Twitter pour identifier ces comptes […] D’un certain point de vue, il s’agit d’un autre petit élément de preuve qui suggère que ces tactiques sont efficaces pour réaliser l’objectif que beaucoup leur prêtent : semer le doute, créer la confusion.

Comme si le menu sociétal de ces 10 prochaines années n’étaient pas assez épicé comme ça… Tout ça pose logiquement la question suivante

II) QUEL BOUCLIER CONTRE LES ATTAQUES COGNITIVES ?

Les auteurs taïwanais d’un papier passionnant⁶ au sujet de la guerre cognitive menée par la Chine contre Taïwan distinguent deux types d’intervention possibles pour se prémunir des effets dévastateurs de ces attaques cognitives : les interventions “structurelles” et les interventions “cognitives”.

Les interventions structurelles concernent la régulation et l’organisation de l’univers informationnel dans lequel nos petits cerveaux baignent constamment et les interventions “cognitives”, c’est en gros, l’éducation : comment faire pour que nos “petits cerveaux” soient plus “armés”, c’est à dire plus imperméables aux tentatives de désinformations hostiles — sans pour autant être dogmatiquement aveuglés par celles qui nous viennent de nos états. C’est là où on réalise la difficulté et l’ampleur du défi…

A) Les interventions structurelles

Une intervention structurelle par exemple, ce serait déjà de réguler et d’encadrer le droit des plateformes numériques à promouvoir certains contenus plutôt que d’autres. Ces régulations paraissent d’autant plus indispensables qu’on comprend que l’unique objectif des BigTechs est d’ extraire le plus d’attention possible et ce quelles que soient les conséquences sociétales.

Laisser autant de pouvoir à ces plateformes qui n’en ont strictement rien à foutre des conséquences sociétales des contenus qu’elles diffusent, c’est permettre et faciliter leur détournement par une puissance étrangère. Si nous laissons les Bigs Techs utiliser sans aucune régulation leur boussole algorithmique unique, c’est-à-dire la recherche d’attention humaine,

alors il ne faudra pas s’étonner si des régimes étrangers produisent du contenu très efficace selon cette boussole et qui affaiblit cognitivement nos sociétés.

Et si ce contenu est attentionnellement efficace, ils pourront compter sur les algos de recommandation de Youtube, Twitter et consort pour amplifier leur diffusion. Ces plateformes dans leur logique n’auraient aucune raison de ne pas le faire…⁷

C’est le sens profond de l’âpre bataille qui a eu lieu en Australie avec le “News bargaining code” qui a opposé frontalement Google et Facebook avec le gouvernement australien en 2020⁸. En imposant à Google et Facebook de redistribuer une partie des bénéfices générés par les articles relayées par google mais écrit par des médias australiens, le gouvernement australien a réussi à imposer une volonté politique aux grandes plateformes :

Et comme tout rapport de force, ça ne s’est pas fait sans “heurts”, Google avait alors menacé l’Australie de retirer ses services de tout le territoire et les médias australiens s’étaient réveillés un jour en réalisant que tous les liens vers leur site postés sur Facebook avaient été purement et simplement supprimés de la plateforme⁹. De toute manière, quand une nouvelle régulation passe comme une lettre à la poste, c’est soit qu’elle touche des faibles, soit qu’elle ne sert à rien. Donc là en l’occurence, c’est pas passé comme une lettre à la poste mais ça a fini par passer. Et c’est un symbole fort pour les autres pays : il est possible d’imposer une volonté politique à ces géants économiques.

Et on devrait s’inspirer de ce rapport de force qu’a réussi à imposer l’Australie dans les évolutions prochaines de la “Législation européenne sur les services numériques” et ainsi donner un peu de fil à retordre aux lobbystes des Bigs-techs qui trainent un peu partout à Bruxelles.

Parce que comme le dit l’étude Taïwanaise, l’Australie, grâce aux “News Media Bargaining Code” est parvenue à :

“empêcher les plateformes numériques telles que Google (au travers de sa branche google actualités) et Facebook de réduire et de quasi tuer la production locale de certains types d’informations et de journalisme, qui sont essentiels au bon fonctionnement du processus démocratique.”

Pour gagner la guerre cognitive au sens d’éviter que la société dans laquelle nous vivons ne s’écroule, il faut trouver un moyen de “relever” l’importance du critère “conséquences sociétales positives” dans ce que notre système informationnel promeut et diffuse. Et ça, ça passera nécessairement par un journalisme de qualité et donc par des bras de fer politiques avec les grandes plateformes du numérique.

Tant qu’on n’imposera pas aux grandes plateformes notre volonté politique, il n y a aucune raison qu’elle s’aligne, comme par magie, avec notre intérêt général.

Un projet où il s’agit de construire des méthodes pour décider collaborativement du contenu qu’un algorithme d’intérêt général pourrait recommander à grande échelle, ça existe déjà et ça s’appelle Tournesol. J’y ai consacré ma dernière vidéo et j’invite tout le monde à s’y intéresser de plus près.

Mais tant qu’on n’imposera pas l’utilisation de ce genre d’algorithmes, quel impact auront-ils sur la société ? Hélas aucun.

B) Les interventions cognitives

Ensuite il y a les “interventions cognitives”. Il s’agit cette fois d’entraîner l’esprit critique des concitoyens : comment nous éduquer tous et toutes à y voir un peu plus clair dans les jeux d’informations qui nous submergent ?Sur ces thèmes là, la chaîne Hygiène mentale¹⁰ est fantastique et plus localement en Occitanie, on a l’association “les rasoirs d’Oc”¹¹ qui fait justement la promotion de ce genre de réflexions. Mais si nous voulons que notre société toute entière soit entraînée et formée à l’esprit critique pour être protégée d’attaques cognitives, il faut l’enseigner à toute la population et là il va probablement y avoir un os. Parce que c’est bien connu, pour un état, l’esprit critique face à la propagande adverse c’est super, l’esprit critique face à sa propre propagande, c’est un peu moins bien.

Et c’est pour cela qu’il ne sera jamais évident pour un état de réellement et sincèrement éduquer et enseigner ses concitoyens à l’esprit critique. C’est d’ailleurs plus ou moins pour ces mêmes raisons, d’après le conférencier gesticuleur Franck Lepage¹², que le projet d’éducation populaire porté après la seconde guerre mondiale a fini par être enterré :

Une population éclairée politiquement, c’est quand même plus difficile à “gérer”.

Et puis de toute manière, tout miser sur la rationalité et l’esprit critique, c’est commettre une erreur encore plus large. C’est faire comme s’il était possible d’être tout à fait “rationnels”, comme si le seul combustible de la crédulité était la bêtise et l’irrationalité. On commetrait ici la même faute que les chevaliers anti-complotistes des réseaux sociaux qui disent partout que finalement les “gens pensent mal”¹³ alors qu’eux… bien évidemment…

On oublie trop souvent que c’est notamment lorsqu’on est “insatisfaits” ou “stressés” qu’on arrête d’être rationnels¹⁴. C’est quand on nous annonce un pépin physique grave contre lequel la médecine classique ne peut pas grand chose qu’on va tenter tous les magnétiseurs de la préfecture. Si un état veut que ses concitoyens soient moins sensibles à une attaque cognitive étrangère, il faut probablement que ces mêmes concitoyens ressentent qu’ils mènent une vie à peu près décente, juste et porteuse de sens. Ce type de guerre cognitive exploite des faiblesses et des clivages pré-existants. Par conséquent un autre moyen d’être moins exposé aux attaques cognitives, c’est d’avoir moins de ces faiblesses et de ces clivages. L’arme suprême contre ce type de guerre cognitive, c’est finalement d’avoir une société saine où ces attaques ne rencontreront que très peu d’écho, tout “simplement”…

Mais en attendant qu’on ait “simplement” résolu le changement climatique, la transition énergétique, les inégalités chaque jour plus indécentes et les algos de recommandation tout pétés des grandes plateformes, que peut-on faire individuellement histoire d’avoir au moins le sentiment de ne pas être pris pour un total jambon, par les uns ou par les autres ?

III) QUE PEUT-ON FAIRE INDIVIDUELLEMENT ?

Alors on pourrait commencer par éviter d’être présents sur les lieux des bombardements cognitifs. Il s’agit très simplement de fuir comme la peste toute forme de débats et de discussions numériques où il est évident que les participants sont avant tout animés par leurs émotions. Non pas que les émotions soient négatives en soi, non pas que ceux qui expriment leurs idées sous le coup des émotions aient nécessairement tort mais simplement parce que vouloir éviter de se faire bombarder cognitivement en plongeant dans une shit storm sur Twitter, c’est comme vouloir éviter d’être blessé en plongeant sous une bombe atomique.

Et on peut même aller plus loin et éviter de se renseigner sur des thématiques sociétales tendues sur des réseaux qui sont probablement à la recherche d’informations nuancées ce que Trump est à la lutte contre le changement climatique.

Si pour une raison ou une autre, vous restez sur les réseaux sociaux, il vous faut observer et constituer une liste d’acteurs en qui vous ferez plus confiance qu’à la moyenne sur tel ou tel sujet. Non pas une confiance aveugle, juste une plus grande confiance car ces acteurs l’auront gagné à la sueur de leur contenu et de leur posture : partage-t-il du contenu sérieux ? Fait-il preuve d’humilité épistémique ? Se remet-il en question face à de nouveaux arguments ?

Mais faire confiance à des individus, même si c’est inévitable, ça reste dangereux. Faire confiance à des méthodes collectives, dans le temps long, ça reste plus sûr. Ainsi, de la même manière qu’il sera plus sûr de faire confiance à la méthode scientifique qu’à UN scientifique, il sera par exemple intéressant de faire confiance aux méthodes de l’ OSINT¹⁵ (Open Surveillance Intelligence) pour savoir ce qu’il se passe sur des théâtres de guerre et à la plateforme Tournesol pour savoir quelle vidéo semble être un peu plus alignée avec l’intérêt général.

Enfin, il faut lire et se renseigner sur la guerre cognitive, sur ses fonctionnements ainsi que sur notre propre fonctionnement. Il n y a pas vraiment de liberté, on est toujours conditionnés d’une manière ou d’une autre, la seule liberté, c’est de prendre conscience de ces conditionnements. Stéphane (avec qui j’ai écrit / réalisé cette série d’articles / vidéos) vous recommande par exemple de lire “Mindf*ck” de Christopher Wylie¹⁶ :

Et moi il y a les deux rapports¹⁷ ¹⁸ que j’ai trouvé très intéressant sur tous ces sujets et ils sont tous les deux écrits par des chercheurs de l’IRSEM (l’Institut de recherche stratégique de l’école militaire). Alors forcément, cet institut étant dépendant du ministère des armées françaises, c’est surement pas là que vous allez découvrir que l’objectif de l’armée française c’est la domination galactique mais par contre en terme d’état de l’art de comment il est possible de manipuler l’information à des fins d’ingérence, ça apporte une mine incroyable d’informations (en source ouverte d’ailleurs) :

Sur ces joyeuses lectures et en attendant de vous retrouver, je vous souhaite

Paix et santé (cognitives),

Et tant que vous êtes là ;), voici 5 manières de suivre et de soutenir le projet d’ApresLaBiere :

1) Soutenir ApresLaBiere sur Tipeee (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)

2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :

3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)

4) Liker et suivre ApresLaBiere sur facebook, twitter ou instagram

5) Penser à faire appel à Homo Conscientus (moi :)) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.

SOURCES / LIENS / POUR ALLER PLUS LOIN :

¹ Pour comprendre ce qu’est la guerre cognitive, le premier article : “La guerre cognitive ou comment gagner sans même livrer bataille ?” ↰
² L’étude de base “Drawing the Lines of Contention: Networked Frame Contests Within #BlackLivesMatter Discourse” ↰
³ La liste des comptes Twitter affiliés à l’IRA envoyée par Twitter au congré américain “United States House of Representatives Permanent Select Committee on Intelligence. 2017. Exhibit B” ↰
⁴ Je romance, je romance mais c’est le sens de ce que raconte très bien l’une des autrices du papier dans cet excellent article de vulgarisation de sa propre étude : “The Surprising Nuance Behind the Russian Troll Strategy” ↰
⁵ La deuxième étude où on a croisé les données de la première avec la liste de comptes twitter affiliés à l’IRA : “Acting the Part: Examining Information Operations Within #BlackLivesMatter Discourse” ↰
⁶ Papier : “How China’s Cognitive Warfare Works: A Frontline Perspective of Taiwan’s Anti-Disinformation Wars” ↰
⁷ Le problème du désalignement j’en ai parlé dans l’article : “Comment fait Youtube pour nous connaître “mieux” que nous-mêmes ?” ↰
⁸ Article “In a world first, Australia plans to force Facebook and Google to pay for news” — page wikipedia de la législation : “News Media Bargaining Code” ↰
⁹ Google menace : “Google threatens to withdraw search engine from Australia” — et Facebook met à l’oeuvre ses menaces : “Facebook bans news in Australia as fight with government escalates” ↰
¹⁰ La chaîne youtube d’Hygiène mentale ↰
¹¹ Si vous êtes sur Toulouse et que les activités de l’association les “rasoirs d’Oc” vous intéresse, leur site ou leur facebook ↰
¹² Pour 5h39 vous avez quand même 2 conférences gesticulées pour le prix d’une : “Incultures (1): L’éducation populaire, monsieur, ils n’en ont pas voulu.” — Si vous préférez lire et que vous avez accessoirement une vie : “De l’éducation populaire à la domestication par la « culture »” ↰
¹³ Sur cette critique de la posture “les gens pensent mal”, vous avez la série d’articles du même nom du blog zet-ethique.fr qui est intéressante (je suis VRAIMENT pas d’accord avec tout) ↰
¹⁴ Pour une introduction à une approche un peu plus fine, il y a par exemple cet article : “Feelings: what’s the point of rational thought if emotions always take over?” ↰
¹⁵ Pour en savoir plus sur la méthode OSINT “Méthodologie d’OSINT orientée réseaux sociaux” — Vous pouvez rejoindre un discord communautaire sur l’OSINT comme celui du Projet FOX ↰
¹⁶ Le livre “Mindf*ck: Inside Cambridge Analytica’s Plot to Break the World” de Christopher Wylie” ↰
¹⁷ Le premier rapport de l’IRSEM “Les manipulations de l’information : un défi pour nos démocraties” ↰
¹⁸ Le second “Les opérations d’influence chinoises, un moment machiavélien” ↰

La guerre cognitive, quand notre attention se retourne contre nous (2/2) was originally published in Après La Bière on Medium, where people are continuing the conversation by highlighting and responding to this story.

Si vous préférez le format vidéo, cette vidéo est disponible sur la chaîne “Opinion Washing” de Stéphane avec qui j’ai travaillé pour cette série.

Avant de comprendre pourquoi et comment on se fait potentiellement bombarder tous les jours “à l’insu de notre plein gré”, il nous faut préciser ce de quoi nous parlons.

I) Qu’est ce que la guerre cognitive ?

Il s’agit d’un terme assez récent développé par l’armée américaine pour décrire une forme de guerre qui va utiliser les technologies de l’information modernes (les médias, les réseaux sociaux, internet) pour modifier les croyances d’une grande quantité de personnes.

Alors bien entendu, rien de radicalement nouveau sous le soleil de l’humanité. De la même manière qu’on n’a pas attendu Photoshop ou Midjourney pour traficoter les photos, on n’a pas attendu les réseaux sociaux pour lancer des campagnes de désinformations ou de mal-informations.

La guerre cognitive est donc une énième forme de propagande à ceci près qu’elle est plus sophistiquée que la propagande “à l’ancienne” car elle s’appuie sur plusieurs domaines récents.

Premièrement, elle va utiliser toutes les technologies modernes (réseaux sociaux, contenus viraux, fermes de bots, etc) afin d’influencer les populations.

Mais ce qui est vraiment nouveau avec la guerre cognitive c’est qu’elle va s’appuyer sur les travaux en neuroscience, en psychologie et psychosociologie pour optimiser l’efficacité de cette propagande. L’objectif final est de créer des “soldats de l’information”, c’est-à-dire des personnes comme vous et moi, qui vont sincèrement adhérer à l’idée qu’on tente de diffuser. En adhérant à cette idée, ces “soldats inconscients” vont alors modifier leur manière de voir le monde et par conséquent leur comportement dans un sens qui avantagera l’attaquant.

La guerre cognitive se focalise sur les imaginaires et sur les croyances des individus afin de modifier en profondeur leurs comportements. Ça fonctionne extrêmement bien car les techniques de guerre cognitive vont notamment utiliser nos biais cognitifs et nos automatismes mentaux pour tromper nos représentations et pour modifier nos prises de décisions.

On pense d’ailleurs instinctivement aux pratiques marketing de n’importe quelle marque un peu puissante : elles aussi utilisent les réseaux sociaux pour modifier nos croyances de manière à ce qu’on se dise que

“quand même avec un iPhone, je suis un humain un peu plus abouti qu’avec un Android”¹.

Mais ce n’est pas exactement la même chose car il faut distinguer

3 types de propagande : la blanche, la grise et la noire

La différence est que dans le cas des marques, la source de l’information (publicités, vidéos ou autre) est ouvertement identifiée : quand on fait face à une affiche où le logo d’Apple s’étend sur deux étages, l’identité de celui qui tente encore de nous refourguer son SmicPhone ne laisse pas beaucoup de place au doute.

Ce type de propagande, où la source et ses objectifs sont clairs est appelé “propagande blanche”, par opposition aux plus obscures propagande grise ou noire qu’on verra en suivant².

La propagande blanche est globalement la moins problématique des trois car même si elle peut véhiculer des messages considérés par beaucoup comme étant négatifs, il est plus aisé de combattre les diffuseurs dès lors qu’ils sont identifiés et qu’on connait leurs intentions. Elle peut même parfois diffuser des messages considérés comme étant sociétalement positifs. C’est le cas par exemple des publicités qui nous incitent à manger 5 fruits et légumes par jour. C’est de la propagande blanche faite par l’état français à laquelle très peu d’entre nous trouve quelque chose à redire. Les protestations des défenseurs de la mal-bouffe ne sont actuellement pas le premier souci du gouvernement.

Ensuite, il y a la propagande grise qui elle ne dit pas son nom et dont on ne connait pas vraiment l’origine. On peut citer par exemple le cas des radios Radio free Europe, radio liberty et radio free Afghanistan³ qui furent toutes les trois des radios de propagande financées par le gouvernement Américain pour soutenir leurs intérêts dans certains pays étrangers.

L’objectif était ici de convertir la population des pays ciblés à l’idéologie américaine. Et contrairement à la propagande blanche, ce type de propagande doit taire son origine pour faciliter l’adhésion du public ciblé.

Enfin, il y a la plus sombre et la plus sournoise de toutes les propagandes : la noire. Elle consiste à créer des messages de propagande en se faisant passer pour le camp adverse. Le but est de décrédibiliser et de semer le trouble dans le camp adverse afin qu’il prenne des décisions qu’il n’aurait pas prises autrement. On peut prendre l’exemple des “Penkovsky Papers” dans les années 60. Encore à ce jour, rien n’est vraiment certain dans cette affaire mais on soupçonne la CIA d’avoir écrit un livre avec des informations sensibles pouvant déstabiliser l’URSS. Pour augmenter le pouvoir déstabilisateur du livre, la CIA fit passer Oleg Penkovsky, un agent double soviétique diffusant des informations classifiées de l’URSS aux britanniques et aux Américains, pour l’auteur. Et même si les informations contenues dans le livre étaient plutôt fiables, Penkovsky lui-même ne l’aurait jamais écrit. En tout état de cause, ce livre était d’autant plus déstabilisant pour l’URSS qu’il était prétendument écrit par un agent soviétique.

Parmi ces trois formes de propagande (blanche, grise et noire), la guerre cognitive utilise logiquement la grise et la noire (donc non Apple et ses logos géants ne font pas encore de la guerre cognitive). En effet, dans ces deux formes de propagande, les objectifs réels (et les auteurs) sont dissimulés, ce qui correspond à la logique de la guerre cognitive où les objectifs vont directement à l’encontre des intérêts des communautés qui sont attaquées cognitivement.

Lorsqu’on parle de communautés cibles, il peut tout autant s’agir de militaires, de populations civiles, de membres d’une communauté professionnelle ou sociale spécifique, d’une région, d’un pays ou d’un groupe de pays particulier. Par exemple, en cassant le sentiment de sécurité ressenti par des populations entières, celles-ci peuvent être amenées à se soulever contre leur gouvernement alors que cette perception a pu être considérablement amplifiée par des manipulations étrangères.

Même si ces manipulations ne sont pas “violentes” en elles mêmes et ne causent pas directement de morts, les dégâts causés par ces attaques cognitives peuvent être tragiques pour les populations visées et peuvent donner un avantage décisif aux attaquants.

Comme toute guerre, le but est d’affaiblir, voire d’annihiler l’ennemi. L’objectif est ici de détériorer ou de détruire chez les populations visées les fondements et les croyances qui permettent à une confiance envers des fonctionnements collectifs d’exister. Or sans cette confiance, il est très difficile de maintenir la stabilité d’un groupe, d’une société ou d’une Nation. Par exemple, pour déstabiliser une Nation on pourrait détruire la confiance que sa population porte envers ses dirigeants (même si, les dirigeants eux-même, peuvent aussi y participer très activement).

Les conséquences de ces attaques cognitives peuvent aller de la simple influence, à la perturbation de systèmes hospitaliers en passant par la conquête territoriale. Elles peuvent affaiblir les structures militaires, médiatiques, sociales, politiques et économiques d’un pays ainsi que ses infrastructures énergétiques ou de transport.

La guerre cognitive se base sur une compréhension fine des réseaux qui tissent la société. L’objectif va être de perturber ces réseaux et leur articulation en provoquant des attaques sur plusieurs nœuds afin de déstabiliser l’ensemble du système.

Par exemple, en 2015, un groupe de hackers Russes a réussi à plonger dans le noir l’Ouest de l’Ukraine, en utilisant une attaque à plusieurs niveaux. Il y a d’abord eu une cyberattaque qui a mis hors service des infrastructures électriques essentielles, privant 230 000 Ukrainiens d’électricité. Ensuite les attaquants ont procédé à une attaque informatique pour submerger les centres d’appels afin que les Ukrainiens ne puissent pas avoir d’informations sur l’origine de la panne. Enfin, ils ont mené une campagne de désinformation accusant le gouvernement ukrainien de la panne. Cette attaque hybride a été menée sur 3 réseaux différents : l’infrastructure électrique, le social et l’information.

Mais le but ultime reste toujours identique : déstabiliser un leader politique, une entreprise, un pays tout entier ou encore une alliance de pays.

La guerre cognitive : une guerre relativement accessible

Dans la guerre cognitive, on utilise “juste” les techniques de communication moderne pour attaquer cognitivement des grandes masses de gens à l’aide de connaissances scientifiques qui sont finalement à la portée de “tout le monde”. Certes de sacrés compétences sont nécessaires mais technologiquement, c’est relativement abordable.

Par conséquent, cette guerre est “accessible” à de nombreux types d’acteurs : les États bien sûr mais aussi les entreprises, les partis politiques et même des groupuscules puissants comme des groupes terroristes. Les liens entre ces différents acteurs peuvent également être complexes : un parti politique peut tout à fait faire appel à une entreprise privée spécialisée dans ce type d’attaques dans le but de décrédibiliser un opposant politique. Pire, les acteurs n’ont pas forcément besoin de maîtriser eux-mêmes les outils techniques pour entreprendre de tels affrontements : ils peuvent très bien faire appel à des sous-traitants pour la partie technique.

Ce type de guerre est particulièrement sournois et il est particulièrement difficile de s’en défendre car les “soldats” ne sont pas “conscients” de la guerre à laquelle ils participent. Les personnes qui vont subir et agir selon les informations de propagande auront énormément de difficulté à reconnaître qu’ils se sont fait tromper et qu’ils ont été manipulés. Et même s’ils le reconnaissaient, ce sera de toute manière trop tard.

Et c’est le principal problème de cette forme de guerre : lorsqu’on la détecte, SI on la détecte, il est déjà trop tard.

II) Un exemple : la campagne “Do so”⁴

L’histoire se déroule en 2010 sur l’île de Trinité et Tobago, les élections arrivent bientôt et sur l’île il y a deux grands partis politiques qui se disputent la place depuis la fin de la colonisation. D’un côté il y a le parti des indo-caribéens et de l’autre celui des afro-caribéens, division politique illustrant la séparation et le clivage net qui existent entre les deux bords politiques et ethniques de l’île.

A chaque élection, les résultats sont extrêmement serrés et cette année-là le parti indo-caribéen décide de faire appel à une entreprise étrangère pour l’aider à gagner l’élection. Cette entreprise n’est nul autre que Cambridge Analytica et elle mettra en place une campagne de guerre cognitive digne de ce nom.

La première étape fut de connaître un peu mieux le “terrain cognitif” des opérations en sondant la population sur les réseaux sociaux. Ils ont pour cela commencé par faire un profilage psychologique de l’ensemble des comptes Facebook des Trinidadiens. Ensuite, ils ont observé le web Trinidadéen un peu comme un surfeur guette l’océan dans l’attente de la vague parfaite. Et c’est un retraité de l’île qui la leur offrit.

Percy Villafana, un retraité opposé au gouvernement, a refusé que le premier ministre n’entre dans son jardin lors d’une de ses visites électorales. Pour ce faire, il croisa ses mains poings serrés en signe de protestation et l’image de ce geste fit le tour des réseaux sociaux de l’île. Pour Cambridge Analytica, l’affaire était dans le sac, ils tenaient là leur symbole, leur logo, leur slogan et même la revendication qu’ils allaient pouvoir instrumentaliser à leur guise : le mouvement “Do so” était né !

Villafana fut utilisé comme tête de proue de ce mouvement et un grand nombre d’artistes participa - comme d’habitude “insconsciemment” - à l’une des plus astucieuses campagnes de guerre cognitive de tous les temps.

En surface : une campagne sans partie pris

L’objectif de la campagne “Do so” était d’encourager les jeunes de tous bords à l’abstentionnisme. Elle était clairement orientée contre tous les politiques et ne prenait en aucun cas parti pour un camp politique en particulier. Il s’agissait d’une contestation générale envers le système et tous les politiques. Pour motiver les jeunes de tous bords à rejoindre le mouvement, Cambridge Analytica encouragea des jeunes à tagger partout sur l’île le slogan “Do so” avec le logo des bras croisés de Villafana⁵. L’idée était de créer un simulacre de mouvement populaire issu de la jeunesse et encourageant l’abstentionnisme. Les artistes suivirent et une grande majorité de jeunes participa au mouvement. Les slogans disaient de ne pas aller voter et personne ne pouvait soupçonner une quelconque manipulation ou orientation derrière cette campagne puisqu’à aucun moment, elle ne semblait favoriser un parti plutôt que l’autre.

En profondeur : un contexte particulier

Mais pour comprendre l’idée de Cambridge Analytica, il faut connaître le contexte dans lequel cette attaque s’inscrit : sur l’île, les jeunes des deux ethnies ont des fonctionnements très différents, notamment dans la relation qu’ils entretiennent avec leur parent.

Alors que les jeunes Afro caribéens sont très peu influencés par leurs parents dans le fait d’aller voter ou non, il est par contre quasi sacré pour les jeunes indo-caribéens de faire comme leurs parents, c’est-à-dire : aller voter. Et c’est cette différence centrale que Cambridge Analityca avait choisi d’exploiter dès le départ de sa campagne.

Le plan était d’une simplicité machiavélique : pendant que les jeunes afro-caribéens n’iraient effectivement pas voter sous l’effet de la campagne “do so”, les jeunes indo-caribéens quoiqu’ayant également participé à la campagne, finiraient eux par aller voter sous la pression familiale. C’est cette différence culturelle qui devait finir par donner l’avantage aux commanditaires de l’attaque : le parti politique indo-caribéen.

Et c’est exactement ce qu’il s’est passé. A tel point que dans la tranche d’âge 18/25, il y eu un écart de 40% de taux de participation entre les deux groupes ethniques. Le parti indo-caribéens gagna évidemment les élections et il fallut attendre la sortie du livre du lanceur d’alerte Christopher Willye et du documentaire “the great hack” en 2019 pour découvrir la supercherie… Soit 9 ans plus tard.

Et c’est quelque chose d’extrêmement perturbant avec la guerre cognitive : lorsqu’elle est bien faite, elle est totalement invisible. Elle semble ne pas prendre le parti de l’attaquant et se fond parfaitement dans les polémiques et les mouvements idéologiques “naturels” qui animent le monde numérique moderne.

On reproche parfois à l’économie de l’attention de détourner notre attention collective des sujets sociétaux essentiels tel le changement climatique ou les inégalités de par le monde pour l’orienter vers des sujets futiles. Dans le prochain article on verra que dans le cadre de la guerre cognitive, l’économie de l’attention peut au contraire devenir une arme qui va orienter l’attention collective de la communauté attaquée vers des sujets sociétaux essentiels ; non pas bien entendu pour l’aider à les résoudre mais pour les attiser à l’avantage, toujours, de l’attaquant.

La guerre cognitive, quand notre attention se retourne contre nous (2/2)

Sur ce, je vous souhaite

Paix et santé (cognitives),

Et tant que vous êtes là ;), voici 5 manières de suivre et de soutenir le projet d’ApresLaBiere :

1) Soutenir ApresLaBiere sur Tipeee (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)

2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :

3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)

4) Liker et suivre ApresLaBiere sur facebook, twitter ou instagram

5) Penser à faire appel à Homo Conscientus (moi :)) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.

SOURCES / LIENS / POUR ALLER PLUS LOIN :

¹ iPhone making fun of Android : https://www.youtube.com/watch?v=45LwWFzLErc ↰
² Article “Propaganda — types of propaganda” ↰
³ Pages wikipedia de Radio liberty et de radio Afghanistan ↰
⁴ Article “Social Media, Emergent Manipulation, and Political Legitimacy” ↰
⁵ Vidéo de Villafana qui bloque le premier ministre Patrick Manning et fait le signe qui sera repris par Cambridge Analytica — vidéo de Villafana qui porte affiche do so et fait le signe devant caméra - vidéo de Villafana qui fait le signe dans un concert avec tshirt do so ↰

La guerre cognitive ou comment gagner sans même livrer bataille ? (1/2) was originally published in Après La Bière on Medium, where people are continuing the conversation by highlighting and responding to this story.

Cet article est disponible en format vidéo (juste en dessous) et en podcast

Le changement climatique nous intime de penser et d’agir à long terme. Or les grands leaders de l’économie de l’attention et leurs bras armés “algorithmes de recommandation” nous incitent au contraire à replonger dans nos biais cognitifs¹ les plus court termistes qui soient : notre irrésistible attrait pour le clivage, la colère, l’émotionnel, le sensationnel, etc².

• Les algorithmes de recommandation : biais cognitifs de l’humanité ?
• Comment fait Youtube pour nous connaître “mieux” que nous-mêmes ?

Comment résoudre ce paradoxe et se donner une chance de limiter les conséquences dramatiques d’un changement climatique hors de contrôle ?

Il y a deux barrages à faire exploser pour y parvenir : le premier est plutôt d’ordre technique et le second plutôt d’ordre “politico-économique”.

I) Tournesol ou comment faire sauter le barrage technique de la recommandation algorithmique d’intérêt général ?

Aujourd’hui, nous ne savons pas créer un algorithme capable de biaiser les recommandations dans le sens de l’ “intérêt général”. Nous n’avons même pas les données nécessaires à nourrir un tel algorithme. Or vu qu’un algorithme est toujours aussi “bête” que les données avec lesquelles on l’a entraîné³, il serait nécessaire d’essayer de ne pas se louper sur celles-ci. Combler ce trou de données dans la raquette de l’humanité, c’est l’essence du projet Tournesol !

Tournesol est l’une des seules initiatives que je connaisse qui tente vraiment de s’attaquer à la problématique de la circulation de l’information sur le globe par le bon bout, c’est-à-dire par le bout des algorithmes de recommandation et non par celui par lequel on aurait tendance à le prendre mais qui s’avère aujourd’hui totalement anachronique : celui de la modération des contenus où on devrait juger au cas par cas que telle vidéo, telle chaîne, tel post est dangereux.

Penser qu’on va réguler les réseaux sociaux modernes par la modération des contenus, c’est comme si on avait installé des panneaux “cédez le passage” dans le ciel au début de l’aérien.

Rien que pour Youtube, il faudrait plus de 50 000 salariés modérateurs ne serait-ce que pour regarder tout le contenu uploadé sur youtube. Nécessairement, une partie de la modération devra se faire un cran en amont, c’est-à-dire au niveau des algorithmes de recommandation eux-mêmes. Comment modérer et encadrer les algorithmes de recommandations pour qu’ils ne recommandent pas ensuite automatiquement des contenus qui soient massivement néfastes pour l’humanité ? Comment éviter par exemple que des contenus clivants et polarisants sur des sujets aussi centraux que la transition énergétique soient promus ?

Car quelles seront nos chances de gagner la guerre climatique lorsqu’un tiers de la population pensera que l’énergie nucléaire est une énergie ontologiquement diabolique, qu’un autre tiers pensera qu’il s’agit de l’alpha et de l’omega de la transition énergétique et qu’un EPR miniaturisé ferait bonne figure à côté du thermomix et que le dernier tier pensera lui que de toute manière le changement climatique, c’est un coup des reptiliens ? On doit parvenir d’une manière ou d’une autre à contraindre les algorithmes à recommander du contenu qui apportent les éléments les plus constructifs possibles en vue de la résolution d’enjeux planétaires tels que le changement climatique, les inégalités sociales ou encore la transition énergétique.

Tournesol est justement une plateforme qui veut développer une méthode pour parvenir à un jugement collaboratif de ce que serait une “bonne” vidéo. Elle permet aux individus d’évaluer les vidéos en fonction d’à quel point ils désireraient les voir massivement recommandées.

Elle permet également et plus modestement à quiconque d’avoir accès aux évaluations collectives des vidéos.

La plateforme est en évolution constante, il s’agit d’un projet de recherche collectif en cours qui ne doit pas être considéré comme un produit fini et éprouvé.

Les évaluations données aux vidéos par la plateforme Tournesol sont évidemment “collaboratives” car face à une question comme “qu’est ce qu’une vidéo d’intérêt général”, il faut avoir l’humilité et l’intelligence de comprendre que plus la réponse sera individuelle et moins elle aura de valeur. Nous sommes condamnés à apporter à cette question une réponse la plus collective possible. Même si ça peut paraître évident à certains et à certaines, je pense que ça vaut le coup de préciser pourquoi.

A) Pourquoi une plateforme comme Tournesol doit être férocement “collaborative”

1. Parce que la notion d’intérêt général est trop complexe pour la confier à quelques individus

La réponse de Michel sera aussi partielle que sa connaissance du monde. Ce meme illustre parfaitement que même si chaque personne dit vraiment ce qu’il voit, ça ne suffit pas à en faire la “vérité”. Ce que nous voyons n’est que la projection de l’immense univers dans notre microscopique champ de vision.

Dans un monde aussi complexe que la société humaine globalisée de 2022, la connaissance individuelle maximale est ridicule par rapport à l’information qu’il faudrait recueillir pour établir un jugement ou une opinion quant à ce que l’ “humanité” devrait collectivement faire.

L’intelligence collective n’est peut-être pas adaptée à tous les défis mais pour ce qui est du défi de ce qui relève de l’intérêt général, c’est la seule qui semble être en mesure de le relever.

On est typiquement dans un cas où “la sagesse des foules” de James Surowiecki s’applique⁴.

2. Parce que la notion d’intérêt général doit être la plus intersubjective possible

Même si nous pouvions individuellement avoir toute l’information du monde, notre jugement refléterait nécessairement nos valeurs, nos croyances et nos idéaux. Il serait logiquement rejeté par les individus qui ne se retrouveraient pas dans les mêmes valeurs, croyances et idéaux et ce même SI (gigantesque “si”) ils partagent la même information sur le monde. L’une des meilleures stratégies pour parvenir à ce que la notion d’intérêt général soit la plus partagée et acceptée possible, c’est qu’elle soit basée sur un agrégat de nos jugements individuels. En effet, on accepte plus facilement une décision, même si elle ne nous convient pas, dès lors qu’on accepte le processus qui a donné lieu à cette décision et on acceptera d’autant plus ce processus qu’on y prendra part. C’est d’ailleurs un des principes de design d’Elinor Ostrom pour une meilleure gouvernance d’une ressource commune⁵ : “Veiller à ce que les personnes concernées par les règles visant à maîtriser l’accès à la ressource puissent participer à la modification de ces dernières.”⁶

3. Parce que notre attention collective est justement une “ressource commune”

Quand Elinor Ostrom parlait de gouvernance d’une ressource commune, elle pensait davantage au bois d’une forêt, à l’eau d’une rivière ou au climat terrestre qu’à l’attention humaine. Mais est-il si faux que ça de considérer l’attention humaine comme une ressource commune dans l’univers informationnel moderne ?

On me rétorquera que “notre” attention nous appartient à chacun.e individuellement et qu’il ne s’agit donc pas du tout d’une ressource “commune”.

Oui mais quand on observe la finesse avec laquelle les plateformes hackent notre libre arbitre et parviennent à “extraire” notre attention individuelle à l’ ’insu de notre plein gré”, semblons-nous si maître et propriétaire de notre attention ? Ne commence-t-elle pas finalement par “appartenir” aux grandes plateformes qui nous la subtilise sans que nous semblions pouvoir résister ?

Sinon comment expliquer le grand détournement de nos attentions lors de la décennie qui vient de s’écouler ?

Et puis dès lors qu’il y eut des règles de modération du discours public avec les lois encadrant la liberté d’expression, on a commencé à considérer que nos attentions individuelles n’étaient plus seulement les nôtres. En effet, à partir de ce moment-là, nous n’avons plus été les seuls à décider de ce à quoi notre attention allait pouvoir être exposée. On a collectivement considéré que l’exposition de nombreux individus à certains discours était sociétalement trop dangereuse pour laisser les individus choisir eux-mêmes de donner ou pas leur attention à certains discours. Ça fait par conséquent bien longtemps que notre attention est devenue un bien commun ; d’autant plus commun que certains, grâce aux technologies les plus en pointe aujourd’hui, y ont un accès privilégié qui nous met tous et toutes face à un risque existentiel.

Nous devons considérer et prendre soin de l’attention collective humaine comme s’il s’agissait d’une ressource commune, aussi rare et précieuse qu’un écosystème climatique stable, car c’est en réorientant massivement l’attention humaine vers les enjeux long terme comme le changement climatique qu’on aura une chance d’être capables d’y apporter une réponse.

Poser la question de l’intérêt général de l’humanité à un seul individu et s’attendre à une réponse globalement satisfaisante, ce serait comme espérer pouvoir avoir un dialogue avec un seul neurone du cerveau de votre interlocuteur. Le neurone en question fait peut-être partie d’un réseau neuronal qui s’agite lors d’un dialogue et il y est peut-être même “essentiel” ; seulement à lui tout seul, il ne dit, ne comprend, ne pense rien. Pour ce qui est de l’intérêt général de l’humanité, c’est pareil, notre réponse individuelle ne dit et ne sert à … rien. La seule réponse possible émergera de nos réponses individuelles qui prendront un sens lorsqu’on les “agrègera”.

Une autre méthode étant de faire rentrer sa propre définition de l’intérêt “général” dans la tête des autres à grand coup de marteaux ou d’éviers mais c’est souhaitable par personne sauf à la limite, le manipulateur du dit évier :

Elon Musk on Twitter: "Entering Twitter HQ - let that sink in! pic.twitter.com/D68z4K2wq7 / Twitter"

Entering Twitter HQ - let that sink in! pic.twitter.com/D68z4K2wq7

C’est pour toutes ces raisons qu’une initiative comme Tournesol ne pouvait être QUE collaborative. Et plus elle sera collaborative et plus elle aura du sens.

Le projet Tournesol s’attaque ainsi au problème de la circulation de l’information dans le monde moderne à la racine (les algorithmes de recommandation) et de la bonne manière (collaborativement). A nous de faire en sorte de porter ce projet à l’échelle planétaire étant donné que c’est l’échelle du problème qu’on doit résoudre : le maintien des conditions propices à la survie d’une société humaine globalisée.

A) Quelques caractéristiques de la plateforme

La plateforme Tournesol est pensée pour nous permettre d’avancer dans ce projet herculéen s’il en est de mieux “partager à grande échelle de l’information d’intérêt général”. Quelques mécanismes nous indiquent comment la plateforme est pensée et comment elle tente de répondre à cet enjeu aussi essentiel que sous-estimé.

1. L’évaluation d’une vidéo est absolue et il n y a pas de personnalisation dans les recommandations

Chaque vidéo obtient une note collective absolue. Cette évaluation ne dépendra ni de vos goûts personnels ni de votre historique. On peut filtrer le contenu suivant les différents critères d’évaluation mais il n’y a pas dans les suggestions et les recommandations de la plateforme de personnalisation à priori et c’est logique : l’intérêt général ne saurait être personnalisable et ne doit correspondre à aucune bulle idéologique. Le but vers lequel on doit tendre est qu’il finisse par être partagé. Pour cela il faudra faire l’effort d’aller vers des sujets et des contenus qui nous attirent moins que d’autres.

Pour être sincère, à ce moment de l’écriture, j’ai passé 15 minutes à chercher des vidéos recommandées par Tournesol qui ne m’intéressaient pas du tout pour prouver mon point et je n’en ai pas vraiment trouvé… C’est un des défis de Tournesol dont on vient de parler : la plateforme n’aura du sens qu’à partir du moment où elle sera réellement collective, c’est-à-dire au moment où toutes les bulles y participeront. Pour l’instant Tournesol correspond à la bulle des geeks qui ont pris conscience que les algorithmes de recommandations gouvernent le monde vers le chaos, notamment le chaos climatique.⁷

Or cette bulle idéologique représente une bulle fine dans un océan de perrier donc c’est pas gagné…..

L’intérêt général n’est pas une notion facile ou instinctive pour un individu. Agir dans le sens de l’intérêt général nécessite de brider la partie la plus impulsive de nous-mêmes (celle qui a envie de consommer pour oublier que la vie est dure et qu’un jour on va mourir) et donner du pouvoir à la partie long terme de nous-mêmes (celle qui sait qu’il faudrait consommer 10 fois moins pour éviter un bouleversement climatique tel que les sociétés humaines n’y résisteront pas). Or la non personnalisation donne forcément lieu à des recommandations qui nous parlent moins directement, moins spécifiquement.

Mon moi court terme, celui qui rêverait que l’oxygène de l’air soit remplacé par des dragibus et l’eau des rivières par de l’IPA, n’est pas celui que vise les recommandations de Tournesol.

C’est un autre aspect de Tournesol, la plateforme cherche à donner du pouvoir à la “partie long terme” de nous-mêmes.

2. Tournesol cherche à mettre le long terme aux manettes

Mettre notre “long terme” aux manettes, c’est tenter de donner une caisse de résonance non pas à la vidéo sur laquelle on ne peut pas s’empêcher de cliquer mais à celle qu’on aimerait consciemment voir largement recommandée.

Pour participer à l’évaluation, il faut par conséquent prendre le temps de comparer deux vidéos entre elles :

Quelle vidéo je voudrai voir apparaître dans le fil de recommandation du plus grand nombre ?

Et puis à quel point ?

Dans un monde informationnel en ébullition permanente, prendre ne serait ce que quelques secondes pour faire cette évaluation, signifie faire un effort de réflexivité “immense”. C’est une des garanties que c’est bien votre “moi long terme” qui répond à la question posée par le curseur.

D’autres critères permettent de pousser votre réflexivité encore davantage en vous incitant à répondre à des questions encore plus précises telles que :

• Quelle est la vidéo qui est la plus inclusive ?
• Quelle est la vidéo qui est la plus “layman friendly” (là on aura besoin de réflexivité au carré, ne serait-ce que pour aller voir la définition de “Layman friendly” tout en ne se perdant pas dans les limbes de WIkipedia)

Tournesol tente donc de mettre le long terme aux manettes de la recommandation algorithmique et je trouve ça suprêmement important car nous sommes aujourd’hui face à un immense paradoxe souvent dénoncé par Tristan Harris dans son podcast “your undivided attention” : au moment même où les enjeux planétaires nous demandent de nous extraire de nos biais cognitifs court termistes et de davantage prendre en compte les conséquences long terme de nos actions, les algorithmes tirent avantage de nos biais court termistes et les renforcent. Autrement dit l’économie de l’attention actuelle nous fait avancer à reculons.

Sur Tournesol, on évalue en “comparant”, ce qui peut paraître surprenant de prime abord.

3. L’utilisation de la comparaison

La question se pose en effet : pourquoi comparer des vidéos plutôt que de noter les vidéos individuellement ? La réponse donnée sur le Wiki du site est tellement limpide que je la reprends telle quelle :

“Afin d’établir un classement cohérent entre un grand nombre d’éléments, il est plus facile de comparer successivement un élément avec un autre, plutôt que de les juger individuellement.

Imaginez que dans une très grande pièce, vous ayez à ordonner une foule de personnes par leur taille.

Si les personnes défilent devant vous une par une, vous n’avez pas de point de repère pour savoir comment intégrer ces personnes au classement général. Il est ainsi plus facile de faire des erreurs, et d’obtenir un classement erroné. Si les personnes défilent deux par deux,

vous avez la garantie d’avoir à chaque comparaison un point de repère fiable. Le risque d’erreur diminue alors grandement.”

Enfin Tournesol veut être une plateforme “robuste” aux attaques malveillantes.

4. La volonté de robustesse

Etant donné que le but premier de la plateforme est de recueillir de la donnée qualifiée sur ce qu’est une vidéo d’ “intérêt général”, il est vital que cette donnée ne soit pas “empoisonnée” par des acteurs malveillants. Ces acteurs pourraient, en créant massivement des faux profils automatisés ou en utilisant des fermes de trolls, orienter la donnée recueillie et ce qu’elle dit de l’intérêt général dans “leur” sens. Ainsi, tout algorithme basé sur ces données empoisonnées refléterait leur vision de l’intérêt général.

Les données recueillies par Tournesol se doivent par conséquent d’être extrêmement robustes à cette technique malveillante qu’on appelle “data poisoning” et qui a été notoirement utilisée en 2016 pour rendre Tay, un chat bot twitter, raciste, sexiste et négationniste en moins de temps qu’il n’en faut à Elon Musk pour virer tout Twitter.

C’est notamment dans cet objectif d’empoisonner les données qu’il est créé chaque année des milliards de faux comptes sur les différentes plateformes. Oui oui, des MILLIARDS et même probablement plus étant donné qu’une des seules informations qu’on ait à ce propos, c’est que Facebook a effacé près de 5 milliards de faux comptes rien qu’en 2021….⁸

Forcément, si l’algorithme de recommandation de Tournesol se basait sur les évaluations de ces milliards de faux comptes pour construire ses recommandations et que les climato sceptiques y étaient sur représentés, le thermostat de la planète risquerait d’exploser très très vite. Pire, imaginez si les défenseurs de la terminologie “pain au chocolat” étaient sur-représentés…

C’est en tous les cas pour être robuste face à de telles attaques de faux comptes que la plateforme Tournesol vérifie le domaine de l’email avec lequel vous vous inscrivez et “dévalue” les emails (c’est-à-dire donnera moins d’importance au vote de ces comptes) provenant d’un nom de domaine où il est possible de créer un email trop facilement (gmail.com par exemple). L’arbitrage entre robustesse aux attaques et inclusivité penche pour l’instant en la faveur de la robustesse de la donnée recueillie. C’est évidemment une limitation actuelle de la plateforme mais elle semble nécessaire au regard de l’importance de recueillir de la donnée solide. Un système de voucher a cependant été mis en place, système qui m’a d’ailleurs permis d’augmenter le poids des votes du compte jeanlou (at) apreslabiere.fr (attention, on est pas à l’abri que les vidéos de maréchal ferrant fassent leur apparition sur Tournesol #oddlysatisfying).

C) Comment profiter et participer à Tournesol ?

Si vous voulez profiter du travail de la plateforme Tournesol parce que vous passez votre vie sur Youtube à regarder comme moi des vidéos d’avions qui atterrissent contre le vent,

je vous conseille vraiment d’installer sur Firefox (ou Chrome) le plugin de Tournesol. Ainsi, avant de cliquer sur ce majestueux Antonov An-225 atterrissant sur un porte-avion, vous donnerez l’opportunité à votre moi long terme de se raccrocher in extremis à une branche de l’arbre de la connaissance en cliquant sur une vidéo peut-être un peu moins irrésistible mais probablement bien plus nourrissante :

Si vous voulez participer vous-mêmes à la plateforme en votant et en donnant votre avis, inscrivez-vous à la plateforme et évaluez les vidéos que VOUS trouvez pertinentes. Et puis parce qu’on est dans un système où le nerf de la guerre c’est l’argent et que si tu es en train de lire cet article interminable au lieu de travailler, c’est potentiellement que tu es richissime, tu peux donner une partie de la fortune (que par définition tu ne mérites pas) à Tournesol par ici.

Mais il y a un autre rempart auquel le projet Tournesol s’intéresse peu (parce qu’on ne peut pas tout faire et aussi peut-être parce qu’il est encore plus complexe que le barrage technique dont on vient de parler), c’est le barrage “économico-politique”. En effet, même si Tournesol développe l’algorithme de recommandation d’intérêt général parfait, ça ne servira à rien tant que cet algorithme ne sera pas massivement choisi et utilisé par les plateformes sur lesquelles nous serons. Or, dans l’écosystème du capitalisme attentionnel actuel, un algorithme d’intérêt général c’est un peu le type qui a peur du ballon au moment de la constitution des équipes au collège : on préfère le laisser sur le banc, quitte à jouer avec moins de joueurs que l’équipe adverse.

II) Comment dynamiter le capitalisme attentionnel ?

A) Être conscient et assumer qu’il s’agit d’un combat politique et idéologique

Comme j’aime le répéter (parce que la pédagogie, c’est la ré-pé-ti-tion) : “Pour gagner une guerre, il faut déjà savoir qu’elle a lieu.”

De la même manière, pour gagner un combat politique, il faut déjà être conscient qu’on est dans l’arène politique. Ne pas en être conscient, c’est prendre le risque de déambuler entre deux tranchées et se demander pourquoi on a pris une rafale.

Le projet Tournesol tente de faire de la politique de la manière la plus consensuelle possible car son ambition, à la manière d’une constitution, est davantage “méta-politique” que politique.

On sait que la constitution française est politique mais on sent bien qu’elle n’est pas politique au même niveau que “Renaissance” ou que “la France Insoumise”.

Pareillement, Tournesol n’est pas politique au même sens que les partis politiques. Il n’en reste pas moins qu’il s’agit d’un projet éminemment politique. Il est aussi politique de dire que “les algorithmes de recommandation open-source et collaboratifs sont l’avenir de l’humanité” en 2022 qu’il était très politique de dire que “la démocratie était l’avenir de l’Homme” en 1789.

Les “Tournesoliens” (attention, néologisme made ApresLaBiere et il est très probable que personne ne s’en revendique) derrière la plateforme n’assument pas totalement cette ambition méta-politique puisqu’à l’accusation qu’ils savent probables d’être “paternalistes” (comprendre : “décider à la place des autres ce qu’il est bon de regarder” et donc “faire de la politique”), ils répondent sur leur wiki :

“On peut dire que Tournesol n’est pas du tout paternaliste. Après tout, nous recueillons surtout des jugements humains, et nous proposons ensuite des recommandations uniquement à ceux qui utilisent notre plateforme ou notre extension de navigateur.”⁹

Mais dire qu’il faudrait recommander du contenu d’intérêt général à l’humanité toute entière et que la meilleure manière de le faire c’est au travers de la conception d’un algorithme open-source se basant sur un maximum de jugements humains, c’est un positionnement extrêmement politique. L’objectif méta politique de Tournesol est in fine que nous devenions tous et toutes “Tournesoliens” demain comme nous sommes tous et toutes devenus républicains hier. Ainsi les croyances fondamentales d’un “Tournesolien” seraient grosso modo :

1. Il faut orienter le contenu diffusé vers un “intérêt général”
2. Cet intérêt général doit être conçu collaborativement et il émerge de l’agrégat des opinions de chacun sur ce qui constitue cet “intérêt général”
3. On doit se servir de la force algorithmique pour diffuser ce contenu

Et même si personnellement je suis complètement “Tournesolien”, il est évident que ça ne sera pas nécessairement le cas de tout le monde.

Comme tout combat politique, le projet de Tournesol est partial et en évolution permanente.

Il est encore plus évident de réaliser le caractère politique de Tournesol en observant les critères optionnels d’évaluation. En plus du critère principal qui est aussi le plus “neutre” de la liste “quelle est la vidéo qu’il faudrait recommander le plus largement possible ?”, il y a 9 critères optionnels :

Pourquoi ces 9 là et pas d’autres ? Pourquoi l’inclusivité plutôt que l’esprit civique ?

Pourquoi n’y a t-il pas dans les 9 critères optionnels de Tournesol un critère permettant d’évaluer à quel point la vidéo encourage et promeut le fait de respecter les lois en vigueur ?

Je me risque à une hypothèse : parce qu’il s’agit du choix “politique” actuel de la plateforme. Des gens se situant très à droite de l’échiquier n’auraient peut-être pas fait les mêmes choix. Ils auraient peut-être pensé que le critère visant à évaluer à quel point un contenu incite à respecter la loi constituait un critère d’évaluation bien plus important pour l’intérêt général que l’inclusivité.

Peut-être que Greta et moi, on aimerait rajouter un critère sur le changement climatique : “ce contenu va dans le sens d’une plus grande “atténuation du” / “adaptation au” changement climatique” ?

On pourrait bien sûr faire une “inception” de Tournesol et envisager d’également voter collaborativement pour les critères selon lesquels les vidéos seraient ensuite évaluées. C’est en effet une option. On tombe alors dans des scénarios qui ne sont pas sans rappeler la dystopie démocratique de Cerclon décrite dans le premier livre d’Alain Damasio “La zone du dehors”.

Aaaaaaaaaah encore une dystopie, vous entends-je vous exclamer !!! L’avenir semble être aujourd’hui une sorte de slalom impossible entre différentes dystopies où, quel que soit ce que l’avenir nous réserve, il semble que l’utopie des uns constituera de toute manière la dystopie des autres¹⁰. Le pire étant probablement de se laisser doucement glisser dans ce qui sera pour tout le monde une dystopie subie.

Pour dynamiter le capitalisme attentionnel en améliorant les algorithmes de recommandation, il faut donc déjà avoir conscience qu’il ne s’agit pas uniquement d’un problème technique mais d’une lutte politique. Il existe plusieurs stratégies afin de gagner cette lutte et de convaincre une majorité de la population de sortir des paradigmes du capitalisme attentionnel — et ainsi provoquer un changement politique d’une ampleur telle qu’on devienne collectivement capables d’adopter en masse des algorithmes de recommandation plus alignés avec ce qu’on considèrerait être l’intérêt général.

B) Les 3 stratégies pour renverser le paradigme attentionnel actuel

1. “L’algorithme c’est moi !” : La méthode des milliardaires

Comment changer le capitalisme attentionnel et comment le réguler ? En tentant de racheter purement et simplement les produits du capitalisme attentionnel comme s’y essaie Musk depuis cet été et en tentant de le réguler soi-même et avec sa propre vision de la liberté d’expression. Liberté au combien importante selon lui mais qui n’inclue à priori pas les ratios à son encontre :

Mais cette stratégie est aussi celle de Zuckerberg quelque part lorsqu’il tente de développer une “cour suprême de facebook”¹¹ :

Zuckerberg se tourne ceci dit davantage sur de la modération de contenu en décidant de déplateformer certains types de contenus alors que Musk semblerait vouloir imposer une régulation des algorithmes eux-mêmes (c-à-d donner moins de portée à certains contenus sans pour autant les supprimer).

Dans tous les cas, il faut réaliser qu’il s’agit là d’un simple remix d’un réflexe commun chez les milliardaires américains. C’est la même logique que lorsque Bill Gates & Co veulent nous imposer par leur charité mégalomane leur vision de l’intérêt général et de comment il faudrait que nous fassions pour éviter le désastre climatique :

N’oublions jamais qu’on pourrait aussi bien taxer les très riches à 99% au-delà d’un certain seuil afin de décider démocratiquement de comment servir au mieux l’intérêt général et la lutte climatique avec la somme faramineuse que nous rapporterait cette nouvelle stratégie d’imposition.

En attendant d’être assez forts collectivement pour imposer l’imposition, on se retrouve sur le thème de la circulation de l’information avec les tentatives qu’on mérite, c’est-à-dire des tentatives mégalomanes en mode “vous allez voir comment je vais résoudre ça moi à grand coup d’évier !”

2. Faire la révolution : La méthode Taiwan

L’exemple à suivre serait plus du côté de Taiwan qui, suite à la révolution des Tournesols de 2014 (les tournesols sont l’avenir de l’humanité je vous dis), a mis en place de nombreuses innovations numériques au service de la démocratie¹².

Ces innovations, acceptées, adoptées puis poussées par la force publique, ont eu pour but d’introduire davantage de démocratie, de transparence et d’inclusivité dans le fonctionnement politique du pays. Seulement comme toute révolution sociétale, elle est issue d’un contexte et d’un concours de circonstances qui n’est pas le nôtre.

Enfin la dernière option est de faire grossir la bulle idéologique des gens qui pensent que des algorithmes de recommandation qui intègrent l’intérêt général sont absolument nécessaires et vitaux.

3. La méthode “bulle idéologique Tournesol”

Peut-être que la meilleure (seule ?) méthode à notre disposition pour l’instant est de fédérer autour du projet Tournesol lui-même ? S’il est illusoire de convaincre Youtube de se réguler par lui-même et inenvisageable d’attendre que le politique s’empare de la question en France, peut-être faut-il œuvrer pour un engouement populaire autour d’une plateforme mettant enfin le long terme de chacun et chacune aux manettes ?

Peut-être faut-il faire gonfler la bulle des gens qui pensent que recommander du contenu en fonction d’un intérêt général évalué collaborativement est un enjeu existentiel de l’humanité ?

Pour ce faire, peut-être qu’avec les déboires actuels de Twitter et la “masse” de personnes se demandant s’il ne faudrait pas aller piailler ailleurs, il serait opportun de créer un réseau social qui s’inspirerait de Tournesol et qui recommanderait les contenus en fonction du même genre de méthodes ? Peut-être faudrait-il étendre et développer des systèmes comme Tournesol pour les livres, les podcasts, les articles scientifiques ?

CONCLUSION

Et même s’il peut sembler vain d’espérer qu’un algorithme de recommandation tel celui de Tournesol soit un jour utilisé à grande échelle dans la société capitaliste telle qu’on la connaît aujourd’hui, il n’en resterait pas moins nécessaire et utile de créer cette possibilité aujourd’hui pour qu’elle puisse porter ses fruits dans la société radicalement différente qui va nécessairement voir le jour dans les années à venir.

En attendant, je vous souhaite à toutes et à tous,

Paix et santé,

Et tant que vous êtes là ;), voici 3 manières d’aider le projet Tournesol :
1. Installez le plugin Tournesol sur Firefox ou Chrome
2. Inscrivez-vous à la plateforme par là
3. Donnez du sens à votre fortune en donnant ici

Et voici 5 manières de suivre et de soutenir le projet d’ApresLaBiere :

1) Soutenir ApresLaBiere sur Tipeee (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)

2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :

3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)

4) Liker et suivre ApresLaBiere sur facebook, twitter ou instagram

5) Penser à faire appel à Homo Conscientus (moi :)) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.

Un énorme merci à tous les membres de Tournesol.app (Louis, Aidan, Adrien, Renard, Lê…) qui m’ont aidé à ne pas dire trop de bêtises dans cet article.

SOURCES / LIENS / POUR ALLER PLUS LOIN :

¹ Les deux premières parties de cette série : partie 1, Les algorithmes de recommandation : biais cognitifs de l’humanité ? (si vous préférez l’écrit); partie 2 : Comment fait youtube pour nous connaître “mieux” que nous-mêmes ? (si vous préférez l’écrit) ↰
² Vidéo “This video will make you angry” de CgpGrey (ma chronique gratuite Arrêt sur Images sur le même sujet si vous ne parlez pas anglais) ↰
³ Vidéo “Les données manipulent les algorithmes” de la chaîne Science4All ↰
⁴ Livre la sagesse des foules ; et sur un peu le même sujet, la très bonne vidéo de Fouloscopie “La MAJORITÉ a-t-elle toujours RAISON ?”↰
⁵ “Governance of Common-Pool Resources” ↰
⁶ Deux vidéos géniales de la chaîne This Place : 1. Tragedy of the Commons │ The Problem with Open Access ; 2. Who Should Govern Nature? ↰
⁷ La métaphore de la boussole, je l’explique dans la partie 1 : Les algorithmes de recommandation : biais cognitifs de l’humanité ? (si vous préférez la vidéo) ↰
⁸ Facebook a supprimé plus de 15 milliards de faux comptes en 2 ans ↰
⁹ La réponse de Tournesol aux critiques communes sur le wiki du projet ↰
¹⁰ Dans cet article, j’évoquais la difficulté d’un imaginaire “utopique” qui inclue les algorithmes ↰
¹¹ Excellent article “Inside the Making of Facebook’s Supreme Court”↰
¹² Documentaire, “Taiwan, Digital democracy” (sinon, il y a aussi la conférence TED du ministre du digital à Taiwan) ↰

Un tournesol peut-il sauver le climat ? was originally published in Après La Bière on Medium, where people are continuing the conversation by highlighting and responding to this story.

En dessous de la vidéo, vous avez le texte de ma dernière chronique (non officielle) Arrêt sur Images (si vous préférez, vous pouvez écouter en podcast).

Préambule : Au revoir @si :)

Bonjour à tous les abonnés d’@SI (@rrêt Sur Images), cette 31ème chronique vous est surtout destinée. Elle est un peu spéciale parce que Daniel Schneidermann m’a appelé mardi (25 Oct 2022) pour me prévenir qu’ils avaient collectivement décidé d’arrêter ma chronique¹ car on avait fait “le tour du sujet” (pour rappel le thème de ma chronique, c’est le lien entre l’économie de l’attention moderne et les récits médiatiques au sens large) et il m’a donc dit qu’ils et elles avaient collectivement décidé qu’il n y avait pas lieu d’entretenir une chronique régulière sur cette thématique. Comme l’appel faisait suite à l’écriture et à l’envoi de cette 31 ème chronique et qu’en bon écolo, je déteste gaspiller, la voici ! Ça sera ma manière à moi de dire proprement au revoir à vous toutes et à vous tous, abonné.e.s d’@si avec qui j’ai beaucoup apprécié échanger ces dernières années et d’exprimer qu’il est selon moi plus vital que jamais au contraire de continuer à décortiquer les effets des mécanismes de l’économie de l’attention sur les récits médiatiques. Si on veut comprendre les directions que prennent aujourd’hui tous les récits médiatiques, il faut réaliser qu’elles ne sont que les conséquences d’un capitalisme attentionnel qui dévore tout sur son passage, notre capacité à réagir aux enjeux sociaux et climatiques du XXIème siècle avant tout.

La 31ème chronique

Ce qui a retenu mon attention ce WE, c’est le fait que ce WE, l’une des deux plus grandes puissances mondiales a sombré encore un peu plus profondément dans l’autoritarisme le plus décomplexé :

Danson Cheong on Twitter: "Early drama: Hu Jintao seen being led out soon after reporters are led into the main hall pic.twitter.com/pRffGZF60I / Twitter"

Early drama: Hu Jintao seen being led out soon after reporters are led into the main hall pic.twitter.com/pRffGZF60I

Cette séquence donne le vertige. On a vraiment l’impression d’être les témoins, en direct et évidemment totalement impuissant, du tragique de l’Histoire avec un grand H. C’est comme si on regardait un documentaire avec une voix off aussi sérieuse que profonde qui nous narre que :

“Le 21 Octobre 2022, Xi donne sous l’œil d’un parterre de reporters médusés, le signal du début d’une purge sans pitié qui durera jusqu’à la fin de 2023”.

Le lendemain, on avait la composition de l’organe central du bureau politique du parti communiste et le Huffington Post choisissait de relever qu’il n’y avait plus aucune femme dans l’exécutif Chinois² :

On pouvait aussi penser que ce qu’il fallait retenir du WE, ce n’était pas qu’il y avait 25 pantins autour de Xi en lieu et place de 24 pantins et une pantine mais que Xi avait désormais les “pleins pouvoirs”. C’est cet angle que France 24³ a choisi :

Car ce bureau est désormais composé d’individus qui quel qu’ils ou elles soient ne se risqueront pas à contredire Xi s’ils ne veulent pas se faire eux aussi attraper par les aisselles et disparaître des radars ad vitam eternam.

Alors quand j’ai vu ça, je me suis demandé comment le célèbre Fukuyama, célèbre pour son livre “la Fin de l’Histoire” allait digérer l’information. C’est lui qui prédisait au début des années 90 la chute des régimes autoritaires et l’avènement sur la planète entière de démocraties libérales.

Celui-là même qui n’en démordait toujours pas il y a 15 jours dans The Atlantic⁴ où il disait en substance que l’année qui venait de s’écouler était pleine de preuves qu’il avait raison et qu’à la fin, c’était les “gentils” qui allaient gagner :

Il tient cette ligne depuis 30 ans et ce malgré les critiques de plus en plus nombreuses qui s’élèvent ces dernières années contre ses thèses et qui relèvent que quand même les démocraties libérales n’ont pas l’air d’avoir terriblement le vent en poupe.

Alors bon, en lisant ça, on a quand même envie de lui demander le titre des journaux qu’il lit ou bien ce qu’il petit déjeune histoire de s’inspirer parce que ça a l’air d’être de la très très bonne.

Personnellement, si je devais mettre un billet sur les forces géopolitiques qui vont remporter la mise dans les prochaines décennies, j’ai beau le regretter amèrement mais je ne suis pas sûr que je miserai tout sur l’occident et les démocraties libérales.

Fukuyama passe tout l’article à pointer du doigt les erreurs commises par les régimes de plus en plus autoritaires que sont la Chine, l’Iran et la Russie. La dérive autoritaire actuelle génère selon lui de mauvaises décisions et ce sont ces mauvaises décisions qui auront toujours selon lui raison des régimes autoritaires.

Si je devais résumer à la hache la thèse de son article ce serait “La Chine n’est pas toute puissante et prend des mauvaises décisions”. Merci bien Francis mais pour rappel, celui qui gagne à la fin ça n’est pas le tout puissant, c’est surtout le moins faible. Et à ce jeu là, on ne devrait pas trop faire les malins.

On a toujours cette capacité à voir la paille dans l’oeil du voisin et à occulter la poutre dans le nôtre et les thèses de Fukuyama semblent être une illustration parfaite de notre aveuglement partiel.

Parce que s’il y a bien un sujet où on a une poutre qui nous traverse la tête de part en part et où on fait pourtant comme si tout allait bien, c’est bien sur mon sujet de prédilection : les enjeux liés à l’économie de l’attention et à la maîtrise des flux informationnels. Et disons le clairement, on est complètement à la ramasse et la Chine semble bien plus puissante que l’occident dans la maîtrise des flux informationnels en son sein mais aussi, et ça c’est vraiment nouveau, à l’extérieur.

L’arme principale de la Chine dans la maîtrise des flux informationnels est aujourd’hui constituée du duo Tiktok / Douyin. Il s’agit de deux versions de la même application, Douyin pour le marché Chinois et Tiktok pour le reste du monde.

Alors je sais qu’on va me dire qu’il s’agit simplement de deux réseaux de plus, que tous les autres étaient américains et que ça ne nous a pas tellement dérangé.

Alors, outre le fait que l’avènement des réseaux sociaux auraient clairement davantage dû mobiliser notre vigilance depuis leurs débuts, il y a avec le phénomène Tiktok deux différences fondamentales :

I) La première, c’est la toute puissance de l’algorithme de recommandation

Techniquement, l’algorithme de Tiktok et de Douyin (la version chinoise), c’est VRAIMENT autre chose ! C’est les premiers à avoir assumé que :

“Ce que l’utilisateur dit vouloir regarder, on s’en fout mais alors royalement”.

Alors oui, ça n’a jamais été trop le sujet des plateformes de savoir ce qu’on voulait vraiment voir mais avant, à la vieille époque d’internet, pour les premiers réseaux sociaux, nos goûts “déclarés” comptaient pour beaucoup dans le calcul des algorithmes de recommandation. Par goûts déclarés, j’entends la décision qui avait au moins pris quelques secondes de suivre tel ou tel compte sur Twitter, de s’abonner à tel compte sur Instagram, à telle chaîne sur Youtube etc etc. Le présupposé de base des réseaux sociaux, c’était de dire : “si on donne aux gens du contenu pour lequel ils ont déclaré volontairement et explicitement de l’intérêt, d’une manière ou d’une autre, on va avoir une information pertinente sur ce qui les intéressera et donc sur ce qui les scotchera sur la plateforme”.

Or Tiktok s’est rendu compte que cette information n’est pas si pertinente que ça. Entre ce qu’on déclare qui nous intéresse et ce qui nous scotche, il y a toujours un écart, voire un canyon.

Et cette différence est vieille comme le monde, il y a un sondage⁵ d’il y a 10 ans et que je ressors dès que j’en ai l’occasion qui montrait que les français adoraient Arte mais regardaient TF1 :

Là c’est pareil, on s’abonne à une chaîne dont les vidéos nous expliquent les conséquences physiques et métaphysiques de l’expérience d’Aspect⁶, physicien français qui vient de recevoir le prix Nobel de physique, alors que ce qui va vraiment nous faire cliquer ce sont les vidéos d’un maréchal ferrant qui fait la manucure à un poney :

Ce genre de vidéos n’intéresse évidemment “quasi personne” selon les personnes et des millions selon l’algo de Tiktok puisque l’une des 10 vidéos les plus regardées sur tiktok en 2021 au Royaume Uni, c’est une vidéo du maréchal ferrant Sam Dracott :

Tiktok a chamboulé le game des réseaux sociaux en assumant se contrefoutre superbement de ce que pouvaient déclarer les utilisateurs et en estimant que l’algorithme aurait plus vite fait de scotcher la planète en testant lui-même ce qui nous scotche “effectivement”.

Et ce qui est terrible, c’est que comme toute recette qui fonctionne, si les autres plateformes veulent survivre et continuer d’extraire au forceps leur part d’attention planétaire, elles doivent s’aligner. C’est en ce sens qu’on assiste depuis quelques temps à la “tiktokisation” des réseaux sociaux dont parlait Thibaut Prevost dans l’une de ses dernières chroniques⁷ :

Et ça va loin cette tiktokisation puisque comme le relevait également Thibaut, c’est à deux doigts de nous pousser Kim Kardashian dans la rue avec une pancarte : RENDEZ NOUS INSTA !

En effet, Kim a relayé il y a quelques mois une pétition visant à ce qu’Insta redevienne Insta et cesse de “vouloir tout faire comme Tiktok”. De son point de vue de puissante influenceuse, il est tout à fait logique et rationnel de mener cette “lutte”. Evidemment qu’elle veut qu’Instagram continue à lui garantir un lien avec ses 332 millions d’abonnés. Elle ne veut pas d’un algorithme qui a le pouvoir de décider à tout moment de ne pas montrer ses posts à ses abonnés tout en promouvant les posts d’une sinistre inconnue. Elle veut garder son pouvoir d’influence, elle ne veut pas le donner à l’algorithme.

Mais je vous entends commencer à maugréer derrière votre écran

“Tu nous parles tout le temps d’algorithmes, d’algorithmes, il y a bien des humains derrière, des organisations, ils ne s’écrivent pas tout seul les algorithmes ?”

Oui, complètement car comme le rappelait l’informaticien Stéphane Bortzmeyer⁸ :

Mais avec Tiktok et Douyin, on va être forcés de refaire le lien entre les algorithmes de recommandation et les humains politiques qui se cachent derrière. Et c’est la deuxième différence :

II) Différence 2 : Pour Tiktok et Douyin il y a un pouvoir politique à la barre

Pour le cas des plateformes américaines, les algorithmes sont développés par des organisations capitalistes, et leurs objectifs sont tristement classiques : faire le plus d’argent possible.

Mais là où c’est différent, c’est que pour tout un tas de raison, les pouvoirs politiques occidentaux sont d’une lenteur abyssale à imposer un cadre politique au développement des plateformes numériques. On se retrouve dans une situation étrange et dangereuse en occident où on ne sait plus vraiment qui exerce un pouvoir sur qui : les états sur les plateformes privées ou bien l’inverse ? Qui a aujourd’hui les rênes de la liberté d’expression ?

En Chine, la direction dans laquelle s’exerce la pression semble bien plus claire à l’image de l’interdiction pour les jeunes de moins de 14 ans d’utiliser Douyin plus de 40 minutes par jour et interdiction stricte entre 22h et 6h⁹ :

La Chine décide donc d’appliquer à ses citoyens avec Tiktok les mêmes méthodes éducatives que Zuckerberg à ses enfants avec Facebook.

On a par conséquent avec la Chine un pouvoir politique fort qui a une influence non négligeable sur la plateforme qui décide ce qu’une partie de plus en plus grande de l’humanité regarde.

Comment une telle aventure pourrait-elle mal se terminer ?

Alors je sais qu’on risque de me dire que c’est bien mais qu’on s’en fiche un peu que ce soit la Chine qui choisisse la couleur des sabots des poneys que va regarder l’humanité ?

C’est pas faux… mais en fait on aurait tort de penser qu’on va sur Tiktok simplement pour être hypnotisés par des maréchal ferrant car c’est quand même la plateforme où de plus en plus de jeunes façonnent leur opinion sur le monde.

On voit dans ce graphique¹⁰ que la proportion des utilisateurs réguliers de Tiktok qui y vont pour s’informer croît de manière effrayante :

On peut se rassurer en se disant que le contenu de Douyin, ça n’est pas celui de Tiktok et que la Chine n’a pas tant de contrôle que ça sur le contenu de Tiktok.

Mais se dire ça, c’est encore une fois s’enfoncer le doigt dans l’œil jusqu’à la rate (à force je me dis qu’on va finir par créer un nouveau canal lacrymal). La Chine a le contrôle sur Bytedance, la maison mère de Douyin et de Tiktok, elle peut donc mettre une pression phénoménale sur le tout. Dans une étude très intéressante¹¹, des chercheurs australiens montrent à quel point Tiktok et son équivalent Chinois sont intimement liés :

Dans cette étude, on réalise également que le soft power chinois est déjà à l’oeuvre sur tiktok puisque sur le #Xinjiang (la province où vivent les Ouighours), le récit poussé par la république populaire de Chine y est omniprésent :

Et ça c’est sur Tiktok, la version internationale de l’application. Je vous laisse imaginer ce que ça donne sur Douyin. La Chine est surement l’état qui dans l’histoire est le plus proche de parvenir à créer une ORTF mondiale et ça, c’est quand même sacrément nouveau.

La Chine a la maîtrise quasi totale sur l’algorithme à qui 1 milliards et demi de personnes ont littéralement délégué le pouvoir de choisir ce qu’ils allaient regarder sur la plateforme.

Mais là où ce qu’est en train d’essayer de faire la Chine est encore plus “fort”, c’est qu’elle est peut-être en train de réinventer le capitalisme. C’est la thèse développée par Tristan Harris dans son dernier épisode¹² du podcast “Your Undivided attention” :

Nous devons voir TikTok comme un système d’incitation parallèle au capitalisme. Cela peut sembler audacieux, mais imaginez qu’il existe une autre monnaie sous la forme de TikTok, qui paie les gens en likes, en followers, en commentaires et en visibilité.

Maintenant, tout comme une banque centrale a le contrôle sur la masse monétaire, TikTok a le contrôle sur la masse d’engagement. Ils peuvent régler les curseurs et dire : “Nous allons vous donner plus de likes, plus de followers, plus de commentaires, plus d’influence, plus de visibilité si vous dites plus de choses comme ceci et moins de choses comme ça.”

Donc par exemple, si vous dites, “Hey, Taiwan a toujours fait partie de la Chine. C’est juste la Chine qui reprend ce qu’elle a déjà eu dans le passé.”

Ils pourraient juste ajouter une petite subvention pour que toute personne qui s’exprime de cette manière obtienne 10% de likes, de followers, de commentaires et d’influence en plus.

En fait, ce dont on se rend compte avec la démocratisation des réseaux sociaux depuis quasiment 20 ans, c’est que la plupart des gens courent et dépensent une énergie folle pour des cacahuètes nommées “reconnaissance sociale numérique”. Pour quelques influenceurs qui transforment les cacahuètes en or sonnant et trébuchant, il y a des millions de personnes qui font vivre ces plateformes en leur fournissant leur contenu pour la modique somme de quelques likes. Et ces quelques likes sont totalement proportionnels à la visibilité que la plateforme choisit ou pas de donner à ces contenus. L’entité qui a la maîtrise de cette visibilité est une sorte de banque centrale de cette monnaie qu’est devenue “la reconnaissance sociale numérique”

Or qui est la banque centrale de la visibilité sur Douyin et sur Tiktok ? C’est la Chine ou plutôt le Parti Communiste Chinois ou plutôt maintenant : Xi ! La Chine n’aura plus besoin de payer des influenceurs et des influenceuses pour qu’ils tiennent le bon discours, il lui suffira grâce à son pouvoir d’imprimer autant de visibilité numérique qu’elle le désire de choisir parmi les milliards d’heures de contenu uploadé par jour sur ses plateformes, qui et surtout quel discours elle va rétribuer de milliards d’heures d’attention humaine !

Encore une fois, un immense merci aux abonnés d’Arrêt sur Images de m’avoir donné autant de leur attention ces 3 dernières années. Si vous voulez continuer à avoir de mes nouvelles, le meilleur moyen sans faire confiance à un algorithme de recommandation X ou Y, c’est de s’abonner à la gazette d’ApresLaBiere. N’hésitez pas à me dire si ça vous intéresse que je continue ce format sur ma chaîne en commentaires, n’hésitez pas non plus à diffuser cet article aux autres abonnés qui ne la verront peut-être pas passer.

En attendant, je vous souhaite

Paix et santé,

Et tant que vous êtes là ;), voici 5 manières de suivre et de soutenir le projet d’ApresLaBiere :

1) Soutenir ApresLaBiere sur Tipeee (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)

2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :

3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)

4) Liker et suivre ApresLaBiere sur facebook, twitter ou instagram

5) Penser à faire appel à Homo Conscientus (moi :)) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.

SOURCES / LIENS / POUR ALLER PLUS LOIN :

¹ Chroniques « Votre attention s’il vous plaît ! » sur le site d’Arrêt Sur Images ↰
² Article du Huffington Post : “Chine : autour de Xi Jinping, l’exécutif ne compte plus aucune femme” ↰
³ Article de France 24 : “Congrès du PCC : en Chine, les pleins pouvoirs pour Xi Jinping” ↰
⁴ Article de Francis Fukuyama : “Still the end of History” ↰
⁵ Article / Sondage : “Pourquoi les Français adorent Arte mais regardent TF1” ↰
⁶ Vidéo “Les inégalités de Bell et les expérience d’Aspect” par la chaîne Science étonnante ↰
⁷ Article de Thibault Prevost sur le site d’Arrêt sur Images « Tiktokisation : le crépuscule des réseaux » ↰
⁸ Article « On entend trop le mot “algorithme” » ↰
⁹ Article de la BBC « China : children given daily time limit on Douyin — its version of TikTok » ↰
¹⁰ Graphique et données du centre de recherche Pew : « A growing share of TikTok’s adults users say they regularly get news on the site » ↰
¹¹ Étude « TikTok and WeChat, Curating and controlling global information flows », 2020 ↰
¹² Épisode du podcast “your undivided attention” : « Addressing the TikTok Threat » ↰

Et Tiktok réinventa la capitalisme ! was originally published in Après La Bière on Medium, where people are continuing the conversation by highlighting and responding to this story.

Pour celles et ceux qui aiment quand ça bouge, ça chante et ça s’agite, il y a la version vidéo ou la version podcast.

Si les algorithmes de recommandation sont à l’humanité ce que les biais cognitifs sont à l’individu (voir article précédent), pourquoi nous mènent-ils aujourd’hui droit dans l’abîme en nous rendant collectivement quasi aveugle quant à ce qui nous menace réellement, globalement et existentiellement ?

I) Les deux problèmes de la boussole algorithmique

Printemps 2019, le compteur de vues de la vidéo de la fille de 10 ans de Christiane C., se baignant dans sa piscine avec une amie, commence à s’affoler. Il atteint rapidement les milliers de vues (ce qui est déjà énorme, n’hésitez pas à aller faire un tour sur la chaîne d’ApresLaBiere pour le réaliser). Lorsqu’il atteint, peu après, les 400 000 vues Christiane prend peur et réalise qu’il y a “baleine sous gravillon”.

En effet, même Christiane C. qui comme beaucoup de mères pense que son enfant est la plus belle création de l’histoire de l’humanité se doute bien qu’il est étrange que 400 000 sinistres inconnus en viennent à partager sa subjectivité maternelle aveugle. Pourquoi l’innocente vidéo de la fille de Christiane C est-elle devenue aussi populaire ?

Car elle n’est pas si innocente pour tout le monde justement et l’algorithme de recommandation de Youtube (responsable de 70% des vues totales de la plateforme¹) l’a très très bien compris ! Il l’a activement promue auprès d’une audience extrêmement spécifique : les utilisateurs qui venaient de regarder d’autres vidéos d’enfants prépubères partiellement vêtues.

Comment se fait-il que l’algorithme de Youtube ait activement regroupé toutes ces vidéos d’enfants prépubères tournées souvent dans un cadre familial et non sexualisant pour les servir à un public pour qui ces vidéos se trouvaient être à caractère sexuel ? Quel ingénieur pourrait volontairement se dire qu’il allait créer la catégorie : “enfant prépubère partiellement dévêtu” et la servir à une catégorie du public étiquetée “personne à tendance pédophile” ?

Aucun !

Aucune personne à peu près normalement constituée en 2019 n’y aurait pensé (pas même un ingénieur google², c’est dire) mais l’algorithme de recommandation de Youtube nourrit des données de visionnage de la planète entière peut faire ce regroupement et ce lien là. Et comme tout bon algorithme, il le fait sans “conscience” des catégories qu’il fait émerger en suivant son unique boussole : maximiser le temps passé par les utilisateurs sur la plateforme. Pire, il le fait sans même que les créateurs de l’algorithme n’aient à réaliser et à comprendre les regroupements et les liens qu’il opère. C’est ce qu’on appelle en IA le problème de l’ “alignement des valeurs” :

“Un système d’IA est décrit comme étant désaligné s’il est compétent (ex : il arrive à effectivement extraire énormément d’attention humaine) mais poursuit un objectif non souhaité (ex : il recommande des vidéos pouvant être considérées comme étant à caractère sexuel par des pédophiles à des pédophiles).” ³

La caisse de résonance algorithmique donnée à tout contenu suscitant de la colère est un des exemples les plus symptomatiques et dramatiques du problème du désalignement de l’IA comme l’explique brillamment Cgp Grey dans sa vidéo :

Pour un désalignement choquant tellement nos valeurs que nous sommes forcés de le comprendre, combien de contenus désalignés aux conséquences sociétales dramatiques à long terme bénéficient d’une caisse de résonance algorithmique sans que nous le réalisions ? Combien de recommandations Youtube, passent sous les radars et nous enferment progressivement dans des bulles cognitives de plus en plus isolées les unes des autres ? Combien de recommandations accélèrent la diffusion d’idées de plus en plus personnalisées et polarisées créant autant de réalités que d’individus ?⁴

Or comment est-il possible de s’accorder démocratiquement sur ce qui devrait être et sur comment y arriver quand nous sommes de plus en plus incapables d’être d’accord sur ce qui est ? ⁵ ⁶

Comment maintenir nos capacités démocratiques dans un monde où les algorithmes ont intérêt à saborder son fondement principal : le sentiment d’une réalité partagée.

Nous faisons finalement face à deux problèmes distincts quoique interdépendants :

1/ Le problème de la boussole

Il faut réaliser que pas un seul atome d’ “intérêt général” n’entre dans la composition du pôle nord magnétique des GAFAMs. Le seul objectif que les GAFAMs donnent aux algorithmes de recommandation est d’ : “extraire le plus de temps (et donc le plus de ressources financières) de chaque individu”. Or il est très improbable que tout faire pour extraire le plus d’attention humaine à court terme participe à résoudre les enjeux globaux actuels qui justement nécessitent une pensée et une vision long terme.⁷

Autrement illustré :

On retombe là sur le problème global de l’économie de l’attention et du capitalisme attentionnel. On pourrait bien entendu espérer que le politique tente de forcer les GAFAMs à intégrer le respect de l’intérêt général dans leur stratégie mais cet espoir est largement déçu depuis deux bonnes décennies : les évolutions technologiques du secteur numérique évoluent dramatiquement plus vite que notre capacité à les réguler, tout du moins en Occident. A ce titre, Il est intéressant d’observer ce qu’il se passe en Chine où il est désormais interdit aux jeunes Chinois de moins de 14 ans de passer plus de 40 minutes par jour sur Douyin (la version chinoise de Tiktok) avec interdiction ferme entre 22h et 6h et ceci d’après les autorités pour limiter l’impact négatif de cette plateforme sur la santé physique et mentale des jeunes chinois. Et autant on peut se dire que les US réglementeront l’application Tik tok en raison des dangers géopolitiques qu’elle représente (la Chine ayant le contrôle sur cette application), autant on ne voit pas trop pourquoi la Chine réglementerait l’application sur son propre territoire si ce n’est parce que le régime chinois est intimement convaincu du danger qu’elle représente pour les jeunes.

2/ Le problème du désalignement

C’est celui dont on vient de voir un terrible exemple : quel que soit l’objectif d’un algorithme (même s’il intégrait l’intérêt général donc), il peut générer des effets de bord indésirables auxquels on ne s’attendait pas.

Pour résumer : Même si on tentait d’aller dans la bonne direction, on ne serait pas certains de ne pas tomber dans un précipice. En ne tentant même pas d’y aller, on augmente drastiquement nos chances d’effectivement ne jamais arriver à “bon port”.

Nous sommes donc pour l’instant condamnés à réaliser à posteriori le saccage de l’intérêt général par ces algorithmes doublement problématiques. C’est comme si face à une mer d’icebergs, notre seule option était de foncer droit dedans et d’attendre que notre coque soit éventrée pour réagir et se mettre à colmater les “fuites” dans la panique.

Mais même en sachant tout cela, il est ardu pour celui ou celle qui milite pour de meilleurs algorithmes de savoir par quel bout prendre le problème car le fonctionnement de ces algorithmes est opaque. Il est opaque non seulement au plus grand nombre et à la puissance publique mais même parfois à leur propre concepteur. On pourrait dire que les algorithmes de recommandation sont “doublement opaques” :

II) La double opacité des algorithmes

1/ L’opacité stratégique

Cette opacité est voulue par la plateforme qui ne veut pas rendre publique sa “recette” magique pour des raisons stratégiques et économiques : si tout le monde connaît la recette de l’algorithme, il est d’autant plus facile de créer du contenu correspondant exactement à cette recette afin que l’algorithme le promeuve⁸. Or il devient d’autant plus difficile pour l’algorithme de trier et de sélectionner du contenu qu’il existe une énorme quantité de contenu correspondant exactement à ses critères (qui deviennent par la même occasion obsolètes). Si, par exemple, tout le monde savait le jour même où l’algorithme de youtube est modifié que Youtube privilégiera désormais les vidéos d’une durée comprise entre 5:30 et 6:25, tous les créateurs et créatrices sortiraient des vidéos de cette durée la journée suivante, rendant complètement inefficient ce nouveau critère de recommandation. Parmi les 99% de vidéos de la plateforme qui seront désormais comprises entre 5:30 et 6:25, lesquelles recommander ?

A cause de cette opacité stratégique, il est extrêmement difficile de connaître les critères scrutés par les grandes plateformes.

Quelle est la stratégie concrète de telle ou telle plateforme pour augmenter ses revenus ? Est ce que l’algorithme de facebook pourrait se mettre à considérer qu’une réaction “angry” vaut 5 “likes” par exemple ? (spoiler alert, on a fini par savoir que oui).

Mais si nous avons dû attendre les facebook files⁹ pour comprendre à quel point tous les emojis (notamment celui de la colère) étaient mis en avant par rapport aux likes classiques, certaines entités avaient dû découvrir le pot aux roses bien avant. Car c’est l’un des inconvénients de l’opacité stratégique, elle avantage grandement les organisations qui ont la capacité et l’intérêt de découvrir les mécanismes cachés des algorithmes afin d’étendre leur influence. C’est notamment le cas des fermes de troll russes qui ont probablement découvert le poids de la colère bien avant que les facebook files provoquent notre atterrissage forcé dans un monde virtuel où ne vivent pas uniquement d’adorables chats.

Si la force publique n’a pas accès à cette connaissance, comment peut-elle anticiper et prévenir d’éventuelles catastrophes sociétales pouvant découler des biais de recommandations des plateformes ? Comme à tout hasard l’augmentation de la détresse psychologique chez les adolescents ? C’est exactement comme si on renonçait à exiger de la part de Justin Bridou la composition de ses saucissons, lui laissant la liberté d’y ajouter un peu d’opium histoire de fidéliser les amateurs de charcut.

2/ L’opacité technique

Celle-ci est due à la nature même des technologies utilisées. Les algorithmes de recommandation sont aujourd’hui ainsi créés que même leurs concepteurs ne connaissent parfois pas précisément les critères et les raisons pour lesquels du contenu est recommandé.

Cette double opacité nous oblige en tous les cas à regarder passivement passer le TGV de la recommandation algorithmique…

Nous sommes condamnés à pédaler dans la semoule et à constater à posteriori qu’une trop grande partie de ce qui attire notre attention est du contenu qui, mis bout à bout dans tous nos fils d’actualités, s’avère détricoter nos démocraties : polarisation, bulles de filtres de plus en plus hermétiques, sur représentation des visions simplistes et non nuancées dans l’espace politique, etc.¹⁰

III) Zoom sur le collaborative filtering

(ou comment un algorithme peut créer des catégories et faire des liens qui ne sont pas forcément clairs / explicites, même pour ses concepteurs ?)

Même si c’est toujours bien de comprendre un petit peu plus en détails ce qui peut se cacher derrière une phrase telle que “même les concepteurs ne savent pas ce que font les algorithmes”, là c’est quand même un peu le moment où si vous vous foutez des détails techniques comme de votre première dictée, filez directement à la conclusion !

Ce dont je vais parler maintenant (collaborative filtering), c’est d’un algorithme classique de recommandation, dont YT s’est probablement inspiré à un moment donné. L’algorithme de youtube aujourd’hui est bien plus complexe et utilise du deep learning à différentes étapes mais en comprenant en détails le fonctionnement de la technique classique du “collaborative filtering”, on entrevoit comment il se fait que les concepteurs d’un algorithme puisse ne pas comprendre précisément ce qu’il fait et à quel point ses mécanismes peuvent leur échapper. Et ceci sera d’autant plus vrai que l’opacité technique augmentera, ce qui est clairement le cas pour l’algorithme actuel de Youtube qui enfile les modules de deep learning comme des perles.

Comme déjà évoqué, le but des algorithmes de recommandation actuels est de présenter à chaque individu le contenu qui est le plus à même de le maintenir sur la plateforme.

Dans l’idéal de Youtube, ils connaîtraient pour chaque individu surfant sur la plateforme, l’évaluation exacte du pouvoir d’attraction de chaque contenu à ce moment précis afin de lui présenter LA vidéo qui aurait le plus de chance de le maintenir sur la plateforme. Dans la vraie vie, Youtube n’est pas (encore) omniscient et évalue les contenus en fonction de la manière dont les utilisateurs ont interagi avec eux : a-t-on regardé la vidéo en entier ? Plusieurs fois ? Depuis le mobile ou l’ordinateur ? A-t-on laissé un commentaire ? Plusieurs ? Un like ? Un dislike ? C’est grâce à ce type d’informations (dont Youtube dispose) que la plateforme va pouvoir évaluer le pouvoir d’ “extraction temporelle” d’une vidéo que vous avez déjà regardée.

Pour stocker l’ensemble des évaluations, il faudrait construire une immense table, où chaque ligne représenterait les goûts d’un utilisateur et chaque colonne représenterait l’ensemble des “évaluations” (mettons une évaluation du pouvoir d’extraction d’attention notée sur 10) d’un contenu.

Dans la réalité, il y a évidemment plein de cases (l’immense majorité) pour lesquelles Youtube n’a aucune donnée d’interaction. J’ai beau avoir passé une vie sur youtube, je suis loin d’avoir interagi (et donc fournit des données de visionnage) avec les 800 millions de vidéos de la plateforme et c’est justement celles-là qu’il a le plus intérêt à évaluer. C’est parmi ces vidéos que je n’ai jamais vues qu’il y a les vidéos qui ont le plus gros pouvoir d’extraction temporelle étant donné que je ne passe pas mon temps à regarder les vidéos en boucle. Le but de l’algorithme de recommandation est par conséquent de prédire au mieux le maximum de valeurs de cette immense table grâce aux valeurs qu’il “connaît” déjà…

Par exemple, on sent bien qu’un algorithme n’aura pas à être la Rolls Royce des algos pour déduire et prédire que l’utilisateur Jean-Lou adorera (10 sur une échelle de 10) toutes les vidéos de maréchal ferrant étant donné qu’il a passé toute la soirée du 3 Juin à les binge watcher les unes après les autres : elles sont très probablement IRRÉSISTIBLES pour cet utilisateur ! (ne jugeons pas les addictions des uns et des autres svp)

A l’aide des infos dont il dispose et qui lui permettent d’évaluer les goûts de certains utilisateurs pour certaines vidéos, l’algorithme essaiera de déduire tout le reste de cette immense table.

“Mort aux points d’interrogation !”

La méthode du collaborative filtering : trouver les “régularités” pour résumer dans un premier temps et pour prédire ensuite.¹²

Pour faire cela, l’algorithme trouve à partir des évaluations qu‘il connaît des “régularités” / “motifs” dans les utilisateurs et dans les contenus.

En effet, les goûts et les couleurs ne sont pas complètement aléatoires. On peut les résumer et les exprimer de manière plus synthétique que dans une table aussi gigantesque que ci-dessus ; par exemple comme le produit de deux tables (autrement appelés matrices) qui auront à elles deux beaucoup moins de cases que la table originale. En regroupant les régularités et les motifs, les deux tableaux exprimeront la même quantité d’information en moins d’espace (de cases donc) :

Une manière d’expliquer ce que “résumer” (ou “compresser” pour celles et ceux qui viennent plutôt du monde de l’informatique) ce genre de table signifie est de dire qu’on regroupe les informations qui constituent des motifs qui se répètent dans plusieurs lignes (respectivement plusieurs colonnes) à un seul endroit. Une interprétation humaine de ce résumé mathématique est de dire qu’un motif qui se retrouve dans plusieurs lignes va représenter une typologie particulière d’usagers qui partagent certains goûts / caractéristiques : par exemple les gens qui ne regardent que des vidéos de moins de 5 minutes, les fans de skate, les gens friands de vidéos légères, les gens qui parlent le tibétain. De la même manière, une régularité entre colonnes correspondra à des contenus qui partagent également une propriété : la durée, la thématique, le ton, la langue…

Et finalement, ce fonctionnement est très “humain”. Notre manière d’évoluer et de comprendre le monde instinctivement, c’est aussi de créer des catégories qui font du sens en généralisant certaines des récurrences (parfois à tort bien entendu) qu’on observe. Je constate que jusqu’à maintenant chaque matin de ma vie, le soleil s’est levé, plutôt que de me demander tous les matins si le soleil se lèvera de nouveau, je généralise que tous les matins il se lèvera. Il en va de même avec la gentillesse des clients de l’Eurekafé de Toulouse¹³, je m’autorise à généraliser.

Prenons cette table par exemple (comme nous sommes de pauvres humains et pour plus de facilité, la table est complète mais un algorithme n’aura pas plus de mal à trouver des régularités dans une table bien plus gigantesque et avec bien plus de points d’interrogations que de trous dans un morceau de gruyère) :

Au premier coup d’oeil on s’aperçoit que :

• L’humain 2 n’aime aucune vidéo, il est très probablement chiant comme la pluie…
• L’humain 1 et 4 ont exactement les mêmes goûts, peut-être 4 est-il obsédé par 1 et le stalke sur les réseaux ? Ou bien ce sont des jumeaux ?
• Quant à l’humain 5, il vit sa meilleure vie sur Youtube.

Au second coup d’oeil on s’apercevra que :

• Les évaluations de l’humain 5 sont égales à la somme des évaluations l’humain 3 et de celles de l’humain 4 (ou bien de l’utilisateur 1, ils sont culs et chemise ces deux-là je vous rappelle).
• La vidéo 2 et la vidéo 4 ont exactement les mêmes évaluations, on soupçonnera qu’elles aient deux/trois trucs en commun…

Ce sont ces régularités qui nous permettent de “résumer” cette table comme le produit de deux petites tables (résumé autrement appelée “factorisation matricielle”) que voici :

D’un côté on a un tableau contenant la liste de tous les humains avec pour chacun une évaluation de leur sensibilité aux deux “critères” qui viennent d’“émerger” des régularités de la grande matrice de départ. De l’autre, on a la liste de toutes les vidéos avec pour chacune une évaluation pour chacun de ces deux critères.

Dans les faits, l’algorithme n’a pas besoin que la table soit complète pour trouver des motifs et pour opérer le “résumé”. C’est d’ailleurs l’un des objectifs de résumer une immense table incomplète comme le produit de deux tables complètes : lorsqu’on re-multiplie les deux tables complètes, on obtient à la place des points d’interrogations, des “prédictions” basées sur les motifs incarnés par les deux matrices.

Ces prédictions correspondent aux évaluations déduites par l’algorithme. Elles seront pertinentes s’il s’avère que la régularité mathématique trouvée traduisait une véritable régularité dans les goûts et les couleurs des utilisateurs. Et comme il est très peu probable qu’une régularité solide ne soit dûe qu’au hasard….

Et peu importe le pourquoi du comment de cette “vraie” régularité. Peu importe que la vidéo 1 soit une vidéo sur la confection des Momo (plat traditionnel tibétain) en tibétain, que la 2 parle de ferronnerie et la 4 de skate. Peu importe de savoir si Mathieu (l’humain 3) n’a pas aimé les vidéos sur la confection de momos parce qu’il n’a pas l’âme d’un cuistot ou bien parce qu’il ne pipe rien au tibétain. Peu importe d’avoir l’explication de ce résumé matriciel et peu importe surtout si les recommandations qu’il contient nous précipitent dans “la vallée du collapse”.

L’algorithme n’a pas besoin de nommer les critères pour qu’ils soient pertinents et efficaces. Et c’est bien là l’enjeu de le laisser faire des regroupements dont la signification ne nous est pas forcément évidente.

Si sur les 1242 vidéos que vous avez regardées pendant l’été, 1242 étaient en français, vous ne verrez probablement pas passer beaucoup de vidéos en tibétain dans vos recommandations. La connaissance des raisons de votre obsession des vidéos francophones n’est pas nécessaire pour que la décision algorithmique soit efficace du point de vue de l’objectif qu’on a donné à cet algorithme.

La stratégie derrière une telle recommandation, si elle avait été pensée consciemment par le créateur des regroupements “spectateur francophone” et “contenu en tibétain non sous titré”, n’aurait eu aucun mal à être comprise et analysée. On aurait pu dans ce cas tenter d’anticiper les conséquences de ces regroupements et des recommandations qui en découlent. Par exemple, il est à prévoir une méconnaissance crasse des individus francophones sur la manière de bien confectionner le Momo ainsi qu’une stagnation de leur niveau de tibétain.

Le problème est qu’on ne connaît pas “à priori” ce qu’expriment les régularités que l’algorithme de recommandation va dénicher et qu’il ne nous les explique pas. On sait juste que ces regroupements expriment une régularité dans les goûts et les couleurs des usagers de la plateforme. Si un regroupement trouvé par l’algorithme signifiait par exemple que les gens qui aiment regarder des vidéos de fitness étaient bien plus sensibles que la moyenne aux vidéos “lifestyle” d’un illuminé perpignanais¹⁴ vous expliquant que se nourrir exclusivement des rayons du soleil, c’est excellent pour la santé. On serait contraints de le comprendre et de constater les conséquences dramatiques de ce regroupement à posteriori, une fois les urgences pleines d’adeptes curieusement affamés…

L’algorithme résume la table à “sa” manière (autrement appelé factorisation comme on l’a vu). Ses regroupements sont mathématiquement justes et pertinents mais il n y a aucune raison qu’ils correspondent à des catégories que nous aurions nous humains voulu utiliser (comme la catégorie “film d’action” ou bien la catégorie “documentaire”). C’est ainsi que dans l’histoire de Christiane C., on a constaté après coup que l’algorithme avait créé une catégorie qui, si on se risquait à la traduire en langage humain aurait pu porter le label : “utilisateur dont l’attention peut être retenue par le contenu à tendance pédophile”.

Les tableaux du dessus avec une telle légende, ça sent quand même pas très bon l’intérêt général. C’est pourtant ce qu’il s’est passé et continue de se passer tous les jours…

On ne comprend pas à priori les catégories créées. Il faut réaliser que cette opacité technique déjà présente dans le cas d’une technique aussi “simple” que celle qu’on vient de voir redouble d’épaisseur dès qu’on touche à des techniques comme l’apprentissage profond et les réseaux de neurones avec lesquels il est encore plus aisé de n’absolument rien comprendre du pourquoi du comment d’une décision, d’une évaluation ou d’un jugement. Il est aussi ardu de comprendre exactement comment ils fonctionnent que de constater qu’ils “fonctionnent” parfois diablement bien. La tâche de ceux qui veulent rendre ces domaines “explicables” me semble aussi immense qu’importante.¹⁵

Toutes ces opacités techniques sont autant de murs derrière lesquels peuvent se cacher les plateformes lorsque face à une commission d’enquête parlementaire, ils nous sortent, une main sur le coeur et l’autre sur la bible #US-Style, des tirades de ce style :

“On ne sait pas, on n’est pas tout à fait certains qu’en voulant extraire de l’attention, on n’est pas en train de saborder les fondements de nos sociétés démocratiques. Peut-être que oui, peut-être que non, en attendant d’être certains, laissez nous faire ce qu’on veut parce qu’économiquement, on est quand même hyper importants !” ¹⁶

Et ils ont raison, on n’en est pas certains comme nous restâmes incertains trop longtemps de la responsabilité des activités humaines dans le changement climatique ou bien de la responsabilité du tabagisme dans les cancers du poumon. Mais lorsqu’on arrive à un virage serré, on a beau être incertain de la présence d’une autre voiture arrivant en sens inverse, on n’accélère pas pour autant, surtout si on discerne un éclairage pouvant (mais toujours pas certain hein) être provoqué par une voiture.

Il est en tous les cas à craindre que plus les intérêts économiques seront stratosphériques et plus les conséquences sociétales dramatiques pourront être cachées derrière une véritable opacité technique, moins nous parviendrons à des certitudes.

Conclusion

Nous sommes donc à ce moment historique paradoxal où nous sommes à la fois conscients que le risque de chamboulements dramatiques de nos sociétés grandit, et incapables de garantir qu’une grande partie du contenu que l’humanité consomme n’est pas en train d’empirer notre situation déjà précaire. Non contents d’être incapables de promouvoir du contenu qui réduise les risques existentiels de l’humanité, nous sommes peut-être (mais attention rappel : il ne faut pas le dire parce qu’on n’est pas certains à 100%) en train de diffuser à l’échelle planétaire des vidéos, des articles et des commentaires qui précipitent encore un peu notre course vers un mur de Fermi toujours plus épais.¹⁷

Pour résoudre ce paradoxe, il nous faudrait d’abord éviter que les algorithmes de recommandation promeuvent activement des contenus qui vont évidemment à l’encontre de l’intérêt général en les encadrant pour qu’ils cessent de recommander massivement des vidéos climato-sceptiques ou scientifiquement mensongères.

Mais cette première étape nécessaire n’est même plus suffisante. On ne peut pas se contenter d’éviter de détruire le peu de conscience de l’intérêt général planétaire que nous avons. Il nous faut construire cette conscience collective de toutes pièces. Ne pas pro activement la construire, c’est choisir de ne rien changer au status quo actuel qui aggrave tous les jours le changement climatique en cours. Choisir le status quo aujourd’hui revient à opter pour un “atterrissage” plein fer sur une dalle en béton.

Si nous voulons ne serait ce que mettre un tapis de sol premier prix (et ça serait déjà pas mal) entre nous et la dalle en béton, il nous faut devenir capable de biaiser les recommandations non pas dans le sens d’une plus grande extraction de l’attention humaine mais dans le sens de la maximisation de l’intérêt général planétaire.

C’est exactement l’ADN de ce que cherche à faire le projet Tournesol dont je parle dans la suite de cette série :

Un tournesol peut-il sauver le climat ?

En attendant et sur ce tournesol, je vous souhaite

Paix et santé,

Et tant que vous êtes là ;), voici 5 manières de suivre et de soutenir le projet d’ApresLaBiere :

1) Soutenir ApresLaBiere sur Tipeee (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)

2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :

3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)

4) Liker et suivre ApresLaBiere sur facebook, twitter ou instagram

5) Penser à faire appel à Homo Conscientus (moi :)) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.

Un énorme merci à Anthony Ozier dans la conception et la relecture de cette série ! Un grand merci aussi à tous les gens qui m’ont relu et m’ont donné de précieux conseils : Gaëtan Séverac et les membres de Tournesol.app (Louis, Aidan, Adrien, Lê…)

SOURCES / LIENS / POUR ALLER PLUS LOIN :

¹ D’après les déclarations de Youtube : https://www.cnet.com/tech/services-and-software/youtube-ces-2018-neal-mohan/ ↰
² Vidéo de Lê de la chaîne Science4All “Google démantèle son éthique (et tout le monde s’en fout…)” ↰
³ Voir la définition de Wikipedia : https://en.wikipedia.org/wiki/AI_alignment ↰
⁴ Sur ces sujets, les podcasts “Your undivided attention” sont une mine quasi inépuisable, notamment celui avec Guillaume Chaslot, ancien ingénieur de l’algorithme de Youtube. ↰
⁵ Un article qui décrit à quel point les USA (et c’est de plus en plus valide pour les autres démocraties) sont malades de la polarisation (et l’article date d’avant les événements du Capitole) : A sick giant ↰
⁶ Sur le lien entre réseaux sociaux et faiblesse des régimes démocratiques dans le monde, la thèse de Barbara F. Walter dans son livre “How civil wars start” est intéressante. Elle en parle dans cet épisode de Your undivided attention. ↰
⁷ On est tombé à bras raccourcis sur Bohler pour son livre “Le Bug Humain”. Ce livre n’en reste pas moins intéressant dans le sens où il met en avant la difficulté de résoudre les enjeux écologiques qui nécessite des actions basées sur une vision collective à long terme en écoutant nos envies individuelles à court terme. ↰
⁸ Vidéo de Veritasium : “My video went viral, here’s why” ↰
⁹ Article des Facebook Files “Facebook Tried to Make Its Platform a Healthier Place. It Got Angrier Instead”. ↰
¹⁰ J’ai déjà beaucoup parlé de ces sujets, dans mes chroniques Arrêt sur Images ou bien ici-même, notamment dans cet article : “Les réseaux sociaux, poison ou médicament ?” ↰
¹¹ Attention, c’est risqué… “Very satisfying” ↰
¹² Pour cette partie, je me suis très largement inspiré de cette très bonne vidéo : “How does Netflix recommend movies Matrix factorization”↰
¹³ Si vous êtes sur Toulouse, n’hésitez pas à passer à l’Eurekafé c’est sympa, j’y suis les jeudi soirs si vous voulez discuter. ↰
¹⁴ Pour celles et ceux qui ont par la ref, je parle de ça. ↰
¹⁵ Ce champ s’appelle en anglais l’ “Explainable AI” ↰
¹⁶ Face à AOC, Zuckerberg est très incertain de tout. “On the top of his head”, il ne sait probablement pas ce qu’est Facebook. ↰
¹⁷ Voir le paradoxe de Fermi ↰

Comment fait Youtube pour nous connaître “mieux” que nous-mêmes ? was originally published in Après La Bière on Medium, where people are continuing the conversation by highlighting and responding to this story.