Les algorithmes de recommandation : biais cognitifs de l’humanité ?
Pour celles et ceux qui aiment quand ça bouge, ça chante et ça s’agite, la version vidéo et la version podcast.
Plus les nouvelles potentiellement dramatiques s’accumulent et plus nous nous sentons impuissants et démunis. Par où nous faudrait-il prendre cette pelote de problématiques indémêlables si nous voulions maximiser nos chances de nous en sortir ? Les algorithmes de recommandation de contenu sont un des bouts sur lequel nous ferions bien de nous pencher. Ils constituent notre système nerveux collectif et si nous voulons être capables de nous adapter à des conditions environnementales mouvantes, il nous faut développer un système nerveux efficace !
I) Notre société est vyvante et l’information est la monnaie du vivant
La société terrienne globalisée¹ est ce que certains appellent un “système complexe adaptatif” : expression quelque peu barbare composée de deux parties distinctes qui décrit un concept finalement assez simple.
Tout d’abord un système “complexe” est un système constitué d’une multitude d’éléments en interaction les uns avec les autres. De ces interactions émergent des propriétés qui n’existent qu’au niveau du système. Un système complexe, ça peut être quelque chose d’aussi “simple” qu’un tas de sable. Un grain de sable seul ne peut pas créer d’avalanches, alors que le système composé de tous les grains de sable sur lequel on ajoute itérativement des grains de sable le peut. L’avalanche sera ce qu’on appelle une propriété émergente de ce système.
Ensuite on peut dire que ce système est “adaptatif” lorsqu’il est également capable de s’adapter à son environnement par des expériences d’apprentissage. Le phénomène émergeant “banc de poisson nageant de manière coordonnée” émerge de l’interaction entre poissons. Ces bancs de poissons savent s’adapter à un danger environnemental soudain grâce à des règles individuelles simples qui garantissent la plus grande probabilité de survie à chaque individu lors d’attaques de requins :
C’est en ce sens qu’on peut dire qu’un banc de poissons est un système complexe adaptatif, tout comme un nuage d’oiseaux, un marché (qu’il soit villageois ou financier), le climat et la société terrienne globalisée.
Certains poussent même le bouchon jusqu’à dire que cette société humaine est non seulement un système complexe adaptif mais un être vivant à part entière (vyvant² plus exactement), être vivant dont nous ne serions finalement que les cellules.
En gardant cette perspective, il n’y aurait pas besoin de passer cet organisme vivant à l’IRM pour lui diagnostiquer des symptômes gravissimes mettant rudement à l’épreuve sa capacité à se maintenir en vye : changement climatique, chute de la biodiversité, tensions géopolitiques croissantes, amenuisement des ressources, polarisation politique, etc.
Comme le disait Donella Meadows en 1999 dans son article “Points de levier : Les lieux d’intervention dans un système”³, parmi les 12 “leviers” que nous avons pour influer sur la direction d’un système complexe il y a la maîtrise de ses flux d’informations (levier 6) :
“Levier 6 : La structure des flux d’information (qui a et n’a pas accès à l’information).
L’absence de retour d’information est l’une des causes les plus courantes de dysfonctionnement des systèmes. L’ajout ou la restauration d’informations peut constituer une intervention puissante, généralement beaucoup plus facile et moins coûteuse que la reconstruction d’une infrastructure physique. La tragédie des communs qui fait s’effondrer les pêcheries commerciales du monde entier est due à l’absence de rétroaction de l’état de la population de poissons sur la décision d’investir dans des navires de pêche. (Contrairement à l’opinion économique, le prix du poisson ne fournit pas cette rétroaction. Au fur et à mesure que le poisson devient plus rare et donc plus cher, il devient d’autant plus rentable d’aller le pêcher. C’est une rétroaction perverse, une boucle positive qui mène à l’effondrement.)” — home made (deepl) traduction
Lorsqu’on observe la situation actuelle et qu’on lit l’essai de Donella Meadows, on peut même penser qu’elle avait sous-estimé la puissance du levier informationnel. En effet, tous les autres leviers plus efficaces selon elle sont aussi des flux d’informations : règles du système, objectifs du système, paradigmes du système.
D’ailleurs si on en croit la théorie du neuroscientifique Karl Friston : tout n’est finalement qu’information⁴. Ce qu’on appelle la “vie” ne serait que la capacité d’un organisme à “minimiser la surprise” grâce à l’information qu’il collecte. En “minimisant cette surprise” ou bien en essayant de “prédire l’avenir”, l’organisme peut développer des stratégies qui lui permettent de repousser (temporairement seulement) l’entropie⁵ qui lui intime de se laisser aller à la désorganisation de “sa” matière. Qu’est ce que la “mort” pour un organisme vivant si ce n’est la désorganisation ultime et irréversible de sa matière ?
La vye n’est finalement qu’une lutte épique et magnifique contre un vainqueur connu d’avance : l’entropie.
C’est parce que l’écureuil a un modèle du monde qui lui permet de prédire que l’hiver va arriver qu’il se met à accumuler de l’énergie sous forme de caches de noisettes un peu partout dans la forêt. En prédisant l’avenir (l’arrivée de la saison hivernale), il minimise la surprise du monde et parvient à y survivre.
Christoph Adami dit finalement la même chose lorsqu’il nous intime de “penser à l’évolution comme à un processus où l’information circule de l’environnement vers le génome.”
Au cours de l’évolution, la sélection naturelle a favorisé les individus porteurs d’un génome (puis d’une culture⁶) contenant des informations qui se sont avérées améliorer leurs chances de survie et de reproduction. Si on applique le même raisonnement au niveau d’émergence supérieur, celui de l’organisme vyvant⁷ “société terrienne globalisée qui aura su s’adapter aux changement environnementaux à venir”, on pourra alors “penser l’évolution comme un processus où l’information aura circulé de l’environnement vers les institutions de cette société terrienne globalisée.”
Aujourd’hui, face aux symptômes de plus en plus graves qui affectent l’organisme dont nous faisons partie, que faire sinon réfléchir à la meilleure manière de minimiser la “surprise” des prochaines décennies ? Peut-être deviendrons-nous ainsi capables de continuer à repousser, un temps encore, l’épée de damoclès entropique que constitue l’effondrement de notre société ? Pour cela, il nous faut réfléchir à la meilleure façon d’organiser les flux d’informations à l’intérieur de notre organisme collectif afin d’augmenter notre capacité à minimiser la surprise à laquelle nous allons faire face.
II) Qu’est ce qui constitue le système nerveux informationnel de notre organisme vyvant actuel ?
Dans le cas d’un être humain, ce sont nos sens qui permettent de collecter l’information. Notre système nerveux l’achemine ensuite jusqu’à notre cerveau qui se charge de lui donner du sens et de l’interpréter. Cette compréhension du monde peut ensuite générer une action visant à nous maintenir en vie.
L’analogie que je vais faire dans les prochaines lignes bien qu’imparfaite éclaire davantage qu’elle n’obscurcit. Dans le cas de la société terrienne globalisée, tous les individus collectent de l’information en permanence. Le système nerveux par lequel cette information circule est composé du système informationnel moderne (internet en général et plus particulièrement ses caisses de résonance : les réseaux sociaux) et notre cerveau décentralisé est constitué des nombreuses institutions ayant du pouvoir sur les affaires du monde (les états puissants, les institutions mondiales, les grandes entreprises privées…)⁸.
Bien évidemment, comme le dit Donella Meadows, la manière la plus efficace de vraiment changer la direction du système, c’est de modifier (ou même de dépasser) les paradigmes au travers desquels nous comprenons et agissons sur le monde. Qui sait effectivement ce que la sortie du paradigme du capitalisme dérégulé pourrait permettre ?
Seulement pour sortir du paradigme actuel, il faudrait déjà réaliser à quel point celui-ci nous amène dans le mur. Il nous faudrait avoir un système nerveux efficace qui rendrait vraiment compte de la gravité de la situation et où l’information qui circule serait “juste”. Une information juste est une information qui à la fois nous permettrait de prédire avec le plus de fiabilité possible les avenirs probables et maximiserait notre capacité à agir en fonction de ces prédictions. Il faudrait par exemple que les signaux causés par la science et l’observation climatiques actuelles (à tout hasard) nous permettent de prédire les conséquences sociétales du changement climatique et engendrent une réaction à la hauteur du danger que ces conséquences probables représentent.
Vu sous cet angle, il devient évident que la maîtrise des flux d’information est encore plus centrale que ce que laissait penser Donella meadows. Est-ce que changer la façon dont l’information s’échange et se diffuse n’est pas une étape préalable, nécessaire et incontournable au changement de paradigme politique ?
Or dans le système actuel, notre système nerveux informationnel est principalement constitué par le réseau internet, lui-même structuré par les grandes plateformes (GAFAMs) qui y ont un rôle plus que prépondérant⁹ :
III) Comment et au nom de quoi cette information circule t-elle aujourd’hui ?
Or ce qui structure notre système nerveux informationnel actuel, c’est le paradigme du capitalisme attentionnel¹⁰. Ce qui fait battre le cœur de nos réseaux informationnels et donc de la société toute entière, c’est cette fameuse économie de l’attention cyniquement et admirablement définie par le patron de TF1 il y a de ça quasiment 20 ans :
“Ce que nous vendons à Coca-cola, ce sont des secondes de cerveau humain disponible” (Patrick Le Lay directeur de TF1, 2004)
A l’aide des connaissances scientifiques actuelles sur le fonctionnement des humains et en cherchant à tout prix à extraire de l’attention humaine, ce capitalisme addictif débridé génère ce que Tristan Harris¹¹ appelle une “race to the bottom of the brain stem” qu’on pourrait traduire par “une course à nos plus bas instincts”.
Or si nous voulons augmenter nos chances de survie collective, il faut adresser ce problème crucial de la manière dont notre système informationnel fonctionne. L’information doit se diffuser au nom d’autre chose que sa capacité à extraire notre attention à l’insu de notre plein gré. Arrêtons de penser que laisser le contrôle du système informationnel à des entreprises qui hackent notre libre arbitre pour en tirer de l’attention monnayable est une opération qui peut bien se terminer.
IV) “Ouiii mais on est bien libre de cliquer ou non ? Et le libre arbitre là-dedans ?”
Forcément, nous avons individuellement des réactions fortes à ce genre de visions très (trop ?) globales et systémiques du fonctionnement du monde car elles sous-tendent que nous ne serions qu’un élément insignifiant de ce système. Ces visions du monde où l’individu ne serait rien d’autre qu’une marionnette prévisible et manipulée par des forces qui le dépassent ont tendance à nous révolter.
Sans revenir sur la différence entre prévisible et déterminé, l’important est de réaliser à quel point nous sommes “contraints”, que ce soit par l’environnement récent qui nous a vu grandir ou par les environnements de nos ancêtres qui ont forgé les gènes et les cultures dont nous avons hérité et dont il est parfois difficile de s’émanciper. Ce jeu de contraintes laisse en tout état de cause beaucoup moins d’espace qu’on aime à le penser au sacro saint “libre arbitre”¹².
En tous les cas, lorsqu’on regarde l’évolution de notre consommation de contenus digitaux ces dernières années, on est en droit de questionner la place et la puissance du libre arbitre dans l’évolution de notre consommation digitale¹³ :
Si on avait posé la question à un américain il y a 10 ans : si vous aviez trois heures de vie supplémentaire tous les jours, que voudriez-vous en faire ? Il aurait été très étonnant qu’il réponde :
Or, c’est exactement et très concrètement ce qu’il s’est passé. C’est en ce sens qu’on peut soupçonner qu’il ne s’agit pas d’un choix individuel, réfléchi et conscient mais plutôt d’une tendance sociétale qui nous emporte tous et qui n’a que faire de notre soi-disant libre arbitre individuel. Soyons honnêtes avec l’enfant que nous fûmes : ce n’était pas dans son projet de vie de passer, une fois adulte, 6 heures par jour à être abreuvé de contenus plus ou moins enrichissants sournoisement recommandés par des algorithmes…
V) Notre système informationnel est-il vraiment adapté aux enjeux actuels ?
Nous constatons aujourd’hui tout un tas de phénomènes extrêmement préoccupants : bulles idéologiques, paniques morales, sur exposition de certains phénomènes, sous exposition de beaucoup d’autres, polarisation et hystérisation du débat public, disparition de la nuance dans les contenus les plus diffusés, etc ¹⁴.
Par exemple, nous avons maintenant des personnalités politiques qui malgré une position critique vis-à-vis du capitalisme se complaisent pourtant dans les logiques de sa branche attentionnelle au dépend de la vérité dans le débat public :
Nous sommes aujourd’hui malades d’avoir des conseillers de personnages politiques qui résument eux-mêmes leur stratégie “attentionnellement efficace” avec la formule suivante “un déplacement, une polémique” ! #ViveLaDémocratie
Ce phénomène est un symptôme parmi tant d’autres d’un système nerveux informationnel à l’agonie. Comme le disait déjà Greta Thunberg en 2019 dans le tedX¹⁶ qui devait la rendre célèbre :
Et elle a raison, nous sommes malades de ne pas parler quasi exclusivement du bouleversement climatique et biologique¹⁷ de notre planète. Du point de vue de notre survie collective, il est aussi anormal qu’on ne parle pas en permanence du changement climatique qu’il est anormal qu’on parle à l’envi de la préparation de la coupe du monde de foot 2022 où on a pourtant tiré le fil de l’indécence sur tout le cycle de vie de l’événement : des esclaves qui sont morts en construisant les stades, aux jets privé qui transporteront les joueurs richissimes aux frigos géant à ciel ouvert que sont les stades climatisés du Qatar.
Focaliser autant d’énergie, d’attention et d’information¹⁸ à un tel événement, c’est la définition même d’une crise d’épilepsie et ces crises d’épilepsie-là touchent notre système nerveux global. L’épilepsie est une maladie du système nerveux où les neurones produisent soudainement une décharge électrique anormale dans certaines zones cérébrales.
Or une des causes de ces décharges électriques inutiles (inutiles du point de vue de la survie collective), ce sont les algorithmes de recommandation. L’humanité regardait en 2017 un milliard d’heures de Youtube tous les jours. 70% de ce temps de visionnage venant de vidéos recommandées par la plateforme¹⁹.
Youtube décide, au travers de son algorithme de recommandation, de ce que l’humanité regarde 700 millions d’heures par jour.
Et si les plateformes sont obligées de recommander du contenu c’est car nous aurions sinon tout le mal du monde à nous orienter dans cette jungle informationnelle. Les algorithmes de recommandation filtrent l’information qui sinon nous submergerait. De la même manière, certains biais cognitifs ont cet objectif d’opérer un filtre entre l’individu et toute l’information qui l’entoure afin de mettre en avant l’information pertinente du point de vue de sa survie. C’est ainsi qu’un bruit inhabituel et puissant derrière soi prendra soudainement plus d’importance qu’une tâche essentielle mais non urgente dans laquelle nous étions plongées et il prendra à fortiori plus d’importance qu’un magnifique champ de marguerites que nous étions en train d’admirer.
Les algorithmes de recommandation étant à l’humanité ce que les biais cognitifs sont aux humains, le problème est qu’ils cachent aujourd’hui à l’individu “société humaine” les dizaines de tigres à dents de sabre qui l’entourent et l’entretiennent dans l’illusion qu’il évolue dans un magnifique champ de marguerites.
Et il est tout à fait logique que les algorithmes nous entretiennent dans une telle illusion, ils sont conçus pour ça. Les algorithmes de recommandation qui émergent de notre système politique actuel ont tout intérêt à nous pousser toujours plus profondément dans les bras de nos bas instincts individuels car c’est ce qui est “attentionnellement efficace”. Les mauvaises nouvelles, même vraies et pertinentes créent des naufrages attentionnels. Il n’est pas étonnant que les algorithmes ne recommandent et ne diffusent pas massivement les contenus qui nous permettraient de prédire au mieux les conséquences du changement climatique et qui encourageraient les actions minimisant les conséquences dramatiques de celui-ci. S’ils ne le font pas, c’est simplement car cela irait à l’encontre du capitalisme attentionnel qui leur a donné naissance.
Mais imaginons que nous soyons dans un système politique qui nous permette à l’échelle globale de recommander du contenu selon d’autres critères que ceux qui génèrent le maximum d’attention et donc d’argent, quels seraient ces critères ? Comment intégrer ces critères à un système de recommandation de contenu ? Comment choisir démocratiquement des critères qui optimisent le fonctionnement du système nerveux mondial ? Comment les évaluer ?
Ces questions sont pertinentes avant même qu’un système politique qui permette aux réponses de se développer largement n’advienne, car y apporter des réponses concrètes et crédibles, c’est déjà donner de la crédibilité à une alternative à la version actuelle du capitalisme attentionnel.
VI) Maintenant, que faire ?
Et bien, c’est l’objet des deux prochains articles où j’essaierai de répondre à deux grandes questions :
- Comment fonctionnent techniquement les algorithmes de recommandation issus du paradigme politique actuel et pourquoi ce fonctionnement est sociétalement dangereux ?
- Comment pourraient fonctionner des algorithmes de recommandation issus d’un autre paradigme politique et davantage adaptés aux situations que nous nous apprêtons à traverser ?
En attendant, je vous souhaite
Paix et santé,
Et tant que vous êtes là ;), voici 5 manières de suivre et de soutenir le projet d’ApresLaBiere :
1) Soutenir ApresLaBiere sur Tipeee (occasionnellement parce que cet article était génial ou régulièrement pour l’ “ensemble de l’oeuvre”)
2) Vous abonner à la “gazette” sans oublier d’ajouter jeanlou(at)apreslabiere.fr à vos emails favoris :
3) Applaudir (en cliquant longtemps sur les petites mains) et commenter ici, directement sur ApresLaBiere.fr :)
4) Liker et suivre ApresLaBiere sur facebook, twitter ou instagram
5) Penser à faire appel à Homo Conscientus (moi :)) pour des conférences, des formations ou des ateliers sur le sujet dans votre organisation ou école.
Un énorme merci à Anthony Ozier dans la conception et la relecture de cette série ! Un grand merci aussi à Alain Le Noac’h, Lê Nguyên Hoang et Lil Rimsa pour leur relecture.
SOURCES / LIENS / POUR ALLER PLUS LOIN :
¹ On peut évidemment intégrer tous les organismes vivants dans ce système complexe ↰
² Vyvant fait référence au concept de “lyfe” de Stuart Bartlett qui “est un essai de définition de ce que pourrait être la vie en général, au-delà des définitions restrictives de la vie sur Terre.”. J’en ai plus longuement parlé dans cet article et Science étonnante a fait une super vidéo sur le sujet. ↰
³ Article “Leverage points : places to intervene in a system” de Donella Meadows ↰
⁴ Article Wikipedia consacré au principe d’énergie libre de Karl Friston. Courte vidéo de vulgarisation du concept par Friston himself. A NE SURTOUT PAS confondre avec toutes les théories fumeuses porteuses du même nom qui font la promotion d’un pseudo mouvement perpétuel et qui n’ont strictement rien à voir. ↰
⁵ Concept de néguentropie cher à Bernard Stiegler et Michel Serres ↰
⁶ Voir le livre “The secret of our success” de Joseph Henrich sur l’évolution culturelle ↰
⁷ On pourrait continuer les néologismes et appeler “organysme” un organisme vyvant ↰
⁸ Entre l’entité individuelle et l’entité globalisée, il y a différents niveaux d’émergence qui s’imbriquent les uns dans les autres dans une fractale complexe. Par exemple : individu -> famille -> village -> région -> nation -> continent. C’est cette fractale d’imbrication qui rend notre monde si complexe. ↰
⁹ Quelques articles instructifs sur cette prépondérance des GAFAMs dans la consommation mondiale d’informations. Article “News consumption across social media”. Rapport “Digital news report 2021”. Notamment ce chapitre. ↰
¹⁰ Ou bien le “capitalisme addictif” comme l’appelle le sociologue Patrick Pharo ↰
¹¹ Tristan Harris est l’un des premiers lanceurs d’alerte sur le sujet de l’économie de l’attention. Co-fondateur du site humanetech.com et du podcast “your undivided attention”. A l’origine du documentaire “Derrière nos écrans de fumée” ↰
¹² Un tedx que j’ai fait il y a quelques années où ma foi dans la toute puissance de notre libre arbitre rayonne. Foi qui rayonne également dans cette série d’articles ↰
¹³ Voir l’entrée “internet” du très pédagogique et sérieux “OurWorldInData.org” ↰
¹⁴ J’ai déjà écrit en long, en large et en travers sur ces sujets. Dans mes chroniques Arrêt sur Images ou bien ici-même ↰
¹⁵ Article “Election présidentielle 2022 : le grand poker menteur de la gauche” sur lemonde.fr ↰
¹⁶ TedxStockholm de Greta Thungberg en Août 2018 : “Un appel désarmant à agir maintenant contre le changement climatique” ↰
¹⁷ On ne le rappellera jamais assez : “ClimateIsWWIII”↰
¹⁸ D’autant plus que l’immense majorité de l’information sur la coupe du monde 2022 n’est pas et ne sera pas critique ↰
¹⁹ Chiffre annoncé avec fierté par Youtube en 2017 sur son blog. Article “The toxic potential of youtubes feedback loop” pour les recommandations ↰
