Quand les “Technologies séductives” prennent le pouvoir et modifient opinions et comportements

Parmi les créations humaines, il y a des œuvres bonnes, des œuvres neutres et des œuvres mauvaises. Les œuvres bonnes visent au bien de celui à qui elles sont destinées et qui en a l’usage. Les œuvres neutres sont des outils qui peuvent être employés tantôt pour de bonnes fins, tantôt à des fins nuisibles. Et l’usage des œuvres mauvaises se fait au détriment de leur usager, qu’il en ait, ou non, conscience.

Lorsque les réseaux sociaux sont apparus, on a pu penser, peut-être naïvement mais avec ce fond de vertu qui est propre à l’espérance humaine, qu’elles seraient une œuvre bonne. On nous disait qu’ils permettraient aux humains de renouer entre eux de vrais liens, de multiplier les contacts fructueux et de développer leur réseau relationnel, ce qui est toujours un enrichissement. Ils devaient permettre aux amis de se retrouver et d’entretenir leur amitié, aux talents de se faire connaître, à tous de rencontrer d’autres personnes partageant leurs intérêts et leurs passions. On a vite dû admettre qu’ils étaient, au mieux, des œuvres neutres, et qu’ils servaient aussi au harcèlement le plus sauvage, au contrôle sournois de chacun et à l’arrosage publicitaire. Maintenant que les adolescents passent plus de 6h par jour en moyenne sur les réseaux sociaux et que la dimension addictive de ces derniers n’est plus un mystère, certains osent se demander s’ils ne sont pas, en réalité, une œuvre mauvaise, conçue précisément, derrière le paravent de toutes les raisons vertueuses énoncées précédemment, pour rendre leurs usagers dépendants et entraver leur liberté. Les adolescents ne sont d’ailleurs pas les seuls concernés : combien, parmi ceux qui lisent ces lignes, n’ont consulté aujourd’hui ni Facebook, ni Insta, ni Snap, Twitter ou WhatsApp ?…

Le site La Vie Moderne a traduit et publié un texte intéressant dans lequel le Dr Richard Freed, psychologue pour enfants et adolescents exerçant dans la Silicon Valley, tente d’alerter les consciences au sujet des techniques qui permettent aux programmateurs de jeux vidéos ou de plateformes et autres réseaux de rendre leurs utilisateurs dépendants. Il dénonce le détournement des découvertes de la psychologie comportementale du XXème siècle et le fait qu’elles aient été mises au service d’intérêts mercantiles : ces techniques clandestines pour réaliser des profits en manipulant les utilisateurs sont considérées par les développeurs comme un « dark design »⁽¹⁾.

Pourquoi des entreprises recourraient-elles à de telles stratégies ? Comme le dit Bill Davidow dans un article de « The Atlantic » : rares sont les secteurs industriels sans foi ni loi comme la Silicon Valley. Les grandes entreprises de réseaux sociaux ou de jeux vidéo se croient dans l’obligation de déployer de telles technologies dans ce qui constitue une course aux armements pour capter l’attention, réaliser des profits et tout simplement survivre. Le bien-être des enfants n’est guère pris en compte dans leurs calculs et dans leurs décisions.

Idriss Aberkane rappelle dans ses stimulantes conférences que l’industrie de la connaissance s’appuie sur deux données centrales : le temps et l’attention. Pour apprendre quoi que ce soit, il faut y consacrer de l’attention et du temps. Or ce sont les deux denrées dévorées par les réseaux sociaux, qui non seulement absorbent notre temps d’activité utile, mais qui captent aussi d’une terrifiante manière notre attention. Et c’est ce point que développe particulièrement l’article de Richard Freed.  Pour capter l’attention, les développeurs de réseaux sociaux ou de jeux utilisent des techniques de séduction psychologique, dont le mécanisme est parfaitement connu des psychologues. Mais c’est un dévoiement d’une science qui avait pour fonction originellement d’aider les gens à mieux vivre et de soigner certains troubles, non de manipuler les humains à grande échelle.

Les technologies séductives fonctionnent en déclenchant la libération de dopamine, un puissant neurotransmetteur impliqué dans les circuits de la récompense, de l’attention et de la dépendance. L’objectif serait même de modifier le comportement humain, par ce jeu sur la récompense et la captation de l’attention, qui est redirigée : Ramsay Brown, le fondateur de Dopamine Labs, a récemment déclaré : « Nous avons aujourd’hui développé une rigoureuse technologie de l’esprit humain, ce qui est à la fois passionnant et terrifiant. Les machines apprennent de façon autonome et nous avons la possibilité d’actionner les boutons de leur tableau de bord encore en construction. Dans le monde entier, des centaines de milliers de personnes vont, sans s’en rendre compte, changer de comportement d’une façon qui semblera, en apparence, toute naturelle mais sera parfaitement conforme à un programme. »

Comme souvent, l’un des fondateurs du programme, le psychologue B.J. Fogg, commence à appeler à la prudence face au monstre auquel il a donné vie. C’est lui qui a ouvert en 1998, sur le campus de Stanford University à Palo Alto, en Californie, le Stanford Persuasive Technology Lab, fondé en 1998. Il est le père des “technologies séductives”, un nouveau champ de connaissances [parfois appelé captologie en français] dans lequel les appareils et applications numériques – y compris les smartphones, les réseaux sociaux et les jeux vidéo – sont paramétrés pour modifier les pensées et les comportements humains. Le site du laboratoire le proclame non sans fierté : « Des machines conçues pour changer les humains. » Fogg ne se cache pas de pouvoir, grâce aux smartphones et autres objets numériques, changer nos pensées ou nos actes : « Nous pouvons maintenant concevoir des machines à même de modifier ce que les gens pensent ou font, et ces machines peuvent même agir en toute autonomie. »

Depuis sa création, le champ de recherche des technologies séductives s’est développé dans un vide moral” et “le danger potentiel des usages du persuasive design est connu depuis longtemps. Fogg le disait lui-même dès 1999 : « Les algorithmes captieux peuvent également être utilisés à des fins destructrices ; ce pouvoir de changer les attitudes et les comportements, dans sa part obscure, conduit tout droit à la manipulation et à la coercition. » Dans « The Economist », Fogg aurait déclaré en 2016 : « Je vois ce que font certains de mes anciens étudiants et je me demande s’ils essaient vraiment de rendre le monde meilleur ou de gagner de l’argent. » On peut légitimement s’interroger, effectivement…

Gauvin BURISS

⁽¹⁾ Les citations en italiques proviennent de l’article de la Vie Moderne : Les nouvelles technologies en guerre contre nos enfants, La Vie Moderne