Groupe de travail GDR Centre Internet & Société « Surveillance et manipulation des goûts et des opinions »

« Nous allons vivre dans un monde où de plus en plus de technologies vont intercepter des signaux de ce que nous pensons avant même que nous n’ayons conscience de le penser, et nous manipuler. »[1]

Ce groupe de travail s’inscrit dans l’axe « État, citoyenneté, surveillance, profilage, censure, propagande » du CIS et se propose d’explorer plus précisément la question des relations entre Internet et manipulation des esprits dans le monde contemporain, à la fois d’un point de vue culturel et politique, c’est-à-dire dans le domaine des goûts et des opinions, car en matière de plateformes, d’utilisation des données, d’économie de l’attention et de l’émotion, ce sont les mêmes mécanismes qui sont à l’œuvre. Il s’appuie sur le travail amorcé dans le cadre d’un projet mis en place à l’Université de Caen à la rentrée 2018, PandHeMic (Propagande : héritage et mutations contemporaines), porté par les équipes de recherche ERLIS et CERREV.

Démocratisation à l’échelle mondiale, émancipation, pluralisme et diversité, transparence de l’information – les promesses de l’Internet étaient nombreuses et laissaient miroiter, comme toutes les nouvelles technologies, un avenir radieux dans un monde connecté, unifié et apaisé. Force est de constater qu’à l’euphorie des débuts a succédé la désillusion. Le déploiement de la logique publicitaire depuis une quinzaine d’années, associé au développement du web 2.0, a conduit à l’émergence de nouvelles hégémonies qui entrent en contradiction avec les idéaux fondateurs de l’Internet et expliquent en partie Le Désenchantement de l’Internet analysé récemment par Romain Badouard. Et ce désenchantement touche en particulier à la question du contrôle de l’information, de sa diffusion et de son instrumentalisation – à tel point que beaucoup considèrent aujourd’hui Internet comme un outil de manipulation à large spectre. La propagande, sans avoir jamais disparu, semble à tout le moins revenir sur le devant de la scène à la fois en termes de préoccupations politiques et de catégorie usuelle[2], mais aussi de concept analytique, comme de récents ouvrages en témoignent, de Propagande de David Colon à Hollywar de Pierre Conesa. Une chose est certaine, les pratiques actuelles d’influence, de manipulation, de surveillance et de conditionnement, se développent avec de nouveaux dispositifs techniques et dans un espace de circulation des messages en pleine mutation. Elles sont protéiformes et les frontières de plus en plus floues. Dans ce contexte, il s’avère essentiel de se pencher sur ces phénomènes contemporains, d’en analyser les permanences et les mutations, afin de mieux en comprendre les mécanismes, au-delà des affirmations péremptoires et des positions idéologiques.

Objectifs et méthode de travail

L’analyse des manipulations des goûts et des opinions représente un défi pour la recherche, que seuls une forte interdisciplinarité et des échanges nourris pourront sans doute relever. L’objectif de ce groupe de travail au sein du GDR est ainsi, entre autres, de faire dialoguer les disciplines pour permettre une approche et une compréhension globales. En effet, la question de la manipulation fait écho à de nombreux enjeux de l’Internet : big data et data mining, rôle des plateformes et des algorithmes (prescription algorithmique de masse et personnalisée, bulles de filtre, « dark patterns »), IA, censure et surveillance, évolution des libertés publiques et du droit, cybersécurité et enjeux géopolitiques (ingérences étrangères et campagnes électorales), infox, capitalisme cognitif et économie de l’attention et des émotions, marketing et publicité ciblée, bouleversement des équilibres par l’émergence d’acteurs « disruptifs », etc. Les dangers pour la diversité (des goûts et des opinions) et pour la liberté s’avèrent de plus en plus préoccupants.

L’actualité de la recherche et la bibliographie sur le sujet étant foisonnante, il s’avère utile de travailler à établir une veille scientifique afin de recenser les manifestations scientifiques et établir des contacts entre les chercheurs, et de fournir des comptes-rendus des ouvrages récents publiés sur le sujet. Chaque membre aura pour mission de rédiger au moins un compte-rendu par semestre. Ces deux activités pourront se dérouler sur le carnet de recherche ouvert depuis septembre 2018 : https://pandhemic.hypotheses.org/. Participer à l’élaboration d’un dictionnaire commun au GDR semble aussi une piste intéressante, qui découlera naturellement du travail sur l’état de l’art. On s’interrogera donc sur les frontières ténues entre les différentes notions liées à la manipulation, comme la communication, la publicité, le marketing, la désinformation, la propagande, etc. Dans le cas particulier de la propagande, qui a été au centre des discussions du séminaire de cette année, une définition trop englobante peut par exemple conduire à considérer toute tentative d’influencer l’opinion comme telle – auquel cas, la propagande se dissoudrait dans un vaste ensemble allant du mensonge et de la manipulation à la culture et l’éducation, ce qui revient à lui ôter toute spécificité. Plusieurs critères peuvent servir à l’identifier et la cerner avec plus de précision : le caractère organisé, l’intentionnalité, le caractère radical et conflictuel du discours, l’objectif de conditionnement de l’opinion et de captation (dissimulée) de l’autorité du peuple, c’est-à-dire la finalité politique et in fine anti-démocratique de la propagande. Il s’agira d’envisager ces critères plus spécifiquement dans le cadre d’Internet et de parvenir à une définition actuelle, pertinente et opérationnelle de la propagande, susceptible servir de référence pour l’ensemble du CIS. On pourra s’appuyer pour ce travail sur le Publictionnaire (dictionnaire encyclopédique et critique des publics) : http://publictionnaire.huma-num.fr/

Un séminaire est organisé à l’université de Caen depuis octobre 2018, à raison d’une séance par mois environ, afin d’explorer les différentes facettes de la propagande contemporaine et de cibler les problématiques à approfondir. À travers des exemples concrets issus de différentes aires culturelles, il s’agit de dégager et d’expliquer les évolutions, les dénominateurs communs et les divergences (spatiales, temporelles, sociales, etc.), les permanences et les mutations, les continuités et discontinuités, afin de décrypter la situation actuelle : identification des formes de propagande et des éventuels changements que les évolutions politiques, sociales et technologiques ont entraînés dans les techniques des propagandistes, et évaluation de l’influence des nouvelles technologies sur notre mode de pensée et d’analyse de l’information. Toutes les interventions sont écoutables en ligne sur le site de La Forge numérique de la MRSH de Caen : http://www.unicaen.fr/recherche/mrsh/forge/finder?populate=pandhemic.

Pistes de réglexion

Les premières interventions du cycle 2018-2019 ont permis de faire émerger des questionnements et de dégager des points de cristallisation qu’il semble intéressant d’approfondir. Le premier concerne les rapports entre manipulation et big data, c’est-à-dire l’exploitation à des fins de manipulation ciblée de la masse de données disponible grâce à l’ensemble des traces numériques collectées, stockées et organisées par les entreprises du numérique. Car comme le souligne Philippe Vion-Dury, « en décuplant la quantité et la nature des données, c’est l’essence même des méthodes qui a changé, en permettant d’étudier avec une plus grande précision des phénomènes collectifs, mais surtout individuels. […] Des statistiques de masse et probabilités grossières, on passe à un tout autre régime : individualisé, précis, invisible et omniprésent, capable de refaçonner la société »[3] – voire de (re)façonner l’homme si l’on en croit Evgeny Morozov, pour qui « les données sont un instrument de domination parce qu’une fois que nous les avons cédées, elles deviennent capables de déterminer notre avenir »[4]. C’est un véritable « écosystème de la manipulation » qui se met en place, qui touche à tous les domaines de la vie : économique, politique, culturel, etc. Le Comité des Ministres du Conseil de l’Europe a adopté récemment une déclaration on ne peut plus claire à ce sujet, alertant sur le risque que représente pour les sociétés démocratiques le fait qu’il soit possible d’employer les processus algorithmiques et le micro-ciblage pour manipuler et contrôler non seulement les choix économiques, mais aussi les comportements sociaux et politiques.[5]

Dans le cas de la propagande, l’alliance du big data et de l’automatisation de la communication en ligne par les bots et l’intelligence artificielle rend possible aujourd’hui une diffusion à la fois personnalisée et massive. Cet aspect représente une mutation majeure appelée à se développer, notamment avec la multiplication des objets connectés. L’affaire Cambridge Analytica, la campagne pour le Brexit et les activités de la Russie ont braqué les projecteurs sur l’influence de la propagande computationnelle lors des campagnes électorales[6], qui inquiète de plus en plus les gouvernements mais aussi les citoyens, et qui semble aujourd’hui faire peser une menace sérieuse sur la sphère informationnelle et l’équilibre des démocraties. Il s’avère donc essentiel de mieux la comprendre, d’en cerner les ressorts et de tenter d’en mesurer l’efficacité afin de poser clairement les enjeux, en toute lucidité mais sans non plus céder à la panique et à la paranoïa. Il s’agit donc d’éclairer ce phénomène de manipulation de façon englobante et interdisciplinaire, sans se limiter à une analyse uniquement technique ou sociologique, mais en prenant aussi en compte les aspects psychologiques, linguistiques, politiques, économiques, communicationnels, ou encore les implications juridiques et philosophiques. Voici quelques pistes et questions :

• Personnalisation des messages : quelles adaptations de la communication dans sa forme et son contenu aux différents supports, cercles de diffusion et individus ? Jusqu’où va l’individualisation du message ?

• Quelles nouvelles (ou anciennes) stratégies de communication politique s’appuient sur le big data ? Communication crossmedia, astroturfing (usage massif de faux profils pour biaiser les algorithmes des plateformes sociales), dark posts et campagnes de publicité sur plateformes.

• Viralité et contagion, nouveaux processus de propagation ? Comment sont-ils exploités par les propagandistes ? Modes de circulation des messages.

• Quelle est la place occupée par les infox (Fake news), les rumeurs et la désinformation ?

• Quels moyens techniques sont actuellement mis en œuvre, et lesquels se profilent à l’horizon ? Industrialisation de la manipulation par le recours aux trolls, aux « fermes à infox », à l’IA, etc.

• Émergence de nouveaux centres, contrôle des circuits de l’information par les « infomédiaires » (les plateformes qui font office d’intermédiaires entre l’information et l’internaute) et montée en puissance des plateformes de gestion et d’analyse des données au service des campagnes électorales (et autres).

• Quels sont les effets sur les récepteurs ? Cet aspect étant sans doute l’un des plus difficile à évaluer, mais aussi l’un des plus indispensables à étudier pour mesurer l’ampleur du risque et élaborer des réponses efficaces. Régression de la pensée critique, clivages et polarisation, post-vérité et décrédibilisation des institutions ?

• Enjeux politiques et géostratégiques : quels objectifs sont poursuivis par les propagandistes qui exploitent le big data ?

• Aspect économique : monétisation des données, coût des opérations de diffusion.

• Aspects juridiques et philosophiques : contrôle des données personnelles par l’utilisateur, respect de la vie privée – quels espaces de liberté et d’intimité à l’ère du capitalisme de surveillance ? Libre arbitre et prédictibilité

Ce qui nous conduira bien entendu à réfléchir aux tentatives de lutte contre ces phénomènes :

• Nouvelles politiques communicationnelles pour faire face aux dérives de l’opinion et des pratiques de communication, contre-discours, éducation, mutations du journalisme : réponses de la profession (chartes, conseils de déontologie, journalisme collaboratif).

• Réactions des institutions, tentatives de régulation et d’encadrement juridique, gouvernance et régulation d’Internet.

Le groupe de travail pourra servir de creuset pour rassembler les contributeurs et réfléchir à ces questions, dans la perspective d’un colloque international suivi de la publication des actes.

Au-delà, on s’interrogera aussi sur la manipulation des goûts dans la sphère de la culture. La prescription algorithmique de masse et personnalisée y joue aujourd’hui un rôle fondamental, car elle a pénétré tous les domaines de production culturelle et artistique et tous les échelons, de la création à la réception. Les modalités, implications et conséquences de ce phénomène recoupent en partie ce qui a été évoqué plus haut : rôle des plateformes comme nouveaux intermédiaires prescripteurs, personnalisation des recommandations et ciblage en fonction des profils d’utilisateurs, polarisation… ce qui conduit à une restriction des espaces de liberté et de créativité par l’orientation à la fois des goûts (enfermement algorithmique en terrain connu), des valeurs culturelles (possibilité à terme pour les utilisateurs de personnaliser les règles de modération de leurs comptes de réseaux socio-numériques) et de la production (évaluation à partir de l’analyse prédictive du succès des œuvres par les algorithmes). Se mettent en place également de nouvelles inégalités en ce qui concerne les capacités de diffusion des messages et des produits culturels selon les acteurs, selon leurs moyens financiers, leur popularité, leur connaissance des règles de diffusion et des critères des algorithmes, etc.

D’autres points mériteraient aussi une étude plus précise, tel celui du lien entre populisme et manipulation de l’opinion. Cet aspect est porteur de nombreux questionnements en lien avec le développement d’Internet et de l’immédiateté que le web 2.0 a favorisée, avec les questions de crise de la démocratie et de la représentation, avec l’imaginaire social, économique et politique, et ce à l’échelle mondiale. Un regard vers les différentes aires culturelles, des Etats-Unis à l’Europe en passant par l’Amérique du Sud, pourrait permettre de saisir les tendances communes et les spécificités de chaque situation.

Un dernier champ d’importance qu’il faudrait intégrer aux travaux est bien évidemment celui du contrôle de l’Internet par les États non démocratiques et de la manipulation de l’opinion dans des contextes dictatoriaux, autoritaires ou illibéraux. Les stratégies de la Russie et de la Chine sont en la matière des cas à étudier de près. On pourra aussi s’interroger sur l’éventuelle diffusion de ces modèles dans les États démocratiques et les risques qui en découlent.

L’ensemble de ces travaux pourra servir de base à l’élaboration d’outils d’information et de prévention, dans une perspective citoyenne de formation à l’esprit critique, en partenariat avec les acteurs de l’éducation et les associations.

Hormis les échanges déjà existants, une première réunion formelle du groupe ont eu lieu en septembre 2019, afin notamment de réfléchir à la définition d’un objet de recherche qui pourrait être commun au groupe et permettre ainsi un réel dialogue interdisciplinaire, qui évite l’écueil des discours juxtaposés sans autres liens entre eux qu’une vague thématique. Ce travail de co-construction visera à poser les bases de diverses investigations précises destinées à s’éclairer mutuellement et à appréhender les questions évoquées précédemment à propos d’un objet commun dans une démarche de compréhension globale.

Membres et collaborations

Le groupe de travail a pour vocation d’être composé d’enseignants-chercheurs de différentes disciplines (sociologie, psychologie, information-communication, civilisations et langues vivantes étrangères, linguistique, droit), mais aussi de personnes extérieures au monde de la recherche universitaire.

PandHeMic travaille depuis 2018 en partenariat avec l’association citoyenne Démosthène, dont l’un des thèmes de réflexion est « Démocratie et numérique ».

Des contacts ont été établis avec le Rectorat de l’Académie de Caen et le CLEMI : possibilité d’organiser des ateliers de formation et des échanges avec les enseignants du secondaire, afin de favoriser leur acquisition d’une culture numérique critique, et que celle-ci génère des situations d’enseignement et d’éducation à l’esprit critique via les médias numériques et leurs spécificités (notamment dans le cadre de l’EMI « éducation aux médias et à l’information », inscrite dans les programmes). Ce lien pourra aussi être l’occasion d’inviter les chercheurs travaillant sur internet et la propagande à investiguer des terrains scolaires et favoriser un processus de recherche collaborative, (qui existe déjà entre le CARDIE et les équipes ESO).

Des contacts peuvent également être envisagés avec le comité d’organisation « Forum mondial de la Paix » (chaque année à Caen, début juin). Une intégration au programme sous forme d’une conférence ou d’un atelier est possible en fonction des thèmes qui seront retenus pour les différentes éditions des années à venir.


[1] Tristan Harris, ancien ingénieur de Google, interview publiée par Le Figaro le 31/05/2018.

[2] Le mot apparaît dans le titre de plus de 300 articles de presse francophones et 1 400 articles de presse anglophones au cours des 6 derniers mois (source : Europresse). Il est souvent utilisé en relation avec la Russie, la Chine, la Birmanie, les élections américaines ou brésiliennes, Daech, mais aussi pour des articles sur l’histoire. Que la question de la propagande préoccupe de plus en plus les gouvernements est aujourd’hui patent : tentatives de divers pays de légiférer sur les infox (Fake News), mise en place par le FBI d’une page web dédiée à la « lutte contre les influences étrangères » (combating foreign influence), rapport conjoint du CAPS et de l’ISEM sur Les Manipulations de l’information : un défi pour nos démocraties (2018), les exemples de cette prise de conscience sont multiples.

[3] Philippe VION-DURY, La nouvelle servitude volontaire : enquête sur le projet politique de la Silicon Valley, FYP, 2016, p. 21.

[4] Evgeny MOROZOV, Le Mirage numérique. Pour une politique du Big Data, Les Prairies ordinaires, 2015, p. 16.

[5] Déclaration du Comité des Ministres sur les capacités de manipulation des processus algorithmiques, adoptée par le Comité des Ministres le 13 février 2019, https://search.coe.int/cm/pages/result_details.aspx?objectid=090000168092dd4c

[6] Voir les travaux actuels du « Computational Propaganda Research Project », University of Oxford.

Crédit illustration: Flèche vecteur créé par macrovector – fr.freepik.com


Vous aimerez aussi...

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search