Les dangers du capitalisme de surveillance.
Elon Musk a donc racheté Twitter à prix d’or avec pour idée de "libérer l’oiseau bleu", de rétablir une sorte de liberté totale de parole sans censure. Fiasco économique ou non, on ne le sait pas encore, mais cet événement illustre les questions qui se posent autour des réseaux sociaux, de nos données et de notre liberté de penser et d’agir par nous-même.
Depuis une quinzaine d’années Facebook, Instagram, Tik Tok et autres ont profondément modifié notre rapport au temps, aux autres, mais ont surtout donné un pouvoir considérable à ceux qui possèdent ces plateformes et savent les utiliser. La technologie, les algorithmes et les modèles d'affaires structurent désormais la vie de nos sociétés, nous sommes à l’ère de la manipulation de masse et de la surveillance généralisée, et les dérives sont inquiétantes.
On en parle avec Olivier Tesquet, journaliste et auteur, spécialiste de ces sujets.
ITW enregistrée le 17 novembre 2022
De quoi parle-t-on ?
2:30 - Qui est Olivier Tesquet ?
Il a grandi avec les outils du numérique comme toute sa génération. Au début, il avait une approche d’usager.
Quand il est devenu journaliste, il s’est intéressé à la géopolitique d’internet. Il a intégré la rédaction d’un média qui s’appelle OWNI. Il s’est intéressé au rapport de force sur internet. C’était le moment, en 2010, où l’on croyait au pouvoir libérateur. On parlait de social network et non social média.
Lors de l’explosion des Social Media, il s’intéresse aux effets indésirables.
7:10 - Pourquoi le fait qu’Elon Musk ait racheté Twitter fait autant couler d'encre ?
Il y a déjà la personnalité d’Elon Musk, de plus, il s’agit de l’Homme le plus riche de la planète et sa manière de s’exprimer qui se rapproche du style de Trump.
Ensuite, on retrouve un aspect capitalistique important. Même si c’est l’homme le plus riche de la planète, racheter Twitter lui a coûté beaucoup d’argent
Twitter est un grand village globalisé. C’est le lieu de la conversation public
On a un effet de loupe. Les médias qui utilisent tout le temps Twitter ont surinvesti le sujet par rapport aux personnes qu’on croise dans la rue pour qui ce n’est pas un sujet majeur
Quand Elon Musk est arrivé, symboliquement, Twitter est devenu le lieu de la liberté d’expression. Pour tout un tas de factions politiques qui ne sont pas d’accord entre elles, c’est un champ de bataille culturelle comme par exemple les wokes face aux anti wokes.
L’arrière banc de la droite radicale aux Etats-Unis ou ailleurs dans le monde s’est réjoui de l’arrivée de Musk.
Elon Musk met dos à dos l’extrême droite et l’extrême gauche. Or parfois il est compliqué de tenir cette position. Par exemple, quand il s’agit des racistes et des antiracistes, tu renvoies les coupables et les victimes chacun dans leur camp. Dans cette conception de la liberté d’expression, c’est celui qui parle le plus fort qui s’impose
Twitter doit se conformer aux réglementations européennes mais ça reste une plateforme de philosophie américaine. Il y a l’idée que sur Twitter, on est sous le régime du premier amendement de la Constitution Américaine qui sanctuarise la liberté d’expression où il n’est pas interdit de tenir des discours de haine contrairement à la France. Ce qui suscite un certain nombre de craintes en Europe.
L’habitabilité de Twitter est mise en jeu avec cette conception de la liberté d’expression
14:30 - La différence du concept de liberté d’expression entre les Etats-Unis et l’Europe
Eugen Rochko, créateur de Mastodon, explique que le droit allemand est beaucoup plus attaché à la dignité humaine
En Europe, tous les discours ne se valent pas. I
Il y a des propos illégaux. Aux Etats-Unis, on n’a pas le droit de menacer. Il y a aussi une zone de flou, tout ce qui doit être jugé dans la 17e chambre du droit de la presse comme la calomnie ou la diffamation. Sauf que ces dernières années, il y a une volonté de la part des Etats de déléguer aux plateformes de trancher ce qui est illégal ou ce qui ne l’est pas. Dans la délégation aux plateformes, il y a une volonté des politiques de leur demander de prendre des décisions rapidement qui étaient auparavant prises devant des juridictions après plusieurs mois.
21:00 - L’ère de la post vérité
Il y a une problématique qui est liée à l’architecture même des médias sociaux et de ces plateformes. Il y a une confusion entre la liberté d’expression et le droit d’être entendu. Les plateformes dans leur conception nous ont fait croire qu’on a tous une légitimité à prendre la parole et à être entendu. Il y a une compétition acharnée sur la vérité. Sur Twitter, quatre points de vue complètement opposés se valent. Il faut réinjecter une forme de pyramide des valeurs et de légitimité pour expliquer qu’un discours est plus crédible que celui d’un autre. La vérité ce n’est pas que blanc et noir mais blanc ou noir et parfois avec des nuances de gris
Nous sommes dans l’époque du fact-checking. Il y a une compétition dans ce domaine. Les journalistes ont pris à leur charge le fact checking mais ils sont en compétition avec des partis politiques (en France, le Rassemblement National prétend faire du fact-checking des fact-checkeurs) et des États (la Russie qui fait du fact-checking des journalistes).
La difficulté c’est que le fact-checking ne fait que renforcer les biais des uns et des autres, et va radicaliser des gens qui n’ont pas envie d’y croire. Il y a également une grosse méfiance vis-à-vis des médias (pour tout un tas de raison comme la concentration des médias) alors que c’était auparavant le rôle des journalistes
D’après Olivier Tesquet, la binarisation du discours et l’architecture des réseaux c’est la question de l’oeuf ou la poule.
Le modèle des réseaux offre une prime à la polarisation et non à des discours de polarisation. Sur Twitter, il y a un mode de classement chronologique (voir les tweets les uns après les autres) et un mode algorithmique (voir les tweets les plus polarisants). Dans le deuxième mode, on retrouve des effets de bulle de filtre, de radicalisation.
La difficulté c’est que c’est consubstantiel de l’organisation des plateformes. Les réseaux sociaux gagnent de l’argent avec ce modèle attentionnel parce qu’il s’agit de régie publicitaire. L'expression de Patrick Le Lay "le temps de cerveau disponible" peut être dupliquer pour Facebook, Google et Twitter. Plus de 90% des revenus ont pour origine la publicité.
Tout cela crée une boucle de rétroaction particulièrement vicieuse qui s’accélère et nous oriente vers un horizon pas très accueillant comme Hanouna et Twitter.
31:10 - La perte de contrôle
Il faut mesurer le chemin parcouru quand Joe Biden ou d’autres expliquent qu’il existe un danger civilisationnel auquel on ferait face avec les outils du numérique. C’est assez paradoxal parce que les Etats-Unis ont utilisé les réseaux sociaux pour encourager des mouvements révolutionnaires. Il y avait l’idée que les réseaux sociaux allaient permettre une dissémination des idéaux démocratiques américains. Une doctrine pensée par des gens qui faisaient des aller retour entre Google et le public. Cette explication de Biden est une illustration de la perte de contrôle.
La perte de contrôle ne s’accompagne pas d’une perte de contrôle économique. En effet, les réseaux sociaux qu’on utilise tous les jours sont en écrasante majorité américain.
Cela commence à changer un peu, on pense bien sûr à la Chine avec TikTok. Il y a aussi des velléités à filtrer l’information qui rentre de la part de l’Iran ou de la Russie. On a des états qui créent leurs propres espaces informationnels. On se retrouve avec une fracturation et un monde multipolaire. Certains parlent de splinter net.
35:00 - En quoi le fonctionnement des réseaux sociaux est un danger pour la démocratie ?
Il n’y aurait probablement pas eu de stratégies de désinformation de la part de la Russie (ils ne sont pas les seuls à le faire mais sont meilleurs que les européens) si on ne leur avait pas offert les outils sur un plateau que sont les réseaux sociaux.
Cela rend possible les ingérences extérieures. Le patron de Wagner a pu perturbé le processus électoral américain en 2016 grâce aux réseaux sociaux.
37:50 - C’est quoi le capitalisme de surveillance ?
Un concept pour comprendre l’environnement numérique dans lequel on vit
Un concept popularisé par Shoshana Zuboff grâce à son livre, L’Age du capitalisme de surveillance. L’autrice n’est pas du tout une révolutionnaire mais professeur honoraire à la Business School d’Harvard. D’ailleurs dans son propos préliminaire, elle explique avoir écrit ce livre parce que pendant longtemps elle a estimé qu’elle était le problème que la solution parce qu’elle formait des élèves qui allaient peut être devenir des capitalistes de surveillance.
Notre surplus cognitif et notre attention vont être exploiter à essaim de financiarisation et notamment par les grandes plateformes
Ce concept permet de comprendre la circulation de l'information et aussi le fait que l’environnement numérique peut nous faire dériver le technofascisme.
Cette notion de capitalisme de surveillance est utile, même s'il a des défauts et imparfaites à certains égards, permet de comprendre un certain nombre de choses sur un spectre assez large.
Le 11 septembre 2001 est le point de départ de tout un tas de texte d’exception et de pouvoir renforcé. 2001 est aussi l’année où beaucoup de plateformes trouvent un modèles économique. Google comprend qu’être une régie publicitaire c’est rentable contrairement à rester juste un moteur de recherche. Cela permet de ranger les gens dans des cases pour leur vendre des produits ou des idées.
Les planètes s’alignent. Les autorités américaines vont s’appuyer sur ces entreprises là pour collecter le plus d’informations possibles sur les individus pour prédire leurs comportements. On retrouve cela dans les révélations de Snowden en 2013. L’Etat américain adopte les outils, les idéologies et la philosophie politique de ces entreprises. Pour les idéologues de la Silicon Valley, c’est une véritable OPA libertarienne sur l’Etat. Les employés font des aller retour entre le privé et le public. On observe, qu’en France, nous ne sommes pas à l’abri de cela Il y a une volonté d’affaiblir l’Etat. Dans ces entreprises, les patrons de plateforme se revendiquent de la pensée libertarienne consistant à penser que l’Etat doit posséder un rôle minime et ne pas s’occuper des affaires des uns et des autres.
On retrouve alors le concept d’Umberto Eco, une confusion structurée, parce que ces entreprises organisent la surveillance tout en se plaignant de la surveillance. Auparavant, le régalien était la prérogative de l’Etat et désormais depuis les années Trump il y a un mouvement de fond pour les entreprises qui s’en occupent. Pour illustrer, on peut citer le milliardaire Peter Thiel, principal financeur de la vie politique américaine. Il a un projet avec Palentir de se substituer au service de renseignement de l’Etat. Sauf que là ce ne sera pas pour le bien public que l’entreprise va agir contrairement à l’Etat et la police, mais en étant conforme aux idéaux de son fondateur ou de son propriétaire.
Il y a une mainmise du privé sur l’Etat
52:00 - Le risque de dérive fasciste
Le technofascisme pourra se manifester de plein de manière différente
Plus qu’un Etat très fort qui vient dans l’intimité de chaque personne, le péril c’est plutôt pour Olivier Tesquet un état complètement dévitalisé, affaibli avec des entreprises privées qui dans plein d’aspects n’ont jamais eu autant de pouvoirs. Il y a un déséquilibre. Nous sommes en réalité déjà dans ces Etats.
Les plateformes sont des régimes autoritaires avec des autocrates à la tête. Ce seraient des dictateurs en puissance. Ces plateformes ont un modèle d’organisation où le pouvoir repose en un très petit nombre de mains. Umberto Eco, dans Reconnaître le fascisme, parle de populisme qualitatif c’est-à-dire un régime où toutes les paroles ne peuvent pas être écoutées de la même façon et qu’il faut quelqu’un pour incarner le peuple. La foule de ces plateformes baignent dans cette forme de populisme qualitatif mais au bout du compte par des dispositifs médiatiques et politiques, il y a des personnes qui vont être chargés de restituer la parole du peuple.
Quand on combine ces deux facteurs, d’un côté, cette espèce de pulsion autoritaire et l’instrumentalisme de la foule de l’autre, on se retrouve avec un cocktail particulièrement explosif.
C’est aussi pour cette raison qu’on parle autant d' Elon Musk ou Mark Zuckerberg.
57:30 - Le pouvoir de maîtrise technologique d’Elon Musk
Elon Musk est un agent géopolitique du chaos selon le New York Times. On trouve cette idée que ces chefs d’entreprises sont quasiment des chefs d’états. Ils souhaitent avoir leur mot à dire concernant la politique étrangère
Les mécanismes de contre pouvoir pour empêcher qu’une personne fasse n’importe n'existent pas. On voit bien la brutalité quand Musk est arrivé sur Twitter
59:20 - La pandémie du covid a amplifié cette tendance de surveillance et de contrôle de l’information
Michel Foucault en parlait déjà en son temps. Les grandes épidémies sont des moments de créations de normes. On change les règles mais durablement. On a des dispositifs exceptionnels qui tendent à devenir permanents. C’est une période très intéressante a observé où il y a une amplification des tendances qui était déjà visible dans l’espace
Il y a eu une accentuation de la polarisation sur le sujet des vaccins.
C’est un moment de banalisation des dispositifs de surveillance et du contrôle des corps.
Sur l’aspect du débat public, le Covid a renforcé la polarisation. Certains discours conspirationnistes sont dangereux. En effet, là on ne parle pas simplement de fracturation de la société mais puisque quand on parle de Covid et de santé, c’est un danger pour l'espace publique. Avec la crise sanitaire, on a franchi un pallier dans le méta récit où là on s’est retrouvé avec un évènement mondial qui fait système.
La question c’est comment on fait pour reconnecter des gens qui s’éloignent
1:04:20 - Le concept de conspirationnisme a été dévoyé
C’est devenu un moyen de disqualification.
La conspiration peut être un mode de gouvernement comme on peut le voir dans un bouquin d’histoire. Snowden l’a prouvé.
Face à l'irréconciliabilité entre les uns et les autres, on se sent démunis. Avec ces modèles attentionnels de prédations de nos comportements qui sont ultra centralisés, la spécificité du conspirationnisme en ligne c’est qu’elle accentue les divisions. Un tweet peut toucher des millions de personnes alors qu’un billet de blog c’était beaucoup plus compliqué.
Roberto Bui dans Q comme complot raconte comment une blague est devenue une vraie théorie de complot. Il dit que beaucoup de gens embrassent les théories des complots parce qu’ils sont totalement désespérés par l’offre politique et ont l’impression d’être complètement laissés de côté. Par conséquent, la théorie du complot c’est le discours le plus séduisant.
Face à cela, il y a une reconquête hors ligne à faire avec ces gens là. Les conspirationnistes ne sont pas plus irrationnels que les autres. En ligne, il faut réussir à ralentir parce que la lenteur relative est beaucoup plus propice à l’examen à froid des idées. Il va peut être falloir qu’on se fasse à l’idée de désapprendre les mauvaises habitudes sur les médias sociaux. Il faut peut-être qu’on apprenne à des communautés plus petites. On peut estimer que les modèles des médias sociaux sont conçus pour fonctionner de cette manière là. et qu’il faut inventer des modèles qui ne permettent pas ce type de dérives.
1:13:20 - Le rôle de Tiktok : surveillance ou simple captation de l’attention ?
On retrouve un certain nombre de mécaniques. Les mécaniques attentionnelles de Tiktok sont plus efficaces que ses prédécesseurs.
Les données de Tiktok sont accessibles par les autorités chinoises. Le modèle chinois n’est pas un capitalisme de surveillance mais repose sur un contrôle des individus à une échelle locale avec le comité de quartier, les voisins dans les immeubles regardent ce que tu fais. Les meilleures technologies chinoises s’appuient sur un quadrillage.
C’est la première fois qu’un acteur qui n’est pas américain a une puissance comme celle ci sur un territoire aussi difficile à cerner. Tiktok est en train de devenir la première puissance algorithmique étrangère et à ce titre là ça va être intéressant mais également inquiétant à observer
1:17:30 - Le projet qu’à Elon Musk pour Twitter
Depuis longtemps, Elon Musk s’intéresse au moyen de paiement. Il est le confondateur de Paypal. Il prend le modèle de Wechat qui est une application comme sésame universel. Par contre ce n’est pas la même philosophie. Il n’y a pas d'ambition de tout centraliser comme en Chine. Elon Musk comme les libertariens souhaitent une société imaginaire qui se substitue à l’Etat et s’affranchit des règles du monde réel. On peut retrouver ce mode de pensée dans le livre de Science fiction Cryptonomicom de Neil Stephenson.
Elon Musk est adepte de la pensée du long termiste. Il se projette dans des milliers d’années. C’est un futur d’ultra riche complètement déconnecté de la réalité mais qui permet de se placer sur une autre échelle de temps quand on observe ce qu’il est en train de faire. Sur une échelle long termiste, ce qu’il est en train de faire avec Twitter, c’est une oscillation.
Elon Musk est aussi fan de science-fiction
1:23:30 - En tant qu’individu, comment peut-on anticiper le technofascisme ?
C’est essayer d’être maximaliste pour se prémunir de tous les effets indésirables de toutes ces technologies.
Est ce que il s’agit d’une responsabilité individuelle ou collective ? On retrouve cette problématique avec le dérèglement climatique.
Il faut réussir à trouver les clés pour penser collectivement à ces sujets-là. La difficulté qu’on a, sur tous les phénomènes qu’on a décrits, jusqu’ici c’est tout un tas d'aspects où l’on a absolument aucun pouvoir de décision. Après il faut réussir à retrouver notre destinée, le contrôle et comme le dirait Ivan Illich, la convivialité. Il faut trouver, dans un premier temps, les plateformes qui vont nous permettre d'échafauder les moyens de reprendre au moins en partie les contrôles sur ces outils.
1:28:50 - Le digital service act permet-t-il d’être un garde-fou ?
C’est un texte plutôt bien comme le RGPD
La création de normes en Europe résultent de l’énorme frustration de ne pas avoir vu naître un géant numérique et d’avoir loupé le coche. L’Europe veut apporter une valeur ajoutée pour se prémunir des effets néfastes et de tenir en respect les grandes puissances numériques. Ce texte permet d’exister politiquement entre les deux modèles des deux superpuissances que sont les Etats-Unis et la Chine. Il permet de dessiner une troisième voie consistant plutôt à se prémunir des effets possiblement néfastes de l’un et de l’autre modèle que de construire un autre modèle en soi.
1:31:10 - Qu’est ce qui est le plus inquiétant : l’absence de surveillance ou la surveillance de l’Etat ?
Ce dont il faut avoir le plus peur selon Olivier Tesquet, c’est la façon dont l’Etat abandonne ses prérogatives aux entreprises privées qui, contrairement à lui, peuvent se réfugier derrière l’anonymat. Avec ces effets des délégations, c’est un peu la matérialisation d’un état profond. C’est la façon dont un certain nombre de grandes entreprises et de grands acteurs économiques décident de notre destinée collective sans même qu’on s’en rende compte parce qu'on ne les connaît pas ou qu’il camoufle leurs activités.
C’est l’un des grands enjeux des années qui viennent pour ne pas laisser advenir le technofascisme.
Pour aller plus loin
Olivier sur Twitter : https://twitter.com/oliviertesquet
