Sortir du "bocal numérique"

« On étouffe là-dedans, non ? » L’autrice de cette chronique s’en prend à notre société régie par le capitalisme numérique : chacun y est poussé à vivre dans son bocal, pour la plus grande joie de l’État et de la Silicon Valley. Elle prévient : « Une société pleinement informatisée a toutes les chances de déboucher sur une société totalitaire. »

Célia Izoard, journaliste et membre de la revue Z, a fait des études de philosophie et traduit des ouvrages critiques de la technologie moderne, dont 1984, de George Orwell, aux éditions Agone, à paraître en janvier 2021.

---

À la fin du Quai de Wigan (1937) [1], George Orwell analyse l’assujettissement par la machine. Un monde où elle serait omniprésente aurait tué le travail créatif, atrophié les sens et détruit la volonté d’agir par soi-même. Il a cette formule saisissante : « L’aboutissement logique du progrès mécanique est de réduire l’être humain à quelque chose qui tiendrait du cerveau enfermé dans un bocal. »

On trouverait difficilement meilleure image pour décrire la situation créée par le capitalisme numérique. Nous vivons dans un monde où la plupart des métiers, des loisirs et des conversations se déroulent derrière des écrans. Les possibilités infinies offertes par le mouvement du corps et les cinq sens ont été remplacées par une sorte d’hypertrophie du cerveau exclusivement alimenté par la vue et l’ouïe. Chacun dans son bocal numérique. Notre expérience du monde glisse le long de ses parois de verre.

Tout l’intérêt d’un bocal est qu’on peut regarder à l’intérieur. Un cerveau dans un bocal est soumis à la surveillance et à l’expérimentation. Les fabricants de bocaux sont bien placés pour en parler, tels les ingénieurs et designers repentis de la Silicon Valley qui témoignent dans le documentaire The Social Dilemma, produit par Netflix (qui produit lui aussi des bocaux). « L’intelligence artificielle de Facebook est comme une expérience où l’on stimulerait les pattes d’une araignée pour voir quel nerf va répondre, explique Tristan Harris, ex-designer Google. Derrière l’écran, il y a des milliers d’ingénieurs, des supercalculateurs et des algorithmes qui savent tout de vous et testent en permanence ce qui a le plus de chance de vous tenir accroché. » L’objectif étant de vous maintenir le plus longtemps possible dans le bocal pour remplir les poches des annonceurs et perfectionner les algorithmes qui vous présenteront des contenus encore plus addictifs, pour remplir les poches des annonceurs, etc.

Dans le capitalisme numérique, les plateformes ont intérêt à la production du mensonge

L’autre avantage de conserver les humains dans des bocaux, c’est l’éventail de paysages que les fabricants de bocaux peuvent présenter sur les parois. « Quand vous tapez "changement climatique" sur Google, selon où vous vivez, vous aurez des réponses différentes, explique Justin Rosenstein, ancien ingénieur Facebook et Google. Dans certaines villes, on vous suggèrera "le réchauffement climatique est un canular", dans d’autres, "le changement climatique détruit la nature". Cela dépend d’où vous faites la demande et des centres d’intérêt que Google connaît. »

La technique la plus rentable consiste à retourner complètement le bocal sur lui-même. Sensationnelles, captivantes, « les fausses informations rapportent plus d’argent aux entreprises, constate Tristan Harris. Sur Twitter, les fake news se diffusent six fois plus que les vraies. » Les plateformes favorisent donc les contenus démontrant que la Terre est plate, que personne n’a jamais marché sur la lune, ou que les ONG écologistes font brûler l’Amazonie. Désorienté, le sujet ne veut plus quitter son bocal, car le monde extérieur lui paraît insupportablement inversé. Il retourne donc partager des vidéos et des messages avec des gens qui habitent le même genre de bocal.

Le roman d’Orwell, 1984, décrit un monde aux mains d’un régime qui a, lui aussi en quelque sorte, mis les membres de son parti intérieur dans des bocaux pour leur ôter toute mémoire autonome et toute prise intellectuelle. Avec des effets comparables : « Le citoyen d’Océanie est comme un voyageur de l’espace interstellaire, privé de tout repère lui permettant de situer le haut et le bas. » Dans 1984, le parti a intérêt à la production du mensonge pour maintenir son pouvoir. Dans le capitalisme numérique, les plateformes ont intérêt à la production du mensonge pour augmenter leurs profits, donc... leur pouvoir.

L’infrastructure électronique a fourni aux États une capacité de contrôle et une nouvelle légitimité à l’exercer

On sait depuis quatre décennies qu’une société pleinement informatisée a toutes les chances de déboucher sur une société totalitaire. En 1979, face aux grèves et aux actions menées en France contre les ordinateurs et l’horizon d’une société de surveillance [2], le gouvernement avait dû organiser un grand débat national. À l’époque, pour rassurer la population, le président Valéry Giscard d’Estaing avait pointé la situation à laquelle il ne fallait surtout pas arriver : « Poussé à l’extrême, l’usage de la télématique pourrait être la suprême aliénation. L’homme deviendrait un consommateur d’images et de signes placé devant un écran universel capable de solliciter tous les savoirs, toutes les mémoires et tous les services. » [3] Après cette séance d’exorcisme, l’État, comme dans tous les pays riches, a consacré les quarante années suivantes à dépenser des milliards d’argent public pour structurer des filières de recherche-industrie et informatiser la société. Jusqu’au bocal donc. À la faveur de l’état d’urgence sanitaire, l’État vient d’en refermer brusquement le couvercle. Clac.

Cette infrastructure électronique a fourni aux États une capacité de contrôle qui donne au télécran de 1984 des airs de gramophone. Elle leur a aussi donné une nouvelle légitimité à l’exercer. Mariner trop longtemps dans un bocal pouvant rendre très fou et très violent, voilà un bon prétexte pour superposer aux algorithmes hédonistes des algorithmes policiers [4].

Double contrôle, donc, sur les parois de verre – double-vitrage. Le rôle de l’État n’est-il pas de nous « conserver », de nous « préserver » (en anglais, preserve signifie très exactement « conserve de nourriture en bocal ») ? Et nous ? On étouffe là-dedans, non ? Covid ou pas Covid, pour vivre libres, il va falloir réapprendre à tisser des réseaux sociaux à l’extérieur du bocal.ique et internet