On ne vous censure pas : on choisit pour vous

Il n'y a pas eu de coup d'État. Personne n'a fermé les journaux, truqué les urnes ni envoyé la troupe. Et pourtant quelque chose, dans notre manière de juger, a changé de main. C'est le point de départ de Benoît Bergeret dans Qui pense quand je pense : l'intelligence artificielle, dit-il, ne tue pas la démocratie, elle la vide de l'intérieur. La formule paraît excessive tant que l'on n'a pas vu à quel endroit précis se fait l'évidement.

Nous surveillons les scandales qui se voient : une élection retournée par de faux comptes, une vidéo truquée qui surgit la veille d'un vote. Nous avons raison de les craindre. Mais ils occupent le devant de la scène pendant que l'essentiel se joue dans les coulisses, dans cette couche discrète qui décide, avant nous, de ce qui nous parviendra. Nous croyons encore penser seuls. Les conditions mêmes de notre pensée, elles, se recomposent sans nous.

La manipulation a un auteur ; la délégation n'en a pas

Benoît Bergeret donne un nom à cette dépossession : la délégation cognitive. C'est le transfert, la plupart du temps insensible, de notre jugement et de nos gestes les plus ordinaires — trier, analyser, résumer — à des systèmes que nous ne tenons pas en main. Ce qui la rend redoutable, c'est qu'elle n'a pas de visage. On peut démasquer un manipulateur, discuter son intention, lui résister. La délégation, elle, ne se présente pas ; elle s'installe, à bas bruit, dans la pente de nos habitudes.

Pour dire l'ampleur du basculement, l'auteur reprend une vieille idée et la déplace. En 1999, le juriste Lawrence Lessig lâchait une formule qui allait faire fortune : le code est la loi. L'architecture d'un logiciel commande nos conduites aussi sûrement qu'un article de loi. Un quart de siècle plus tard, Benoît Bergeret corrige le tir : le modèle est l'esprit. Le code réglait ce que nous avions le droit de faire ; le modèle, lui, façonne la matière même avec laquelle nous pensons — les faits qu'il rend visibles, les options qu'il formule, les résumés qu'il nous tend tout faits. Il ne prend pas la place du jugement. Il travaille en amont, à l'endroit exact où le jugement se forme, et c'est bien pire.

Le tri, la parole, le choix : ce que nous rendons sans le remarquer

Rien de tout cela ne s'est décidé. Cela s'est fait par petites cessions, si menues qu'aucune ne semblait mériter que l'on s'y arrête. Le tri, d'abord. Un filtre invisible, taillé pour chacun, réglé pour retenir l'attention et non pour dire le vrai, tranche ce qui montera jusqu'à nous et ce qui n'existera jamais pour nous. Un journal, on peut le contester : on sait qu'il choisit, et l'on devine comment. L'algorithme, lui, ne s'annonce pas, et il ne montre pas la même chose à votre voisin.

La parole, ensuite. Fabriquer mille textes crédibles ne coûte presque plus rien, si bien que l'on ne sait plus toujours qui parle : un homme, une machine, un mélange des deux. Le choix, enfin. Naguère, une recherche renvoyait dix liens qu'il fallait peser l'un contre l'autre ; aujourd'hui l'interface tend une réponse unique, lisse, sans source apparente et sans l'ombre d'un doute. Il n'y a plus rien à comparer. Il n'y a qu'à accepter.

Benoît Bergeret appelle cela la gouvernance des saillances. On n'interdit rien. Certaines choses, simplement, deviennent introuvables. La censure d'un régime autoritaire, on la voit, et parce que l'on la voit, on peut la combattre ; ce tri-là ne laisse aucune trace. Comment irait-on chercher ce que l'on ignore avoir manqué ?

Reprendre la main sur ce que l'on refuse de voir

Le livre pourrait s'arrêter à ce constat et nous laisser accablés. Il fait l'inverse : fidèle à l'esprit de sa collection, il ne s'arrête pas au diagnostic. Nommer le mécanisme, écrit l'auteur, c'est déjà commencer à s'en défaire. Celui qui ignore qu'il est filtré est sans défense ; celui qui le sait tient déjà une prise. L'affaire n'est pas d'abord technique, elle est politique, et elle se joue dans des gestes que chacun peut poser : soupçonner que l'on ne voit pas tout, et aller voir ailleurs ; se souvenir que l'outil travaille pour l'attention et non pour la vérité, et rabattre d'autant sa confiance ; réclamer des sources ; ne jamais tenir « c'est le système » pour une réponse. Chaque question a un coût, chaque coût entame l'opacité, et une opacité qui coûte finit par céder.

Ce premier geste ne suffit à rien ; il rend tout le reste possible. On ne reprend pas la main sur une machine que l'on s'obstine à ne pas regarder.

Alors la question du titre revient, et l'auteur se garde d'y répondre à notre place. Le jour où nous votons, où nous nous disputons une réforme, où nous quittons un échange avec le sentiment tranquille d'avoir pensé : qui, au juste, a pensé ? La fenêtre est étroite. Elle n'est pas encore refermée.

Qui pense quand je pense — Péril et riposte démocratiques à l'ère de l'intelligence artificielle, de Benoît Bergeret, collection Débords aux Éditions Chemins de tr@verse, est disponible en librairie et en version numérique : https://www.bouquineo.fr/products/qui-pense-quand-je-pense-benoit-bergeret