Ce livre est vertigineux. Ou plutôt, les questions qu’il pose sont vertigineuses. Et les réponses qu’il y apporte nous placent, nous, les Occidentaux, vivant dans des démocraties libérales, devant un chantier immense, face à un abîme qu’il va falloir traverser. La technologie change le monde, pour le meilleur et pour le pire, et elle charrie, avec elle, des conséquences politiques, dont on commence tout juste à saisir l’ampleur.

Avec son livre « Technopolitique », Asma Mhalla, professeure à l’université Columbia et à Polytechnique, entend nous faire comprendre l’enjeu des démocraties face à la Big Tech, ces groupes tentaculaires, de Microsoft à Amazon en passant par Apple, Meta mais aussi Google, Palantir ou encore la galaxie d’Elon Musk . Ce dernier est reçu comme un chef d’Etat en France ou en Chine. Il peut aussi interdire l’accès de l’armée ukrainienne à Starlink, sa constellation de satellites, s’il estime que l’opération militaire qui devait être menée nuit à ses intérêts.

.

Léviathan à deux têtes

Le problème est simple dans son intitulé : il s’agit d’empêcher que la technologie ne défasse la démocratie. Se sont créées sous nos yeux des cyberpuissances qui changent le rapport de force, c’est-à-dire la politique.

Ces nouveaux acteurs sont difficiles à appréhender car, s’ils sont souvent aux mains d’acteurs privés, ils travaillent aussi avec les Etats main dans la main, chacun aidant l’autre. La technologie a permis de créer des infrastructures civiles vitales pour l’économie, qui sont désormais utilisées pour informer, amuser mais aussi contrôler la population. Elle a accouché d’un « Léviathan à deux têtes », selon l’expression d’Asma Mhalla : un Etat-nation mutant et la Big Tech, différents mais imbriqués.

Ces méga-acteurs technologiques sont désormais le bras armé technologique de la puissance américaine, chinoise ou russe selon leur lien avec le pays. Leurs technologies civiles deviennent ainsi des armes de guerre. D’ailleurs, Amazon, Microsoft ou Palantir – financé par le magnat Peter Thiel mais aussi le fonds de capital-risque de la CIA, In-Q-Tel – sont présents en Ukraine, avec la bénédiction du Pentagone.

.

Nos cerveaux sont la cible

Comment une intelligence artificielle, des réseaux sociaux ou encore des logiciels de reconnaissance faciale peuvent-ils devenir des armes ? Parce que la mise en données du monde peut être retournée contre nous.

Avec les réseaux sociaux dont l’accès et l’utilisation sont publics mais où le règlement, l’information publiée sont décidés par une puissance privée, le ou les propriétaires, s’est développée une sorte d’hyper-personnalisation de masse, où chacun reste dans sa bulle. La polarisation recherchée par les algorithmes pour capter l’attention de l’utilisateur permet de « diviser pour mieux régner ». S’ensuit une atomisation de l’individu noyé sous une avalanche d’informations où « tout se vaut, le vrai, le faux, le réel, le virtuel, l’important, l’anecdotique ». Or, la démocratie ne peut fonctionner que si elle est construite sur une perception commune de la réalité. L’arme est là. La dystopie devient réalité.

.

Le terrain de bataille, c’est nous , notre cerveau. L’ennemi – la Russie, la Chine, l’Iran ou d’autres, voire des multinationales – va tenter de fracturer les sociétés, de séparer leurs différentes composantes, de les monter les unes contre les autres. Via des « fake news ». Ce que vous avez connu en la matière n’était jusqu’à présent que de la préhistoire. Une fois l’intelligence artificielle générative mise en place, ce sera un tsunami.

L’IA va « massifier l’industrialisation de la désinformation », écrit Asma Mhalla. Nous ne saurons plus faire la part des choses entre le vrai et le faux. Nous serons submergés de vidéos mettant en scène des dialogues inventés entre politiques, des faits divers qui n’ont jamais eu lieu, des décisions qui n’ont jamais été prises. Le tout, poussé par les algorithmes.

« L’IA est en train de dessiner la morphologie des guerres du futur », selon l’auteure. Les opérations de déstabilisation seront légion et les tensions, permanentes. D’ailleurs, il y a dix ans, un rapport glaçant de l’Institut de recherche stratégique de l’école militaire (Irsem) pointait déjà que « l’enjeu n’est pas tant de savoir quelle force armée va gagner mais quel récit, quelle version des faits va l’emporter auprès de l’opinion publique ». Le métavers et ses avatars derrière lesquels il sera difficile de savoir qui se cache seront de la partie, constitueront une zone de la guerre cognitive. Dans ce monde qui vient, « l’information est un enjeu premier de sécurité nationale », estime même Asma Mhalla.

.

La contre-attaque démocratique

Comment les démocraties libérales peuvent-elles gérer cette tension entre la liberté individuelle et l’usage que font les ennemis de cette liberté sans censurer, ce qui reviendrait à perdre leur âme ? Impossible de laisser la police et les juges intervenir, l’avalanche de désinformation sera trop importante et la masse ne pourra être traitée par des humains.

C’est un danger puisque les Etats, pour persister dans leur être, seront tentés de s’allier à la Big Tech pour mettre en place les gardes-barrières, en sous-traitant une partie de la sécurité nationale au secteur privé chargé d’automatiser certaines fonctions régaliennes. Cela risque fort de revenir à demander à la Big Tech de créer l’IA chargée de développer des solutions pour lutter contre les attaques cognitives de l’IA ennemie.

Face à cette dystopie en devenir, il va falloir « armer la société civile pour sécuriser le modèle démocratique », utiliser la réglementation pour mettre au pas la Big Tech, nous dit Asma Mhalla. Bref, il faut inventer, innover, trouver de nouvelles normes politiques, sociales et technologiques compatibles avec la démocratie. Sans jamais oublier que l’avenir n’est pas ce qui va arriver mais ce que nous allons en faire.

.