Faut-il en avoir peur de l’IA ? Quels impacts ont les algorithmes dans nos vies ? Comment naviguer les yeux ouverts dans une époque aussi décoiffante ?

Le livre Le capital algorithmique – Accumulation, pouvoir et émancipation à l’ère de l’intelligence artificielle, de Jonathan Durand Folco et Jonathan Martineau, va paraître en librairie le 26 septembre 2023.

En bref : IA, algorithmes, TikTok, télétravail, ChatGPT, drones, influenceurs, livraison en 24 heures : le capitalisme évolue. Dans un livre qui fera date, voici une boîte à outils pour mieux saisir les impacts d’un tel changement.

À propos du livre

Notre monde a beaucoup changé dans les dernières années. Du travail à la maison, en passant par nos relations sociales et l’actualité, de nouvelles technologies se sont immiscées dans nos quotidiens comme si elles allaient de soi. Alors que tout semble s’accélérer dans nos vies hyperconnectées, la séparation entre les mondes « réel » et « virtuel » apparaît dorénavant de plus en plus caduque. Pour Jonathan Durand Folco et Jonathan Martineau, les changements techniques en cours sont tels que nous sommes entrés dans un nouveau stade du capitalisme : le capital algorithmique. Adoptant à la fois une posture critique et techno-sobre, ils montrent comment la valorisation des données massives et le déploiement rapide de l’intelligence artificielle s’accompagnent de mutations socioéconomiques et politiques majeures.

Désignant à la fois une dynamique d’accumulation, un rapport social et une forme inédite de pouvoir basé sur les algorithmes, le concept de capital algorithmique permet de mieux comprendre des phénomènes aussi variés que l’essor des GAFAM, l’extraction de métaux rares, la fragmentation de nos emplois du temps hyperconnectés, les fortunes des Bezos, Musk et Zuckerberg, le binge-watching, les tensions américano-chinoises autour de Huawei et TikTok, la prolifération des écrans, le télétravail, Alexa, les cryptomonnaies, les conflits militaires au Congo, les robots émotionnels, les assassinats politiques ciblés par drones, la crise climatique, la pénurie de semiconducteurs, l’industrie des influenceurs, la livraison en 24 heures… Forger une théorie critique des algorithmes et de l’intelligence artificielle devient urgent et nécessaire pour saisir l’ampleur des mutations en cours, débusquer les relations de pouvoir liées aux nouvelles technologies et envisager de nouvelles stratégies de lutte au capitalisme.

La révolution industrielle a jadis propulsé l’empire du capital au XIXe siècle : les algorithmes et l’intelligence artificielle pourraient avoir le même impact au XXIe siècle. Le capital algorithmique fournit ainsi une véritable boîte à outils pour naviguer les yeux ouverts dans une époque souvent déconcertante. Un livre ambitieux qui fera date.

Le capitalisme algorithmique face à l’éthique des vertus : robots vertueux, vertus technomorales ou critique des vices technologiques?

Face aux enjeux sociaux complexes liés au développement rapide de l’intelligence artificielle, l’éthique des vertus est de plus en plus mobilisée pour guider la programmation d’algorithmes et repenser nos relations aux technologies numériques. Deux de ces approches méritent une attention particulière : l’éthique des algorithmes de Martin Gibert (2020), puis la perspective des vertus technomorales de Shannon Vallor (2016). Malgré leur apport indéniable à la réflexion éthique sur l’IA, ces deux approches ne parviennent pas à saisir l’éléphant dans la pièce : le capitalisme algorithmique. Notre hypothèse de départ est qu’on ne peut comprendre le déploiement fulgurant des algorithmes sans comprendre les reconfigurations du capitalisme, et vice versa. Nous sommes entrés dans un nouveau stade du capitalisme reposant sur une nouvelle logique d’accumulation basé sur l’extraction de données massives et la diffusion accélérée des machines algorithmiques dans le monde social, qui amène une forme inédite de pouvoir (gouvernementalité algorithmique). Pour réfléchir adéquatement aux impacts éthiques de l’IA, nous proposons ainsi d’adopter une « théorie critique des algorithmes » articulée à une version originale de l’éthique des vertus. Nous pourrons alors identifier certains angles morts des éthiques orientées vers la programmation de robots vertueux et les vertus technomorales visant à nous adapter aux paramètres de l’ordre dominant. Enfin, nous esquisserons une « théorie critique des vertus » axée sur la critique des vices technologiques, mais également sur l’identification de vertus visant à guider l’action collective, les luttes sociales, la création d’utopies réelles et les réformes institutionnelles contribuant à l’émancipation et au bonheur collectif dans et au-delà du monde algorithmique.

Les risques catastrophiques de l’intelligence artificielle

Il y a quelques semaines, le chercheur en intelligence artificielle (IA) de réputation internationale et fondateur du Mila, Yoshua Bengio, témoignait devant le Sénat américain pour réclamer davantage de ressources et de réglementations afin d’encadrer le développement de l’IA. Plusieurs interventions publiques récentes d’acteurs importants du secteur de l’IA et du capital algorithmique, comme Bengio, Sam Altman, Elon Musk ou encore Geoffrey Hinton, qui évoquent des menaces importantes, voire des « risques existentiels » posés par l’IA, sont déroutantes à première vue.

Deux types d’interventions peuvent sembler particulièrement contradictoires. D’une part, il y a de nombreux appels, de la part de ceux qui pourtant se partagent les profits symboliques et économiques du développement effréné de l’IA, à une intervention des pouvoirs publics afin de réglementer davantage ce secteur, voire imposer un moratoire sur l’innovation. D’autre part, certains brandissent le spectre de « l’apocalypse de l’IA », c’est-à-dire un risque existentiel pour l’humanité causé par une « intelligence artificielle générale » superpuissante anéantissant les humains à dessein ou par accident, ou encore réduisant l’humanité à l’esclavage, dans un futur plus ou moins rapproché.

Bien sûr, les débats au sein du secteur de l’IA sont complexes et ces positions y sont contestées. Mais les appels à l’intervention gouvernementale, aux moratoires, et les scénarios alarmistes prônés par les leaders du secteur se diffusent largement dans l’espace public. La question se pose : pourquoi un secteur en forte croissance réclame-t-il que les gouvernements interviennent pour réguler, encadrer, voire adopter un moratoire pour freiner ses innovations ? Pourquoi une industrie et ses experts évoquent-ils la menace que son développement puisse éradiquer l’humanité ?

Si ces discours semblent à première vue risquer de freiner le développement de l’IA et apeurer le public, ils peuvent au contraire faire partie d’une stratégie de l’épouvantail qui vise précisément l’inverse : pérenniser le développement de l’IA et fabriquer le consentement du public. En effet, les plus grands dangers qui se posent au développement du capital algorithmique à ce moment-ci sont l’incertitude législative et la faible acceptabilité sociale des technologies algorithmiques.

Alors que l’incertitude législative affecte la stabilité du secteur technologique et fragilise les perspectives des investisseurs, l’acceptabilité sociale de l’IA peine à s’établir pleinement en raison de son amplification de problèmes sociaux et environnementaux. Notons par exemple la précarisation du travail, des enjeux de surveillance et de respect de la vie privée, la perte de souveraineté nationale, une empreinte carbone et environnementale insoutenable, l’envenimement du débat public, la haine en ligne et la désinformation, etc.

Considérés de ce point de vue, les deux types d’intervention susmentionnés tombent sous le sens. Premièrement, le discours prorégulation cherche à faire adopter des lois qui conviennent aux besoins de l’industrie et favorisent un environnement stable et prévisible afin d’attirer les investissements privés et développer des partenariats pérennes avec l’État et les organismes publics.

L’attitude proactive est une stratégie pour d’une part éviter une régulation trop stricte et d’autre part rassurer le grand public en montrant un visage responsable et éthique. Par exemple, le p.-d.g. de l’entreprise OpenAi Sam Altman réclame sur toutes les tribunes une régulation accrue de l’IA générative, tout en faisant du lobbying auprès des instances afin d’amoindrir la portée des nouvelles législations et vider les règlements de toute disposition contraignante à l’innovation.

À plus long terme, l’appel de l’industrie à la régulation par les pouvoirs publics vise à normaliser et stabiliser le développement l’intelligence artificielle, à assurer son intégration au système économique, et favoriser une meilleure symbiose avec les gouvernements qui dépendent par ailleurs eux-mêmes de plus en plus de ces technologies.

Deuxièmement, brandir le spectre de l’apocalypse de l’IA (un scénario improbable, et qui ne se base sur aucune preuve empirique) a pour effet de situer les risques de l’IA dans un futur incertain, au lieu d’en souligner les impacts délétères ici et maintenant. Évoquer l’apocalypse détourne l’attention de l’exacerbation de problèmes sociaux et environnementaux actuels bien réels autour du travail, des changements climatiques, de la surveillance, de l’automatisation des inégalités et des discriminations, etc.

En fin de compte, sous le couvert de se préoccuper de l’intérêt public, la stratégie de l’épouvantail de l’industrie des algorithmes et de ses porte-parole défend ses propres intérêts. Elle désoriente le débat public afin de générer de l’acceptabilité sociale envers ces technologies dont le développement renforce en fait le pouvoir d’une poignée d’acteurs privés au détriment de la vaste majorité du public.

Bien sûr, on ne se surprendra guère que des chercheurs en éthique de l’IA plaident pour davantage de ressources pour la recherche sur les risques de l’IA… Or, si ces technologies présentent effectivement des risques, les « risques existentiels » pour l’humanité se situent davantage dans la poursuite de la logique capitaliste sociocidaire et écocidaire, que les algorithmes contribuent à accélérer et amplifier.

Biographie : Jonathan Durand Folco est professeur adjoint à l’École d’innovation sociale Élisabeth-Bruyère à l’Université Saint-Paul, Ottawa. Ses travaux de recherche portent sur la démocratie participative, la politique municipale, les communs, la transition écologique et les transformations du capitalisme contemporain. Il est l’auteur du livre À nous la ville ! Traité de municipalisme (Écosociété, 2017), co-auteur de Manuel pour changer le monde (Lux, 2020) et il a dirigé le livre Montréal en chantier : les défis d’une métropole pour le XXIe siècle (Écosociété, 2021). Il a récemment co-écrit avec Jonathan Martineau un ouvrage intitulé Le capital algorithmique et son monde : 20 thèses sur le capitalisme contemporain, qui paraîtra aux éditions Lux en 2023.

À propos des auteurs

Jonathan Martineau est professeur adjoint au Liberal Arts College de l’Université Concordia. Traducteur et auteur, il a notamment publié L’ère du temps (Lux, 2017). Jonathan Durand Folco est professeur agrégé à l’École d’innovation sociale Élisabeth-Bruyère de l’Université Saint-Paul. Il écrit dans diverses publications et est notamment l’auteur de À nous la ville ! (Écosociété, 2017).