« Il est urgent de reprendre le contrôle de l’intelligence artificielle, qui recèle de quoi provoquer des désordres sociaux sans précédent »

Le chercheur en IA Hugues Bersini s’inquiète, dans une tribune de voir de « monstrueux perroquets logiciels » prétendre s’affranchir de toute humanité.

La plate-forme Wikipédia, sous-tendue par une algorithmique formidable, car plus soucieuse de faire collaborer les hommes que de les dresser les uns contre les autres, les scotcher à l’écran, les déprimer ou les enfermer dans une bulle informationnelle, nous en dit beaucoup sur la difficulté de parvenir au vrai. Il s’agit d’une progression lente, parfois laborieuse, par à-coups, en tension, instable, toujours en devenir, à la jonction de multiples opinions, mais qui graduellement convergent et se stabilisent sur ce qu’on finira par accepter comme vrai, pour l’instant.

Rien à voir avec ChatGPT qui, sans l’aval, sans l’autorisation ni l’accompagnement du moindre humain, vole à l’arraché Wikipédia, lui dérobe des pans entiers de textes, et les mêle à d’autres, au tout-venant. Or, en quoi la combinaison statistique de textes aspirant difficilement et graduellement au vrai nous garantit la continuité de cette aspiration ? La syntaxe, oui d’accord, même si plus aucune règle explicite ne le garantisse vraiment (au grand désespoir de Noam Chomsky), la sémantique aussi, sans surprise. Mais le vrai ? De surcroît, les auteurs originaux de ces mêmes pages se retrouvent scandaleusement enfouis et anonymisés dans ce cocktail infâme, cette masse textuelle informe et son illusion du vrai.

Evaluation subjective

Ensuite, le « beau ». Paul McCartney raconte comment, en s’inspirant de Bach, il compose le formidable Blackbird. L’IA aujourd’hui se nourrit de morceaux des Beatles jusqu’à l’indigestion pour produire du simili Beatles, sans âme, sans inspiration et sans récit. On produit du Rembrandt à partir de Rembrandt, du Picasso à partir de Picasso, mais Picasso lui-même produit du Picasso car, à l’origine, il est fasciné et inspiré par Rembrandt, Velazquez et d’autres, d’une manière parfaitement non reproductible par une IA. Brancusi, en colère, sculpte un baiser primitif en réaction au maniérisme et à la grandiloquence de son maître Rodin, un baiser qui n’a rien et pourtant tout à voir avec le baiser du maître.

Le génie créatif est là, hors des sentiers battus, dans cette révolte, ce ressenti émotif, dans ce vécu et ce rapport au monde, cette réaction aux autres, à ceux qui précèdent. Une IA, sans une main humaine ferme pour la guider, la programmer, ne pourra jamais prétendre au statut d’artiste. Reste non programmable dans une machine ce processus d’évaluation subjective permettant de guider et surtout de sélectionner entre le foisonnement d’agencements symboliques possibles celui qui, entrant en résonance avec l’âme de l’artiste, accroît par son narratif ses chances d’en faire autant avec celle du public.

Et, finalement, le « bien ». Evidemment, c’est la même IA qui permet d’améliorer le diagnostic des radiologies de tumeur (en souhaitant qu’un docteur humain soit toujours là pour en informer, avec humanité, le patient), qui permet aussi d’identifier un possible terroriste (avec un taux négligeable de faux positifs collatéraux) et d’inciter le pilote du drone à l’éliminer (demain, il ne sera plus nécessaire). C’est la même IA qui permet de comprendre et de déjouer les pièges des hackeurs et, tout autant, d’imiter à la perfection la voix de votre enfant, actuellement en voyage, et vous implorant de lui verser une somme importante car détenu dans une prison exotique.

Paradoxe de l’évolution

C’est le même ChatGPT qui facilite l’accès à quelques savoirs, vous fait gagner du temps dans la rédaction de phrases sans importance, des tics de langage, mais permet aussi à quiconque de s’improviser cyberterroriste en lui demandant les lignes de code d’un logiciel terriblement nuisible. Ce logiciel, livré à lui-même, n’a pas la moindre idée de la finalité de son usage. Le programmeur oui, en théorie… en tout cas, jusqu’à présent. Dès lors, il est urgent de reprendre le contrôle de toutes ces lignes de codes, dont les effets et non les sources s’avèrent aisément accessibles, et qui recèlent de quoi provoquer des désordres sociaux sans précédent.

L’immense paradoxe de l’évolution de l’IA de ces dernières années – en substance, l’importance prise par l’apprentissage à partir de multiples productions humaines existantes, ou par essais et erreurs, et l’incompréhension du résultat par les concepteurs mêmes – s’avère cette volonté assumée et délibérée de s’affranchir de toute autorité humaine : AlphaGo sans joueur de go, l’apprentissage profond pour la reconnaissance d’images sans apport préalable de l’ingénieur à l’extraction des caractéristiques les plus parlantes, les réseaux de neurones pour remplacer les linguistes, etc.

Une absence compensée en partie par une puissance de calcul jamais atteinte pour engouffrer les masses de données disséminées sur le Web. S’affranchir fièrement de l’humain lors de la conception, le mettre hors course, alors même que tout appelle aujourd’hui à redonner beaucoup plus d’humanité dans le fonctionnement et les productions de ces monstrueux perroquets logiciels, là est tout le paradoxe.