Si l’information a toujours été l’objet de manipulations dans l’histoire, les outils proposés par l’intelligence artificielle marquent une rupture, par l’ampleur, encore difficile à mesurer, des possibilités offertes par cette technologie, qui peut se révéler un formidable appui, comme un redoutable outil de désinformation.

Images générées par l’IA : la course à la détection

Pour mesurer les conséquences potentielles de la révolution générée par l’IA, prenons la direction de la République Démocratique du Congo. La RDC, immense pays d’Afrique centrale, est secouée depuis des années par une guerre dans la région du Kivu, à l’Est, à la frontière du Burundi, de l’Ouganda et du Rwanda. Des tensions qui ont connu un pic en début d’année, avec l’offensive d’un groupe rebelle, le M23, sur la ville de Goma. Des rebelles que le Rwanda est accusé de soutenir, et qui ont pris possession d’une grande partie de la région.

.

De fausses déclarations officielles imitées à la perfection

Il y a 10 jours pourtant, coup de théâtre, à l’écoute d’un extrait semblant issu d’un journal de Radio France Internationale, diffusé sur une chaîne Youtube, et qui se répand sur les boucles WhatsApp des habitants. RFI occupe une place centrale dans l’information sur le continent, avec plus de 50 millions d’auditeurs quotidiens, et c’est une radio très écoutée dans le pays francophone le plus peuplé d’Afrique. Dans cet extrait, la voix d’un journaliste de RFI, Arthur Ponchelet, évoque une annonce majeure d’un responsable politique rebelle, Corneille Nanga, qu’on entend quelques instants plus tard. Dans une déclaration aux allures d’allocution officielle, l’ancien président de la Commission électorale congolaise, et fondateur de l’Alliance fleuve Congo, qui comprend le M23, déclare déposer les armes et demande une grâce présidentielle.

.

Une annonce de nature à mettre fin à un conflit meurtrier dans le pays, sauf que tout est faux dans cet extrait, du fond à la forme. Les voix du journaliste, comme celle du chef rebelle, ont été « clonées » par l’intelligence artificielle, qui permet d’imiter leur timbre et leurs intonations pour diffuser des propos fabriqués de toutes pièces. La direction de la radio est contrainte de communiquer pour alerter sur la manipulation, car l’extrait cumule rapidement des dizaines de milliers de vues sur les plateformes où elle est partagée.

Une journaliste de France 24, autre média francophone très présent sur le continent, reçoit même des messages de ses proches, qui l’entendent commenter « l’information » comme si elle réagissait en direct. Là encore, un faux, et une stupéfaction pour Aurélie Bazzara qui raconte à nos confrères de France Inter avoir découvert sa voix trafiquée, mais reprenant avec une inquiétante perfection son langage et sa diction.

.

Un conseil : toujours vérifier sur le site officielle

Jusqu’ici, l’origine de ce deepfake n’a pu être identifiée. Mais au-delà de son origine, sa qualité interpelle, avec des voix si ressemblantes et naturelles qu’elles peuvent logiquement induire en erreur l’auditeur. Cet exemple parmi d’autres dans la masse de fausses informations, qui inondent notamment le continent africain, mais pas seulement, invite évidemment à la prudence et à la réflexion.

Pour échapper à la tromperie, RFI a invité ses auditeurs ou ses lecteurs à vérifier que la radio était bien à l’origine d’une information, en les invitant à se rendre sur ses comptes officiels ou son site internet pour vérifier l’origine d’une information. De nombreux médias réfléchissent aussi à des méthodes pour authentifier des documents. Si le processus n’en est qu’à ses débuts, l’urgence est réelle face aux progrès techniques des outils proposés par des applications d’intelligence artificielle, et à l’avalanche des tentatives de manipulations.

Confrontés à cette nouvelle réalité, des médias tentent de leur côté de montrer à leur public ce que peut (et ne peut pas) faire une IA. C’est, par exemple, le cas du journal italien Il Giorno, qui a mené une expérience pendant un mois, avec un cahier intégralement réalisé par une intelligence artificielle, comme le correspondant de franceinfo à Rome, Bruno Duvic, l’avait raconté ici.

.