Les scientifiques savent depuis de nombreuses années qu’une compréhension plus avancée du processus d’apprentissage du cerveau humain pourrait contribuer à améliorer les performances de l’IA. Cela permettrait de reproduire le fonctionnement du cerveau humain dans les systèmes artificiels et certains chercheurs vont même jusqu’à dire que cela nous permettrait de reproduire nos émotions et la conscience. Différentes études sont en cours de part et d’autre dans le monde pour percer le mystère, mais les Chinois semblent spécialement très investis dans la recherche. Ils travaillent sur divers projets visant à reproduire le fonctionnement du cerveau humain.
Par exemple, s’inspirant du cerveau humain, les scientifiques chinois construisent ce qu’ils appellent « City Brain » (cerveau urbain), un projet vise à renforcer les capacités des villes intelligentes du pays. Ce développement reflète également la détermination de la Chine à prendre la tête de la course à l’IGA. Si les États-Unis travaillent également sur la recherche sur l’AGI, les efforts de la Chine seraient plus concentrés et mieux financés. Les laboratoires chinois consacrés à l’IGA ont reçu d’importants financements de l’État. Le développement de l’IA et de la science du cerveau est considéré comme deux domaines d’avant-garde dans le plan scientifique national du pays.
Les scientifiques occidentaux spécialisés dans l’IA qui travaillent avec leurs homologues chinois notent la nature dispersée de la recherche sur l’IGA aux États-Unis par rapport à l’approche plus ciblée de la Chine. En outre, les analystes ont également rapporté que le discours public sur les dangers potentiels de l’IGA n’est pas le même en Occident et en Chine. Les scientifiques et les instituts occidentaux ont exprimé leur inquiétude quant au développement inconsidéré de puissants modèles d’IA sans mesures de sécurité solides. Cependant, des rapports suggèrent que ces préoccupations existentielles ne sont pas ouvertement discutées dans l’Empire du Milieu.
Le dirigeant chinois Xi Jinping a souligné l’importance de l’IA et aurait appelé à un développement à grande vitesse à de nombreuses reprises, en mettant l’accent sur la sécurité nationale et l’intérêt public. D’après les analystes, l’accent mis par la Chine sur la conception stratégique et le contrôle réglementaire correspond à ses intérêts nationaux, tandis que l’Occident met davantage l’accent sur l’éthique de l’IA et les efforts de lutte contre la discrimination. (La question de l’éthique de l’IA est largement discutée, mais il n’existe pas de consensus.) Ces approches divergentes reflètent la détermination de la Chine à s’assurer un avantage stratégique dans la course à l’IA.
En 2020, la Chine a dépassé les États-Unis pour la première fois en matière de nombre de fois qu’un article universitaire sur l’IA est cité par d’autres, une mesure de la qualité d’une étude. Jusqu’à récemment, les États-Unis étaient loin devant les autres pays en matière de recherche sur l’IA. Mais la Chine est en train de prendre le dessus, ce qui déclenche des sonnettes d’alarme de l’autre côté du Pacifique. La Commission de sécurité nationale américaine sur l’IA, dirigée par l’ancien PDG de Google Éric Schmidt, a averti dans un rapport publié en mars 2021 que les États-Unis pourraient perdre le leadership en matière d’IA au profit de la Chine.
L’IGA est une branche de la recherche théorique sur l’IA qui vise à développer un système d’IA doté de fonctions cognitives semblables à celles d’un humain, y compris la capacité d’autoapprentissage. En d’autres termes, l’IGA est un type d’IA que l’on voit dans les films de science-fiction, comme « Star Trek : The Next Generation ». Une fois conçue, l’IGA devrait être capable de résoudre n’importe quel problème, même complexe, de manière autonome. Cependant, tous les chercheurs en IA ne croient pas qu’il soit possible de développer un système d’IGA, et le domaine est divisé sur les facteurs qui constituent et peuvent mesurer avec précision l’intelligence.
L’IGA représente toutefois une étape importante par rapport aux IA actuelles dites « étroites ». Les systèmes d’IA étroites, comme ChatGPT et Bard, peuvent effectuer des tâches spécifiques. Ils prennent déjà d’assaut les sociétés grâce à leur capacité à générer du texte et des images et à trouver rapidement de vastes quantités d’informations, mais l’IGA a le potentiel de surpasser les humains dans diverses tâches. Ainsi, la poursuite ambitieuse de l’IGA par la Chine souligne sa volonté à prendre la tête dans le domaine de l’IA en exploitant le potentiel du cerveau humain. Selon les analystes, plus de 1 000 articles soulignent les avancées de la Chine dans ce domaine.
Par ailleurs, d’autres rapports indiquent que l’objectif de la Chine est de devenir le leader mondial de l’IA d’ici 2030. « L’IGA est la « bombe atomique » du domaine de l’information et le « gagnant du match » dans la compétition entre la Chine et les États-Unis. Tout comme dans les années 1950 et 1960, lorsque les scientifiques chinois travaillaient jour et nuit pour construire la bombe atomique, le missile intercontinental et le satellite, nous devons développer l’IA comme les « deux bombes et un satellite » et former une « armée des champions de l’IA » qui représente la volonté nationale », a déclaré Zhu Songchun, un éminent scientifique chinois spécialisé dans l’IA.
L’IGA étant un concept en développement, on peut se demander s’il existe des exemples actuels d’AGI. Des chercheurs de Microsoft, en tandem avec OpenAI, affirment que GPT-4 pourrait raisonnablement être considéré comme une première version (encore incomplète) d’un système d’IGA. Selon les explications des chercheurs, cela est dû à sa maîtrise du langage et à sa capacité à résoudre des tâches nouvelles et difficiles (qui couvrent les mathématiques, le codage, la vision, la médecine, le droit, la psychologie et bien plus encore) sans avoir besoin d’aucune incitation particulière, avec des capacités qui sont étonnamment proches des performances humaines.
Mais cette affirmation est fortement controversée. Même Sam Altman, PDG d’OpenAI, ne partage pas cet avis et affirme que ChatGPT n’est même pas proche d’un modèle d’IGA. Les chercheurs en IA continuent à développer des cadres théoriques et à travailler sur le problème non résolu de l’IGA. À l’avenir, les applications de l’IAG pourraient inclure des chatbots avancés et des véhicules autonomes, deux domaines dans lesquels un niveau élevé de raisonnement et de prise de décision autonome serait nécessaire.
L’intelligence artificielle vous effraie-t-elle ? L’humanité court le risque d’extinction au travers des robots tueurs autonomes
En septembre 2022, l’armée israélienne a commencé à installer une arme automatique à un poste de contrôle très fréquenté de la ville d’Hébron (Al-Khalil), en Cisjordanie occupée. Les tourelles jumelles ont été installées au sommet d’une tour de garde surplombant le camp de réfugiés d’Al-Aroub. « Elle tire toute seule sans intervention de la part du soldat. Quand un soldat israélien voit un petit garçon, il appuie sur un bouton ou quelque chose comme ça et elle tire toute seule. Elle est très rapide, même plus rapide que les soldats. Les bombes lacrymogènes qu’il tire peuvent atteindre l’extrémité du camp et tout le reste », a déclaré un résident du camp.
La tourelle télécommandée a été développée par la société de défense israélienne Smart Shooter, qui a mis au point un système de contrôle de tir autonome appelé SMASH, qui peut être fixé sur des fusils d’assaut pour suivre et verrouiller des cibles à l’aide d’un traitement d’image basé sur l’intelligence artificielle. Le site Web de la société appelle ce système « One Shot-One Hit » (qui pourrait être traduit en français par : « un tir – un succès » ). Elle se vante d’avoir réussi à « combiner un matériel simple à installer avec un logiciel de traitement d’image avancé pour transformer des armes légères de base en armes intelligentes du XXIe siècle. »
La société affirme que la technologie SMASH permet de surmonter les défis auxquels sont confrontés les soldats lors des batailles, tels que l’effort physique, la fatigue, le stress et la pression mentale pour viser avec précision et assurer le succès du tireur. « Notre objectif est de permettre à tous les corps d’infanterie de bénéficier des armes de précision. Quelle que soit l’expérience ou la mission du soldat, notre système lui permet de ne pas faire d’erreur lorsqu’il tire et de toucher la cible sans faute. Tout soldat devient un véritable tireur d’élite », a déclaré Michal Mor, fondateur et PDG de Smart Shooter, lors d’une interview en 2020.
La tourelle vue à Hébron n’est pas annoncée sur le site Web de l’entreprise israélienne, mais deux autres tourelles automatisées, ‘SMASH HOPPER’ et ‘SMASH HOPPER P’, sont équipées de fusils d’assaut et du système Smart Shooter. « Le HOPPER peut être monté dans plusieurs configurations, notamment sur un trépied, un mât fixe, un navire de surface et des véhicules », indique le site Web de l’entreprise. Dans l’ensemble, l’entreprise indique que la technologie SMASH est censée améliorer l’efficacité des missions en engageant avec précision et en éliminant les cibles terrestres, aériennes, statiques ou mobiles, de jour comme de nuit.
« Habituellement, le terroriste se trouve dans un environnement civil avec de nombreuses personnes que nous ne voulons pas blesser. Nous permettons au soldat de regarder à travers son système de contrôle de tir, pour s’assurer que la cible qu’il veut atteindre est la cible légitime. Une fois qu’il aura verrouillé la cible, le système s’assurera que la balle sera libérée lorsqu’il appuiera sur la gâchette, uniquement sur la cible légitime et qu’aucun des passants ne pourra être touché par l’arme », a déclaré Mor. Les militants des droits de l’Homme s’inquiètent de « la déshumanisation numérique des systèmes d’armes. »
Selon les médias locaux, l’armée israélienne a déclaré qu’elle teste la possibilité d’utiliser le système pour appliquer des méthodes approuvées de dispersion de la foule, qui n’incluent pas le tir de balles réelles. « Dans le cadre des préparatifs améliorés de l’armée pour faire face aux personnes qui perturbent l’ordre dans la région, elle examine la possibilité d’utiliser des systèmes télécommandés pour employer des mesures approuvées de dispersion de foule. Cela n’inclut pas le contrôle à distance de tirs à balles réelles », explique un porte-parole de l’armée israélienne. Mais cela n’a pas suffi à calmer les craintes des militants des droits de l’homme.
L’armée israélienne a également précisé qu’au cours de sa phase pilote, le système n’utilisera que des balles à pointe éponge. Cependant, des experts ont signalé qu’à plusieurs reprises, des balles à pointe éponge ont causé des blessures permanentes à des personnes en Cisjordanie occupée et en Israël, certaines ayant même perdu leurs yeux. Des militants des droits de l’homme d’Hébron ont exprimé leur inquiétude quant à la défaillance du système qui pourrait avoir un impact sur de nombreuses personnes, notant que le système a été placé au centre d’une zone fortement peuplée, avec des centaines de personnes passant à proximité.
En outre, les militants des droits de l’homme, ainsi que d’autres critiques, affirment également que ce dispositif est un nouvel exemple de l’utilisation par Israël des Palestiniens comme cobayes, ce qui lui permettrait de commercialiser sa technologie militaire comme testée sur le terrain auprès des gouvernements du monde entier. « Je vois cela comme une transition du contrôle humain au contrôle technologique. En tant que Palestiniens, nous sommes devenus un objet d’expérimentation et de formation pour l’industrie militaire israélienne de haute technologie, qui n’est pas responsable de ce qu’elle fait », a déclaré un habitant de la région.
Les guerres du futur mettront de plus en plus à contribution des robots tueurs comme le confirme le général américain Marc Milley
En 2020, un groupe de soldats fidèles au général libyen Khalifa Haftar a été attaqué par des drones agissant de manière autonome, selon un récent rapport du groupe d’experts du Conseil de sécurité de l’ONU sur la Libye. C’est un tableau parmi tant d’autres désormias qui préfigure des moyens qui seront mis à contribution par les armées du monde dans les guerres du futur.
Le général américain Marc Milley demande donc aux officiers formés à West Point de garder à l’esprit qu’ils doivent se tenir prêts à relever ces défis :
« La maturité des diverses technologies qui existent aujourd’hui ou qui sont à un stade avancé de développement, lorsqu’elles sont combinées, sont susceptibles de changer le caractère de la guerre par elles-mêmes. Vous vous battrez avec des tanks, des bateaux et des avions robotisés. Nous avons assisté à une révolution dans la létalité et les munitions de précision. Ce qui était autrefois le domaine exclusif de l’armée américaine est désormais accessible à la plupart des États-nations qui ont l’argent et la volonté de les acquérir », lance-t-il à l’occasion de la sortie d’une nouvelle cuvée d’officiers, ce, sans manquer de rappeler le contexte actuel fait d’affrontements militaires en Ukraine.
Sur la question de savoir s’il a des idées novatrices sur la façon dont il pense que le combat aérien peut être révolutionné, Elon Musk déclare : « les drones autonomes sont le futur. Ce n’est pas que je veuille que l’avenir soit ainsi fait, mais c’est juste que c’est inéluctable… L’ère des avions de chasse est révolue. »
C’est le type de tableau auquel on aura de plus en plus droit tant la liste des exemples qui illustrent le fait qu’une machine peut être mise sur pied pour surpasser un humain sur une tâche donnée peut être allongée à souhait. Pour ce qui est du cas spécifique des combats aériens, noter qu’Alpha, une intelligence artificielle mise sur pied par les laboratoires de recherche de l’armée américaine, a défait des experts de cette dernière dans le cadre de simulations de combats aériens.
« J’ai été surpris par la manière dont elle était consciente et réactive. Elle semblait être consciente de mes intentions et réagir instantanément à mes changements en vol et à mes déploiements de missiles. Elle savait comment déjouer le tir que je faisais. Elle changeait instantanément entre les actions défensives et offensives en fonction des besoins », avait souligné le colonel Gene Lee, décrivant Alpha comme étant l’intelligence artificielle la plus agressive, réactive, dynamique et crédible qu’il ait jamais vue.
C’est pour ces raisons que les appels au développement responsable des systèmes pilotés par des intelligences artificielles se multiplient
Les PDG de Google Deepmind, OpenAI et d’autres startups d’IA ont prévenu que les futurs systèmes pourraient être aussi mortels que les pandémies et les armes nucléaires. Le groupe, qui se compose également de chercheurs en IA de renom, a publié une déclaration d’exactement 22 mots afin de tirer la sonnette d’alarme sur un hypothétique « risque d’extinction de l’espèce humaine. »
Le groupe a publié une déclaration qui se lit comme suit : « l’atténuation du risque d’extinction lié à l’intelligence artificielle devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société, tels que les pandémies et les guerres nucléaires ».
La déclaration de 22 mots, publiée sur le site de l’organisation à but non lucratif « Center for AI Safety », a été raccourcie de la sorte afin de la rendre aussi largement acceptable que possible. Parmi les signataires figurent des dirigeants de trois des principales entreprises d’IA : Sam Altman, PDG d’OpenAI ; Demis Hassabis, PDG de Google DeepMind ; et Dario Amodei, PDG d’Anthropic.
« Certaines préoccupations en matière d’intelligence artificielle ne sont pas simplement techniques. Par exemple, il y a la menace posée par les humains armés d’IA. Comme la plupart des inventions, l’intelligence artificielle peut être utilisée à des fins bénéfiques ou maléfiques. Les gouvernements doivent travailler avec le secteur privé sur les moyens de limiter les risques.
Il y a aussi la possibilité que les IA deviennent incontrôlables. Une machine pourrait-elle décider que les humains constituent une menace, conclure que ses intérêts sont différents des nôtres ou simplement cesser de se préoccuper de nous ? C’est possible, mais ce problème n’est pas plus urgent aujourd’hui qu’il ne l’était avant les développements de l’IA de ces derniers mois », souligne-t-il.
C’est une sortie qui rejoint celle de Michael Osborne et Michael Cohen de l’université d’Oxford : « « L’intelligence artificielle est susceptible de devenir plus intelligente que les Hommes contre lesquels elle pourra donc se retourner et les exterminer. »
Ces différentes sorties font référence à un stade de leur évolution où les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale, elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. » C’est ce palier que les équipes de recherche dans le domaine visent. Le professeur Osborne fait une prédiction à ce sujet : « Il y a toutes les raisons de s’attendre à ce que, même ce siècle, nous puissions voir une IA qui soit au moins aussi capable que les êtres humains et très probablement plus capable que tout être humain aujourd’hui. »
Google par exemple est lancé en secret sur le développement de Pitchfork ou AI Developer Assistance. C’est un outil qui utilise l’apprentissage automatique pour apprendre au code à s’écrire et se réécrire lui-même. Comment ? En apprenant des styles correspondant à des langages de programmation et en appliquant ces connaissances pour écrire de nouvelles lignes de code.
L’intention initiale derrière ce projet était de créer une plateforme capable de mettre automatiquement à jour la base de code Python chaque fois qu’une nouvelle version était publiée, sans nécessiter l’intervention ou l’embauche d’un grand nombre d’ingénieurs. Cependant, le potentiel du programme s’est avéré beaucoup plus important que prévu. Désormais, l’intention est de donner vie à un système polyvalent capable de maintenir un standard de qualité dans le code, mais sans dépendre de l’intervention humaine dans les tâches de développement et de mise à jour.
Un tel objectif pourrait ne plus relever de la science-fiction en cas d’atteinte du stade d’intelligence artificielle générale. Le tableau viendrait alors raviver la possibilité pour l’humanité d’entrer dans une ère de domination par les machines comme prédit par de nombreuses productions cinématographiques à l’instar de Terminator, Matrix ou encore i-Robot.
C’est d’ailleurs la raison pour laquelle Elon Musk travaille sur un projet visant à fusionner un cerveau humain et un ordinateur afin de permettre aux Hommes de rivaliser avec l’intelligence artificielle. Le « Neural Lace » est une interface cerveau-ordinateur permettant de relier le cerveau humain à des ordinateurs sans avoir besoin de connexion physique. Cette technologie donnerait aux humains la possibilité de fusionner avec l’intelligence artificielle et d’améliorer ainsi leur mémoire et leurs facultés cognitives. Cette puce issue de sa société Neuralink peut diffuser de la musique directement au cerveau. C’est l’une des applications de cette interface cerveau-ordinateur à côté d’autres comme la possibilité de guérir la dépression et la dépendance.
Elon Musk est d’avis que seule la mise sur pied d’une interface cerveau-ordinateur peut permettre à l’Homme de subsister. Son initiative vise une sorte de symbiose avec l’intelligence artificielle, ce, à un degré qui rendrait le langage humain obsolète. Il suffirait alors de penser pour communiquer. Grosso modo, dans les laboratoires de la société d’Elon Musk, on est au « service de l’humanité. » Le projet ne manque néanmoins pas d’être terrifiant puisque la puce est à insérer dans le crâne ; ce qui serait selon certaines interprétations la marque de la bête référence faite à Apocalypse 13:17 dans la Bible : « La deuxième bête d’Apocalypse 13 fait en sorte que “tous, petits et grands, riches et pauvres, libres et esclaves, reçoivent une marque sur leur main droite ou sur leur front, et que personne ne puisse acheter ni vendre, sans avoir la marque, le nom de la bête ou le nombre de son nom. »