L’ordinateur « super-intelligent », qui n’a plus besoin d’humains pour améliorer ses performances, est-il vraisemblable ? Signifie-t-il la mise au rencart de notre espèce ? Ce n’est pas de la science-fiction…
Un peu de futurologie. Un siècle est passé. L’intelligence artificielle a révolutionné notre monde. Nous sommes en 2116. Comment vivons-nous ? « Vous ne ressentez ni la faim, ni le froid, ni la chaleur, ni la douleur. Vous n’avez nul besoin de manger ou de prendre un médicament, quoique vous puissiez le faire si vous en avez envie. Vous êtes beau, intelligent et charismatique, comme le sont également vos amis, vos collègues de travail et vos amours. Vous ne craignez pas la mort. Regardez à travers les vitres de votre bureau, vous voyez les flèches ensoleillées des tours surplombant des boulevards bordés d’arbres. En tous cas, c’est ce que vous pensez voir, puisqu’en fait, vous vivez dans une réalité virtuelle. Et vous n’êtes pas « vous » au sens traditionnel du terme. Vous êtes un « em », un cerveau robotiquement simulé, créé en scannant un cerveau humain téléchargé dans un ordinateur. » Ainsi commence l’article consacré par le très sérieux magazine Chronicle of Higher Education, consacré au livre récemment paru, The World of Em ». Sous-titre : Travail, amour et vie quand les robots domineront la planète. Son auteur, Robin Hanson n’est pas un romancier de science-fiction. Mais un physicien (il a passé son doctorat dans le domaine de l’intelligence artificielle), qui enseigne la philosophe à Oxford et l’économie à l’université George Mason. Nick Bostrom, le directeur de l’Institut du futur de l’humanité d’Oxford, estime qu’il est – je cite – « peut-être le penseur le plus original par ici dans le domaine des sciences sociales ». Les « ems » de son livre sont les « emulations of human brains ». Des copies de cerveaux humains. On aura sélectionné les meilleurs, afin de les répliquer. Certains seront dotés d’un corps robotiques, d’autres n’auront d’autre existence que virtuelle. Certaines copies, destinées à des tâches définies et désagréables, seront conçues pour n’avoir qu’une brève existence. Les « ems » se regrouperont en clans et utiliseront des techniques de décision par le marché pour guider leurs choix commerciaux et politiques. Ces clans se livreront une sévère concurrence dans le domaine de la propriété intellectuelle.
L’hypothèse selon laquelle nos systèmes sociaux, hyper-concurrentiels, ne seront pas capables d’empêcher, dans un avenir indéterminé, une domination par des super-intelligences artificielles, cette hypothèse agite beaucoup le monde des futurologues. Je vous recommande la conférence donnée par Sam Harris dans le cadre des TED, « Pouvons-nous construire une Intelligence Artificielle sans finir par en perdre le contrôle ? »
Sam Harris est un essayiste à succès, auteur de 4 best-sellers, très appréciés des lecteurs du New York Times. Pour lui, cela ne fait aucun doute : à force de perfectionnement technologique, il est à peu près inévitable que nous finissions par créer des machines plus intelligentes que nous. Des machines qui n’auront plus besoin de programmeurs humains pour améliorer elles-mêmes leurs performances. Elles seront plus compétentes que nous. Et elles excèderont notre intelligence dans une mesure que nous ne pourrons même pas imaginer. C’est, dit Sam Harris, le plus grand défi auquel sera confronté notre espèce. Certes, concède-t-il, personne ne peut prédire quand cela va se produire. Mais ceux qui croient nous rassurer en nous garantissant qu’en tous cas, c’est dans longtemps sont des plaisantins. Imaginez, poursuit Sam Harris, que nous recevions le message suivant : « Peuples de la terre, nous sommes des membres d’une civilisation extérieure au système solaire et nous arriverons sur votre planète dans cinquante ans… Notre réaction serait-elle : hé bien tant mieux, nous avons encore le temps.
Mais ce pessimisme est-il universellement partagé ? Non. Luciano Floridi, philosophe italien, qui enseigne l’éthique de l’informatique à Oxford, renvoie dos à dos ceux qui croient et ceux qui ne croient pas à l’apparition de cette « machine ultra-intelligente », destinée à poursuivre ses propres finalités, sans plus d’égard pour les effets qu’elles pourraient avoir sur les vies humaines que nous n’en avons pour les fourmis. Les premiers feraient mieux de réfléchir à ce qui se passe ici et maintenant, plutôt que d’inquiéter les gens avec des hypothèses invérifiables : l’effet que les robots sont en train de produire sur le marché du travail – où ils remplacent y compris la main d’œuvre qualifiée ; l’usage militaire des drones que certains verraient bien éliminer des cibles sans plus de surveillance humaine ; les risques pesant sur la cybersécurité, etc.
Rien ne dit que la loi de Moore, selon laquelle le nombre de transistors sur les circuits intégrés double tous les deux ans ne va pas atteindre une limite, car l’illimité n’existe pas, poursuit Floridi. Quant aux « non-croyants », qui se contentent d’affirmer qu’une machine ne peut pas penser et n’a pas de conscience, ils devraient se méfier. Bien des experts estiment qu’une machine pourra passer le Test de Turing dans les cinq ans qui viennent. C’est-à-dire qu’il sera impossible de voir une différence entre la réponse verbale posée à une question par un humain ou par une machine. Toutefois, poursuit Luciano Floridi, la véritable intelligence artificielle, c’est-à-dire littéralement une machine qui pense est « logiquement impossible et complètement invraisemblable ».
Cela n’empêche pas que la jonction entre d’énormes quantités de données et des programmes hyper-sophistiqués rendent nos comportements de plus en plus prévisibles. Nous ne sommes plus le centre de l’infosphère. C’est une révolution conceptuelle comparable à celle provoquée par Copernic…
Brice Couturier est journaliste à France Culture. Tous les jours, à 11h55, dans « Le tour du monde des idées », Brice Couturier fait la synthèse des nouvelles parutions sur les 5 continents : livres, revues, articles, imprimés ou numériques.
Crédit : France Culture
