Les derniers « exploits » de l’intelligence artificielle (IA) de Google, DeepMind, ont de quoi laisser songeur. Des tests ont en effet montré que plus l’intelligence est élevée, et plus le programme est capable d’agressivité aux fins d’effectuer une tâche quelconque. Il s’agissait pour deux programmes de récolter un maximum de pommes dans un jeu vidéo, et ils disposaient d’un rayon laser qui pouvait mettre l’autre hors-jeu pour un moment. Tant qu’il y a assez de pommes, tout se passe bien, mais dès qu’elles viennent à manquer, les deux agents deviennent agressifs, alors que les programmes les « moins intelligents » se sont contentés de partager les pommes… Une belle métaphore, car s’il est vrai que ces programmes savent apprendre, ils ne le font jamais que sur des bases et des principes qui leur sont donnés par l’homme. Pour se comporter de manière coopérative au contraire, un autre jeu a été conçu : Wolfpack ; les deux loups et la proie. Les deux loups doivent coopérer pour chasser la proie et ne pas se faire voler la carcasse par les charognards. On se croirait dans le monde politique… ou la finance. Ainsi la coopération va se mettre en place si l’intérêt supérieur le demande, mais d’autres environnements font naître la cupidité, comme l’explique Joël Z Leibo, membre de l’équipe de recherche : « Ce modèle (…) montre que certains aspects du comportement humain semblent émerger comme un produit de l’environnement et de l’apprentissage. Des politiques moins agressives émergent de l’apprentissage dans des environnements relativement abondants, avec moins de possibilités d’actions coûteuses. La motivation de la cupidité reflète la tentation de surpasser un rival et de recueillir toutes les pommes soi-même ».

La singularité approche

Les progrès constants de l’intelligence artificielle obligent à une réflexion éthique, comme y a appelé Elon Musk, patron de Tesla : « Les systèmes d’IA ont aujourd’hui des capacités impressionnantes mais étroites. Il semble que nous allons continuer à réduire leurs contraintes, et dans le cas extrême, ils atteindront une performance humaine sur pratiquement toutes les tâches intellectuelles. Il est difficile de comprendre à quel point une IA humaine pourrait bénéficier à la société, et il est tout aussi difficile d’imaginer à quel point cela pourrait nuire à la société si celle-ci est conçue ou utilisée de manière incorrecte ». A cet effet il a fondé OpenAI, une association de recherche dédiée à l’éthique.

Certains l’espèrent et d’autres le redoutent, mais l’IA pourrait un jour « fusionner » avec l’homme. Les prophètes technos comme Ray Kurzweil l’annoncent depuis des décennies, en repoussant régulièrement la date. Il annonce désormais la « singularité » technologique pour 2045. A ce stade, non seulement la machine deviendrait plus intelligente que l’homme, mais elle acquerrait une conscience, ce qui ne manque pas d’évoquer les pires scénarios de science-fiction. En lien avec l’essor des nano et biotechnologies, certains croient en l'avènement d'un « homme augmenté » qui aurait non seulement une intelligence mais aussi une résistance et une espérance de vie accrues. Selon le Dr Laurent Alexandre, auteur de La Mort de la mort (JC Lattes, 2011) et annonciateur du transhumanisme, les enfants nés au cours de notre décennie pourraient bien vivre 1000 ans... Un slogan destiné à frapper les esprits. « Le mot transhumanisme a été invente par Julian Huxley, frère de l'écrivain et auteur du Meilleur des mondes, dans les années 1950, expliquait Laurent Alexandre lors d'une conférence a Paris en 2015. Mais c'est longtemps resté quelque chose de confidentiel pour barbus californiens sous influence du LSD. Puis, progressivement, les géants du numérique sont devenus transhumanistes, ou en tout cas des transhumanistes sont arrivés a la tète des géants du numérique ».

L’homme numérisable ?

En 2015, plus de 1 000 experts en robotique et en intelligence artificielle ont dénoncé dans une lettre ouverte les dangers du développement de l’IA militaire et en particulier des « armes autonomes » ou « robots tueurs ». L'appel a été cosigné par plusieurs personnalités dont l’astrophysicien Stephen Hawking, Elon Musk et Steve Wozniak, cofondateur d'Apple. Les signataires estiment qu'il faut « interdire l’utilisation de l'IA dans le domaine militaire ». Dans le civil, le cabinet Venture Scanner a identifié plus de 950 start-up spécialisées en IA dans le monde, qui totalisent près de 5 milliards de dollars d’investissements. Selon le cabinet d’analyse Tractica, le marché de FIA pour les applications en entreprises dépassera 11 milliards de dollars en 2024.

Dans le domaine de la santé, la révolution du transhumanisme a déjà commencé, estime Laurent Alexandre, qui cite trois exemples emblématiques : le cœur artificiel, le séquençage de l'ADN, et la chronicisation du cancer. Dans les Clés du futur (Plon, 2015), l'essayiste Jean Staune liste de son côté toute une série de métiers appelés à disparaitre du fait de l’inéluctable automatisation, et pas seulement des emplois aux gestes répétitifs et jugés sans valeur ajoutée. Un fonds d'investissements basé à Hong-Kong, Deep Knowledge Ventures, a ainsi élu comme membre du conseil d’administration un programme appelé Vital ! Et Jean Staune d’interroger : « Et si l’homme était “automatisable” dans son ensemble ? » De fait, le courant transhumaniste envisage très sérieusement une « immortalité numérique » à partir du transfert de la conscience d'un individu dans un support informatique. On parle de « téléchargement de l'esprit » ! S'appuyant sur une conception mécaniste et matérialiste de la conscience, de nombreux chercheurs dans la lignée de feu Marvin Minsky sont convaincus, d'une part, que celle-ci est « numérisable » et, en second lieu, qu’un ordinateur suffisamment puissant pourra un jour lui servir de substrat. Plusieurs projets vont dans ce sens, y compris financés par des fonds publics, comme la Brain Initiative américaine ou le projet européen Human Brain.

Notre dernière invention

Auteur d'Immortalité numérique - Intelligence artificielle et transcendance (Science eBook, 2014), Jean-Claude Heudin reste extrêmement sceptique quant à une telle possibilité. « Le projet Human Brain a vu le jour aux États- Unis et relève le défi de simuler la totalité du cerveau humain, indique-t-il. Même si nous arrivons à simuler plusieurs millions de neurones, nous en sommes encore très loin. La très grande majorité des réseaux de neurones artificiels reposent sur des systèmes à couche, qui n’ont pas du tout la même organisation que dans le cortex humain. (...) On n'est pas près de faire une machine consciente, alors imaginer que l’on peut simuler notre esprit dans une machine… On est totalement dans la science-fiction. »

Mais le pire n’a pas seulement été envisagé par la science-fiction. Dans un essai paru en 2013, Our Final Invention - Artificial Intelligence and the End of the Human Era (“Notre dernière invention - L'lntelligence artificielle et la fin de l’ère humaine »), le documentariste James Barrat explore la possibilité qu'une intelligence artificielle consacre son énergie à concevoir de meilleures versions d’elle-même, jusqu'a ce que son intelligence surpasse celle de l’humain d'un facteur 1000 ou plus, et en vienne a nous considérer comme quantité négligeable. Pourtant, le physicien et philosophe Alexei Grinbaum a expliqué que « pour qu'une espèce veuille en exterminer une autre, il faut quelles partagent le même habitat et se disputent les mêmes ressources. Ce n'est pas le cas dans la confrontation homme/machine ». Ainsi, les points de vue divergent sur ces évolutions et il est bien difficile de savoir ce que l'avenir nous réserve en la matière. Quoi qu’il en soit, la vigilance s’impose.