Zoom. Les deux visionnaires Elon Musk et Stephen Hawking estiment que les systèmes informatiques de plus en plus performants mettront l’humanité en danger.
Venant de tels célèbres visionnaires, l’avertissement mérite d’être écouté. Autant Elon Musk que Stephen Hawking craignent que le développement rapide de l’intelligence artificielle ne soit une menace pour l’humanité. Pour le premier, doter des systèmes informatiques de capacités intellectuelles comparables à celles des humains est un danger «plus grand que le nucléaire». Pour le second, l’intelligence artificielle pourrait mettre fin à l’humanité.
Personne ne saurait reprocher à Elon Musk, 43 ans, de manquer de prescience. L’entrepreneur sud-africain, établi de longue date aux Etats-Unis, a cofondé le système de paiement sur l’internet PayPal avant de lancer la marque de voitures électriques Tesla. Il dirige SpaceX, une compagnie spatiale qui, sous contrat avec la NASA, s’occupe d’acheminer du fret vers la Station spatiale internationale. Elon Musk veille également sur Solar City, la première compagnie américaine d’installation de panneaux solaires. Son aura entrepreneuriale est telle qu’il a servi de modèle au personnage de Tony Stark dans la série des Iron Man.
«Tenter le diable»
S’adressant récemment à des étudiants du Massachusetts Institute of Technology (MIT), Elon Musk appelait à la prudence sur l’intelligence artificielle: «Si je devais pointer du doigt notre plus grande menace existentielle, ce serait probablement vers elle. Je pense de plus en plus que nous devrions créer un organisme national ou international de réglementation pour éviter de commettre quelque chose d’insensé. Nous tentons le diable. Vous savez, comme l’histoire du type avec un pentagramme et de l’eau bénite qui est sûr de pouvoir contrôler le démon. Cela ne marche pas…»
Si l’intelligence artificielle commence à entrer dans l’habitacle des Tesla (avec des systèmes rudimentaires de conduite autonome), Elon Musk a franchi un pas en investissant avec Mark Zuckerberg et l’acteur Ashton Kutcher dans l’aventure Vicarious. Un projet d’ordinateur dont les algorithmes pourraient mimer le système neuronal des humains. Paradoxe? Non, Elon Musk dit au contraire que son investissement est un moyen de «garder un œil» sur l’essor rapide de l’intelligence artificielle. Il recommande enfin la lecture de Superintelligence par Nick Bostrom, un essai paru en septembre sur le futur destin commun des êtres humains et des machines intelligentes.
Physicien, cosmologiste, auteur du célèbre Une brève histoire du temps, Stephen Hawking (72 ans) est lui aussi concerné au premier chef par l’intelligence artificielle. Le système de communication qui permet à cet homme gravement handicapé de parler avec une voix de synthèse (avec l’accent américain, alors qu’il est Britannique) a été développé par Intel. Cet ordinateur sera dès janvier mis gratuitement à la disposition de la communauté scientifique. Hawking a aussi été un utilisateur précoce de l’internet. Le professeur déclarait il y a peu à la BBC que «les formes primitives d’intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d’une intelligence artificielle complète peut mettre fin à l’humanité. Une fois que les êtres humains l’auraient développée, celle-ci décollerait seule et se redéfinirait de plus en plus vite. Les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient dépassés.»
Une sombre prédiction qui n’empêche pas l’humour: Stephen Hawking rêve désormais d’incarner le rôle de méchant dans un futur James Bond, estimant que «le fauteuil roulant et la voix d’ordinateur correspondraient bien au rôle».
Les craintes de ces deux icônes de notre époque hypertechnologique rappellent les scénarios de nombre de films de science-fiction, à commencer par la série schwarzeneggerienne des Terminator. Elles sont par ailleurs loin de faire l’unanimité dans la communauté scientifique, comme l’ont montré les réactions aux déclarations apocalyptiques de Musk et de Hawking, en particulier celles du premier.
Bon milliardaire, mauvais augure
«Je ne pense pas qu’être milliardaire signifie que ce que vous pensez à haute voix est important, a persiflé l’investisseur en nouvelles technologies Roger McNamee sur la chaîne américaine CNBC. Je préfère m’intéresser aux problèmes qui nous tuent aujourd’hui plutôt qu’à ceux qui nous tueront dans vingt ans. Si vous voulez des sujets d’inquiétude, lisez les journaux. Il y a de bonnes chances pour que nous ayons pollué cette planète sans espoir de retour avant que nous puissions vraiment faire fonctionner cette intelligence artificielle.»
D’autres s’en remettent au responsable de l’intelligence artificielle chez Facebook, le chercheur français Yves LeCun, qui déclarait l’an dernier: «Oubliez ces histoires de Terminator. Nous devons bien mesurer à quoi nous avons affaire lorsque nous parlons des intelligences artificielles. En fait, aujourd’hui, la plus intelligente d’entre elles possède à peine le niveau d’un nouveau-né. La plupart des roboticiens en sont encore à mettre au point des machines capables de s’emparer d’une balle ou de se déplacer sans se casser la figure.»
Doctorant en sciences de l’information à l’Université George Mason, Adam Elkus faisait récemment part sur le site slate.com de sa lassitude face à ces augures qui alimentent la «technopanique». Comme nous dépendons de plus en plus de technologies que nous ne comprenons pas, la tendance actuelle est à la réglementation à outrance. Avec à la clé un effet «drone», c’est-à-dire un ensemble de restrictions prises à la va-vite face à un objet nouveau (comme un drone), qui ont pour effet de tuer dans l’œuf son potentiel de développement.
