Le développement de l’intelligence artificielle pose des questions embarrassantes. Ces nouveaux défis devraient stimuler tous les cerveaux humains.
Ce sujet est sans doute aussi sérieux que celui du réchauffement climatique et pourtant, on n’en parle presque pas. Peut-être par peur de paraître paranoïaque, ou de ressembler à un allumé qui aurait consommé trop de films hollywoodiens. Le risque d’un cataclysme d’ampleur mondiale dû aux algorithmes est cependant bien réel. Depuis le début de la décennie, l’intelligence des machines se développe à une vitesse croissante et les organisations humaines en deviennent toujours plus dépendantes.
On pourrait s’inquiéter, par exemple, des conséquences dévastatrices qu’aurait une attaque ciblée sur les logiciels qui orchestrent la finance mondiale, ou sur ceux qui contrôlent la sécurité aérienne. Mais c’est une hypothèse d’une tout autre ampleur qui s’invite aujourd’hui dans le débat: celle d’une prise de pouvoir totale des machines sur l’humanité. Les progrès de l’intelligence artificielle sont tels qu’ils ont remis au goût du jour les vieux scénarios de science-fiction dans lesquels les machines décident de s’attaquer aux humains pour mieux remplir les missions qu’on leur a confiées.
Des personnalités médiatiques telles que l’astrophysicien Stephen Hawking et les entrepreneurs Elon Musk ou Jaan Tallinn, cofondateur de Skype, ont pris cette hypothèse suffisamment au sérieux pour publier une lettre ouverte et rejoindre le Future Of Life Institute, qui veut mettre le débat sur la place publique. Moins médiatisés, les chercheurs qui travaillent sur l’intelligence artificielle ne sont pas aussi alarmistes. Ils considèrent un tel scénario comme aberrant car il supposerait une autonomie totale des machines, ce qui est contraire à la logique des algorithmes.
Ils savent bien que le but des recherches ne se limite pas à rendre l’intelligence artificielle de plus en plus performante; il est surtout de la rendre de plus en plus utile aux humains, en intégrant une dimension éthique. Et sur ce plan, les perspectives ont de quoi faire rêver, ne serait-ce que dans le domaine médical, où elles laissent entrevoir des progrès spectaculaires dans les diagnostics et les traitements. Il est évidemment important de s’interroger sur les risques à long terme, peut-être existentiels, que pourraient faire courir les machines apprenantes, mais les premiers défis qu’elles soulèvent sont beaucoup plus pragmatiques.
Car bien avant de menacer les humains, si elle le fait un jour, l’intelligence artificielle aura détruit quantités d’emplois. Elle aura permis de transformer radicalement le paysage industriel, les transports, la médecine et d’innombrables domaines de la vie quotidienne. Les questions les plus urgentes à aborder sont celles-ci: comment utilisons-nous cette intelligence supplémentaire pour en tirer tous les bénéfices? Comment allons-nous prévenir les embardées et les effets indésirables? Les juristes, les éthiciens mais aussi les enseignants, les designers et les politiciens doivent explorer ces questions sans tarder. Les idées à ce sujet doivent circuler dans nos cerveaux biologiques aussi vite et efficacement que les données dans les circuits numériques.
Les démocraties dans leur ensemble sont concernées, car l’intelligence artificielle procure un pouvoir exceptionnel à ceux qui en maîtrisent les outils. Au cours des derniers mois, le vote sur le Brexit et l’élection de Donald Trump ont déclenché un débat sur le rôle des réseaux sociaux et de leurs algorithmes qui sélectionnent les informations en fonction des goûts de l’utilisateur. Y a-t-il eu un phénomène d’amplification imprévu? On ne peut pas exclure que la manière dont ces algorithmes ont été conçus ait pu orienter le choix de certains votants. Le simple fait que cette possibilité existe a de quoi interpeller les démocraties. Il est urgent de discuter des algorithmes.
_______
Une version de cet éditorial est parue dans le magazine Technologist (no 11).
Pour souscrire un abonnement à Technologist au prix de CHF 45.- (42 euros) pour 8 numéros, rendez-vous sur technologist.eu.