Comme j’ai beaucoup travaillé sur les IA, comme j’ai écrit de la science-fiction sur ce sujet, on me demande souvent mon avis. Parmi les questions qui reviennent, celle sur la possible dangerosité pour l’homme est récurrente. Et on comprend pourquoi. Depuis l’essor des IAs génératives, les machines sont devenues l’objet de fantasmes parfois farfelus. Certains leaders de la tech appellent à un moratoire sur le développement des IA, le temps d’y voir clair, tout en continuant leurs propres projets. Les tribunes alertant sur le danger des IA, le plus grand défi auquel nous serions confrontés, se sont multipliées.
Alors, me demande-t-on ? Les IA sont-elles une vraie menace pour la survie de l’humanité ?
Tout dépend de ce qu’on entend par survie de l’humanité. J’y reviendrai.
Lorsque je lis l’anxiété dans le regard de mon interlocuteur•ice, je comprends que la question porte sur la survie de notre espèce. Nous parlons de danger mortel, pas directement du risque économique de déclassement de certaines professions. Cet aspect-là nécessiterait un autre article encore plus exhaustif.
Je parle ici du risque de mort ou d’asservissement, un risque que j’appelle de niveau « Terminator » ou « Matrix ». Une IA risque-t-elle de dominer l’humain au point de l’asservir, de le tuer ou de détruire tout ou partie de la planète ? Oui, je vous avoue que cela me rend tout chose, rien que d’écrire cette phrase.
Alors, je vais être direct. Le danger, ce n’est pas l’IA. On parle ici d’algorithmes, encore et toujours, pas d’une intelligence malgré les mots évocateurs dont on veut les parer. Un algorithme est un programme dont on maîtrise plus ou moins les paramètres d’entrée, mais qui répond à un objectif, un cahier des charges et, aux bugs près, à l’intention de son créateur.
Le plus grand danger qui émerge, le plus immédiat, vient à mon sens des drones. La presse et les associations en parlent relativement peu, sauf pour dénoncer la surveillance de masse qu’ils permettent. Pourtant, leur rôle va bien au-delà et leur influence sur nos vies promet d’être non négligeable. Ils sont aujourd’hui de plus en plus utilisés sur les terrains d’opérations armées. Ils sont devenus les vecteurs de conflits, participent à des combats que l’on peut commodément prétendre virtuels et déshumanisés, mais qui font de vraies victimes. Pour le moment, nous n’en sommes qu’au début, mais ils vont devenir des armes bon marché, capables de frapper à distance et de manière presque anonyme, parfois à peine visible. Leur usage va s’étendre au-delà des armées. Les drones vont devenir un outil, une arme utilisée par les polices, les milices du monde entier, mais pas seulement. Ils seront immanquablement utilisés par les mafias, le grand banditisme et les militants de tout poil défendant des causes et des méthodes radicales. On peut parler des dangers des IA, mais imaginez un monde dans lequel ces drones, parfois armés, ont proliféré. Je pense que la menace est de suite plus concrète que celle des algorithmes. Attendez de les voir s’installer dans le ciel de Paris à l’occasion des Jeux olympiques. Attendez de les voir s’installer partout dans le paysage, devenir un objet de notre quotidien.
Et une fois le génie sorti de sa lampe magique, il sera impossible de l’y enfermer à nouveau.
Aujourd’hui, le développement des drones s’accélère, l’Ukraine offre un terrain de jeu et d’expérimentation sans précédent.
Je parle beaucoup des drones dans mes textes, souvent même plus que des algorithmes. Si vous me lisez régulièrement, vous pouvez entrevoir pourquoi.
Le drone est dangereux parce qu’il peut devenir une arme, mais surtout parce qu’il permet de dépersonnaliser et de déshumaniser la violence sur les personnes. Alors, oui, on peut craindre le moment où les drones seront pilotés par des algorithmes et deviendront autonomes. Mais les drones comme les algorithmes partagent ce point commun, ils ne sont dangereux que lorsqu’ils servent de paravents pour une forme de violence désincarnée, froide et administrative (étatique ou venant d’entreprise, il n’y a pas de différence). Cette violence s’incarne dans des processus administratifs qui se déploient dans le monde, des processus dans lequel l’humanité n’a plus sa place. Nous y revoilà. Les IA, les drones ne sont pas un danger pour l’humanité, entendue au sens d’espèce humaine, elles sont une menace pour notre capacité en tant qu’espèce à continuer à agir comme des humains. Ce n’est sûrement pas un moindre danger.
Derrière les drones, derrière les algorithmes, je ne vois pas dans un futur proche, les machines tirer les ficelles, mais bien des êtres humains, individus ou systèmes. Le danger vient des maîtres de ces automates (les algorithmes) ou des pilotes plus ou moins assistés de ces drones, de ceux qui définissent leur comportement à l’abri derrière une forme de fatalité. Le danger vient du pouvoir que ces outils leur confèrent.
Parler du danger des IA, aujourd’hui, c’est agiter un épouvantail pour détourner l’attention du vrai risque1, de celle de voir émerger un outil de pouvoir opaque qui enracine le règne de l’arbitraire avant qu’on ait le temps d’en prendre conscience.
- Et je ne parle même pas de la consommation énergétique massive des IA. L'impact sur le réchauffement climatique des IA est un risque plus important que leur hypothétique prise d'autonomie.