Alors, comment se passe votre week-end ?
C’est un week-end de Toussaint. Il fait humide et froid. Ce n’est pas grave ! C’est un moment idéal pour lire, blotti dans son fauteuil préféré, avec un bon thé chaud.
C’est Halloween, et je voulais reparler, fort à propos, de ma dernière nouvelle « Maudite IA ». Si vous ne l’avez pas encore lu, c’est le moment de le faire, avant de poursuivre la lecture de cette lettre: voir Le Flow 86 et les suivants.
Alors, pour commencer, est-ce que vous vous en êtes remis ?
Car, oui, c’est vrai, cette nouvelle était sombre, je l’admets. Comme elle était prenante, l’impact est réel. Je voulais un texte dans la tradition d’H.P. Lovecraft ou d’Edgar Poe, mais ancré dans les tourments de notre monde actuel. Et j’ai l’impression que j’ai accompli ma mission.
Alors, merci de m’avoir lu, merci pour vos retours, et promis, je ne ferais pas toujours des textes aussi dark.
Le thème de l’intelligence artificielle s’est imposé naturellement à moi pour moderniser le thème du livre maudit. Je voulais parler d’IA et de son caractère potentiellement nuisible, mais de façon très réaliste. Je ne voulais pas une d’IA personnifiée par une interface vocale, comme la science-fiction nous le propose depuis la nuit des temps. Ce n’était pas le HAL de « 2001 l’Odyssée de l’espace ». Je ne voulais pas une IA que l’on puisse sentir évoluer par son expression ou son ton, pas une IA que l’on sente bienfaisante ou maléfique au travers de son interface et de son comportement.
Dans « Maudite IA », l’intelligence est un algorithme, sans état d’âme, un programme comme on en utilise tous les jours. Elle n’a pas d’ambition bienveillante ou malveillante, pas de but, de plan secret. Pas de peur des humains. Elle évolue, certes, mais guidée par la façon dont elle a été programmée. C’est un objet informatique, rien de plus. Un outil qui doit devenir de plus en plus utile avec le temps en apprenant de son propriétaire. Il se trouve que cet apprentissage peut l’amener à faire démultiplier le bien, ou le mal, en fonction de son environnement. Un objet qui se confond et interagit avec l’âme de son maître. Un simple objet qui devient habité, hanté par son modèle… et qui peut devoir être exorcisé.
Ce réalisme est finalement encore plus effrayant. Ce type d’algorithme se glisse partout. On ne les voit pas, ils n’ont pas la voix de Siri ou d’Alexa, mais ils ont une influence sur nos vies.
Comme l’explique très bien Martin Gibert dans son petit livre sur l’éthique des algorithmes (Faire la morale aux robots : une introduction à l’éthique des algorithmes), en se répandant dans le monde, les IA vont devoir devenir des Agents Moraux Artificiels. Les Agents Moraux, sont des entités dont on peut présumer qu’elles sont capables de distinguer le bien du mal, qu’elles sont responsables de leurs actes et capables de faire des choix éthiques.
L’exemple le plus classique est celui de la voiture autonome. Lorsqu’un crash est inévitable, il sera possible de choisir qu’elles seront les victimes, le groupe des cinq personnes qui traversent la rue ou la personne qui marche seule sur le trottoir. Mais sur quelles critères ?
Par nature, les algorithmes vont devoir intégrer une dimension éthique. Cette réponse éthique peut varier d’une culture à l’autre, ou dans le temps. Et ne me pas faire de choix, c’est aussi prendre parti dans ce débat de société, celui de confier ces décisions à la sensibilité de chaque programmeur.
C’est tout l’enjeu des années à venir. L’informatique doit enfin se retrouver au centre d’un débat de société mêlant politique, philosophie, éthique, technique. C’est un sujet passionnant. À terme, il va falloir créer des responsables de l’éthique logicielle dans les grandes sociétés technologiques, des personnes qui connaissent la technique, la philosophie, férues d’imaginaires et capables de penser notre futur technologique en le mettant en perspective avec les enjeux de Société. Il deviendra irresponsable de lancer un produit sur le marché sans une étude d’impact éthique.
J’espère donc que « Maudite IA » peut jouer un petit rôle en rendant évidente cette responsabilité, cette éthique. Ce texte montre que cette question s’applique à des sujets moins spectaculaires que les crashs de voitures. À terme, si les IA deviennent responsables de leurs actes, il faudra aussi des « exorcistes », ou plus prosaïquement une police et des juges qui se penchent sur les dérives.
Je vais continuer d’explorer ces sujets, d’une manière assez différente, dans ma prochaine nouvelle. Elle demande encore beaucoup de travail, alors chut 🤫 Cette histoire continue de s’écrire.
Podcast
Cette semaine, le podcast Double vie accueille Fabien Cerutti. Fabien est historien et auteur de la série de romans, mêlant imaginaire et histoire, « Le Bâtard de Kosigan ». Salué par la critique, Fabien a créé une série française de fantasy addictive, qui marque les esprits et rassemble une communauté de fans.
🎧 À écouter sur la chaine YouTube Double Vie.
À retrouver également sur Apple Podcast et le site Double Vie.
La dose de flow
Musique
Je ne sais même plus comment j’ai découvert cette reprise « Gypsy Jazz » du morceau « Lose yourself » d’Eminem. C’est une magnifique passerelle entre les genres que lance Robyn Adele Anderson.
Inspiration
« Contes Hybrides » est un petit recueil de trois nouvelles de Lionel Davoust. Tous les textes sont excellents, mais j’ai été frappé par le premier texte, « Le Sang du Large », qui parle du doute de l’auteur, mais sous un angle très différent de « Maudite IA ».
Je vous en ai extrait une citation :
« Les seuls ambassadeurs de la magie, du merveilleux, qui subsistent, ce sont les gens comme toi. Des gens un peu fous, prêts à s’aventurer au fond d’eux-mêmes, et au-delà, pour en rapporter des gemmes de rêve qu’ils transmettront à leurs semblables. »
À suivre
Le week-end sera calme. Après une opération dentaire jeudi, l’ambiance est plutôt au repos pour moi. Seul objectif pour le week-end, si je parviens à écrire un peu : Refaire une nouvelle version du synopsis de mon roman (Le fameux 404, du coup un Not found qui porte bien son nom, il va falloir briser la malédiction).
Je vous souhaite un excellent week-end prolongé !
— mikl 🙏