Et si, face aux craintes suscitées par l’intelligence artificielle, on relisait Isaac Asimov ?
Dès 1942, ses trois lois de la robotique plaçaient l’humain au-dessus de la machine.
Plus de quatre-vingts ans plus tard, cette vieille idée de science-fiction pourrait bien inspirer une question très actuelle : quelles règles imposer à l’IA avant qu’elle ne décide à notre place ?
Quand on parle d’intelligence artificielle générative, il y a ceux qui voient un formidable outil.
Et puis il y a ceux qui imaginent déjà la machine prendre le pouvoir, supprimer les emplois, décider à notre place et, pourquoi pas, conclure un beau matin que l’être humain est finalement assez encombrant.
Après tout, du point de vue d’une machine, à quoi sert exactement l’humain ?
Il mange, il dort, il se trompe, il tombe malade et il demande régulièrement à son ordinateur pourquoi l’imprimante ne fonctionne plus.
La science-fiction s’est posé la question bien avant nous.
En 1942, Isaac Asimov formule explicitement ses fameuses trois lois de la robotique dans la nouvelle « Runaround », traduite en français sous le titre « Cercle vicieux ». La nouvelle sera ensuite reprise dans I, Robot, publié en 1950 et connu en français sous le titre Les Robots, le recueil qui constitue la première grande pierre du Cycle des robots.
Première loi : un robot ne doit pas porter atteinte à un être humain, ni laisser un humain en danger par son inaction.
Deuxième loi : il doit obéir aux humains, sauf si l’ordre reçu contrevient à la première loi.
Troisième loi : il doit protéger sa propre existence, mais seulement si cela ne contredit pas les deux premières.
La hiérarchie est claire.
D’abord l’humain.
Ensuite les ordres de l’humain.
Et seulement après, la machine.
Ces trois lois ne sont d’ailleurs pas un simple décor littéraire.
Elles deviennent le principe central autour duquel Asimov construit une grande partie de son Cycle des robots. Ses histoires consistent précisément à tester ces règles, leurs contradictions et leurs limites.
Autrement dit, Asimov avait en quelque sorte inventé un règlement sur l’intelligence artificielle avec plus de quatre-vingts ans d’avance.
Et surtout en trois phrases.
Depuis, nous avons un peu allongé la documentation.
Plus tard, en 1985, il ajoutera une loi zéro : un robot ne peut porter atteinte à l’humanité ni permettre, par son inaction, que l’humanité soit mise en danger.
Et là, évidemment, cela devient plus compliqué.
Car protéger l’humanité peut conduire une machine à considérer qu’un individu peut être sacrifié au nom du plus grand nombre.
On quitte alors l’informatique pour entrer dans la morale, la philosophie et même la politique.
Puis il y a Arthur C. Clarke.
En 1945, il popularise l’idée d’utiliser l’orbite géostationnaire pour les télécommunications mondiales.
Et en 1968, avec Stanley Kubrick, il imagine dans 2001, l’Odyssée de l’espace HAL 9000, un ordinateur qui finit par se retourner contre les astronautes.
Le film n’explique pas vraiment pourquoi.
Clarke donnera la réponse plus tard, dans 2010, Odyssée deux : HAL avait reçu des instructions contradictoires.
Il devait dire la vérité tout en cachant aux astronautes la véritable nature de leur mission.
Le problème n’était donc pas simplement une machine devenue folle.
C’étaient aussi des humains qui lui avaient donné des ordres impossibles à concilier.
Et cette idée-là reste étonnamment actuelle.
Parce que le danger ne vient pas nécessairement d’une intelligence artificielle qui se réveille un matin en décidant qu’elle n’aime plus les humains.
Il peut venir beaucoup plus banalement de règles mal écrites, d’objectifs contradictoires ou d’humains qui demandent à la machine de faire ce qu’ils ne veulent pas assumer eux-mêmes.
Et c’est là que les trois lois d’Asimov redeviennent intéressantes.
Pourquoi devraient-elles rester de la science-fiction ?
Pas forcément en recopiant mot pour mot Les Robots dans le Code civil.
Mais leur principe pourrait devenir très concret : l’intelligence artificielle doit rester au service de l’humain, sous contrôle humain, avec des limites claires.
Et surtout, derrière chaque système, il faut pouvoir identifier un responsable.
Une entreprise, un concepteur, un exploitant ou une administration.
Quelqu’un qui réponde de ce que fait la machine.
Parce qu’envoyer ChatGPT ou HAL 9000 devant un tribunal risque tout de même de poser quelques problèmes de procédure.
Bien sûr, cela ne supprimera pas tous les abus.
Aucune loi ne le fait.
Mais une société ne renonce pas au droit sous prétexte qu’il peut être contourné.
Elle fixe des limites, désigne les responsabilités et sanctionne ceux qui les franchissent.
Pourquoi l’intelligence artificielle devrait-elle échapper à cette logique ?
Finalement, la réponse à ceux qui craignent que la machine prenne un jour des décisions contre les humains n’est peut-être pas de leur promettre que cela n’arrivera jamais.
Personne ne peut sérieusement le garantir.
La réponse pourrait être plus simple : décider dès maintenant de ce qu’une machine n’aura jamais le droit de faire.
Asimov avait commencé à y réfléchir en 1942 et il en a fait l’un des fondements de tout son Cycle des robots.
Plus de quatre-vingts ans après, il serait peut-être temps de faire passer une petite partie de cette science-fiction dans le droit réel.
Cela rassurera au moins tous ceux qui croient encore à la loi.
Pour les autres, même Asimov risque d’avoir du mal.
