Stanislas Lem consacre le recueil
La Cybériade
aux déboires de deux concepteurs et constructeurs de
machines autonomes et intelligentes. Mon épisode
préféré, La Machine de Trurl, est le récit d'un
conflit violent et
spectaculaire entre le constructeur
Trurl
et une puissante machine stupide qu'il vient de fabriquer. Comme le souligne
l'autre constructeur (nommé
Clapaucius),
il s'agit de la machine intelligente la plus stupide du monde.
De plus, elle a mauvais caractère.
Je rappellerai brièvement l'intrigue du récit,
puis je proposerai quelques pistes au long desquelles
une réflexion sur le métier de roboticien pourrait
se déployer, à partir de ce texte de Lem et de
plusieurs autres.
Tout commence lorsque Trurl, très fier de son coup,
achève de construire une machine monstrueuse.
Elle est haute et massive comme un immeuble de huit étages, et
peut néanmoins se promener un peu partout. Elle peut aussi,
en principe, effectuer divers calculs.
Trurl fignole sa décoration : peinture blanche, du mauve
sur les bordures, une touche d'orange pour le fronton.
Puis il lui pose la question rituelle :
combien font deux plus deux ?
Sept, répond-elle d'une voix caverneuse.
Clapaucius, passant par là, en l'entendant s'en amusa.
Mais Trurl, furieux, frappe la machine à coups de pieds,
jusqu'à la mettre en grande colère.
Elle hurle de rage, insiste pour que deux et deux fassent sept, et se
dispose à piétiner sauvagement ses contradicteurs.
Ils fuient vers un village, escomptant qu'elle ne pourra emprunter
les étroites ruelles. Cependant, elle se fraie un chemin
en démolissant les maisons séquentiellement, sans même ralentir.
Les malheureux constructeurs ont trouvé refuge dans la
cave de
la mairie, mais les conseillers municipaux, à la demande de la
machine qui les menace, forcent Trurl et Clapaucius à se
diriger vers une montagne. Ils escaladent une falaise où
s'ouvre une grotte
étroite. Ils pensent que cette fois-ci, la machine
ne peut plus rien contre eux.
La machine, pleine d'obstination, escalade la falaise et obture la grotte
pour asphyxier ses ennemis. Ils tentent d'abord une concession sur
le fait que deux plus deux égale sept.
Elle leur prend alors la tête avec d'autres opérations.
Trurl craque et se remet à proclamer que
deux plus deux égale quatre.
La machine se déchaîne alors.
Pour faire crouler la voûte de la grotte, elle frappe violemment
la paroi de la montagne. Mais cela produit une avalanche, et notre
pauvre Machine stupide subit le sort de Roland
à Roncevaux.
Son corps est écrasé sous une roche noire.
Son âme en s'exhalant dit « deux plus deux font sept ».
Sous une apparente naïveté, cette fable introduit deux
questions fondamentales de la robotique : le prix de
l'autonomie des machines et la possibilité de la
Très Grande Stupidité Artificielle
(TGSA dans la suite).
Des questions subsidiaires en découlent :
gestion des conflits, destructions dues aux incivilités
robotiques, incidence de ces faits sur les versions ultérieures
des machines autonomes, détermination
de la responsabilité des constructeurs lorsque,
comme Trurl et Clapaucius, ils sont eux-mêmes des robots
(chose qui n'est pas rappelée dans
La Machine de Trurl, mais qui a son importance).
L'autonomie décisionnelle des machines est postulée par
d'innombrables auteurs de science-fiction.
En pratique, elle reste un sujet non trivial.
Dans Une histoire de l'informatique (Seuil, 1990),
Philippe Breton donne l'exemple
de la conquête des longitudes,
au temps de la marine à voile, qui s'appuya sur des perfectionnements
de l'horloge mécanique. Une telle machine peut et doit
être autonome, et cela lui est facile car, tout ce qu'on lui demande,
c'est de faire preuve d'inertie cognitive.
En particulier, ses effecteurs, la grande et la petite aiguille,
ne sont pas en prise
ni aux prises avec son environnement.
En fait, les marins de l'époque ont eu beaucoup de chance.
Si, au lieu d'horloges ordinaires, ils avaient eu des copies
de la Grande Horloge de Trurl, tout se serait passé autrement.
En effet, bien que Stanislas Lem n'ait pas pris la peine de le
consigner dans ses écrits, Trurl avait construit vers cette
époque une horloge capable de s'envoler brusquement pour
ensuite quitter l'atmosphère, effectuer un voyage spatial
à grande vitesse, puis rentrer dans
l'atmosphère et regagner sa place
sur le pont du navire, comme si de rien n'était.
En vertu de la physique relativiste, un tel comportement faisait
afficher aux aiguilles une heure qui retardait notablement,
ce qui, en cas d'utilisation par les marins, aurait créé
une illusion
sur la longitude atteinte par le navire, et aurait
fait prendre les Amériques pour les Indes.
Une horloge qui s'envole, une
calculette qui démolit les maisons d'un village : vous noterez que
les machines de Trurl posent problème parce qu'elles sont capables de faire
tout autre chose que ce qu'on attend d'elles. Clapaucius, le rival de Trurl, est
d'avis qu'on devrait donc exhiber ces bécanes
dans les foires, pour l'amusement des petits
et des grands.
Stanislas Lem adopte d'ailleurs ce
point de vue. Dans le monde de Trurl, la machine est nuisible, et pour nous, elle est
risible. Si l'on cherche néanmoins à être accommodant avec elle,
on peut faire de son "2 + 2 = 7" la lecture suivante : une telle addition
aura un élément neutre désigné par "-3", donc la machine nomme les entiers
par leur troisième prédécesseur. Ce qu'elle appelle 2, c'est
notre 5. Ce qu'elle appelle 7, c'est notre 10. Moyennant quoi, "2 + 2 = 7" est
correct mais nous disons "5 + 5 = 10" (quand la machine ne nous entend pas) et "2
× 2 = 22" alias "cinq fois cinq, vingt-cinq", ce que Trurl s'est refusé
à prononcer ainsi, dans la grotte.
Pour
conclure provisoirement :
nous pouvons déléguer aux machines
certains aspects de notre intelligence,
reste à savoir lesquels.
