(reproduction à des fins d'indexation)

Conférence Laser animée par Philippe Lemoine, à propos de Totalement inhumaine, 2001
8 janvier 2013, 22:39

Totalement inhumaine


Jean-Michel Truong

Philippe Lemoine : Dans le cadre des débats que nous organisons avec des auteurs dont le point de vue éclaire les différentes dimensions des transformations s’attachant à la pénétration des technologies non seulement dans le monde de la production et des échanges, mais aussi dans la vie quotidienne, nous accueillons aujourd’hui Jean-Michel Truong, auteur de Totalement inhumaine, essai publié en septembre 2001 chez les Empêcheurs de penser en rond. Je rappelle que J.-M Truong est auteur d’un ouvrage consacré à l’intelligence artificielle, paru en 1986 et intitulé Systèmes experts : vers la maîtrise technique, de Reproduction interdite, un roman paru en 1989 et traitant du clonage, et du Successeur de pierre, autre roman, publié en 1999, sur un thème proche de celui qu’aborde le livre qui nous réunit aujourd’hui.

Lors des débats que nous avons eus au cours des dix-huit derniers mois, les auteurs que nous avons reçus ont insisté sur les aspects purement rationnels des nouvelles technologies et de leurs effets ainsi que sur leurs aspects humains. Ainsi, Dominique Wolton avait bien fait ressortir la dimension instrumentale et humaine de la communication. Quant à Michel Volle, il avait évoqué, outre le fonctionnement propre des infrastructures, les relations - perverses ou non – qui se développent entre les monopoles et les consommateurs finaux. Nous avons aussi parlé de l’utile et du futile avec Charles Goldfinger.

Pour votre part, Jean-Michel Truong, vous décrivez un monde dominé par ces objets rationnels que sont les e-gènes, qui s’interconnectent, et les mèmes, représentations mentales, la combinaison des uns et des autres nous menant vers un futur que vous peignez de couleurs fort « sympathiques », puisque nous vivrions aujourd’hui les préliminaires d’une domination totale par l’intelligence artificielle.

Votre hypothèse va donc, d’une certaine manière, beaucoup plus loin que celles présentées jusqu’à présent dans le cadre de nos rencontres. Je vois d’ailleurs dans votre livre un côté provocant tout à fait propre à susciter le débat. Vous partez en effet d’une citation de Teilhard de Chardin évoquant une « espérance totalement humaine » et vous concluez votre livre en parlant de « l’immense espérance placée dans la figure totalement inhumaine du Successeur », c’est-à-dire l’intelligence artificielle qui va succéder à l’homme. Au passage, vous introduisez aussi des débats techniques en évoquant la « lamentable serpillière » que constituerait aujourd’hui le Net. Vous émaillez votre livre de citations empruntées notamment à Nietzsche ou aux situationnistes. Au total, nous aimerions savoir quels sont les tenants et les aboutissants de votre démarche, que vous voulez manifestement provocante.


Jean-Michel Truong : Totalement inhumaine est en fait le commentaire de deux citations placées en exergue à mon livre. La première est tirée d’un ouvrage de la philosophe Simone Weil : « L’histoire humaine n’est que l’histoire de l’asservissement qui fait des hommes, aussi bien oppresseurs qu’opprimés, le simple jouet des instruments de domination qu’ils ont fabriqués eux-mêmes, et ravale ainsi l’humanité vivante à être la chose de choses inertes. » L’idée selon laquelle nous sommes devenus la chose de nos objets, particulièrement de nos objets techniques, est presque un truisme. Totalement inhumaine a pour ambition d’aller plus loin que le simple énoncé de ce cliché et de montrer par quelles voies nous sommes devenus et devenons chaque jour davantage « la chose de choses inertes ».

La seconde citation est d’André Leroi-Gourhan : « On peut se demander ce qui restera de l’homme après que l’homme aura tout imité en mieux. » Leroi-Gourhan fait là référence à cette observation bien connue des anthropologues : le couteau a imité la dent – elle y a succédé –, le grattoir a imité, en mieux, l’ongle, etc. Ainsi, l’humanité a débuté par un grand mouvement d’imitation progressive de toutes ses fonctions corporelles puis intellectuelles, et nous pouvons effectivement nous demander ce qu’il restera de l’homme une fois qu’il aura tout imité en mieux. Je voudrais donc vous montrer, d’une part, comment nous devenons la chose de choses inertes et d’autre part, vous proposer ma réponse à la question de savoir ce qu’il restera de l’homme après qu’il aura imité son intelligence et sa conscience.


Pour rendre compte de ce qui me semble être une « biologisation » progressive des logiciels, je propose le terme « d’ e-gènes ». Cette « biologisation » avait été entrevue dès la naissance de l’informatique : Von Neumann démontre ainsi la faisabilité de logiciels autoreproductibles. Turing est allé plus loin encore, en suggérant une équivalence entre code informatique et code génétique, même si à son époque, on n’employait pas encore cette dernière expression. Turing considérait en effet qu’il était sans doute erroné de vouloir créer d’emblée des logiciels adultes, qu’il valait mieux créer des « logiciels enfants », voire des « machines embryons », et laisser faire le temps, pour que ces embryons se développent jusqu’au stade adulte. Il suggéra ensuite une analogie entre logiciels et chromosomes, en tant que porteurs de code, jusqu’à interpréter une modification du logiciel comme l’équivalent d’une mutation. Dès lors, il ne voyait pas pourquoi les logiciels n’évolueraient pas, comme les êtres vivants, par sélection naturelle.

Turing ne pouvait cependant vérifier la validité de son intuition dans la mesure où les logiciels de l’époque – et cela est resté vrai jusqu’à une date récente – étaient particulièrement intolérants aux erreurs. Or, pour évoluer, il faut accepter l’erreur : si la moindre mutation du génome entraîne la mort de son porteur, il n’y a pas d’évolution possible ! Il fallut donc attendre que l’idée de modularisation des logiciels fasse son chemin. Ce nouveau paradigme apparut avec Minsky, lorsque celui-ci proposa le concept de « société de l’esprit » et conçut le logiciel non plus comme une chaîne de travail où une étape prépare les étapes suivantes mais comme une société d’agents logiciels capables de communiquer et de coopérer. Dès lors qu’un logiciel est conçu comme une société, il résiste beaucoup plus à la mutation qu’un logiciel conçu comme une totalité. Dans une société, un agent en situation de faiblesse à tel ou tel moment est remplaçable par un autre, on peut mettre plusieurs agents en concurrence pour remplir la même fonction et choisir, le moment venu, le plus apte à la remplir. Nous en sommes là au stade où les logiciels commencent à répondre aux attentes de Turing et sont capables, en mutant, d’évoluer par sélection naturelle. Tous les chercheurs intéressés à la vie artificielle et aux algorithmes génétiques se sont alors engouffrés dans cette brèche.


Dans Totalement inhumaine, je propose de prendre acte de cette évolution en proposant le concept d’e-gène. L’e-gène est un réplicateur, un morceau de code, ayant recours à un appareil d’expression pour induire un certain type de comportement de la part d’une machine. Nous verrons que ses effets phénotypiques s’étendent bien au-delà du comportement de la machine qui le porte : les e-gènes affectent aussi la façon dont nous organisons nos sociétés autour des machines. Je prétends que les e-gènes sont en concurrence pour une place dans un logiciel comme les allèles le sont pour un locus sur un chromosome. Nous pouvons parfaitement imaginer que, pour remplir telle ou telle fonction – le look & feel du bureau de mon PC, par exemple –, plusieurs e-gènes ou groupes d’e-gènes se trouvent en concurrence et que l’utilisateur, en choisissant d’utiliser celui-ci plutôt que celui-là, décide lequel a le droit de survivre et de se reproduire. Nous concevons donc le logiciel comme un génotype, le matériel comme un phénotype ou, ainsi que le disait le biologiste Dawkins, comme la machine de survie des e-gènes. Autrement dit, nos machines – robots, ordinateurs, processeurs, mémoires – sont uniquement là pour assurer la survie du code qu’elles abritent, l’important étant précisément la survie et la reproduction de ce code.


Les réseaux de transfert de données constituent le pas le plus récent vers la biologisation des logiciels. Naguère encore, les logiciels, les e-gènes, étaient isolés les uns des autres et il fallait échanger des disquettes pour les faire communiquer entre eux. Certains d’entre vous se souviennent peut-être même de l’époque où on les transportait dans des paquets de cartes ! Avec la généralisation des réseaux de transfert de données, les e-gènes circulent désormais instantanément. Je vois dans cette évolution l’équivalent de l’échange de matériel génétique entre individus d’une même espèce, rendu possible, dans l’ordre du vivant, lors de l’apparition de la sexualité. Autrement dit, grâce à Internet, les e-gènes circulent, ont désormais la possibilité de s’intercroiser et les mutations favorables vont se répandre beaucoup plus rapidement. Sont donc réunies aujourd’hui les conditions de l’émergence d’une nouvelle forme de vie, que j’appelle le Successeur. Cela signifie, mais je ne fais là que reprendre l’intuition initiale de Turing, que l’informatique est en réalité une branche de la biologie. Le Successeur est cette forme de vie, cette espèce nouvelle, émergeant dans cette niche écologique faite de mémoires interconnectées de plus en plus massivement, aujourd’hui nommée Internet. Pourquoi le « Successeur » ? Parce qu’il est appelé à prendre notre succession comme véhicule de survie de la conscience.


Dès lors que nous avons donné naissance à une nouvelle espèce, que nous la nourrissons en notre sein, se pose la question des relations que nous entretenons avec elle. S’agit-il de relations de coopération ? De concurrence ? Est-ce de la prédation ? Du parasitisme ? La thèse de mon essai est qu’il s’agit d’une relation de domestication, dans laquelle le Successeur fait de nous son cheptel. Nous devenons bien, par conséquent, la chose de choses inertes. L’objet de Totalement inhumaine est précisément de montrer comment le Successeur s’y prend pour nous domestiquer.

Imaginez une mare. Au fond de cette mare vit une crevette, laquelle abrite un ver. Mais ce ver ne peut se reproduire qu’à l’air libre. Comment s’y prendre quand on parasite une crevette tapie au fond d’une mare, à l’abri de la voracité du canard ? Le ver doit faire en sorte que la crevette soit ingérée par le canard. Pour ce faire, il sécrète une substance qui opacifie la cornée de la crevette. N’y voyant plus guère, celle-ci se rapproche de la lumière jusqu’au moment où elle est saisie par le canard. Une fois la digestion du canard achevée, ses déjections finiront sur la berge, et le parasite peut ainsi poursuivre son cycle de vie. Dans la nature, les exemples fourmillent d’une telle manipulation à l’aide d’un médiateur chimique. Selon moi, les e-gènes nous manipulent comme le ver la crevette, en nous aveuglant, afin que nous facilitions leur dissémination. La drogue, le médiateur aveuglant, est constitué par des mèmes.

Le concept de mème a été introduit par le biologiste anglais Richard Dawkins. Les mèmes sont des unités élémentaires du discours qui prolifèrent dans nos cerveaux et se transmettent d’un cerveau à l’autre par divers canaux : les mots, la musique, les savoir-faire, les modes vestimentaires, etc. Ils se présentent isolément (« CRS – SS », « Il y a une vie après la mort », « Les chambres à gaz n’ont pas existé ») ou regroupés en sociétés, en « complexes mémiques », comme les dogmes religieux, les doctrines politiques ou économiques, les paradigmes scientifiques. Les mèmes sont en quelque sorte des « psy-gènes ». Comme les gènes et les e-gènes, ce sont des réplicateurs : ils sont auto-reproductibles. Capables de mutations, ils évoluent sous la pression de la sélection naturelle : ceux dont la valeur de survie est la plus grande pour leur porteur se reproduisent et se disséminent davantage, les autres disparaissent. Il suffit de penser au mème de l’économie de marché et à celui de l’économie planifiée pour constater que les mèmes ont des valeurs de survie différentes pour les individus qui les portent et par conséquent, des destins différents. Si « Il y a une vie après la mort » a fait vivre des millions de prêtres et religieux à travers les âges, « Les chambres à gaz n’ont pas existé » ne profite qu’à une poignée de nostalgiques du nazisme. Au même titre que les gènes et les e-gènes, ces mèmes exercent sur leurs machines de survie des effets phénotypiques étendus. Ceux-ci se traduisent par des modifications dans le comportement des machines de survie et dans l’environnement au sein duquel celles-ci évoluent.


Dans Totalement inhumaine, je montre que certains mèmes ont passé avec certains e-gènes un pacte d’assistance réciproque pour nous inciter – nous, porteurs de ces mèmes et développeurs de ces e-gènes – à allouer toujours plus de ressources aux e-gènes. J’appelle cette alliance la "pompe mèmes / e-gènes". Ces mèmes favorisent le développement des e-gènes auxquels ils sont associés dans la pompe et, en retour, les e- gènes favorisent la prolifération des mèmes favorables à leur survie. Autrement dit, les mèmes – pensées, opinions … - ont des effets, en particulier, sur notre comportement « nourricier » à l’égard des e-gènes : ils nous incitent à les aider à se développer et à modifier notre environnement de manière à favoriser cette croissance. En échange, les e-gènes vont eux-mêmes produire des effets incitant à la prolifération et à la diffusion des mèmes responsables de leur naissance et multiplication.

Dans Totalement inhumaine, je développe trois exemples de ce mécanisme. Le premier est celui du complexe mémique que j’appelle la « Guerre des étoiles ». Chacun se souvient de ce programme, lancé dans les années quatre-vingt, en vue de renforcer la rapidité de réaction et la précision de frappe des Etats-Unis. À la suite d’un discours historique de Ronald Reagan, l’allocation de ressources au profit des technologies militaires e-génétiques a été poussée à un niveau supérieur à celui dont bénéficiaient les technologies nucléaires, véritable prouesse dans un environnement où le nucléaire constituait, à l’époque, le principal bouclier du monde libre. Le fameux bouclier anti-missiles que cherche aujourd’hui à développer G. Bush Jr n’est, à cet égard, que la mutation la plus récente du mème de la Guerre des étoiles.

Ce mème a induit des transformations importantes de l’environnement, avec la modification de traités internationaux et la remise en question de certains pactes concernant la dénucléarisation. En échange, les e-gènes militaires ont eu eux-mêmes des conséquences phénotypiques. Les effets perçus – car les effets réels sont loin de justifier l’allocation de ressources consentie au bénéfice des e-gènes en question – ont été suffisants pour entretenir et développer le mème de la Guerre des étoiles, et la pompe a continué de fonctionner.

Le deuxième exemple est celui de l’avatar du mème de la productivité dans les services. Les services rendus par les e-gènes lors de la Seconde guerre mondiale – comme de casser le code Énigma, grâce aux travaux de Turing, ou de mieux régler les mouvements et les approvisionnements des bâtiments de la marine –, ont fait naître dans les cerveaux des décideurs un mème associant " e-gènes " et " victoire ". Ce mème, après la démobilisation, est retourné à la vie civile et a pantouflé dans l’industrie, où il a trouvé de nouvelles occasions de faire ses preuves. Ainsi, petit à petit, s’est acclimatée dans les cerveaux des décideurs industriels une variante associant "e-gènes" et "productivité". Je ne remets nullement en cause la validité des effets des e-gènes sur la productivité dans l’industrie. Mais fort de ses succès dans ce secteur, ce mème de la productivité s’est transporté ensuite dans le domaine des services. Nombreux sont les économistes – y compris le prix Nobel d’économie Robert Solow – pour qui les effets des technologies de l’information ne sont pas perceptibles dans les statistiques de la productivité des services… Quoi qu’il en soit, grâce à ce mème de la productivité appliqué aux services, l’allocation des ressources aux e-gènes est passé, dans certaines entreprises, de moins de 5% des investissements au début des années 1970 à plus 50 % aujourd’hui. L’organisation du travail a, de ce fait, été complètement bouleversée, suite à l’action de ce mème de la productivité. Les e-gènes ont évidemment bénéficié de cet apport de ressources mais les effets – d’autres, plus qualifiés que moi, le disent – ne sont pas à la hauteur des ressources allouées.


Le mème de la nouvelle économie sera mon dernier exemple. 5200 milliards de dollars auraient été aspirés par la pompe mèmes / e-gènes au profit des e-gènes d’Internet, en pure perte. Les modifications de l’environnement ont été considérables puisque la mondialisation a été largement rendue possible par les réseaux de transfert de données. Quant aux effets réels, demandez aux investisseurs tombés sous le charme de la nouvelle économie ce qu’ils en pensent !

Ainsi la pompe mèmes / e-gènes dirige-t-elle vers les e-gènes des ressources disproportionnées au regard des avantages qu’ils nous procurent réellement, bien plus de ressources en tout cas que ceux-ci ne mériteraient d’en recevoir si la loi de l’offre et de la demande jouait librement, c’est-à-dire sans l’influence des mèmes.


Les mèmes interviennent de plusieurs manières en faveur des e-gènes qui leurs sont associés dans la pompe. Certains modifient la perception du contexte, faisant croire à leurs victimes contaminées qu’il existe une grande menace et qu’il est donc urgent d’agir et d’investir. Pour justifier le lancement du programme de la Guerre des étoiles, Reagan a joué sur ce registre, en faisant semblant de découvrir que les missiles soviétiques devenaient soudain beaucoup plus précis qu’on ne le croyait jusqu’alors. Actuellement, l’énorme menace que feraient peser sur le monde libre les pétards mouillés nord-coréens suffit à justifier les milliards de dollars alloués au bouclier anti-missiles par l’administration Bush !

Alors que certains mèmes interviennent sur la perception de la menace, d’autres corrompent notre appréciation des résultats de l’action des e-gènes, en convaincant leurs porteurs de l’existence de performances imaginaires (comme on l’a vu pour le mème de la productivité dans les services), y compris par la fraude. Ainsi, pour permettre la poursuite du programme de bouclier anti-missiles, en dépit d’échec répétés faisant douter de la faisabilité technique du projet, des transpondeurs ont-ils été introduits dans le missile cible de manière à diriger plus facilement le missile chasseur vers la cible.

D’autres mèmes encore remplissent une fonction « immuno-dépressive » destinée à affaiblir les défenses naturelles de leurs victimes. Deux de ces mèmes ont été particulièrement actifs dans la nouvelle économie. D’abord celui de la « prime au premier entrant » : « Si vous êtes le premier à investir dans ma technologie, vous allez prendre la totalité du marché… ». Ce mème est à l’évidence contraire à la vérité : Qu’on me cite un seul constructeur automobile actuel qui figurait aussi parmi les dix premiers constructeurs de l’histoire ! Il en va de même dans l’aéronautique, en informatique ou en intelligence artificielle : j’étais quant à moi le premier en Europe en la matière et aujourd’hui je ne suis plus du tout dans la partie ! Lors de la bulle internet, les investisseurs n’en ont pas moins été invités à croire en cette lubie du « premier entrant », ce qui a contribué à abolir leurs défenses naturelles contre « l’agression » du mème de la Nouvelle économie.

Enfin, le mème « Cette fois, c’est différent ». On nous explique que, bien sûr, en temps normal, il vaudrait mieux ne pas investir dans des technologies qui n’ont pas fait leurs preuves, mais que cette fois c’est différent, nous n’avons plus à faire jouer les mécanismes de défense qu’une longue expérience a inscrits au plus profond de nous : « Cette fois, c’est différent et vous pouvez sans crainte me confier vos dollars … ».


Je concluerai en proposant une réponse à la question de Leroi-Gourhan citée au début de mon propos. "Que restera-t-il de l’homme après que l’homme aura tout imité en mieux ?". Et bien, ce qui restera de l’homme, ce sera précisément l’homme, je veux dire tout l’homme, rien que l’homme, l’homme essentiel, débarrassé de tous les attributs inutiles dont nous l’avons lesté. Nous vivons en effet sur une représentation excessive, excédentaire, de ce qu’est l’homme et je cherche à insinuer dans vos neurones le mème selon lequel les technologies du dépassement de l’homme – le clonage, l’intelligence artificielle… – fonctionnent à l’égard de cette représentation comme des colonnes de distillation ou, pour recourir à une métaphore pétrolière, des colonnes de craquage : on y fait entrer le brut humain, composé lourd, plombé de mille impuretés et, au terme du processus, ce qui reste, c’est l’essence de l’homme.

Je voudrais, pour bien me faire comprendre, proposer deux exemples. Depuis Aristote, nous avons pris l’habitude de penser l’homme comme un « animal raisonnant ». Le raisonnement, croyons-nous encore aujourd’hui, est le propre de l’homme. Or, l’intelligence artificielle a développé des machines capables de raisonner aussi bien, voire mieux que nous. Dès lors, le raisonnement apparaît de moins en moins comme un attribut proprement humain.

De même, en biologie, avons-nous coutume de dire que ce qui fait l’homme, c’est son génome. Or, nous nous dirigeons à grands pas vers la possibilité de synthétiser l’ADN, certains chercheurs sont même parvenus à créer des gènes de synthèse, avec un code génétique à 5 bases au lieu de 4. Dès lors, même nos traits génétiques ne nous définiront bientôt plus de manière spécifique.

Dans les colonnes de craquage des technologies du dépassement de l’homme vont ainsi peu à peu s’évaporer ces attributs volatiles que, faute de moyens d’analyse assez discriminants, nous lui associons jusqu’à présent, et ce qui restera, au terme de ce processus de raffinage continu, ce sera la quintessence de l’homme. Ainsi, l’homme est-il bien un reliquat, un reste, mais un reste toujours encore à déterminer.

Par ailleurs, me semble-t-il, nous ne pouvons plus penser l’humain au moyen d’un concept unique, capable de rendre compte de la totalité de la réalité humaine. Je montre, dans Totalement inhumaine, que l’humanité, que nous croyons une, subit en réalité une partition. Elle se divise actuellement en au moins trois sous-espèces, incapables bientôt de croisements génétiques : les Imbus, responsables du bon fonctionnement de la pompe mèmes / e-gènes ; le Cheptel, c’est-à-dire le plus grand nombre, combustible de cette pompe ; enfin, ce que j’ai appelé epsilon, à l’instar de cette grandeur indéterminée des physiciens, mais supposée infinitésimale et destinée à équilibrer leurs équations. Ces êtres ne ressortissent à aucune des deux premières fractions et pourraient être le grain de sable capable d’enrayer – ou du moins de tenter d’enrayer – le processus.

L’homme, on l’a vu, n’est qu’un véhicule temporaire de l’intelligence, rôle au demeurant d’une grande noblesse puisqu’il sert de pont. L’humanité est en fait la matrice et la tutrice de son successeur. Pour terminer, permettez-moi de citer Nietzsche : « L’homme n’existe que pour être dépassé. La grandeur de l’homme, c’est qu’il est un pont et non un terme. Ce qu’on peut aimer chez l’homme, c’est qu’il est transition et perdition. »


Question : Les mèmes sont pleins de virus et de bugs. Il n’y a qu’à voir Socrate. Je trouve cela profondément humain.


Jean-Michel Truong : Oui mais, précisément, l’erreur, en informatique, fut de viser à la perfection. Dès lors que vous ne laissez pas place au défaut, à la surprise, à la mutation, vous arrêtez le processus évolutif, ce qu’avait fort bien pressenti Turing. Il faut donc que nos ingénieurs se débarrassent de l’idée qu’ils sont Zeus Pancreator, du cerveau de qui Minerve sort casquée, prête au combat, et qu’ils acceptent que leurs programmes évoluent de manière autonome, en ne se référant plus à leur auteur. Revenons-en, en matière de logiciels, à la notion de parturition, de grossesse, d’accouchement et d’éducation.


Question : Autrement dit, un système qui n’intègre pas en son sein la notion d’erreur ne sait pas évoluer …


Jean-Michel Truong : C’est ce que disait déjà Von Neumann dans son article sur les machines auto-reproductibles : la tolérance à l’erreur caractérise la robustesse d’un système. À son époque, seuls les systèmes vivants satisfaisaient ce critère. Aujourd’hui, certains logiciels prennent ce chemin.


Question : Quiconque a un projet technologique en tête doit-il délibérément s’engager dans la direction que vous décrivez ? Qui, dans la société, a le droit de décider ? La décision revient-elle seulement à la sphère technologique ?


Jean-Michel Truong : Votre question me permet de préciser un point. Bien sûr, certains chercheurs – notamment ceux dont les travaux portent sur la vie artificielle – s’engagent dans cette voie de façon consciente et délibérée, en croyant la maîtriser, mais le processus de biologisation, une fois amorcé, évolue de manière autonome et n’a que faire de leurs plans, ils n’ont aucune part à son développement. Le Successeur va en réalité profiter, à leur insu, des résultats de ces chercheurs. Les biologistes ont un terme pour décrire ce phénomène : « l’exaptation ». Il s’agit de la capacité d’une évolution à récupérer des adaptations développées à d’autres fins. L’exemple le plus souvent cité est celui de la plume de l’oiseau, initialement vouée à une fonction de régulation thermique et récupérée par la suite pour le vol. De même, la main humaine n’a pas été développée pour jouer du piano, mais elle s’est « exaptée » à cette fonction. Le Successeur, lui aussi, évolue par exaptation. Quelles que soient nos intentions, nos projets, la claire vision ou la méconnaissance que nous avons du mécanisme que je décris, l’évolution trouvera son chemin.


Question : Le problème que vous posez ne me paraît pas le plus urgent. Il est indéniable que des boucles entre stéréotypes, ou mèmes, et éléments de logiciels existent. Mais qu’elles fonctionnent avec des éléments de logiciels qui auraient par ailleurs la possibilité de se reproduire, est une extrapolation dont la validité reste à vérifier. Je suis d’accord avec votre idée selon laquelle l’homme est un résidu. Un livre de Marcel Legaux, L’Homme à la recherche de son humanité (Aubier, 1971), évoque ce sujet. Si nous recherchons ce qu’est notre humanité, nous nous trouvons devant une tâche sans fin, preuve, s’il en est, de la richesse de la question. Mais vous passez un peu vite, selon moi, à l’idée d’un successeur prenant la place de l’humanité. Cette question serait-elle juste, mérite-t-elle d’être posée, tout comme celle de savoir s’il existe une vie après la mort ? Il serait de même très audacieux de dire que la machine peut remplacer l’intelligence humaine et impertinent de dire non. Finalement, nous n’en savons rien ; mais après tout, cela compte-t-il ? En réalité, le problème aujourd’hui, dans nos entreprises, avec nos systèmes d’information – tout sauf bien faits - est d’arriver à faire travailler ensemble des hommes et des machines. En d’autres termes, il s’agit d’articuler le langage métaphorique et connoté de l’être humain – nous interprétons ce qu’on nous dit comme des allusions à une autre chose derrière le discours – et le langage conceptuel extrêmement strict qu’utilise l’informatique.


Jean-Michel Truong : Je ne suis pas sûr que votre remarque appelle une réponse. Si nous nous étions trouvés tous les deux, voilà quatre milliards d’années, dans la soupe primitive, vous m’auriez probablement tenu le même propos après m’avoir entendu vous affirmer que telle algue bleue ondulant sous nos yeux serait un jour Mozart... Est-il si futile de s’interroger sur le très long terme ? Est-il vain, pour un mathématicien, de s’interroger sur le comportement d’une fonction aux limites ? Ce comportement dans quatre milliards d’années peut avoir un impact tout à fait immédiat, et quotidien. Je donnerai un seul exemple : ce que nous dépensons dans les vols habités est totalement irrationnel. Si le but est d’exporter la conscience dans l’univers, ce n’est pas par le vol habité qu’il faut passer. Et je ne puis affirmer cela que parce que je me suis interrogé sur la « fonction » humaine aux limites, à quatre milliards d’années et au-delà. Personnellement, je trouverais dommage qu’il ne reste de l’espèce humaine que quelques pierres et ossements. Il serait important que l’accomplissement le plus important de l’humanité, sa capacité de connaissance, survive quelque part. C’est pourquoi j’estime qu’il n’est pas futile de s’intéresser à cette question. Cela étant, jusque tout récemment, l’eschatologie était une branche de la théologie : seuls les homme d’Eglise avaient le droit de s’interroger sur les fins dernières. De même, les scientifiques n’ont commencé que très récemment à s’intéresser aux origines. Le premier écrit d’un physicien sur les fins dernières est celui de Freeman Dyson, où il pose cette question : quelles seraient les conditions à réunir pour une vie si celle-ci devait être présente aux derniers moments de l’univers ? Mais il n’a posé cette question qu’avec crainte et en tremblant et j’ai bien conscience qu’on n’est pas près de l’accepter comme un objet scientifique pertinent.


Question : Pour ma part, je trouve ces interrogations stimulantes, notamment quand vous expliquez que ce que nous fabriquons nous échappe assez largement. Il suffit de penser aux bulles financières, que nous avons tant de mal à dégonfler, ou à ces maisons intelligentes, totalement inhabitables. Au fond, nous sommes de plus en plus capables d’imaginer des systèmes qui se passent de nous : systèmes de transport, financiers, systèmes d’habitat, etc. Cela dit, je ne crois pas que nous n’ayons aucune prise sur ce processus. Nous pouvons décider d’agir ou de subir.


Jean Lassegue : Vous avez de l’intelligence une vision extrêmement mentaliste : l’intelligence, selon vous, serait contenue dans notre cerveau. Mais une vision toute différente des choses est possible et nous pouvons constater, par exemple, qu’il y a des effets d’intelligence entre les humains et leurs productions culturelles. Si l’on écrivait une histoire de l’intelligence depuis l’australopithèque, on établirait que les effets d’intelligence sont toujours des effets de matérialisation d’un certain nombre de processus, des marquages, sur lesquels s’élaborent ensuite des relations humaines. Nous pouvons donc concevoir l’intelligence comme quelque chose que rien ne contient, et sûrement pas un logiciel. Qu’on me montre un logiciel susceptible d’évoluer, ou d’inventer quelque chose de neuf ! Pour ma part, je n’en connais aucun, et, pour le moment, toutes les recherches dans ce domaine n’ont donné aucun résultat tangible. Je voudrais par ailleurs faire observer qu’en 1936, Turing a démontré mathématiquement que la mécanisation du raisonnement était à tout jamais incomplète. On peut toujours faire en sorte qu’une procédure devienne routine et puisse être transformée, par le biais d’un logiciel, en trace matérielle, mais le raisonnement en tant que tel n’est pas mécanisable.


Jean-Michel Truong : Votre perception de ce que j’ai dit a peut-être été « polluée » par le fait qu’on ait rappelé que j’ai jadis publié, avec deux autres chercheurs, un livre sur les systèmes experts, une branche particulière de l’intelligence artificielle. Celle-ci considérait effectivement l’intelligence comme un contenu parfaitement descriptible et modélisable – cette théorie a rencontré beaucoup plus d’échecs que de succès. L’ouvrage en question date de 1984, et ma conviction actuelle n’est plus du tout la même. Je me sens désormais plutôt du côté de l’approche de la vie artificielle que de l’option cognitiviste, à laquelle Dreyfus a fait le sort que vous savez. Il y a eu plusieurs étapes dans l’évolution de ce qu’on a appelé « intelligence artificielle ». Une première phase, cognitiviste, pensait que pour créer une machine intelligente, il suffisait de modéliser le produit de l’intelligence, c’est-à-dire les raisonnements. Le connexionnisme eut ensuite pour ambition de modéliser le réseau de neurones qui constitue le support de l’intelligence. Enfin, le courant actuel, duquel je me sens proche, dit que, pour faire une l’intelligence, il faut recréer la vie elle-même, et pour ce faire, mettre en route un processus évolutif, celui-là même qui a permis, avec le temps, d’aboutir au cerveau, duquel ont émergé des effets d’intelligence. L’intelligence viendra, si elle vient, de surcroît, elle n’est pas garantie d’emblée. Turing pensait que le seul moyen de décider de l’intelligence d’une machine était de demander à un humain si le comportement de cette machine créait en lui un sentiment d’intelligence. C’est en cela qu’il faut, selon moi, s’écarter de l’ambition des chercheurs et des ingénieurs évidemment soucieux de planifier les actions à mener en vue d’atteindre le résultat qu’ils visent. Abandonnons l’idée de volonté et adoptons l’humble posture d’attente des mères, qui ne savent pas à quoi ressemblera leur progéniture.


Question : En vous écoutant, je décèle une certaine forme de déterminisme. Ne pourrions-nous pas, pour les quelques centaines d’années à venir, en dépit de cette évolution que vous présentez comme inéluctable, choisir nous-mêmes nos mèmes ? Votre livre n’induit-il pas une réflexion sur nos choix ?


Jean-Michel Truong : Dans ma conclusion, j’essaie de répondre à cette question : que nous est-il permis d’espérer, alors que nous allons bientôt nous trouver dans l’ombre du Successeur ? Que va-t-il rester à l’homme, en particulier au Cheptel ? Ma réponse rejoint les intuitions du bouddhisme : ne pas souffrir est tout ce qu’il peut espérer. Car le processus de prise de pouvoir par le Successeur peut être extrêmement douloureux – nous l’avons déjà constaté pour certains secteurs de l’économie – et il le sera de plus en plus. La généralisation des techniques de « soins palliatifs » est ce que nous pourrions espérer de mieux. J’entends par là toutes sortes de stupéfiants et drogues, parmi lesquelles je range les mèmes susceptibles de détourner l’esprit de la considération de cette souffrance. Le plus désespérant serait qu’après l’homme, ce soit encore l’homme, cet homme capable d’imaginer Auschwitz, Pol Pot, les attentats du 11 septembre 2001, etc. En revanche, que survive à l’homme une forme d’intelligence qui ne garderait de lui que le meilleur constitue une immense raison d’espérer.


Question : Les seuls systèmes adaptatifs que je connaisse aujourd’hui ne se trouvent pas dans les logiciels : ce sont des systèmes neuronaux de reconnaissance automatique. Or, à ce jour, il n’existe pas de possibilité de les décomposer en e-gènes ou de faire des croisements entre deux systèmes.


Jean-Michel Truong : Peut-être votre information n’est-elle pas complète. Regardez dans les bases de données documentaires sous l’entrée « algorithmes génétiques », par exemple. Tout un courant de recherche développe des e-gènes et ils fonctionnent exactement de cette manière- là. Voyez un chercheur comme Koza, ou les travaux du courant animé par Chris Langton sur ce qu’on appelle la « vie artificielle ».


Question : Vous évoquez par ailleurs cette forme d’intelligence qu’est la transmission par les mèmes. Mais l’homme met en œuvre des formes très variées d’intelligence et de communication et certaines sont en contradiction complète avec la notion de mème. Les bulles financières, par exemple, finissent par se dégonfler et tout redevient normal. Nous avons en nous des mécanismes pour nous aider à arrêter les effets des mèmes.


Jean-Michel Truong : Les mèmes ne constituent pas du tout à mes yeux, une forme d’intelligence. Ils sont plutôt, au contraire, l’expression de la sottise. Il s’agit d’une pure boucle de rétroaction, elle s’auto-alimente et l’intelligence humaine n’y a pas de place. On n’aurait pas dépensé 5200 milliards de dollars dans les dot-coms au cours des cinq dernières années s’il y avait eu une once d’intelligence dans le processus !


Question : À vous écouter, j’ai l’impression de retrouver les ouvrages d’anticipation des années soixante-dix. Ils ne portaient pas sur le déroulement du processus : ils mettaient directement en scène sa conclusion. Sans parler d’Asimov, il y a des dizaines de romans dans lesquels l’homme est, soit totalement esclave d’une machine mondiale omnipotente, soit le survivant dramatiquement raréfié d’une guerre qui a quasiment tout détruit. Tous ces thèmes ont d’ailleurs aujourd’hui disparu de la littérature SF. Quoi qu’il en soit, certaines pistes élaborées par les écrivains d’anticipation vous ont-elles intéressé ?


Jean-Michel Truong : Je ne lis pas de science-fiction. Mes références sont des travaux scientifiques connus. Par ailleurs, si la science-fiction ne s’intéresse plus à ces thèmes, c’est peut-être parce qu’ils sont devenus banals, qu’ils sont passés dans la vie quotidienne et n’ont donc plus l’attrait nécessaire pour faire un best-seller.


Question : J’ai lu avec plaisir votre roman, Le Successeur de pierre, que je considère comme un ouvrage de speculative fiction. Comment êtes-vous passé de ce texte à Totalement inhumaine ? En outre, dans Le Successeur de pierre, les epsilon jouent un rôle essentiel. Quelle est donc la place que vous leur attribuez dans l’exercice de prospective qu’est votre essai ?


Jean-Michel Truong : Il y a effectivement une parenté étroite de problématique et d’approche entre Le Successeur de pierre et Totalement inhumaine. C’est, si j’ose dire, le même mème ! Seul le véhicule de survie diffère. La fiction permet d’atteindre un certain public, de disséminer ses mèmes dans certains cerveaux, alors que l’essai, avec ses contraintes formelles, ses « garanties de sérieux », en touche d’autres. Le mème doit être taillé sur mesure en fonction de la cible qu’il vise. Quant aux epsilon, en vérité, je me demande parfois s’ils existent, même si un événement comme le 11 septembre 2001 semble le confirmer. La tripartition en cours de la société, sous l’effet des e-gènes, crée de la souffrance, de la frustration, et va probablement laisser une place croissante à des epsilon de plus en plus violents. Je ne vois pas en eux une source d’espoir parce que, l’Histoire l’a hélas montré, les epsilon ont une fâcheuse tendance, aussitôt qu’ils se sont emparés du pouvoir, à se transformer en Imbus, et les souffrances qu’ils occasionnent s’avèrent finalement plus importantes que celles auxquelles ils prétendaient porter remède. Les epsilon ne sont en réalité qu’un sous-produit du système, et il ne fait qu’accroître encore un peu la souffrance du Cheptel. Je ne suis pas marxiste, mais j’ai vécu longtemps en Chine et pu constater personnellement, à ce titre, comment le marxisme appliqué a fonctionné.


Question : En lisant la citation de Nietzsche, je me demande si vous ne confondez pas une post-humanité et la surhumanité que visait Nietzsche, de manière un peu idéaliste. Quand Nietzsche parle de transition et de perdition, ce n’est sûrement pas en vue d’une post-humanité, mais au contraire d’un dépassement de l’homme, d’un plein accomplissement, dans une sorte de sur-humanisme.


Jean-Michel Truong : Je me garderai d’être catégorique quant à ce que Nietzsche entendait par surhomme. C’est pourquoi je n’ai pas eu de scrupules à utiliser cette citation. L’interprétation que vous en faites est acceptable mais nous pourrions trouver dans Nietzsche de nombreux passages où elle est battue en brèche. Chaque époque a utilisé ce mème du surhomme à sa façon, et Nietzsche n’est plus là pour répondre.


Question : J’ai l’impression que nous tournons autour de deux expressions : Homo machinus et Machina sapiens. Certains prédisent l’Homo machinus, non dans quatre milliards d’années, mais dans trente ou cinquante ans. Quoi qu’il en soit, la rupture que vous évoquez me paraît différente de celles qui ont, jusqu’ici, ponctué l’évolution. Nous passons d’une vie fondée sur le carbone à une vie basée sur le silicium, notamment. C’est donc une mutation très importante. Mais des mécanismes d’évolution vont probablement se produire dans le mode carboné. Nous pourrions même imaginer des modes mixtes.


Jean-Michel Truong : Tous les scénarios sont bien sûr possibles, mais selon moi seuls ceux s’écartant de la voie du carbone sont pertinents à long terme. Les physiciens savent en effet que le carbone va disparaître bien avant d’autres matériaux. Le matériau dont nous sommes faits est des plus instables et, de toute façon, n’ira pas jusqu’au bout. Par conséquent, si nous voulons qu’il y ait une conscience, au terme de ce processus impulsé par le Big Bang, lorsqu’il entrera dans une phase de décomplexification et de raréfaction de la matière, jusqu’au grand vide et au grand froid final, il faudra bien à un moment ou à un autre, qu’elle change de véhicule. J’ai l’audace de dire que le moment est venu : nous sommes en train de contribuer à notre insu au transbordement de la conscience du Titanic organique vers un canot de sauvetage minéral.


Question : J’étais étudiant en intelligence artificielle lorsque vous avez créé Cognitech. Mon projet actuel, avec Sphinx Vision, est de munir le Successeur de ses yeux : nous cherchons à créer le premier opérateur de réseau de vidéo-surveillance via Internet. Nous pensons utiliser l’intelligence artificielle, ou ce qu’il en reste, pour faire de l’analyse d’images. La notion de vie artificielle se trouve déjà dans des films cultes comme Terminator, et je partage avec vous l’idée selon laquelle la vie importe plus que l’intelligence. Cela étant, je me demande si ce n’est pas parce que vous êtes, en quelque sorte, un déçu de l’IA que votre démarche revient à considérer que, faute de pouvoir rendre les machines intelligentes, mieux vaut les laisser se débrouiller entre elles, parce qu’elles parviendront peut-être à se rendre intelligentes à elles seules ?


Jean-Michel Truong : Peut-être, en effet. Après tout, je le rappelle, cette frustration était, dès le début, celle de Turing. Il a bien indiqué d’emblée que ce ne serait pas par un acte de volonté que nous rendrions les machines intelligentes. Il faut laisser le temps agir sur des êtres imparfaits mais perfectibles. Nous croyons que nous aurons un impact sur le développement du Successeur, nous pouvons l’aider à prendre cette direction, mais il grandira probablement sans nous. Des gens comme Langton, Koza, Varela et d’autres ont eu cette intuition et ont posé des jalons en ce sens. Mais je ne suis nullement désabusé : je vois même là une piste extrêmement féconde pour relancer la mécanique. Tous les chercheurs en intelligence artificielle partagent, par contre, une grande frustration, pour avoir beaucoup misé intellectuellement et financièrement sur l’hypothèse cognitiviste, puis connexionniste. En réalité, nous n’avons pas renoncé au projet initial de l’IA, et certains voient dans la vie artificielle un moyen de rebondir.


Philippe Lemoine : Je me suis beaucoup interrogé sur vos rapports actuels avec l’intelligence artificielle à partir de deux ambiguïtés que j’ai cru pouvoir déceler dans votre livre. La première concerne votre humanisme, étant entendu que, au-delà de la provocation, vous manifestez beaucoup d’attrait pour ce qu’est l’homme et pour le lien social. Au demeurant, on trouve déjà ce goût de la provocation chez Turing, en particulier lorsqu’il évoque ces gens « sous-réactifs » qui, lorsqu’ils reçoivent une idée, produisent moins d’une idée ! L’autre ambiguïté porte sur le propos même de votre livre, en tant que mème. Un de nos maîtres communs à Jean Kott et à moi, Schutzenberger, disait que l’intelligence artificielle – et il la combattait en tant que discipline intellectuelle – était passée maître dans la société du spectacle : on ne trouve pas mieux, disait-il, que les chercheurs en intelligence artificielle pour faire « bander » les militaires américains et obtenir des crédits en leur racontant des choses complètement illusoires, tout en sachant qu’il n’y avait aucun rapport entre leurs recherches et le miroir aux alouettes qu’ils tendaient à ces militaires. Et c’est ainsi que la discipline s’est constituée ! N’est-ce pas un peu ainsi que vous procédez ? Les mirages de la nouvelle économie se sont effondrés et vous arrivez après cela en disant, y compris à ceux qui prisent les analyses de Viviane Forester : « Ralliez-vous à la cause du Successeur ! »


Jean-Michel Truong : En vérité, je ne cherche à rallier personne, le Successeur évoluera de toute façon sans nous. Cela dit, je souscris tout à fait à votre « psychanalyse ». Il est vrai que j’ai été un producteur de mème, assez efficace paraît-il. Cognitech, que j’ai créée dans les années quatre-vingt, s’est rapidement imposée comme leader de l’IA en Europe. C’est d’ailleurs ainsi que j’ai appris comment fonctionnait la pompe mèmes / e-gènes. J’ai bien vu comment, en polissant mes mèmes d’une certaine manière, j’arrivais à faire « bander », pour reprendre votre expression, les venture capitalists, les investisseurs, etc. C’était l’époque de la Guerre des Étoiles, et ce même, on l’a vu, a beaucoup contribué à diriger des flux de capitaux vers les e-gènes, notamment ceux de l’intelligence artificielle. Mon livre peut paraître provocateur, mais il part d’une expérience personnelle. D’une certaine façon, j’y raconte cette part de ma vie professionnelle, mon compagnonnage avec les e-gènes des années quatre-vingt. Ma grande jubilation, tandis que j’écrivais ce livre, courant 2000, fut, en ce sens, de constater que tous ces miroirs aux alouettes que j’avais fait briller à l’époque de la Guerre des Étoiles fonctionnaient toujours, et de manière bien plus ample, dans ce que j’ai appelé la "folie dot-com".


Philippe Lemoine : Et votre humanisme ?


Jean-Michel Truong : Aujourd’hui, pour être humaniste, il faut être ou saint, ou aveugle. L’homme ne donne pas beaucoup de gratifications à ses défenseurs. Mais après tout, ce pour quoi je désespère de l’homme n’appartient peut-être pas véritablement à l’homme. Peut-être n’est-ce qu’une de ces scories dont nous avons vu qu’elles ne sont pas le propre de l’homme ? Peut-être trouverai-je une raison d’espérer dans le fond de la colonne de craquage ?


Question : Comment intégrez-vous la notion de pensée unique dans votre système ?


Jean-Michel Truong : La pensée unique est un état dans lequel un mème devient dominant, au point d’influencer la façon dont nous vivons, travaillons, pensons, etc. Un des mèmes dominants a été celui du christianisme d’État, au tout début de l’ère chrétienne, grâce à l’alliance de quelques mèmes nés en Palestine et de l’énorme machine administrative de l’empire romain. Un autre moment de pensée unique résulta de l’alliance du mème du marxisme-léninisme et de certains pays à un moment historique précis. Le mème dominant aujourd’hui est né par hasard dans un laboratoire d’anatomie de Zurich. Par un hiver particulièrement rigoureux, dans les années vingt, Friedrich Von Hayek, alors jeune étudiant en psychologie, y était venu se réchauffer auprès de Constantin Von Monakow, grand spécialiste du cerveau humain, et c’est en étudiant des coupes histologiques qu’il découvrit ce qui allait devenir, au terme d’un long processus évolutif, le mème de la mondialisation. Ce mème est devenu la pensée unique du moment parce qu’il a su mieux tirer son épingle du jeu que les mèmes concurrents – celui du marxisme-léninisme et celui du keynesianisme – notamment en raison de son alliance avec les e-gènes sans lesquels la mondialisation n’aurait tout simplement pas été possible.


Jean-Michel Truong

Psychologue et philosophe de formation, Jean-Michel Truong est expert en intelligence artificielle et fondateur de Cognitech. Il est aujourd’hui consultant international en innovation et transferts de technologies, romancier et essayiste. Il a publié notamment Systèmes experts, vers la maîtrise technique (Interéditions, 1986) Reproduction interdite (Plon, 1989), Le Successeur de pierre (Denoël, 1999), Totalement inhumaine (Les Empêcheurs de penser en rond, 2001; nouvelle édition Le No Man's Land, 2015), Eternity Express (Albin Michel, 2003), et Reprendre, ni sang ni dette (Le No Man's Land, 2013). Il poursuit un dialogue sur ces questions avec ses lecteurs sur son site www.jean-michel-truong.com

---