Home :: DerniersChangements :: DerniersCommentaires :: ParametresUtilisateur :: Vous êtes 54.145.235.23
Test de Turing Généralisé

OlivierAuber

Ceci est un projet que j'ai pensé un moment lancer sur kickstarter, mais je n'aime pas le principe de kickstarter...
https://www.kickstarter.com/projects/330236379/180127409?token=bd0d2482
Sauvegarde du 24 novembre 2016

Sur le modèle du test de Turing, nous proposons un nouveau jeu d’imitation, collectif et accessible à tous sur Internet, qui mettra en oeuvre une nouvelle classe d’intelligences artificielles. Cette expérience a pour but d’explorer des questions scientifiques fondamentales sur la nature de l’information, comme des questions critiques sur l’évolution des rapports entre hommes et machines. Elle est un défi lancé aux scientifiques, aux développeurs, comme à tout-un-chacun.

En participant au jeu et en affichant son image chez vous, vous devenez des acteurs de cette recherche.

Au delà de l’imitation

Normalement les bonnes histoires commencent par une anectode. Nous commencerons par une citation :

On peut se demander ce qui restera de l’homme après que l’homme aura tout imité en mieux. André Leroi-Gourhan

Constatons que l’horizon qui semblait lointain pour André Leroi-Gourhan dans les années 1960 s’est singulièrement rapproché. Cependant, ce qu’il restera de l’homme arrivé à la limite de son jeu d’imitation reste toujours un mystère. Pour tenter d’y voir un peu plus clair, retournons un instant à la source de l’imitation. Bien entendu, les humains n’ont pas le monopole de l’imitation. Les animaux savent très bien imiter, entre individus de la même espèce et entre espèces différentes. Mais seuls les humains semblent avoir cette capacité —unique à cette échelle—d’imiter leur environnement (y-compris eux-mêmes), en utilisant des objets externes à leur propre corps, ou en créant de toute pièce une grande variété d’artefacts, matériels ou immatériels.

Selon nous, cette forme particulière d’imitation est l’origine même du genre Homo. En effet, pour les premiers hominidés, le silex a imité les dents, la massue a imité les poings. Tout porte à croire que ces premières armes ont rendu obsolète le combat à mains nues, et donc la domination physique et le type de hiérarchie sociale qu’elles faisaient régner. Ainsi, cette imitation première a sans doute marqué l’émergence d’une stratégie évolutionnaire propre à l’humain, reposant sur le langage et la technologie.

Après quelques millions d’années d’évolution, les machines imitatives ont surpassé les humains dans la plupart des activités physiques. Depuis seulement quelques décennies, elles tendent à les supplanter dans une gamme toujours plus étendue d’activités intellectuelles. Le schéma de développement de ces machines semble toujours le même : imiter certaines activités et les optimiser en vue d’un certain objectif. Dans le domaine intellectuel ; gagner aux échecs et au go — c’est fait— ; imiter le style d'un peintre — c’est fait— ; écrire de la musique ou des textes "comme" des compositeurs ou des auteurs — c’est fait—, etc.

Cette capacité d'imitation se déploie aussi dans le domaine du vivant : des molécules manipulées imitent des molécules du corps pour produire certains effets. Des prothèses, implants et autres organes artificiels imitent des coeurs, des mains, voire des fonctions cérébrales. A son tour, le génome pourrait être imité...

Aujourd’hui, le jeu d’imitation semble donc arriver à une limite. Néanmoins, nous faisons ici le pari que l’approche de cette limite va conduire les humains (nous ?) à découvrir qu’ils sont—eux-mêmes, leurs machines et le reste du vivant—, les véhicules d’un flux immatériel que nous appelons le “fil de la vie.

L’expérience nous proposons ici, va tenter de démonter les mécanismes informationnels sous-jacents aux jeux d’imitation. L’imitation ne serait qu’une partie d’un réseau enchevêtré de traces et d’empreintes informationnelles, visibles ou invisibles, matérielles ou immatérielles, déployé dans l’espace et dans le temps tels que nous croyons les connaître, et probablement relié à d’autres dimensions que nous ne faisons que commencer à deviner. Elle obéirait néanmoins à des lois. L’expérience permettra de mettre ces lois à l’épreuve des faits. A l’instar des détecteurs de particules ou des sondes spatiales, elle pourrait permettre d’explorer ce qui nous apparaît comme le nouveau continent pressenti par Leroi-Gourhan et ouvert par un possible changement de stratégie évolutionnaire : l'évolution technique comme substitut et prolongement de l'évolution biologique.

Une expérience paradoxale.

L’archétype même du jeu d’imitation est le fameux “test de Turing” (1950) fondé sur la capacité d’une machine à imiter la conversation humaine. Si l’homme n’est pas capable de dire que son interlocuteur est un ordinateur, on considère que le logiciel a passé le test avec succès. Et cela s’est produit il y a peu (bien que cela reste soumis à controverse).
Alan Turing
Alan Turing

Pour Alan Turing, les questions sous-jacentes étaient les suivantes :

Une machine peut-elle penser ?
Les êtres vivants sont-ils eux-mêmes des machines ?

Le destin tragique de Turing suggère que son interrogation a pris pour lui un tour existentiel. On peut supposer qu’il se soit demandé : “si la vie se résume à un jeu d’imitation (avec son lot de violence sociale), vaut-elle le coup d’être vécue ?”, et qu’il ait finalement conclu en mettant fin à ses jours.

Les questions qui ont survécu à Turing marquent bien l’aporie à laquelle conduit le jeu de l’imitation. Par exemple : alors que beaucoup voient la mise au point d’une véritable Intelligence artificielle comme une fin en soi et qu’ils y emploient des ressources considérables, les mêmes admettent sans trop de difficultés que celle-ci ne deviendra vraiment une réalité que lorsqu'elle sera capable d’envisager la question de sa propre finalité, au point, peut-être, de se réfuter elle-même. Comme un humain en somme ! Dès lors, pourquoi vouloir construire des intelligences artificielles ?

Si tant de paradoxes semblent accabler les être humains aujourd’hui, c’est selon nous parce qu’ils ont du mal à admettre, d’une part que si le test de Turing n’a pas déjà été passé, il le sera tôt ou tard, et d’autre part que l’on ne pourra en conclure que les machines pensent, pas plus que les hommes sont des machines. En effet, si le jeu de l’imitation reporté sur des objets externes est consubstantiel de l’humain depuis les premières armes des hominidés ; alors ni les machines, ni les hommes ne peuvent penser indépendamment.

Les humains pensent avec les machines.
Les machines pensent avec les humains.

Dans le paradigme du “fil de la vie”, les humains, les machines et l’ensemble de l’écosystème ne sont pas “vivants” en tant qu’entités matérielles. Les véritables entités vivantes sont immatérielles, potentiellement éternelles, en lutte pour la survie, elles évoluent. Ces entités vivantes immatérielles sont des informations. Elles existent à travers les humains, dans leurs gènes, dans leur culture et leur machines, et dans les écosystèmes. La vie produit l’information, lit l’information et se définit par l’information qu’elle porte.

Dans ce paradigme, l’imitation, en particulier via les machines, n’est qu’une modalité par laquelle l’information est véhiculée. Elle consiste à rendre simples des opérations complexes (se déplacer, échanger des informations, guérir des maladies, etc.). Cela a souvent pour conséquence de complexifier le monde par la suite (la circulation automobile, Internet, la génomique, etc.). A son tour, ce monde complexe donne l’occasion d’opérer des simplifications, et ainsi de suite. L’imitation apparaît comme un jeu social évolutif dont la finalité semble échapper aux machines comme aux hommes.

Si elle ne peut accéder à cette finalité, l’expérience que nous proposons vise à éclairer une part des mécanismes selon lesquels l’information se transmet et se développe à travers les jeux d’imitation. C’est pourquoi ce nouveau jeu d’imitation n’est pas un “test” au sens de Turing, dans le sens où il ne s’agit pas (ou pas seulement) de distinguer l’homme de la machine, mais bien de mettre en lumière le fil qui les réunit.

Notons que notre cadre conceptuel s’applique à notre propre expérience qui a l’ambition de rendre simple des questions complexes à travers la mise au point de cette “machine” particulière.

Une double imitation

L’expérience met en oeuvre deux imitations imbriquées :

1) un dispositif expérimental appelé “le Générateur poïétique” (GP). Ce dispositif est lui-même une imitation simplifiée des réseaux complexes (centralisés, décentralisés ou distribués) sur lesquels les collectifs humains échangent ordinairement de l’information (réseaux sociaux, marchés financiers, moteurs de recherche, réseaux pair-à-pair, blockchains, etc.). Le GP prend la forme d’un automate cellulaire dont chaque entité est activée en temps réel par un humain via ce réseau ; un “jeu de la vie” 100% humain en quelque sorte.

Comme de nombreuses expériences l’ont montré, l’image présentée par cet automate tend à s’auto-organiser. De l’interaction collective émerge de manière imprévisible (?) une succession de formes simples et complexes, géométriques ou figuratives. La situation ainsi réalisée est le théâtre d’actions souvent vues comme créatives par ceux qui participent. Elle donne parfois le sentiment aux joueurs de l’émergence d’une sorte de “conscience collective”.
Neuf acteurs humains jouent au Générateur poïétique (enregistrement d’une session, vitesse x 100)
Neuf acteurs humains jouent au Générateur poïétique (enregistrement d’une session, vitesse x 100)

L’expérience que nous proposons est une variante du GP : toutes les cellules seront manipulées par des humains, sauf une, déterminée au hasard, sera contrôlée par une intelligence artificielle.

2) le deuxième élément mis en oeuvre est une nouvelle classe d’intelligence artificielle capable d’accéder à ce qui est nommé couramment la “créativité”, voire la “conscience collective”, ou tout du moins d’imiter certains mécanismes cognitifs que nous croyons impliqués dans l’émergence de cette créativité et cette conscience au sein des collectifs humains. Selon nos hypothèses fondées sur la Théorie de la Simplicité, cette intelligence artificielle doit se comporter de façon à maximiser l’inattendu dans les situations qu’elle rencontre.
Vingt cinq instances de la même intelligence artificielle “jouent” dans une version simplifiée du Générateur poïétique.
Vingt cinq instances de la même intelligence artificielle “jouent” dans une version simplifiée du Générateur poïétique.


Nous avons pu vérifier qu’un modèle simplifié du Générateur poïétique (SPG) où toutes les cellules sont contrôlées par des instances d’une même intelligence artificielle programmée de cette façon, tend en effet à reproduire la même dynamique d’interaction que celle observée sur le GP “réel”. L’idée est donc de plonger une instance de cette intelligence artificielle dans le contexte d’une interaction entre êtres humains de manière à voir, et à donner à voir, comment ensemble, ils se comportent.

Cette expérience appelle une variété de questions qui pourraient se poser suivant cette chronologie :

Pendant combien de temps l’intelligence artificielle aura-t-elle un comportement si proche de l’humain qu’elle pourra se faire passer pour l’un d’eux ?
Quels détails de son comportement trahiront son caractère robotique ?
Les humains sauront-ils produire des comportements qui résisteront à toute forme d’imitation par l’intelligence artificielle ?
La forme du réseau (centralisé, décentralisé ou distribué) sur lequel est effectuée l’expérience a-t-elle une un influence sur le résultat du test ?
Commet caractériser les comportements résistant à l’imitation ?
S’ils sont caractérisables, pourquoi une IA ne peut-elle pas les imiter ?
Si elle peut définitivement les imiter (test de niveau 1 réussi), le jeu fait-il encore sens pour les humains ?
Si ce n’est pas le cas, pourra-t-on dire que l’intelligence artificielle l’aura détruit ? De multiples instances de cette intelligence artificielle de niveau 1 seront-elles capables d’imiter à elle seules les comportements humains (test de niveau 2) ?
Quelle méta-stratégie les humains déploieront-ils éventuellement pour lui redonner un sens ?
Vers un test de niveau 3 ? Etc.
Dans le paradigme du “fil de la vie”, quelles sont les informations qui se sont transmises dans les étapes précédentes ?

Risques et défis

Un double défi

Le défi proposé par cette expérience est double : il concerne à la fois :

la communauté scientifique (Intelligence artificielle, reconnaissance de formes et apprentissage profond, sciences cognitives) invitée à améliorer l’intelligence artificielle.
tout-un-chacun, invité à contribuer à cette recherche en jouant au Générateur poïétique via son ordinateur ou son mobile, à débusquer le robot qui tente de se faire passer pour un humain, et surtout à se poser les questions sociétales que cette expérience appelle.

Les résultats attendus seront de nouvelles connaissances scientifiques sur la cognition, à partager dans un esprit de “science ouverte“ (open source, copyleft). Cependant, la finalité de ce nouveau jeu d'imitation entre hommes et machines ne se résume pas à l’obtention et à la diffusion de connaissances. Cette finalité reste une question ouverte que nous souhaitons voir débattue très largement dans ses dimensions éthiques. En particulier, Il se pose la question de l’utilisation de ces connaissances à des fins qui n’apparaissent pas souhaitables, et des moyens à mettre en oeuvre pour les éviter.

Billets
Il n'y a pas de commentaire sur cette page. [Afficher commentaires/formulaire]