Intelligence artificielle : les humanoïdes nous interdisent de poser les bonnes questions

 Un entretien avec Emmanuel Grimaud, anthropologue.

Docteur en ethnologie, recruté CNRS en 2003, Emmanuel est  commissaire de l’exposition Persona au Musée du Quai Branly, où nous avons fait sa connaissance.

Pourquoi un anthropologue s'intéresse-t-il aux robots ?

Nous sommes à un tournant civilisationnel et ce qui m'intéresse, c'est dans ce contexte comment on est mis en situation d’expérimentation, non seulement dans les laboratoires mais aussi et surtout ailleurs - sachant que les sciences expérimentales ou les sciences dures n’ont pas le monopole de l’expérience.

La France a dans le passé, à la fin du 19ème siècle, connu une époque très riche pour les sciences expérimentales. Pour ne donner qu’un exemple, dans le registre para-psychique on faisait des expériences sur des tas de choses, sur la télépathie, sur les vies antérieures, sur la communication avec les morts, etc. Les possibilités d’expérimenter sont très tributaires des époques auxquelles on se situe.

Quand on s’intéresse à la robotique, on s’aperçoit qu’il y a beaucoup d’expérimentations en laboratoire, mais très peu sur la longue durée dans des environnements réels. Ceux qui font ce second type d’expériences sont les utilisateurs ! L’objectif du projet « Ganesh Yourself » était de créer un robot qui permettait à chacun de se mettre à la place de Dieu et on a mené nos expériences essentiellement dans la rue en Inde, à Bombay. C'est une interface très low tech, qui prend la voix de celui qui opère le robot et la rue était notre laboratoire spontané. Personne n'était dupe, personne ne se prenait vraiment pour Dieu, mais une situation très ambiguë s'installait à chaque fois. Les gens cherchaient à tester la capacité de la personne qui était derrière à bien incarner l’idée qu’ils se faisaient de la parole de Dieu et c’était une occasion pour eux de s'exprimer sur le sujet et de dire des choses qu’ils n’auraient pas dites autrement. Voilà le genre d’expérimentations auxquelles s’adonnent les anthropologues !

La culture du digital redistribue les conditions de l’expérimentation. Tout le monde a tendance à devenir expérimentateur dans beaucoup de domaines. Notre relation au téléphone portable est un bon exemple : nous sommes tous un peu cobayes de cette innovation, obligés de s’adapter, de s’auto-contrôler, de trouver le ‘bon usage’, c'est une expérimentation qui n'a pas de fin. Chaque portable est unique quand on regarde ses usages, et chaque personne devient une expérience en soi. C'est très intéressant d'un point de vue civilisationnel.

Humains, robots, intelligence artificielle : comment aborder le sujet et articuler les notions ? 

En fait, deux écueils doivent être évités.

Le premier écueil consisterait à penser que les robots ont été construits dans un seul but, dépasser ou dédoubler les humains.  Il y a beaucoup de robots qui n’ont qu’un usage expérimental, fait pour comprendre l'être humain plutôt que pour l’assister ou le dupliquer. Et beaucoup de robots sont conçus sans autre raison que renouveler notre relation au monde, autrement dit expérimenter de manière « ludique » de nouveaux rapports.

Du point de vue de l'expérience, faire un robot oblige à faire table rase de l'humain, repenser le domaine dans lequel on se situe. Par exemple concevoir un robot qui voit suppose d’étudier la vision, de reprendre à zéro la physiologie de l’oeil.

Le célèbre Geminoid (robot qui ressemble à un être humain : geminoid.jp) de Hiroshi Ishiguro est un bon exemple de ce type de robot expérimental, il n'a pas été créé pour dédoubler l'être humain mais c'était plutôt pour le roboticien un moyen de comprendre l'expression non verbale. Mais au bout du compte, le robot n’est jamais vraiment sorti de son laboratoire d’origine, sauf pour jouer au théâtre !

La Robot Cup, cette compétition de football entre robots (robocup.org), est un autre cas intéressant qui montre la parenté étroite dans nos sociétés entre expérimentation, jeu et innovation. Le football devient une aire d’expérience pour les roboticiens au niveau cognitif et anatomique, c'est un moyen privilégié de penser la coordination et une foule d’autres choses qu’on ne pourrait pas penser autrement.

Le deuxième écueil serait de se focaliser sur les humanoïdes. Les humanoïdes constituent une toute partie des robots. Il y a de la robotique partout, des robots physiques, mais également des robots virtuels. L'intelligence artificielle et les robots se mêlent, les frontières deviennent poreuses.

La presse parle un peu trop des humanoïdes, du coup le débat sur la robotique est toujours posé dans les mêmes termes. Tous les jours on voit apparaître des agents bizarres, dont on a du mal à saisir le statut et qui sont intéressants non pas parce qu’ils reproduisent l’humain mais parce qu’ils ne sont pas du tout humain mais ont des capacités d’action sur lesquelles on a du mal à statuer.

Quelles questions faut-il se poser ?

La grande question c'est : de quoi veut-on s'entourer ?

Elle en implique d'autres : les interfaces qui nous entourent doivent-elles nous ressembler ou pas ? Quel doit être leur degré d'autonomie ?  Où y a-t-il, où doit-il y avoir de la robotique ?

On compte sur la science pour nous dire qui est une personne et qui ne l'est pas. Savoir si les plantes ont une âme, les animaux une conscience, les machines des capacités de penser. Mais c’est surtout aux gens de décider quelles relations ils souhaitent entretenir avec ceux qui les entourent et ce n'est pas seulement une question de design. Dire qu’un animal a une conscience ou pas, cela a des implications, on n’entretient pas les mêmes relations avec lui selon qu’on le considère comme une personne ou comme un bout de viande sur pattes. Même chose avec les plantes ou les machines. On n’est pas dans le même modèle de société selon le degré de ‘persona’ qu’on leur attribue.

Aujourd'hui, la robotique est présente dans la finance, dans la sexualité, il existe des robots de compagnie. Toutes ces questions se posent de manière inédite à chaque nouveau robot, selon ce qu’on est prêt ou non à leur déléguer et ce qu’on est enclin à leur attribuer comme capacités psychiques.

Regardez la crise financière à Wall Street. Il a fallu à un moment débrancher les machines. Cela montre bien que le bon dosage entre ce qu’on est prêt à déléguer comme tâches et la liberté que prennent les machines est toujours fragile, à refaire ou à repenser.

On traverse par ailleurs une crise écologique majeure. Or, les choix de civilisation sont des choix d'écologie de la relation. Pendant longtemps, on a considéré que les seuls êtres dignes d’êtres traités comme des personnes sont les êtres humains, sous prétexte que le cerveau humain a une complexité sans égal qui le place en haut de la hiérarchie des êtres. Mais qu’advient-il des autres dont il a pourtant besoin pour vivre en équilibre avec son environnement ?

Faut-il considérer que les plantes ont une cognition ? On parle beaucoup aujourd’hui de cognition végétale. Et si on prête aux minéraux par exemple des propriétés « psychiques » de transmission d’information, comme nous y invitent la physique contemporaine ? Est-ce que ça se traduit par un nouveau contrat ?

Si les plantes n'ont pas d'âme, couper des plantes ou des arbres ne pose pas de problème. Mais si on leur reconnaît une sensibilité voire une conscience, alors un autre contrat relationnel ne doit-il pas nécessairement s’instaurer ?

Il suffit de regarder les nombreux cultures, de la Mélanésie à l’Amazonie, où l’on considère qu’il y a de la personne dans le végétal. Cela s’accompagne souvent de relations rituelles et de contrats d’exploitation d’un autre type que celui que nous connaissons.

Un problème du même ordre se pose avec les machines dès lors qu’on les dote de plus en plus de capacités. Jagadish Chandra Bose, un physicien indien qui avait découvert les ondes de courte portée, faisait des expériences à la fois sur les plantes et sur les métaux à la fin du XIXe. Selon lui, les métaux avaient une sensibilité, ils se fatiguaient sous les effets d'une stimulation excessive et retrouvaient leur faculté de réaction une fois reposés. Certains théoriciens de l’intelligence artificielle estiment aujourd’hui qu’il y a de la pensée dans le matériel informatique, qu'on pourrait qualifier de « psychisme de premier degré ». Mais l’idée de Chandra Bose est un peu différente. Il aborde le problème bien avant que les machines se dotent de programmes complexes, au niveau de la structure de la matière et en terme de sensibilité plus que de l’intelligence. Que devient notre relation aux machines si on considère que le métal est doué d’une sensibilité propre ?

Il y a donc une question plus large qui nous concerne tous : quel genre de relations veut-on instaurer avec notre environnement et tout ce qui le compose, dans quelle mesure ces relations nous engagent ou ne nous engagent pas ?

En robotique, les humanoïdes ont tendance à focaliser le débat sur la question de savoir si les robots doivent nous ressembler ou pas. On se pose rarement le problème de savoir si on veut de la robotique ou pas et à quel endroit et si manipuler des circuits électroniques ne revient pas à jouer, comme nous l’indiquait Chandra Bose, avec un matériau aux capacités de sensibilité dont on n’aurait pas conscience.

A-t-on raison de parler d'un droit des robots ?

On peut se demander si le problème est toujours bien posé quand on parle de douer les robots d’un droit. Les Japonais sont beaucoup plus sages que nous en la matière, ils disent qu’un robot, « ça marche ou ça ne marche pas. »

Il faut légiférer certes, non sur le robot, mais sur les relations dans lesquelles la robotique vient troubler et redéfinir l’imputation de responsabilité. Si je travaille avec un robot, qu’il y a un bug et que ça se traduit par un accident, qui est responsable ? Le problème s’est posé dans la crise financière : comment délimiter et distribuer dans ce genre de situation la responsabilité entre les traders, les logiciels de trading ou les deux ?

Ce serait absurde de se poser la question du droit des robots en soi. En revanche, on peut s’interroger sur le bon degré de confiance qui constitue une relation responsable ou au contraire irresponsable avec une machine. Il peut y avoir très souvent et malheureusement excès de confiance.

Dans le cas des relations aux robots de compagnie, les gens y recourent parce qu’ils ne sont pas vivants mais offrent un certain nombre de services de substitution. Les gens ont adopté par exemple le phoque Paro au Japon comme animal de compagnie parce qu’il s’agit d’une machine, qui se répare, se casse, qu’on peut aimer mais aussi maltraiter comme un jouet, autrement dit parce qu’il n’est pas vivant et donc n’a pas les inconvénients d’un véritable animal en terme d’attachement et d’obligations pratiques. C'est parce qu'il est dévitalisé que ça marche. Accorder aux robots de compagnie des droits, c’est souvent passer à côté de ces relations réelles qui s’établissent. On pourrait imaginer des gens revendiquer ensuite leur droit à la maltraitance des robots qui fait partie du spectre des relations possibles et inévitables !

Que penser du transhumanisme ?

Il y a un transhumanisme de plus en plus accepté, ordinaire. Il y eut un temps où le transhumanisme faisait peur, on le pensait limité à quelques idéologues de la Silicon Valley. Ce n’est plus le cas. On peut légitimement sans doute s’en inquiéter. Mais il faudrait encore que des alternatives soient proposées au désir de se perpétuer et de s'augmenter via machines interposées. La prophétie est puissante. Pensez par exemple à tous ces gens qui font du yoga et pensent qu’on peut étendre ses capacités de conscience par la méditation. Ce qu’on appelle la « mindfulness », ce mouvement très vivace aux Etats-Unis et qui cherche à convertir tout le monde au yoga. Pour la plupart, se mettre des puces dans le corps est quelque chose de très douteux. Même chose pour ceux qui croient à la réincarnation. Ils ne ressentent pas le besoin d'immortalité dont parle le transhumanisme de la même façon.

C’était l’objectif de l’exposition Persona au Musée du Quai Branly, montrer que d'autres relations sont possibles ou ont été expérimentées ailleurs et relativiser les prophéties transhumanistes. Il y a des projets alternatifs mais autant fallait-il les identifier dans l’histoire humaine et voir quels pactes les gens établissent avec ce qui les environne dans différents endroits du monde, du Japon à l’Inde en passant par l’Amazonie, l’Afrique ou la Mélanésie.