“Real Humans, une série transhumaniste ?”

Enfin, par un hasard complet, cette soirée était aussi celle de la dernière journée de diffusion sur Arte de la deuxième saison de la série suédoise Real humans. Je peux donc maintenant vous proposer une petite réflexion basée sur cette série sans craindre de vous en dévoiler la teneur (Par contre, si vous envisagez de la regarder et si vous voulez vous ménager le suspens, ne lisez pas la suite de cet article ;-).

Mais je voulais profiter de mettre en évidence cette concomitance pour signaler une fois de plus comment se poursuit sur un bon rythme l’histoire du mariage de l’humain avec sa technique.

Je suppose qu’un bon nombre d’entre vous ont au moins entendu parler de cette série [3]. Depuis l’année dernière, elle a fait abondamment parler d’elle, au point de susciter des projets de remake par l’industrie de la télévision américaine [4]. Pour le dire très vite, l’auteur imagine une société contemporaine où seraient devenus banals des robots androïdes perfectionnés – les hubots – au point que certains seraient capables de pensées et même d’émotions, donc de conscience supérieure [5]. À travers la confrontation entre humains et hubots, la série nous propose en fait une vraie réflexion sur notre relation à la machine, mais surtout sur notre condition humaine.

     Je vous le dis comme je le pense, à mon avis, les arguments des créateurs de cette série sont tout bonnement transhumanistes ! Ils le sont non seulement dans leur questionnement mais aussi dans leurs hypothèses de réponse. C’est ce que je vous propose de vérifier à travers une petite critique dans  laquelle je me concentrerai sur deux thèmes : la réception sociale des robots androïdes et le questionnement existentiel qu’implique leur arrivée massive.

Une première chose essentielle à laquelle nous pousse à réfléchir Real Humans, c’est la manière dont nous sommes en train d’accueillir les robots au sein de nos sociétés. Tout ou presque est dit. Les risques d’adoption à cause de la pression sociale ou professionnelle, la crainte du déclassement et de la perte d’emploi, le malaise face à ce qui est d’abord perçu comme une machine mais qui commence à empiéter sur l’identité humaine, etc.

Pour faire réfléchir à cette question de notre acceptation des androïdes, la série développe notamment deux thèmes déjà classiques, le fantasme des robots-Terminator et celui – bien plus concret – des conflits sociaux engendrés par la multiplication des robots. Le premier sert surtout comme ressort dramatique du scenario – comme à la fin du premier épisode de la seconde saison, où même le gentil hubot Mimi répète « inconsciemment » <<Je suis un enfant de David-je ne mourrai jamais-nous dominerons cette Terre>>. Mais un argument réellement pertinent est avancé à la toute fin de la saison lorsque, durant le procès, Karl Leilesten – l’ancien policier à peine maintenu en vie par une intéressante thérapie bionique – avance que les hubots libérés ne seraient pas intéressés à collaborer avec les humains car ils leur seraient intellectuellement trop supérieurs : « Avez-vous déjà essayé de collaborer avec des idiots ? », questionne-t-il, sous-entendant que les idiots, ce serait nous !

Le créateur de la série rejoint ainsi les préoccupations des patrons de Google, ceux-ci ayant créé un comité d’éthique dédié à l’étude des moyens par lesquels ils pourraient s’assurer que l’Intelligence Artificielle qu’ils ont en projet demeurerait amicale … [8].

Moins sensationnelle mais plus proche de nous est l’idée que des robots assez intelligents et à la morphologie humaine viendront nous concurrencer dans des domaines qui nous étaient jusqu’à présent réservés. Pas seulement la manutention dans des usines ou des dépôts mais jusqu’aux fonctions de relations sociales, aux postes d’accueil, dans l’accompagnement des personnes âgées ou dans la garde de jeunes enfants. En fait, il ne s’agit là que d’une extrapolation de moyen ou court terme, de tels robots existant déjà ou étant à l’état de prototype. La société française Aldebaran Robotics vient de signer un énorme contrat avec le japonais Softbank qui a commencé d’installer des robots Pepper dans ses agences  [9]. Pour l’instant, on donne à ces robots des allures de jouets afin d’éviter le piège de la « vallée de l’étrange », mais d’autres japonais réfléchissent activement à l’hypothèse d’un androïde à la similitude convaincante [10].

La série, elle, multiplie les exemples d’emplois possiblement occupés par des robots. Elle commence, dans la première saison, avec les « collègues » porteurs et livreurs du contremaître Roger. Elle conclut par une Mimi capable de corriger, remanier à la perfection et traduire du suédois à l’arabe un contrat exigeant une excellente maîtrise du droit commercial, le tout en un tournemain.

Mais le plus intéressant ici, je trouve, c’est le choix de l’auteur de mettre dans la peau des gentils ceux des humains qui acceptent cette concurrence, qui font preuve d’ouverture et même – on va le voir, qui envisagent d’aller plus loin avec les hubots. À peu près tous ceux qui – au fil des épisodes – réagissent en lâchant agressivement des « mais ce ne sont que des machines » sont presque automatiquement rangés dans le camp des vilains- conservateurs-bornés.

Enfin, le degré supérieur de l’argumentation transhumaniste est atteint dans la conclusion qui est donnée à la relation entre les humains et les hubots Mimi et Florentine/Flash. Tout au long des différents épisodes, la série nous présente les diverses raisons pour lesquelles nous pourrions les accepter. Elles sont douées d’émotivité, de sensibilité, elles font preuve de liberté et même de libre-arbitre. La conséquence s’impose, exprimée par le personnage central de l’avocate Inger : à moins de faire preuve de racisme, on ne peut leur refuser le statut de personne digne de droits ! Je ne saurais mieux dire.

L’autre aspect le plus intéressant que je trouve à cette série, c’est qu’elle met en évidence le fait que la progression de la robotique androïde et de l’intelligence artificielle participent à la mise en question de la condition biologique de l’humain : un questionnement au cœur de la pensée transhumaniste.

Comme pour la question des droits, la fin de le deuxième saison est l’occasion de formaliser cette interrogation qui était jusque là diffuse. Durant le procès, les protagonistes – et les juges, en viennent rapidement à s’accorder sur ce constat de départ des transhumanistes : il n’y a « pas de définition précise d’un humain ». L’un des arguments avancés par les « transhumains » de l’histoire (les fans des hubots), comme la jeune Betty, c’est : <<ton cerveau est un ordinateur chimique>>. Sous-entendu, ce n’est pas le fait d’avoir un fonctionnement biologique qui fait essentiellement l’humain. Mais alors, selon Real humans, qu’est-ce qui peut rendre humain ?

Je relève rapidement trois exemples. Tout d’abord, la capacité à contredire une injonction. C’est par exemple le cas de Mimi, l’une des rares hubots libérées, qui est capable de réagir contre la programmation de David, son propre créateur : <<je suis un enfant de David / je ne suis pas un enfant de David.>> (Saison 2, épisode 1). Cette contradiction interne pourrait apparaître comme le cas unique d’un robot que sa complexité particulière amène à être capable de s’insurger contre ce pour quoi il a été prédéterminé. Mais ce n’est en fait qu’une illustration de la figure classique de l’individu devenant libre et indépendant. C’est Cornélius, le premier de ses congénères de la Planète des Singes prononçant pour la première fois son premier mot : « Non ! » ; C’est la Créature au fond pleine d’humanité se rebellant contre le docteur Frankeinstein ; C’est en fait l’étape que doit franchir tout adolescent pour s’affirmer comme adulte majeur face à l’autorité et à l’éducation jusque là imposées par ses parents et la société.

Un autre exemple frappant est également proposé par la saison 2, celui du destin de Rick. Ce hubot de compagnie dévoué, dont on a pu apprécier les performances sexuelles dans la saison 1, se retrouve maintenant à la tête d’une petite troupe de hubots à laquelle il essaie d’insuffler le sens de la liberté. Voyez ça, il s’est trouvé un sens à son existence : libérer le parc de chasse aux hubots « Hub Battle Land » pour lequel il a été acheté. À la fin, constatant que sa programmation interne lui interdit de s’enfuir du parc, il fait un choix unique dans l’histoire de la série : il se tire une balle dans la tête !

Même si le personnage du hubot Rick n’est pas des plus sympathiques – il semble avoir été programmé pour présenter un caractère arrogant, autoritaire, n’hésitant pas à avoir recours à la violence et même à la torture pour arriver à ses fins – il n’empêche que cet acte de désespéré lui confère un attribut considéré comme éminemment humain : le libre-arbitre.

Enfin, j’ai été frappé par l’intelligence que j’ai trouvée à l’argumentation suivante.

Dans le premier épisode de la nouvelle saison, Hans, le mari de la famille autour de laquelle tourne toute l’histoire, répond à la bot-femme de ménage qui lui demande, à propos de Mimi/Anita, à quoi elle sert : <<Elle ne sert à rien, comme moi !>>.

Au premier degré, on peut comprendre que le père est au chômage et qu’il rumine. Mais on peut comprendre aussi que Mimi est en train de gagner une reconnaissance en tant que « personne » justement parce qu’elle ne sert à rien. La dignité de l’humain se reconnaît en effet notamment à ce que celui-ci ne « sert » à rien. Il n’a ni fonction ni service préalablement fixé par une instance supérieure. Pour Mimi, le fait de ne « servir à rien » est un pas vers la sortie de son identité première d’objet.

Il y a bien d’autres questions abordées dans la série Real Humans : La manière dont nous allons mettre au point nos androïdes (Utiliserons-nous les fameuses lois de la robotique inventées par Isaac Asimov ? Leur appliquerons-nous les principes commerciaux de l’obsolescence programmée ? …), les hypothèses alternatives ou plus poussées comme le téléchargement de la pensée (mind up-loading) ou le cyborg.

En filigrane, on devine également un questionnement sur la condamnation traditionnelle du désir d’échapper à la mort. Bien que, dans le dernier épisode, soit reprise la vision morale qui considère cette prétention comme un hybris [11], les réflexions, du jeune Tobias et de sa sœur, ainsi que celles des hubots eux-mêmes permettent d’envisager une alternative. D’une part en effet, Tobias réalise que son propre vieillissement n’aurait pas de conséquence sur l’amour que lui porte Mimi. D’autre part, l’auteur met dans la bouche des hubots cette affirmation : << Nous verrons le monde bien plus longtemps que vous et le comprendrons bien mieux. >>

Si cette prétention joue encore sur la vieille peur des humains d’être remplacés par leurs machines et prépare le terrain dramatique pour le saison 3, elle permet aussi de poser la question : Et si l’extension radicale de la durée de vie en bonne santé pouvait être en effet un facteur de stabilité, de paix et d’harmonie parmi les sociétés humaines ? [12].

Je ne saurais donc que vous recommander fortement de regarder et de faire regarder la série Real Humans. Il s’agit sans doute à ce jour de l’une des rares productions audio-visuelles de fiction qui invite à réfléchir ouvertement aux problématiques transhumanistes sans adopter d’a priori caricaturalement positifs ou négatifs.

ps : Pour approfondir, voyez aussi “Real Humans revu par les chercheurs (#1 et surtout #2)” (Le journal du CNRS)

• https://lejournal.cnrs.fr/articles/real-humans-revu-par-les-chercheurs-1
• https://lejournal.cnrs.fr/articles/real-humans-revu-par-les-chercheurs-2

—

Notes :

1. Article de La Croix : “Comment un jeune handicapé va donner le coup d’envoi du Mondial”
   http://www.la-croix.com/Ethique/Sciences-Ethique/Sciences/Comment-un-jeune-handicape-peut-donner-le-coup-d-envoi-du-Mondial-2014-06-12-1163578
2. Article du Monde sur Eugene Goostman :
   http://www.lemonde.fr/sciences/article/2014/06/09/un-ordinateur-reussit-le-legendaire-test-de-turing_4434781_1650684.html >
3. Page de la série sur Arte.tv
   http://realhumans.arte.tv/fr/index >
4. Interview de l’auteur de la série RH où il parle entre autre des projets de remake.
   http://realhumans.arte.tv/fr/interview-lars-lundstrom >
5. On parle de “conscience supérieure” pour désigner la conscience humaine, capable notamment de se projeter à long terme dans le temps.
6. La “Vallée de l’étrange” ou “vallée dérangeante”, en anglais “the Uncanny valley” est une théorie qui met en relation quasi mathématique le degré de ressemblance des androïdes avec l’humain et leur acceptabilité. Voir : http://fr.wikipedia.org/wiki/Vall%C3%A9e_d%C3%A9rangeante
7. Un article de Jamais Cascio de 2007 citait une étude relatée dans le NewScientist selon laquelle une telle réaction de rejet aurait pour origine l’activité de nos neurones miroirs et aurait pour fonction de nous éloigner de nos congénères apparemment atteint de maladies éventuellement infectieuses.
8. http://www.openthefuture.com/2007/10/the_second_uncanny_valley.html
   voir par ex. : http://www.lefigaro.fr/secteur/high-tech/2014/01/27/01007-20140127ARTFIG00510-google-achete-une-start-up-qui-developpe-une-intelligence-artificielle.php
9. http://www.lemonde.fr/economie/article/2014/06/06/le-japonais-softbank-avec-l-aide-du-francais-aldebaran-va-commercialiser-pepper-un-robot-humanoide_4433431_3234.html
10. voir : http://fr.wikipedia.org/wiki/Hiroshi_Ishiguro
11. Dans la Grèce ancienne, l’hybris est l’excès absolu, la prétention à atteindre ce qui est sensé être réservé aux dieux. Le désir d’immortalité en est un comble ! http://fr.wikipedia.org/wiki/Hybris
12. voir l’article publié sur ce site : “Effets possibles sur notre psychologie d’une vie très longue” http://transhumanistes.com/le-choix-dune-vie-tres-longue-en-bonne-sante-pourquoi-24-effets-possibles-sur-notre-psychologie/