La guerre invisible
Une réflexion sur le sujet de l'Emulation de Cerveau Entier (ECE)
Publié le 21 novembre 2013, par dans « transhumanisme »
Pour un mouvement social en faveur de l’ECE
Je tenterai, dans cet article, de poser quelques réflexions sur le sujet de l’Emulation de Cerveau Entier (ECE), qui me semble trop rapidement traité dans l’espace francophone, alors que c’est précisément un sujet qui évolue très vite et qui permet de toucher à beaucoup de domaines de connaissances de l’humain. Fasciné par les perspectives qu’il ouvre, je suis depuis plusieurs années les aventures des (trop) rares scientifiques qui le prennent au sérieux. Dans une deuxième partie, je comparerai le chantier de l’ECE avec d’autres grands projets humains récents ou moins récents.
Qu’est-ce que l’ECE ?
Appelé couramment mind uploading (téléchargement de l’esprit), raccourci pratique car imagé, l’Emulation de Cerveau Entier est la traduction en français de Whole Brain Emulation (WBE), terme plus exact proposé par Randal Koene. Pour faire simple, c’est la reproduction sur support informatique des composants biologiques du cerveau permettant à la conscience individuelle d’exister.
Emulation ou Simulation ?
Ces deux termes ayant plusieurs sens selon la discipline qui les utilise, émulation est préféré car il suppose une modélisation relativement fidèle de la structure physico-chimique du cerveau. Simulation sous-entendrait que « tous les moyens sont bons » pour obtenir la conscience. En fait, au niveau des synapses ou groupes de synapses par exemple, le système serait probablement simplifié/simulé ; le niveau de détail nécessaire est un point de débat.
Pourquoi l’ECE ?
Les neuroscientifiques butent depuis de nombreuses années sur la difficulté d’observation des phénomènes du cerveau, peu accessible tant qu’il fonctionne. Comme en astrophysique, la solution réside dans l’opportunité de créer des modèles capables de proposer des scenarii, de confirmer ou d’infirmer des hypothèses. Jusqu’ici, la puissance des ordinateurs a constitué le principal frein à cette démarche. Comme l’explique Randal Koene dans cette vidéo-questionnaire, nous entrons dans une décennie où la principale tâche des neurosciences sera l’intégration, c’est-à-dire l’incorporation des données collectées pendant plus d’un siècle dans des modèles de plus en plus sophistiqués et détaillés.
L’ECE a donc un intérêt pour la compréhension du fonctionnement du cerveau dans son ensemble.
Mais l’ECE a un intérêt collatéral : si on parvient à reproduire la conscience d’un individu en émulant son cerveau biologique, et si les mécanismes de ce cerveau sont compris et maîtrisés, notamment le vieillissement, alors on peut logiquement espérer prolonger indéfiniment son existence.
L’ECE ferait alors penser à la « découverte » de l’Amérique par Christophe Colomb : alors que ce dernier avait reçu une aide financière conséquente pour simplement améliorer une route commerciale en la raccourcissant, il découvre tout un continent (sans même s’en rendre compte d’ailleurs).
Objections
Néanmoins, et même au sein des transhumanistes, le mind uploading est encore loin de faire l’unanimité. La plupart des objections que j’ai rencontrées autour de moi quand j’ai eu le loisir d’en parler relevaient de quatre grandes catégories :
1) la perte du corps
« Mais je n’ai pas envie de vivre dans un ordinateur ! » est l’exclamation la plus courante. Corollaire de la croyance selon laquelle placer un cerveau dans une machine le priverait automatiquement de ses terminaisons nerveuses. Or il est vraisemblable que l’ECE comportera une connection, d’une manière où d’une autre, à un environnement, soit virtuel (avec des lois similaires à celles du monde dans lequel nous vivons) soit réel (par le biais de mains, d’yeux voire de corps artificiels entiers). Et cette connection pourra à terme être tout aussi riche que l’originale, voire plus. En fait, l’émulé, si l’émulation est bien faite, n’aura pas du tout l’impression de perdre son corps.
2) la perte du « moi »
« Si on arrive à émuler mon cerveau, ce sera quelqu’un qui aura les mêmes souvenirs que moi, mais ce ne sera pas moi ! ». Cette objection est très courante et j’avoue avoir moi-même mis un peu de temps à la surmonter.
En fait, elle me fait penser à la réaction qu’ont tous les enfants à un moment donné de leur vie, à l’instant de s’endormir : l’horreur que constitue le basculement dans le sommeil leur apparaît brusquement, et ils luttent pour ne pas « perdre le contrôle », tomber dans l’inconscience…
L’ECE nous invite à nous demander ce qu’est réellement le « moi ». Si je sombre dans le coma pendant dix ans, et que toutes mes cellules ont été naturellement remplacées, au réveil et en imaginant que ma mémoire soit intacte, serai-je vraiment moi ?
Si je suis copié dans une ‘imprimante moléculaire » (le télétransporteur imaginaire popularisé par Star Trek), qui sera le vrai moi ? Celui qui a été détruit, ou celui qui apparaît ensuite ? Et si on ne détruisait pas l’original ? (une excellente illustration de ce paradoxe peut être trouvée dans le film de John Weldon « To Be »)
Les partisans d’une « transition douce », aboutissant à l’ECE en passant par le remplacement progressif des zones abimées du cerveau par des prothèses, pensent que l’ECE « brutal » (scan et reconstitution digitale) créerait un moi différent. Mais l’ECE, même obtenu progressivement, est une émulation sur support non biologique, donc par définition, copiable à volonté. Que se passerait-il alors si l’on copiait ce « moi » sur le même supercalculateur, lequel serait le « bon moi », si même un observateur externe serait incapable de répondre à cette question ?
En réalité, cette objection se fonde sur une illusion, que l’on pourrait appeler l’illusion de la continuité de la conscience. Comme dans un dessin animé, où l’on jurerait de la continuité de Grosminet en train de pourchasser Titi, alors que ce ne sont que des suites d’images fixes, nous avons l’impression d’une continuité de conscience alors que nos cerveaux sont en permanence en train de réactualiser leurs souvenirs et de réaliser qui ils sont. Comme au réveil : nous rappelons à nous nos souvenirs, rétablissons une continuité de conscience interrompue par le rêve, et c’est reparti pour un tour.
L’idée selon laquelle la conscience serait une sorte de feu, de flamme s’appuyant sur la matière combustible du cerveau pour continuer à exister, va dans le sens de notre intuition mais est trompeuse. Elle doit plutôt être vue comme un phénomène unique et rare, créé par (et seulement par) une certaine configuration physico-chimique. Si l’on parvient à accepter que nous sommes cette configuration, et rien d’autre, alors nous pouvons accepter sans réserve le mind uploading et aller nous coucher tranquilles, contents demain de nous réveiller dans un corps quasi indestructible !
Pour ma part, depuis que je me suis fait à cette idée, je dors beaucoup mieux. Plus sérieusement, je pense que c’est une façon de voir les choses qui est assez naturelle pour les cultures baignées par l’idée de résurrection / métempsycose, voire de conscience cosmique, comme l’hindouisme, mais peut-être plus difficile en partant de la cosmogonie occidentale.
3) la faisabilité
Troisième grande classe d’objections, le côté irréaliste de l’ECE. Il est vrai que de nombreux arguments ont été présentés contre la possibilité concrète de reproduire un cerveau sur un support non biologique. Sans même parler de l’objection dualiste (selon laquelle l’âme n’est pas un produit de mécanismes physiques), l’ECE repose sur des paris techniques certains : énormité des données à traiter, difficulté à obtenir ces mêmes données, consommation d’énergie de telles émulations… Mais les partisans de la possibilité de l’ECE n’ont ignoré aucun écueil potentiel (jusqu’à l’hypothèse de phénomènes quantiques significatifs) et l’excellente Feuille de Route vers l’ECE de Nick Bostrom (Oxford, 2008) les aborde tous.
Aujourd’hui, et ce alors que deux très gros projets d’ECE ont été lancés presque simultanément en Europe et aux Etats-Unis, on peut dire que la question de la faisabilité n’est plus à l’ordre du jour. Qu’un scientifique reconnu comme Jean-Pierre Changeux, qui parle longuement de simulation de systèmes neuronaux dans ses livres récents comme l’Homme de Vérité, se soit vu confier le poste de responsable du thème « Ethique et Société » du Human Brain Project (HBP), interpelle sur les interrogations qui commencent à poindre au plus haut niveau.
Et si Christophe Colomb commençait à se dire que peut-être, dans sa longue vue, ce n’étaient pas tout à fait les Indes ?
4) la perte de contrôle
La dernière objection à l’ECE est son impact sur l’espèce humaine. Disposerons-nous d’assez d’énergie pour émuler les cerveaux de milliards d’êtres humains ? L’ECE n’est-elle pas la première étape du développement de superhumains agissant mille fois plus vite que leurs contemporains et devenant, par là même, incontrôlables ?
C’est une question qui mérite d’être posée même si les conséquences pratiques d’une démocratisation de l’ECE paraissent encore lointaines. L’idée d’une hypothétique singularité, popularisée par des auteurs de science-fiction et reprise par les sensationnalistes, mérite d’être examinée sérieusement.
Il est difficile de prévoir quoi que ce soit aujourd’hui, mais il est probable qu’à cause de son coût, l’ECE sera à ses débuts réservée à une minorité, d’autant plus que les premières ECE seront sans doute imprécises et lacunaires, sujettes à pannes et dysfonctionnements (comme toute technologie par ailleurs). D’autre part, les « émulés » ne seront pas tous des informaticiens spécialisés en neurosciences computationnelles : ils seront donc grandement dépendants de l’infrastructure autorisant l’ECE (data centers notamment). Les corps artificiels seront extrêmement surveillés, tout comme les armes le sont aujourd’hui. Il est très probable que pendant longtemps, l’ECE se résumera à d’inoffensifs robots domestiques contenant des humains simplement heureux de vivre un peu plus longtemps dans le monde où ils ont grandi. J’insiste sur la grande vulnérabilité des « émulés » : pendant longtemps ils seront très facilement « contrôlables », tellement facilement d’ailleurs que cela soulèvera sans doute d’autres questions ; incarnés dans des corps artificiels bridés, connectés à des cerveaux à la vitesse bridée également, ils seront loin du fantasme de la machine toute puissante, et sans doute aucun, ils n’auront que très peu de maîtrise sur le monde physique.
On pourrait comparer le passage vers l’ECE à la révolution industrielle du XIXème siècle : le développement du chômage dans les campagnes a fait affluer énormément de gens dans les villes, où existait la possibilité d’une vie moins pénible. Petit à petit, la vie urbaine a secrété ses propres mythes, rêves et activités, a pris son autonomie, et la part de la population vouée à l’agriculture régressé jusqu’au minimum nécessaire. Les citadins voyageaient chaque été à la campagne pour rendre visite à leur famille, puis pour le plaisir, quand celle-ci a fini par partir elle aussi. Il se passera probablement la même chose avec les mondes virtuels (phénomène dont l’on peut déjà déceler aujourd’hui l’ébauche). Penser que les « non-biologiques » src= »/images/camponotus.png » se déconnecteront immédiatement de l’humanité biologique est un délire de science-fiction. Le processus sera sans aucun doute long, émaillé de discussions, de débats, d’accords et de conflits… comme cela a toujours été le cas entre êtres humains.
A très long terme, « biologiques » et « non-biologiques » ne seraient pas fondamentalement concurrents. La situation serait bien différente de celle d’une lutte pour la survie dans un écosystème fermé. La capacité des non-biologiques à vivre hors de la biosphère terrestre les invitera certainement à chercher d’autres environnements de développement loin de la Terre.
Quant à une hypothétique explosion d’intelligence, de quoi parle-t-on ? Peut-on réellement être « plus intelligents » ? Que cela veut-il dire exactement ? Augmenter la taille du néocortex ? Avec quelle durée acceptable de maturation ou d’éducation ? Einstein par exemple jouait du violon, mais beaucoup moins bien que ses contemporains virtuoses du violon. Quand on sait que les personnes souffrant d’hypermnésie (capacité à se souvenir de presque tout) font en général face à de graves et handicapants problèmes de concentration, on peut se demander si notre cerveau est structurellement capable d’être « augmenté » autrement que par quelques réglages marginaux. Il semblerait qu’il soit une machine complexe et très précisément organisée, construite par des millions d’années d’évolution.
La crainte de la perte de contrôle est comme la peur d’internet : des outils nouveaux et puissants font peser la menace de la disparition de l’ordre ancien, avec ses défauts et ses qualités.
La réponse à la singularité (concept né de l’imagination d’ultralibéraux américains pour la plupart) sera politique. Mais pour que nous gardions dès le début la main sur l’ECE, nous devons, en tant que communauté politique, nous placer aux premières loges du mouvement.
Rôle de l’Etat : une perspective historique pour un questionnement politique
Le mois dernier passait sur Arte un documentaire retraçant l’entrée en guerre des Etats-Unis en 1941, en prenant comme appui narratif les destinées de quatre villes américaines de taille moyenne. En 1939, l’opinion publique semblait peu favorable à l’intervention ; puis les succès militaires nazis et l’expansion japonaise dans le Pacifique changèrent lentement la donne, jusqu’à l’attaque surprise de Pearl Harbor en décembre 1941. Je croyais connaître cette histoire par coeur, et pourtant j’ai appris plusieurs choses étonnantes. Tout d’abord, les Américains connurent des premières semaines difficiles, notamment à Guadalcanal. Désorganisés et inexpérimentés, ils ne bénéficiaient pas encore de la puissance matérielle que leur économie de taille continentale leur fournirait par la suite. Mêmes difficultés en Tunisie face à Rommel, quand il fut question de reprendre le contrôle de la Méditerranée. La guerre avait été déclarée brusquement et il manquait aux marines l’expérience du combat, jusqu’aux plus hauts postes, face à des stratèges allemands rôdés par deux ans de conquêtes.
Rapidement cependant, la vapeur s’inversa, grâce aux Soviétiques sur le front de l’est, un peu oublié dans le documentaire, mais aussi et surtout grâce au passage foudroyant de l’économie américaine à une économie de guerre, transformant des villes entières en chantiers navals, réquisitionnant les temples du fordisme qu’étaient les usines automobiles pour produire à la chaîne avions et chars d’assaut. C’est sans doute la partie la plus impressionnante du documentaire : en quelques mois, le chômage disparaît presque entièrement, un sentiment de solidarité s’installe jusque dans les plus petits villages, parvenant presque parfois à gommer la ségrégation raciale. Une euphorie diffuse envahit le spectateur, car les mécanismes en jeu semblent transcender les intérêts individuels.
Très concrètement en réalité, l’Axe, en ce début d’année 1942, était parti pour cadenasser l’accès au pétrole du Golfe, et son expansion militaire représentait une menace d’asphyxie réelle pour les Etats-Unis en tant que communauté politique coincée entre les menaces japonaise dans le Pacifique et allemande dans l’Atlantique. Réflexe de survie donc d’un Etat qui avait mis un peu de temps à réagir.
Les exemples de sursauts industriels et technologiques accélérateurs de progrès ont souvent lieu en temps de guerre. Citons le Projet Manhattan (27 milliards de dollars actuels), incroyable programme de maîtrise de l’énergie nucléaire, ou encore Apollo (170 milliards de dollars actuels), en pleine guerre froide (ou comment donner à un programme de missiles intercontinentaux et de satellites d’espionnage une touche de respectabilité…).
Faut-il la menace de l’annihilation totale pour que les Etats libèrent l’énergie qu’ils sont capables de générer ? Faut-il que l’ECE devienne un enjeu de sécurité (ce qu’elle ne sera probablement jamais) pour être prise au sérieux par les décideurs politiques ?
Les Human Brain Project (Union Européenne) et BRAIN Initiative (Etats-Unis) ont des budgets similaires au Human Genome Project (1990-2003), quelques milliards de dollars chacun pour une période de dix ans (2013-2023). Il est étonnant que la rhétorique utilisée pour ces deux projets d’ECE soit d’ordre purement financier : quand Barack Obama insiste sur la création d’emplois, le responsable du HBP, Henry Markram, souligne le coût des maladies mentales pour la société.
Or ces projets vont bien plus loin, et d’ailleurs les personnalités impliquées semblent pertinemment le savoir. Henry Markram laissait ainsi clairement entendre dans la première partie du film au long cours de Noah Hutton, avant l’obtention de la bourse européenne d’un milliard d’euros, qu’il serait à terme possible de « charger » l’esprit de son interlocuteur et de continuer à lui parler. Parmi le groupe de six scientifiques qui ont donné l’impulsion de la BRAIN Initiative se trouve George Church (MIT, Harvard), accessoirement connecté (aux côtés d’Ed Boyden, MIT) au volet C de la très transhumaniste Initiative 2045 de Dimitry Itskov, volet qui concerne la réalisation de l’ECE.
Pourquoi alors ne parler que d’argent, d’emplois ou de traitement des maladies du cerveau, quand il y a quelque chose de bien plus gigantesque à portée de neurone : le transfert d’esprits et consciences humains sur des supports non biologiques ? Peut-être faudra-t-il un peu de temps à l’opinion mondiale pour réaliser que derrière l’émulation de cerveaux humains se cache la possibilité bien concrète d’éradiquer la mort biologique. Et encore un peu de temps pour rendre cette possibilité attirante ; alors ces projets aux budgets ridicules seront multipliés par cent ou mille, et un enthousiasme fébrile gagnera les êtres humains qui auront la chance de vivre à ce moment-là sur la planète, jusqu’ici courbés sur leurs petits problèmes de mortels au sein d’une espèce mortelle.
Souvenons-nous aussi que de nombreux projets scientifiques et sociaux, parce que trop tièdes ou manquant de susciter le rêve et l’envie, échouent par manque d’élan. Ainsi le programme Constellation (lancé par G.W. Bush en 2004, abandonné par B. Obama en 2010) qui devait envoyer des missions habitées sur la Lune puis sur Mars.
Il semble important, aujourd’hui, d’initier un intérêt, puis un profond mouvement social pour la réalisation de l’ECE. Changeons de prespective. Nous pensons vivre dans une ère de paix globale, mais des hommes et des femmes meurent chaque jour. « C’est la vie » diront certains. Cela me fait penser au mythe de Thésée.
Les Athéniens livraient ainsi quatorze jeunes gens, chaque année, au Minotaure, tribut au roi de Crète. Il a fallu que Thésée, décidé à mettre fin au massacre qui était devenu une habitude, aille contre l’avis de son père Egée, roi d’Athènes, se mesurer au Minotaure.
La mort biologique est le tribut invisible auquel nous autres Athéniens ne pensons même plus. Allons contre l’avis de nos pères faire face à ce qui est réputé invincible. Déclarons la guerre que personne ne voit !
EMG, pour l’AFT:Technoprog!
