Publié le 11 mai 2024, par Marc Roux dans « Intelligence artificielle »

Raphaël Gaillard est normalien et psychiatre à l’hôpital parisien Sainte-Anne où il dirige le pôle hospitalo-universitaire de psychiatrie. Il pose dans cet ouvrage une réflexion sur ce que met en jeu l’intelligence artificielle. Il en reconnaît les potentiels et les dangers. Il propose une analyse et une solution simple pour l’utiliser intelligemment. La première hybridation réussie entre l’humain et l’inerte a été, nous dit-il, celle de l’écriture et de la lecture. C’est elle que nous devons encore cultiver pour réussir l’hybridation en cours avec l’IA.

D’un point de vue stylistique, on notera que l’auteur se plaît à agrémenter sa réflexion d’assez nombreuses anecdotes personnelles voire biographiques. Il s’amuse parfois à jouer avec les mots et les expressions, cherchant dans les étymologies ou les jeux de mots un surplus de sens. Ces digressions, plus ou moins utiles, plus ou moins subtiles, allongent mais allègent le discours.

1ère partie : Hybrider cerveau et machine, augmenter l’homme

Dans sa première partie, Raphaël Gaillard commence par poser quelques affirmations que, personnellement, je trouve très transhumanistes. Par exemple, il donne raison à Elon Musk (et donc à Ray Kurzweil) en considérant que la Singularité approche et qu’il va falloir s’hybrider avec les ordinateurs. Cette « hybridation est en bonne voie », dit-il (p. 25). Par ailleurs, il récuse la démarcation entre réparation et augmentation et affirme : << La médecine adopte de fait les principes du méliorisme […], elle ne sait pas s’arrêter sur son chemin, et c’est vers l’augmentation de l’homme qu’elle nous conduit. >> (p. 38). Il cite aussi à plusieurs reprises la définition de la santé par l’OMS, pour la valider (<<état de bien-être physique, moral et social>>), et en conclure que cela justifie ce qu’il appelle « l’augmentation de l’homme par la médecine », le « T-word » n’est pas utilisé, mais c’est tout comme.

Parallèlement, il commence à alerter sur ce qu’il considère comme plusieurs limites, voire sources de dangers du fonctionnement cérébral. Par exemple, parce que le cortex gère des fonctions différentes selon ses régions, les implants neuronaux ne peuvent augmenter que les fonctions des zones où ils sont posés. Or, comme nous n’avons pas accès à un contrôle de tout le cerveau, nos interventions vont forcément provoquer des déséquilibres qu’il va falloir gérer.

Ou encore, il rappelle le fonctionnement cérébral par construction de modèles en miroir. Ces représentations peuvent nous permettre d’intégrer n’importe quel objet ou prothèse dont nous nous faisons une représentation mentale. Cela peut aboutir à des guérisons, des augmentations, mais aussi à des dérives narcissiques allant jusqu’à la schizophrénie.

Il développe ensuite une série de paragraphes sur les possibilités et les enjeux d’une amélioration de la mémoire. Il considère que cela serait possible, en utilisant par exemple la stimulation magnétique transcrânienne, mais c’est pour conclure finalement qu’augmenter sa mémoire ne servirait pas à grand chose, voire pourrait être contre-productif ! Car <<Penser, c’est oublier des différences, c’est généraliser, abstraire ».

Plutôt que de s’intéresser à l’augmentation de la quantité de mémoire, il suggère d’intervenir, à terme, dans le processus de commutation entre mémorisation et remémoration. Mais les effets psychologiques de telles interventions seraient aléatoires.

    Une autre piste pourrait consister à favoriser la neurogenèse grâce à l’ECT (micro-électrochocs). Ou encore, à bloquer l’activité des amygdales, impliquées dans le processus de remémoration, grâce à un bêta-bloquant, le prépranodol : <<un dopant très utilisé pour tempérer le trac.>>.

Enfin, je note que l’auteur en arrive ici à reconnaître malgré lui que le terme d’augmentation n’est pas toujours adéquat. Ou plutôt, le refus d’en sortir le mène à une contorsion douloureuse. Lisez plutôt : <<Augmenter peut consister à augmenter la capacité à réduire – ici, oublier.>> (C’est moi qui souligne). Et si l’on parlait de modulation ?

Les trois sous-parties suivantes s’intéressent surtout aux effets de substances. Gaillard passe d’abord en revue celles qui permettent un gain de concentration. Il atteste de ce que, avec la Ritaline ou du Modafinil, « il est possible d’augmenter significativement les performances de joueurs d’échecs de bon ou très bon niveau. » (p. 120).

    Il relate ensuite l’usage important de ces substances, notamment par des membres du corps médical. Il donne enfin une classification rapide des nootropes : ceux qui augmentent la noradrénaline ou la dopamine (caféine, cocaïne, amphétamines …), ceux qui augmentent la transmission cholinergique (nicotine …), les corticoïdes, etc.

Le souci, c’est que quelles que soient les substances consommées, les effets sont suivis de phase de dépression, plus ou moins aiguës. Après la satisfaction, viendrait toujours une déception.

L’auteur s’intéresse ensuite au sommeil. Améliorer le sommeil, c’est améliorer la cognition.  Donc : <<S’il y a bien une chose à augmenter, c’est la durée du sommeil et sa qualité.>> Voire, il relate que les IA risquent de désapprendre une tâche A quand elles doivent passer à une tâche B. Ainsi, des chercheurs en IA en sont venus à proposer de créer des phases de repos entre deux apprentissages pour permettre à des IA d’intégrer plus de savoirs. Il faut croire que, même pour l’IA, le sommeil est nécessaire à l’apprentissage !

Enfin, on peut utiliser l’état du cerveau lorsqu’il entre en phase hypnagogique, c’est-à-dire dans la phase d’endormissement. Celle-ci est propice à l’inventivité, ou aux rêves dirigés. Pareillement, l’activité physique, à une certaine intensité, facilite la créativité. Comme pour le sommeil, il s’agit d’atteindre l’état où le cerveau ressent un certain vertige.

Après quoi, il s’attaque aux psychédéliques. Il cite les effets remarquablement efficaces de la kétamine sur la dépression. Mais pour Gaillard, ce n’est pas qu’une piste de soins, c’est une promesse « d’augmentation » (p. 159). L’auteur expose longuement – entre autres avec l’exemple d’un trip personnel, les risques, mais surtout les promesses des psychédéliques pris à doses « normales ». Quant au micro-dosage, des tests en double-aveugle n’ont pas permis de valider un effet supérieur à un placebo. Néanmoins, pour Gaillard, cet effet placebo ne disqualifie pas ces pratiques. Il faut associer la parole et le médicament.

L’auteur avertit aussi qu’il est selon lui impossible de s’augmenter cognitivement tout seul, parce que, ce faisant, on perturbe sa capacité à juger avec discernement. Tous ceux qui essaient sont dans l’instabilité. Il préconise donc d’avoir recours à un tiers de confiance aguerri.

2ème partie : Le futur, comme l’enfer, est pavé de bonnes intentions

Dans cette partie, Raphaël Gaillard multiplie les avertissements. Pour commencer, il affirme que toute augmentation par la technique conduit à des discriminations par l’accès à ces techniques et par la capacité de leur maîtrise : <<L’augmentation de l’homme creuse les inégalités plus qu’elle ne les aplanit.>> (p. 188). Ce serait encore plus vrai avec des augmentations cognitives.

Toute hybridation signifie une sortie de l’harmonie des sens que notre corps élabore dès sa conception. Dans le cerveau, l’augmentation de telle capacité impliquera nécessairement des déséquilibres et demandera d’en trouver d’autres. Par ailleurs, tout implant a besoin d’une maintenance, ce qui induit une dépendance des patients à la technologie et aux entreprises qui la mettent au point.

Notons ici que, pour parler des entrepreneurs de la Silicon Valley,  Gaillard reprend l’expression <<gourous du transhumanisme » (p. 191).

Il alerte aussi sur les coûts écologiques et sociaux de ces développements, mais sans y renoncer. Il dénonce une tendance parasitaire de l’humain sur la Terre, mais préfère finalement parler de symbiose. De la même manière, l’humain doit apprendre en symbiose avec l’IA.

L’évolution, nous dit-il, a conduit, dans le cerveau humain, à privilégier la richesse de « l’informativité » plutôt que la robustesse. Selon cette hypothèse, le risque de la folie serait le prix à payer pour notre intelligence. Pour Gaillard, l’hybridation avec la machine est porteuse d’autres folies. Néanmoins, il ne voit pas d’autre chemin que cette cyborgisation (p. 209).

Les dépressions mentales semblent avoir augmenté ces dernières années. L’auteur les attribue plus ou moins à la « post-modernité », aux écrans, aux réseaux sociaux et à la tendance à la connexion continue, même s’il en voit les intérêts. Cela donne à voir ce que sera l’hybridation homme-machine. Si nous n’y prenons garde, les inconvénients seraient supérieurs aux avantages, notamment l’atrophie de la mémoire, de la capacité de concentration prolongée, l’appauvrissement du langage et, in fine, le dévoiement de la démocratie.

Par ailleurs, l’augmentation profitant des progrès rapides des neurosciences et de l’IA va déboucher sur une dichotomie entre génies hyper-créatifs et zombies dévorés par les augmentations et incapables de les contrôler.

L’IA elle-même est menacée de schizophrénie (hallucinations). Mais la vitesse de ses avancées nous empêchera de tout vérifier. <<Il faut considérer ce qui pourrait nous garder des travers de ce qui constitue avant tout un progrès, et s’attacher à le mettre en place.>> (p. 227). Il va nous falloir faire « des paris sur notre futur ».

3ème partie : Le livre comme hybridation

Raphaël Gaillard commence ici par un petit plaidoyer pro domo, appelant à accélérer la recherche en psychiatrie. Il répète aussi à nouveau cet argument très h+ : « Soigner augmente ; augmenter soigne » D’où il conclut qu’il faut investir dans les deux directions.  Puis, après avoir rapidement rappelé les grandes avancées de la psychiatrie au XXe siècle, il insiste sur le fait qu’aujourd’hui, on comprend beaucoup mieux le cerveau de chacun, et on peut agir dessus pour le moduler plus finement. À cet égard, la France est forte de sa tradition où recherche et clinique travaillent main dans la main. Ce qui est aussi une garantie pour ne pas abandonner des patients quand un entreprise fait faillite (Ce qui est arrivé récemment, par exemple avec plusieurs startups ayant développé des impacts rétiniens …).

Mais la grande idée de tout son ouvrage arrive maintenant : l’écriture relève d’une hybridation analogue à la numérisation puisque toutes les deux consistent à externaliser des éléments de mémoire et de mise en relation. <<Le livre constitue la grande hybridation de l’humanité.>> Le fonctionnement d’un cerveau qui lit ou écrit procède déjà par une forme d’hypertextualité. En effet, notre cerveau ne lit ou n’écrit pas de manière linéaire. Il relie chaque mot à une quantité phénoménale d’autres expériences : <<le texte annonce l’hypertexte>>, et mieux, « L’avènement de l’écrit signe l’ère de l’augmentation. » (p. 247)

L’écriture, avec la lecture, témoigne d’un rapport particulier à la culture. Pour l’humain, celle-ci est une condition de survie, entre autres liée à sa néoténie : <<C’est parce qu’il est par nature inachevé à la naissance qu’il est déterminé par la culture.>>.

Après quoi, il reprend en partie l’analyse de Günther Anders et celle de Jean-Michel Besnier : nous sommes fascinés par notre technologie même si elle nous opprime. Nous ferions << le pari de l’augmentation au prix d’une « désaffection de soi » [Besnier]. (p. 253). Mais, pour Gaillard, nous sommes sauvés et augmentés par le langage qui « nous donne accès à l’infini ». Celui-ci met à distance le réel, auquel nous avons accès par l’intermédiaire des symboles. L’écriture est un « aboutissement inéluctable » du langage. Le langage passe par une « archi-écriture » (concept de Derrida) car dans l’instant où l’on s’exprime, les limites de notre accès à la conscience font qu’on doit s’absenter des autres et du monde. Par la lecture, ces absences sont porteuses d’autres bénéfices et d’autres risques. Tout livre est un miroir tendu au lecteur. On peut s’y découvrir, et on peut s’y perdre. La lecture transforme les cerveaux, non sans risques, mais c’est dans l’ensemble une hybridation largement réussie. Nous devons nous en inspirer pour réussir l’hybridation qui vient.

Dans les paragraphes suivants, l’auteur fait l’éloge de la lecture. Il argumente que celle-ci s’apprend mieux par la méthode syllabique, par la lecture à voix haute, et par l’étape de l’écriture manuscrite. Les lecteurs, notamment jeunes, augmentent l’étendue de leurs expériences et la palette de leurs émotions. Ils « éduquent leur empathie ». En aval, la lecture aide à contrer le déclin cognitif de l’âge. Enfin écrire peut être une manière de mettre à distance, ce qui peut permettre de mieux évaluer et gérer des situations compliquées quand on y est impliqué.

La technique provient du désir de l’humain de se dépasser (Bergson), avant qu’il ne soit parfois dépassé par sa technique, celle-ci devenant une fin en soi. La technique est une extension du corps ayant doté l’humain d’un corps plus vaste alors que son « âme » est restée identique. On ressent alors le besoin de doter ce corps d’un « supplément d’âme ». Gaillard suggère que ce supplément soit apporté par la littérature.

L’auteur analyse ensuite le fait que, avec les outils numériques en ligne, rien ne semble plus s’oublier et que nous sommes submergés par l’information. Il n’y a plus de hiérarchie de l’information, plus de savoir faisant autorité, plus de « fantasme de vérité ». L’IA va aggraver cette situation. Il se peut qu’un nouveau type d’information de qualité émerge, mais son accès sera réservé à une élite.

En regard, il faudra réapprendre à nous immerger longtemps dans le monde de notre intellect et de notre imagination. La lecture est un moment où l’on s’extrait du monde. Elle demande le silence. Quand on « plonge le regard dans un livre », « on devient qui on est ». La lecture provoque des « effets de vérité » lorsque le texte entre en résonance avec ce qu’est, ou ce qu’attend le lecteur.

Suit une considération sur l’idée que l’IA actuelle est intrinsèquement incapable de créer un style original. Ce n’est pas seulement dû au fait qu’elle fonctionne de manière probabiliste et lisse les moyennes. C’est surtout du fait qu’elle est dépourvue de corps. Elle ne pourra correctement exprimer les émotions tant qu’il lui manquera l’équivalent d’un cerveau limbique.

Néanmoins, malgré ses limites, l’IA réalise déjà des prouesses et va permettre des progrès importants, notamment en médecine. Mais dans ce but, il va nous falloir faire preuve de créativité dans « l’art du prompt ». Pour cela, il nous faudra continuer à enrichir notre culture qui est « ce qui reste quand on a tout oublié. »

Conclusion

En résumé, l’auteur reprend succinctement les grandes lignes de son propos :

« L’IA est bridée par son absence de corps »

L’humain court le risque de s’abandonner à l’IA, ce qui est sans issue.

Hybrider l’humain et l’IA, comme donner la conscience à l’IA, ne sont pas des solutions. D’ailleurs, ce serait au risque de la folie.

Plutôt que cela, l’auteur suggère de garder l’IA comme partenaire, et surtout, de pratiquer la lecture (l’écriture étant vue comme base de la culture) et les humanités. L’écriture est l’exemple d’une hybridation humain-objet réussie.

Il conseille un accès progressif et contrôlé aux écrans.

Plutôt que d’être en concurrence avec l’IA, il faut développer des compétences pluridisciplinaires, rendant capable de penser la complexité.

Et il faut travailler à instituer l’autonomie des personnes.

Notons pour finir que, dans cette conclusion (où il mentionne trois fois Laurent Alexandre), Raphaël Gaillard a un bref paragraphe sur le mot « transhumanisme » (p. 336) dont il révèle qu’il s’est gardé volontairement de l’utiliser parce qu’il ne lui convient pas : <<Je ne lui trouve guère de sens. S’il s’agit d’un humanisme, pourquoi faudrait-il l’affubler d’un préfixe ?>>. Il lui oppose les humanités.

Néanmoins, ce faisant, ne reconnaît-il pas que, durant tout son propos, c’est bien de transhumanisme dont il s’agissait ?

---

Raphaël Gaillard, L’homme augmenté (Futur de nos cerveaux), Grasset 2024.

Tweeter Marc Roux Porte-parole de l’Association Française Transhumaniste : Technoprog, chercheur affilié à l’Institute for Ethics and Emerging Technologies (IEET). En savoir plus