“Améliorations cognitives : Quels espoirs, quels risques ?”
Interview de Marc Roux par Shaïman, Thürler. 1ère partie : "Éthique de l’amélioration mentale"
Publié le 26 juin 2023, par dans « Homme augmenté »
Ce texte correspond à la version rédigée de l’entretien donnée par Marc Roux à Shaïman Thürler sur sa chaîne YouTube, Le Futurologue, et diffusée le 19 juin 2023 (avec quelques compléments par Fred Balmont). Vous pouvez retrouver cette interview ici : “Le Danger Des Améliorations Mentales” sur la chaîne de Shaïman.
Parmi les propositions phares du transhumanisme, se trouve celle d’améliorer la condition biologique de l’humain en visant ses facultés mentales : mémoire, attention, logique, etc., mais aussi ses émotions et ses tendances plus ou moins importantes selon les individus à l’empathie, l’intelligence psychologique, la sociabilité, ou bien l’agressivité, la dominance, la xénophobie, et toutes sortes de pulsions qui échappent souvent à notre contrôle.
Shaïman Thürler (Le Futurologue) a souhaité interroger Marc Roux (Pdt de l’AFT-Technoprog) à partir de ses réflexions sur ces questions. Leur discussion a fait l’objet de trois enregistrements. Une première partie porte sur la dimension éthique de ces propositions. La seconde partie traite davantage de la faisabilité technique actuelle. Enfin, la dernière partie passe en revue différentes améliorations cognitives envisagées.
1ère partie : Éthique de l’amélioration mentale
Une objection qui est souvent faite par les critiques du transhumanisme consiste à rappeler qu’il existe d’autres solutions que de faire appel à des technologies invasives pour permettre des améliorations cognitives. Depuis toujours, passer outre notre biologie est possible, et cela est réalisé grâce à la culture, l’éducation, la loi, ou encore, la méditation et le self-control. Pourquoi donc vouloir atteindre tous ces objectifs grâce à la technique ?
En réponse, il est rappelé que, contrairement à ce qu’on leur fait souvent dire, les transhumanistes n’ont jamais dit – trouvez une seule déclaration ou un seul texte d’un transhumaniste revendiqué disant cela – que l’usage des techniques qu’ils préconisent devraient empêcher de continuer à utiliser la culture, l’éducation ou la loi. Le fait est qu’ils parlent davantage des techniques, parce que c’est ce qui fait leur spécificité – et c’est là-dessus qu’on (les journalistes) les interroge le plus souvent.
Cela dit, depuis 5.000 ans d’histoire, et 200 ans de démocraties libérales, il semble malheureusement que les possibilités de la culture, de l’éducation ou de la loi aient montré leur incapacité à se défaire d’un certain nombre de pré-déterminations profondément enracinées. Malgré tous les bienfaits de la civilisation, et ceci dit sans désespérer aucunement de l’humain, nous pouvons sans doute nous accorder à constater que nous sommes toujours autant capables, par exemple, de xénophobie, de volonté de dominance et, in fine, de faire la guerre, sans rien n’omettre de toutes ses horreurs. Pour progresser encore, et mieux assurer notre pérennité collective, il faut approfondir la culture, l’éducation ou la loi, et il faut développer nos techniques et technologies d’amélioration cognitive.
Une autre objection qui revient souvent consiste à dire que la liberté consiste à surmonter une contrainte biologique. Ainsi la culture et l’effort de civilité (sinon de civilisation) serait une condition nécessaire de la liberté, et partant, de la dignité humaine. Dès lors, intervenir directement sur la biologie réduirait l’effort et donc la liberté : une amélioration morale qui ne serait pas une impulsion surmontée « héroïquement » ne serait, ainsi, pas morale. Cet argument peut être, à notre avis, contesté de trois manières : d’abord parce qu’il y a toujours une interaction entre les techniques culturelles et la biologie, notamment la biologie du cerveau et son évolution au long cours ; ensuite parce que les « déviances » ou les déviations possibles de l’humain débordent largement de sa stricte biologie – modérer la contrainte biologique ne va pas anéantir la liberté – les choix moraux à effectuer seront moins liés à des pré-programmations biologiques archaïques mais plus à des effets de la liberté et de l’imaginaire foisonnant ; enfin parce qu’à ce compte-là pour « améliorer moralement » l’homme il faudrait prendre le risque d’intervenir pour lui donner plus encore de contraintes biologiques féroces, de manière à ce qu’il soit encore plus dur et plus héroïque de les surmonter. On voit dès lors que cet argument est soit absurde (augmenter la férocité pour avoir plus de mérite à la surmonter), soit bioconservateur (laisser la nature opérer et ne pas chercher à accélérer ou retarder les évolutions biologiques).
Les améliorations cognitives sont-elles du réductionnisme biologique ?
Si on pense qu’on va améliorer notre cognition seulement en avalant un médicament ou en recevant une impulsion électro-magnétique, il est très probable qu’on aille au devant de grandes désillusions. C’est comme si un perchiste pensait qu’il va sauter plus haut simplement parce qu’il a une perche dans les mains. Par ailleurs, il est clair que nos capacités mentales sont fortement liées à notre environnement relationnel. La cognition est un tout. La technique n’est que l’un des éléments de ce tout.
Par ailleurs, il ne faut pas opposer ce qui se passe à l’échelle biologique, moléculaire ou cellulaire, et ce que nous constatons à l’échelle de la cognition. Le savoir, les différentes formes de l’intelligence, la compassion, etc. sont des manifestations qui émergent de notre biologie. Agir au niveau moléculaire ne doit pas être considéré comme contradictoire avec le fait d’intervenir au niveau de ce qui émerge. Consommer du Modafinil ou du café n’est pas contradictoire avec l’effort de la lecture et de l’écriture.
Il semble attesté aussi que le cognitif et le biologique sont en interaction : des apprentissages sociaux-culturels modifient la physiologie, l’expression des gènes et la configuration du cerveau ; à long terme on constate un rapport différent entre la place du néocortex et des structures archaïques. D’un autre côté, des lésions cérébrales ou des prises de substances actives modifient la cognition. Dès lors, utiliser la méditation ou les apprentissages pour améliorer son être au monde, est-ce fondamentalement différent d’utiliser des simulations en réalité virtuelle ? Les usages traditionnels dans des buts modificatifs/augmentatifs des drogues comme l’ayahuasca, est-ce si différent de l’usage des médicaments ou de la stimulation magnétique transcrânienne ?
Est-ce que l’amélioration cognitive est une démarche anthropophobe ?
C’est une démarche philanthrope. C’est parce que nous aimons l’humain et que nous souhaitons qu’il perdure indéfiniment que nous pouvons souhaiter qu’il dépasse les biais que lui a imposé l’évolution darwinienne qui le rende capable de s’autodétruire ou de saccager la biosphère dont il dépend.
N’y a-t-il pas un risque d’aggraver les inégalités, qu’on assiste à un accaparement des améliorations cognitives par une oligarchie ? Et est-ce que ces inégalités ne seraient pas d’une nature différente d’avec les inégalités actuelles ?
Malheureusement, dans le monde où nous vivons, et compte tenu de l’humanité telle qu’elle existe encore de nos jours, on peut facilement imaginer que l’accès aux nouvelles technologies va se développer sur le même modèle inégalitaire que nous connaissons depuis des siècles. Mais pourquoi est-ce que ce développement devrait être beaucoup plus inégalitaire que les précédents ? Pour prendre un contre-exemple, l’écriture et la lecture sont des techniques qui ont fait l’objet d’un quasi monopole par les classes dirigeantes, dans toutes les cultures où elles ont été développées, pendant des millénaires. Ici et là elles ont été jalousement gardées par des castes de scribes, de prêtres, de moines ou de mandarins qui ne se les transmettaient qu’à travers des processus quasi initiatiques. Il a fallu attendre la fin du XIXe siècle pour que leur enseignement commence seulement à se démocratiser. Pourtant, il ne s’agissait pas de techniques dont la difficulté d’accès et le coût dépendait de la complexité de production. Mis à part les fortes contraintes de la production vivrière avant l’époque contemporaine – 95% des populations étant occupées aux travaux agricoles – l’accaparement de ces techniques a résulté d’une farouche volonté politique.
Mais, quoique soient réelles les manipulations permises par les médias et la “société du spectacle”, les classes dominantes aujourd’hui ne disposent pas des structures coercitives de contrôle social qui prévalaient jadis. Louis XIV était roi de droit divin, et Pharaon était un dieu. Elon Musk, lui, n’est qu’un homme.
En outre, on peut espérer que l’amélioration mentale, si elle était d’abord destinée aux élites, opèrerait une réelle amélioration morale : augmentation de l’empathie, diminution des programmations poussant à l’égoïsme et à la dominance. Ceci devrait accroître la volonté de ces élites de diffuser égalitairement les bienfaits de ces technologies.
Néanmoins, ne peut-on pas craindre que l’adoption de techniques d’altération cognitives soient imposées, soit par des États liberticides, soit par la pression économique, soit encore par la pression sociale ?
Ceci, c’est à mon avis un risque réel. Peut-être le plus grand. Celui auquel il faut, au plus tôt, accorder notre attention à ce sujet. Alors que le transhumanisme prône l’élargissement du champ des possibles, des logiques politiques, économiques ou sociales peuvent avoir tendance à utiliser ces technologies pour imposer des contraintes et même restreindre les libertés.
Nous pourrions parler longuement de la manière dont le pouvoir politique, pas seulement dans les régimes autoritaires ou dictatoriaux, utilise depuis toujours la technique pour contrôler les peuples et s’assurer au mieux de conserver le pouvoir. Cela peut passer notamment par le contrôle des médias.
Mais je préfèrerais parler ici des dangers en provenance de la logique économique qui me paraissent plus préoccupants dans les sociétés où nous vivons dans le monde dit occidental.
Je vois d’abord une menace directe : la logique des acteurs des marchés consiste à minimiser le plus possible les facteurs aléatoires afin de s’assurer au mieux des gains. Parmi ces facteurs aléatoires, l’un des plus irréductibles jusqu’à aujourd’hui reste le facteur humain. Toute la logique publicitaire et du marketing consiste à réduire ce facteur humain aléatoire. D’ailleurs, selon diverses sources, les deux plus gros investisseurs dans les neurosciences depuis des décennies seraient les armées, et les agences publicitaires. Depuis un peu plus de dix ans, de nouvelles techniques de vente ont émergé avec le neuromarketing.
D’autre part, on peut imaginer un mode de contrôle passant par la nécessité de faire appel à du “service après vente”. Tout équipement bionique, prothèse ou implant, nécessite un entretien, des mises à jour régulières, un renouvellement de l’accès aux substances, aux pièces ou aux logiciels les faisant fonctionner. Tous ces éléments, relevant de la propriété d’entreprises, posent la question de la dépendance des personnes à leurs artefacts.
À ce sujet, j’ai trouvé intéressant de constater une contradiction dans le droit français actuel. En effet, la jurisprudence reconnaît le concept de “Non patrimonialité de ce qui fait partie intégrante du corps humain”. En France, la loi dit déjà que le corps d’une personne ne lui appartient pas. Par conséquence, on n’a pas le droit de vendre une partie de son corps. Mais la jurisprudence a établi aussi que cette “non-patrimonialité” s’étend à tout ce qui “fait partie intégrante du corps”. Or, cette notion renvoie à ce qui est indispensable à la vie. Selon ce principe, il a été interdit à des familles de récupérer le pacemaker de personnes défuntes. Mais alors, ce principe vient percuter le droit commercial. Si une personne équipée d’un pacemaker n’est pas exactement propriétaire de son appareil, pourquoi le fabricant devrait-il conserver des droits dessus ?
Cette question est mise en lumière différemment par l’affaire Karen Sandler. Là aussi, il ne s’agit pas d’amélioration cognitive, mais la question se poserait pareillement pour des implants cérébraux. Avocate et militante du logiciel libre, elle a dû se faire poser un défibrillateur. Voyant que cet appareil fonctionnait à base de logiciel, elle a exigé d’avoir accès au code source. En effet, tout système informatique peut connaître des bogues, et c’est la spécialité de sa communauté d’en trouver les failles. Et sa vie était en jeu. Pourtant, les tribunaux, ainsi que la FDA lui ont donné tort. Aux États-Unis, à ce jour, il semble que le droit commercial prime sur l’autonomie des personnes.
D’autres formes de contraintes peuvent être imaginées, qui là aussi ne sont pas propres aux améliorations de type cognitif. Tout le monde pense à l’effet que produit la concurrence entre travailleurs. “Oh, tu as vu ? Jean s’est équipé du dernier implant à 46 Gigahertz, il a décuplé sa mémoire et sa vitesse de raisonnement. Je vais faire pareil !” ; ou encore les simples effets de mode. Enfin, on peut s’interroger sur l’impact pour notre liberté de la pression morale et sociétale si de telles modifications devenaient possibles et répandues. Une crainte répandue est d’aller vers davantage de normalisation. Tout cela met en évidence la nécessité de développer ce qui a commencé à être appelé les “neuro-droits”.
Il y a quelques années, avec le développement d’une nouvelle génération d’implants communicants à distances, on a parlé d’un risque de manipulation et de contrôle externe.
Il s’agissait surtout, une fois de plus, de pacemaker dont les médecins peuvent maintenant récupérer les données sans avoir à retirer l’appareil, grâce à un signal bluetooth par exemple. De nombreux commentateurs se sont alors alarmés de la possibilité d’une interception de ce signal par des personnes mal intentionnées. Certains sont allés jusqu’à faire le test pour en prouver la dangerosité. Mais en réalité, il est ressorti que ce n’est pas tout à fait possible techniquement, l’interception de ce genre de réseau demandant une proximité immédiate. Le fait est que, après une vague d’émois, aucun incident n’a été signalé et ce sujet a disparu de l’actualité.
Qu’en est-il de l’hypothèse d’imposer aux nouveaux nés des améliorations cognitives qu’ils n’auront, par définition, pas choisies ?
Les nouveaux nés n’ont pas non plus choisi de naître. Ils n’ont pas non plus choisi de naître dans un pays plutôt que dans un autre, de grandir dans une culture ou dans une autre, etc. Ils dépendent de toute façon de tout un ensemble de facteurs qui leurs sont imposés par le hasard, ou par certains choix de leurs parents.
Cette question rejoint celle, plus générale, de l’ingénierie génétique sur les gamètes, les embryons ou les fœtus. Sauf à considérer, de façon sacrale, que toucher par la technique aux futurs enfants est mal, ou abîmerait leur dignité [NOTE: c’est la thèse de Jürgen Habermas dans son petit livre sur l’eugénisme libéral], je pense qu’il nous faut assumer nos capacités techniques.
Par ailleurs, on peut retourner la logique. Qu’en serait-il d’une imposition à des nouveaux nés qui n’ont pas voix au chapitre d’une non-amélioration ? Car ne pas agir quand on peut agir, c’est aussi faire un choix. Par exemple, certains couples de personnes sourdes refusent de faire équiper leurs enfants nés sourds d’un implant cochléaire, au motif – à mon avis respectable, que la surdité n’est pas un handicap mais un mode spécifique de l’accès au monde. Ils ne font pas le choix de la technologie et respectent donc le précepte conseillé par Habermas.
Considère-t-on alors que les parents qui font le choix de l’implant cochléaire imposent une détermination, par ailleurs irréversible, qui porte atteinte à la dignité de leurs enfants ?
En regard de ces craintes diverses, on peut se demander à quoi ressemblerait une mise en place libre et démocratique des améliorations cognitives.
Les transhumanistes sont quasiment unanimes pour dire que leur objectif est d’offrir la plus large liberté de choix. S’il y a quelque chose avec laquelle ils sont mal à l’aise, c’est bien l’idée de contrainte. Mais alors, en effet, comment espérer que les gens adoptent progressivement l’usage de techniques invasives susceptibles de modifier leurs comportements, voire une partie de ce qui fait leur personnalité ?
Et bien, d’une part, il est évident que les choix des uns et des autres devront d’abord être motivés par le fait qu’ils soient convaincus de leur pertinence pour leur propre intérêt. C’est parce qu’ils verront les effets bénéfiques de ces pratiques chez leurs premiers utilisateurs qu’ils décideront de les adopter à leur tour. Mais dans un second temps, on peut imaginer que des décisions collectives soient prises. De la même manière que nos sociétés incitent fortement à faire vacciner ses enfants ou à mettre sa ceinture de sécurité en montant dans une voiture, des réglementations plus ou moins contraignantes pourraient être mises en place pour amener de plus en plus de personnes à adopter des pratiques d’amélioration mentale qui permettraient de diminuer encore la violence et la xénophobie, de renforcer le respect entre les sexes, d’atténuer la tendance à la dominance ou de mieux moduler nos capacités à l’empathie.
Il faut essayer d’imaginer les conséquences positives. Orienter ces usages dans le bon sens, celui de sociétés apaisées, constituées d’individus allant ensemble vers davantage de résilience, dans davantage d’harmonie. C’est peut-être la seule manière de parvenir à ce que quelque chose change vraiment dans l’histoire de l’humanité.
Tweeter