Le progrès n’est plus ce qu’il était. Grandeurs et décadences des risques technologiques

Les risques et les menaces liés au progrès technologiques. Quelles réflexions éthiques pour limiter ces risques et dérives ?

Publié le 23 mai 2013, par dans « Question socialeRisques »

Cet article a été initialement publié sur le site « Mesacosan.com ». Ici, nous ne faisons que de le republier sans modifier le contenu initial. Nous ne sommes donc pas auteurs de ce contenu, mais nous trouvons cet article intéressant. C’est pour cela que nous l’avons republié sur notre site web. (N.D.E : en 2021, le lien vers l’article original ne fonctionne plus, nous l’avons donc retiré).

L’évolution de l’intelligence

A l’aube de l’histoire de l’humanité, l’intelligence de ceux qui nous ont précédés n’était probablement guère inférieure à celle du lecteur de ces lignes. Certains paléontologues pensent même que les capacités de raisonnement de nos ancêtres étaient supérieures aux nôtres.

En effet, bien avant l’invention de l’écriture, lorsque les hominidés vivaient en petits groupes, chacun devait être capable de tout: chasseur, cueilleur, éducateur, protecteur, assaillant. Personne ne disposait d’un mode d’emploi ou d’un traité pour expliquer quel champignon était comestible, comment piéger un lapin, échapper aux prédateurs, coudre des peaux d’animaux, pactiser avec le groupe voisin ou le combattre…

De plus tout cela devait se faire avant 40 ou 45 ans car après les hominidés couraient moins vite, devenaient moins forts et finissaient par succomber aux prédateurs, aux maladies voire à leurs voisins.

L’intelligence nécessaire à toutes ces activités était complexe, variée et toute erreur pouvait mener à la mort.

Plus tard, les individus se sont spécialisés et la vie est devenue un peu plus simple. Comme un cerveau performant dépense plus d’énergie et prend plus de place, des scientifiques estiment que la sélection naturelle favorise des individus avec un cerveau un peu moins « dépensier » donc un peu moins intelligents.

Certains opposants aux progrès technologiques usent d’un raisonnement proche. Ils affirment que les avancées techniques abêtissent et donc que des progressions en matière de moyens de communication sont néfastes. Un des premiers à avoir affirmé cela est Socrate. Il a toujours refusé d’utiliser l’écriture pour des raisonnements philosophiques.

Plus récemment, d’autres ont argué de l’importance de l’écrit classique, sur papier, pour refuser ou limiter l’usage de la télévision puis de l’internet.

Pour ce qui est de l’évolution de l’intelligence de l’homme contemporain par rapport aux chasseurs cueilleurs et même par rapport à l’homme de Neandertal dont le cerveau était plus grand que le nôtre, nous n’avons actuellement pas de certitudes. L’intelligence n’est que faiblement corrélée à la taille du cerveau et les fossiles de crânes ne permettent pas de savoir si les circonvolutions des cerveaux des hominidés ancestraux étaient plus ou moins nombreuses que les nôtres.

Le Progrès et la perte de l’intelligence

Pour ce qui est de la perte hypothétique d’intelligence actuelle et dans le futur parfois abordé dans la science-fiction voire dans des textes à vocation raciste, il faut d’abord remarquer que les évolutions possibles quant aux capacités physiologiques du cerveau se font au cours de nombreuses générations et pas ou très peu dans le cadre d’une vie. Un hypothétique effet de ce type ne concerne qu’un avenir lointain.

Par ailleurs, il est intéressant de constater combien certains considèrent les progressions technologiques anciennes comme positives et celles en cours comme néfastes. En caricaturant, pour beaucoup de citoyens « conservateurs »:

  • la civilisation, c’est ce qui existait avant notre naissance;
  • le progrès, c’est ce dont nous rêvions quand nous avons 20 ans;
  • tout ce qui apparaît plus tard est de la barbarie.

Ainsi, demain, s’il devient possible de communiquer uniquement par la pensée, certains s’opposeront certainement avec énergie aux risques liés à une communication trop facile, regrettant le « bon vieux temps » du clavier.

Ceci étant écrit, il est tout de même exact que toute facilitation technique en matière de communication et également dans d’autres domaines peut aboutir à ce que nous utilisions moins une parti de nos capacités intellectuelles. Nous ne retenons plus un numéro de mobile, nous l’enregistrons; nous ne mémorisons plus le trajet vers un lieu, nous interrogeons un GPS. Il est également exact que l’absence d’entretien de certaines fonctions cognitives mène à leur déclin rapide. Mais en même temps d’autres capacités se développent. Nous apprenons à trouver rapidement une information sur internet, nous multiplions les échanges électroniques, nous découvrons comment automatiser les tâches et surtout nous communiquons de plus en plus les uns avec les autres.

Les progressions technologiques sont donc globalement favorables au développement de l’intelligence, mais aussi des solidarités et de l’empathie.

Est-ce à dire que les progressions technologiques sont nécessairement bonnes lorsqu’elles nous permettent de plus en plus d’obtenir tout ce que nous voulons par la parole et bientôt par la pensée donc littéralement « sans bouger le petit doigt »?

Certainement pas. Et c’est pourquoi la deuxième partie de cet article est consacrée aux risques réels liés aux nouvelles technologies.

« Risques existentiels », y a-t-il un espoir de les circonscrire ?

Les avancées techniques créent un monde de plus en plus interdépendant et donc, par certains aspects, d’une extrême fragilité. Les progressions se sont faites par accumulations successives. A l’inverse, un phénomène « boule de neige » de dégradations cumulées ne peut être exclu.

Le risque le plus absolu que l’humanité se fait courir à elle-même est le risque d’autodestruction de manière directe ou par des phénomènes en cascade. Ce risque, que les anglophones nomment « existential risk » (risque existentiel),  a été abondamment abordé dans la science-fiction à propos de l’utilisation de l’arme nucléaire. Le risque de déflagration nucléaire mettant fin à l’espèce humaine ou en tout cas mettant fin à toutes les sociétés organisées est moins présent actuellement qu’Il y a quelques décennies, mais les tensions internationales peuvent très vite le rendre à nouveau d’actualité.

Le danger d’un bouleversement climatique est probablement le risque existentiel le plus connu de ce début de 21ème siècle. Il s’agirait d’une augmentation forte de température provoquant un écroulement des structures économiques dont l’humanité pourrait ne pas se relever.

Mais il y a d’autres dangers majeurs à prendre en compte. Voici la liste des trois risques les plus souvent cités:

  • Nanorobots (automates de taille microscopique) se multipliant sans limite et rendant ainsi la vie humaine impossible;
  • Formes de vie modifiées mortelles pour tous les êtres humains (virus mutés,…);
  • Développement d’une intelligence artificielle inamicale détruisant, par choix ou par effet collatéral, la vie humaine.

A ces risques, il faut ajouter, de manière assez imprécise, la création d’armes encore inconnues aujourd’hui et, de manière encore plus imprécise, les risques que nous n’imaginons même pas encore, tout comme personne dans les années 60 n’imaginait les risques liés au réchauffement climatique.

Le présent article ne développera pas la description des risques cités. Beaucoup de spécialistes diront que certaines de ces menaces sont réduites particulièrement les risques nanotechnologiques. Mais malheureusement, peu estimeront que l’ensemble des risques est réduit. Et les progressions scientifiques augmentent la probabilité qu’un groupe réduit de citoyens voire même un individu isolé puisse un jour mettre en péril l’avenir de l’humanité.

Prise en compte des risques

Étrangement, les citoyens les plus réticents aux nouvelles technologies (parfois appelés luddites ou néo-luddites) ne s’intéressent quasiment pas à ces risques. Leur attitude d’opposition s’attache surtout à des aspects à court terme pour lesquels ils développent une opposition généralement systématique et disproportionnée. Enfin, ils confondent souvent opposition aux oppresseurs et rejet d’instruments utilisés par eux. Le fait est que le téléphone, la télévision et internet sont utilisés notamment à des fins de répression. Cependant ces technologies sont globalement utiles socialement.

Paradoxalement, les partisans de progrès techniques qu’ils se définissent comme technoprogressistes ou transhumanistes sont beaucoup plus conscients des risques existentiels que les opposants même si les niveaux de crainte qu’ils expriment sont variés.

Par rapport aux risques existentiels, il y a des raisons d’être inquiets mais aussi des raisons d’espérer au-delà du classique – et peu convaincant – « Tout s’est bien passé jusque là ».

Les progressions technologiques permettant de lutter contre les risques sont aussi rapides que celles permettant les destructions. Tout ce qui rend les femmes et les hommes plus résistants, plus résilients, tout ce qui leur permet de vivre en bonne santé beaucoup plus longtemps est utile. Cela comprend notamment ce qui permet aux êtres humains de vivre dans un environnement hostile et cela pourrait même comprendre un jour ce qui permettrait à l’humanité de quitter son berceau, la Terre.

Même si rien n’est jamais acquis, l’histoire de l’humanité voit globalement la propension à la violence diminuer. Le souhait de protection de son prochain et de l’humanité entière progresse de même que nos capacités d’empathie. Ceci limite les risques et améliore globalement la tendance aux préventions.

L’amélioration de nos capacités intellectuelles, de notre capacité à se préoccuper d’autrui et la diminution des tendances à la violence en agissant directement sur le cerveau est également envisageable. Cette progression soulèvera certainement des questions éthiques. Elle peut augmenter ce que nous appelons notre libre-arbitre en permettant des choix mieux éclairés. Elle pourrait un jour devenir aussi nécessaire que l’éducation pour améliorer nos capacités intellectuelles et de solidarité.

Pour paraphraser Malraux, le 21ème siècle sera celui de la prévention des risques existentiels ou il ne sera pas. Au 20ème siècle, les mouvements écologistes ont permis de prendre conscience des risques environnementaux. Même si ces mouvements ont pu commettre des erreurs, ils ont eu – et ont encore – un puissant effet « antiprédictif », limitant les atteintes à l’environnement et donc les menaces pour l’homme en les dénonçant et en expliquant leurs effets potentiels.

Comprendre les risques existentiels, les imaginer pour pouvoir les prévenir, élaborer des projets de développements technologiques favorables à la résilience humaine, ce sont quelques uns des défis fondamentaux, difficiles et passionnants de ces prochaines décennies.

Republié par :

Didier Coeurnelle, co-président de l’Association Française Transhumaniste « Technoprog » et de HEALES