Risques

Afin de tirer le meilleur parti des technologies liées au transhumanisme, il faut être conscient de leurs risques, pour les anticiper et les éviter.

Toute technologie possède sa part d’avantages et de risques : le feu peut aider à cuire des aliments, mais peut aussi provoquer un incendie. Les technologies du futur n’échappent pas à la règle. Afin de tirer le meilleur parti de ces technologies, il convient donc d’étudier et d’anticiper les risques pour éviter autant que possible des conséquences non souhaitées.

Il y a tout d’abord un risque de mauvais usage des technologies : à mesure que nous devenons de plus en plus « connectés », il devient de plus en plus facile de nous espionner et d’atteindre à notre vie privée. Dans le cas de technologies d’augmentation (prothèses, implants…), il deviendrait même envisageable de nous contrôler ou de nous influencer à distance. Il est donc essentiel de nous « approprier » ces technologies, afin de ne pas être totalement vulnérables face à des multinationales ou à des gouvernements aux tentations autoritaires. Cela rejoint les revendications de la Quadrature du Net.

Mais il y a également un risque de perte de contrôle : que se passerait-il si nous étions dépassés par nos propres technologies ? On entre ici dans la catégorie des risques existentiels : des risques qui pourraient compromettre la survie de l’humanité.

Ainsi, récemment, une attention particulière a été portée aux risques de l’intelligence artificielle (IA). En effet, si une IA atteint un degré d’intelligence comparable à l’humain, elle devient capable de s’améliorer elle-même. Il y a donc un risque d’« explosion d’intelligence » et de perte de contrôle. On peut donc se demander : comment faire en sorte que les progrès de l’IA restent bénéfiques à l’humanité ? C’est l’une des préoccupations majeures du très transhumaniste Future of Humanity Institute d’Oxford.

Contrairement à ce qui est souvent suggéré, être transhumaniste n’implique pas de faire preuve d’un optimisme béat face aux innovations technologiques. La peur ne doit jamais nous conduire à fermer définitivement des portes : autrement, nous serions toujours dans des cavernes à chasser avec des lances en bois ! En revanche, il ne faut pas se voiler la face et être pleinement conscient des risques, si l’on veut éviter les écueils et bénéficier au mieux de ces technologies.

English version

Pour aller plus loin :

Nos articles

transhumanisme et écologie

Manifeste viridien : Propositions technoprogressistes et écologistes

Un avenir technoprogressiste ne se conçoit, dans les décennies à venir, que dans un environnement indéfiniment durable. Le changement nécessaire, pour qu’il se fasse « vers le haut » nécessite des progrès technologiques et des modifications sociétales.

Chimères ?

La peur des chimères humain-animal est-elle un reflet de notre xénophobie atavique ?

Premier mai technoprogressiste 2019

Depuis le 1er mai 2018, l’espérance de vie en bonne santé a augmenté de près d’un trimestre dans le monde. Entre 2000 et 2016, l’espérance de vie dans le monde a progressé de 5,5 ans selon l’Organisation Mondiale de la Santé.

[Vidéo] Bébés génétiquement modifiés : comment gérer le risque ?

[Vidéo] Bébés génétiquement modifiés : comment gérer le risque ?

[Vidéo] BAYES POUR LES NULS : éviter l’écueil « On sait pas DONC on s’en fout »

On entend souvent dire que le transhumanisme et des sujets proches ne sont « pas scientifiques ». Qu’est-ce qui se cache derrière cette expression ?

Ad Vitam donne un coup de vieux à la SF

La série Ad Vitam s’interroge de manière relativement pertinente sur la réjuvénation biologique, avec quelques emballements psychologiques.

Après la génération Z, la génération HA ?

Chez de nombreuses familles d’êtres vivants, y compris l’être humain, ce qu’on appelle l’instinct de conservation de l’espèce consiste en général à donner la priorité aux nouvelles générations – notamment pour l’apport alimentaire ou la sécurité face à un danger. Aura-t-on la même attitude vis-à-vis d’une prochaine génération 100% artificielle ?

La Singularité, mythe ou pas ? Interview de Science4All

Dans cette vidéo, on examine les arguments récurrents selon lesquels « Singularité = bullshit ». Et on montre comment le biais de respectabilité nous pousse à sous-estimer les risques de l’IA.

[Vidéo] Immortalité & Surpopulation 2 : Continuer à avoir des enfants… ?

Complément de ma première vidéo sur la surpopulation, pour répondre à l’objection : « Et si les gens continuent d’avoir des enfants régulièrement pendant des siècles… ? »

Vidéos de la conférence de Didier Coeurnelle et Monsieur Phi – Risques Existentiels et Super-IA

Vidéos de la conférence de Didier Coeurnelle et Monsieur Phi sur les risques existentiels et la superintelligence, le 27 mai 2018 à Paris.

Le transhumanisme n’est pas un « eugénisme libéral »

Pour essayer de sortir de la condamnation systématique associant le transhumanisme à l’eugénisme, notamment totalitaire, certains ont proposé de le décrire comme un « eugénisme libéral ». Mais, au sens strict, le transhumanisme démocratique n’est pas un eugénisme du tout.

[Vidéo] Recherche embryonnaire : faut-il autoriser davantage ?

Faut-il autoriser davantage la recherche sur l’embryon et les cellules souches embryonnaires ?

[Vidéo] Table ronde « Demain, tous immortels ? », avec Marc Roux

Marc Roux, président de l’Association Française Transhumaniste, participait à une table ronde sur le transhumanisme à Nantes le 15 février 2018. Voici la vidéo.

Révision de la loi de bioéthique : prises de position

En 2018, un grand débat national est organisé dans le cadre de la révision de la loi de bioéthique. Afin de prendre part à ce débat, l’Association Française Transhumaniste prend position sur plusieurs sujets.

Et si nous donnions dix ans à une intelligence artificielle pour rendre Mars habitable ?

Les plans de SpaceX pour Mars relancent l’intérêt pour la planète rouge. Et si l’IA s’en mêlait ?

[Vidéo] Immortalité = surpopulation… ou pas ?

Et si on pouvait vivre sans limitation de durée, continuer à avoir des enfants, et en plus avoir une population stable ?

10 questions fréquentes

Nous recevons un grand nombre de questions par mail. Pour débroussailler le terrain, voici la réponse à dix questions parmi les plus fréquentes.

Et maintenant ? Pour un transhumanisme raisonné

Pourquoi développer un mouvement transhumaniste est important.

Objections #4 : Transhumanisme et crise de sens

Cette partie du livre (Partie 4) liste les objections qui sont faites au transhumanisme, et tente d’y répondre. Dans cet article : les craintes d’ennui, de perte de sens, de déshumanisation…

Faut-il devenir complémentaire de l’IA ? Une réponse à Laurent Alexandre

Dans son dernier talk, Laurent Alexandre prend des positions plus tranchées qu’à l’accoutumée sur certains sujets, notamment : contre le revenu universel, et contre le posthumanisme. Voici une réponse argumentée.