Risques

Afin de tirer le meilleur parti des technologies liées au transhumanisme, il faut être conscient de leurs risques, pour les anticiper et les éviter.

Toute technologie possède sa part d’avantages et de risques : le feu peut aider à cuire des aliments, mais peut aussi provoquer un incendie. Les technologies du futur n’échappent pas à la règle. Afin de tirer le meilleur parti de ces technologies, il convient donc d’étudier et d’anticiper les risques pour éviter autant que possible des conséquences non souhaitées.

Il y a tout d’abord un risque de mauvais usage des technologies : à mesure que nous devenons de plus en plus « connectés », il devient de plus en plus facile de nous espionner et d’atteindre à notre vie privée. Dans le cas de technologies d’augmentation (prothèses, implants…), il deviendrait même envisageable de nous contrôler ou de nous influencer à distance. Il est donc essentiel de nous « approprier » ces technologies, afin de ne pas être totalement vulnérables face à des multinationales ou à des gouvernements aux tentations autoritaires. Cela rejoint les revendications de la Quadrature du Net.

Mais il y a également un risque de perte de contrôle : que se passerait-il si nous étions dépassés par nos propres technologies ? On entre ici dans la catégorie des risques existentiels : des risques qui pourraient compromettre la survie de l’humanité.

Ainsi, récemment, une attention particulière a été portée aux risques de l’intelligence artificielle (IA). En effet, si une IA atteint un degré d’intelligence comparable à l’humain, elle devient capable de s’améliorer elle-même. Il y a donc un risque d’« explosion d’intelligence » et de perte de contrôle. On peut donc se demander : comment faire en sorte que les progrès de l’IA restent bénéfiques à l’humanité ? C’est l’une des préoccupations majeures du très transhumaniste Future of Humanity Institute d’Oxford.

Contrairement à ce qui est souvent suggéré, être transhumaniste n’implique pas de faire preuve d’un optimisme béat face aux innovations technologiques. La peur ne doit jamais nous conduire à fermer définitivement des portes : autrement, nous serions toujours dans des cavernes à chasser avec des lances en bois ! En revanche, il ne faut pas se voiler la face et être pleinement conscient des risques, si l’on veut éviter les écueils et bénéficier au mieux de ces technologies.

English version

Pour aller plus loin :

Nos articles

Objections #3 : Transhumanisme et risques sociaux

Cette partie du livre (Partie 4) liste les objections qui sont faites au transhumanisme, et tente d’y répondre. Dans cet article : la crainte d’un transhumanisme inégalitaire, réservé aux plus riches, eugéniste…

Procès du transhumanisme : le public unanimement favorable aux transhumanistes

Le 22 juin se tenait un procès fictif du transhumanisme. Le public penche clairement en faveur des bio-progressistes.

La Singularité, une idée folle ?

Le concept de Singularité Technologique, moment historique qui verrait un emballement sans retour des machines intelligentes, a d’indiscutables relents millénaristes, autant pour ses promoteurs que pour ses détracteurs. S’il est difficile à réfuter, c’est aussi qu’il est rarement défini clairement, et met de côté les nombreux paramètres sociaux et politiques qui ont toujours entouré l’évolution… [lire la suite]

Quel transhumanisme ? Partie 1 : Liberté et égalité

Quelle forme de transhumanisme peut-il être souhaitable de promouvoir ?

Terrorismes, millénarismes, résurrections et athéismes

Avertissement: ce texte concerne d’abord les dangers dus aux croyances de résurrection et aux idées apocalyptiques de terroristes religieux islamistes (et potentiellement chrétiens ou d’autres religions). Ce risque s’inscrit  dans un contexte de moyens de destruction humaine de plus en plus accessibles suite aux progrès technologiques.

Gattaca, 20 ans après

Vingt ans et plusieurs avancées technologiques et scientifiques plus tard, que nous dit Gattaca en 2017 ?

La lente évaporation du travail

Quel avenir pour le travail ?

Pour en finir avec les accusations d'eugénisme

Le transhumanisme se retrouve régulièrement accusé d’eugénisme. Ces accusations sont-elles fondées ?

Pour un transhumanisme "open source"

Monopole, contrôle, espionnage… Pour éviter ces écueils et rendre les technologies accessibles au plus grand nombre, nous avons tout intérêt à développer un transhumanisme « open source ». Voici pourquoi.

Le syndrome 1984 ou Gattaca

On accuse souvent le transhumanisme d’être la porte ouverte à une société dystopique totalitaire et à des inégalités extrêmes. Et si on se trompait de cible ?

Nouveau livre : Technoprog !

Marc Roux et Didier Coeurnelle (président et vice-président de l’Association Française Transhumaniste) publient un nouveau livre sur le transhumanisme : « Technoprog » !

Longévité, IA, risques existentiels : dangers et opportunités (partie B)

Faire avancer la recherche en matière de longévité sera plus facile avec l’aide de l’intelligence artificielle. L’intelligence artificielle a sa part de risques, mais avoir pour but l’extension de la vie humaine la rendrait moins dangereuse

Longévité, IA, risques existentiels : dangers et opportunités (partie A)

Aujourd’hui, comme presque chaque jour depuis plus de cinquante ans, nous vivons le jour le plus heureux parce que partout dans le monde, notre espérance de vie, notre santé ainsi que notre confort matériel n’ont cessé d’augmenter. Mais c’est également le jour le plus dangereux car chaque jour, notre capacité à détruire ne fait qu’augmenter elle aussi.

La science-fiction a-t-elle perdu foi en l'avenir ?

Comment devons-nous interpréter le pessimisme technologique de la plupart des œuvres de science-fiction ?

Mythe Icarus éthique et transhumanisme leçons de l'histoire

Les leçons de l’histoire. Ethique et technologie. Faire face aux dérives.

Une réflexion éthique, philosophique et historique face aux dangers du transhumanisme et des technologies. Comment éviter les dérives ?

Abundance : The future is Better Than You Think, Peter Diamandis, Steven Kotler, critique, notes de lecture

Notes de lecture : Abundance : the Future is better Than You Think

Critique du livre « Abundance : The future is better Than You Think » de Peter Diamandis et de Steven Kotler. Futurisme, technoprogressisme…

Risques menaces technologies science transhumanisme effondrement

Le progrès n’est plus ce qu’il était. Grandeurs et décadences des risques technologiques

Les risques et les menaces liés au progrès technologiques. Quelles réflexions éthiques pour limiter ces risques et dérives ?

Race Against The Machine critique note de lecture intelligence artificielle transhumanisme

Notes de lecture : Race against the machine

Notes de lecture de l’ouvrage « Race against the machine » d’Erik Brynjolfsson et d’Andrew McAffee. Vision critique (et constructive) du livre.

James Hughes ethicien bioethicien transhumanisme technologie technoprogressisme

On Democratic Transhumanism

Pour un transhumanisme démocratique et responsable. Avis James Hughes, éthicien et bio-éthicien sur les possibles risques et les dérives du transhumanisme.

conscience transhumanisme neurosciences mind uploading libre arbitre

Transhumanisme & Futur – Que conserver de l’humain ?

Quelles valeurs pour, demain, fonder l’humain ? Une vision critique et raisonnée des possibles dérives du transhumanisme.