Taylor Swift contre les “porn deepfakes”

Publié le 16 février 2024, par Frédéric Balmont dans « Intelligence artificielle »

De fausses vidéos pornographiques mettant en scène la star américaine circulent sur le web, sans son consentement.  Ce récent scandale pose des questions autour du droit à l’image, de la puissance de l’IA et des formes intrusives de son utilisation. Mais, parce que ces deepfakes peuvent être alimentés par des photos ou vidéos prises à la volée dans la vie quotidienne du quidam, l’utilisation sauvage de notre image interroge quant à son éventuelle répression et ses “dédommagements préventifs”. Plus profondément encore, la mimétique contrôlée de l’image de l’autre (voire de son Idée) sur des supports toujours plus riches (dessins, photo, vidéo, métavers) nous questionnent sur nos identités, notre liberté face à nos doubles, ainsi que sur les devenirs de notre désir.

Prostitutionnalisation forcée des milliardaires

La chanteuse Taylor Swift est milliardaire. La chose est possible, pour le moment. Ainsi va le monde: par le fonctionnement du marché, et ce si puissant, et ce si efficace système économique. L’histoire de l’assomption du capitalisme comme modèle hégémonique, côtés obscurs et points aveugles compris, a été décrite par une autre star de l’édition, Yuval Noah Harari, dans son best seller Sapiens. Côté obscur: il semblerait même que Taylor Swift, de par son effarante notoriété, soit en mesure de peser sur la participation aux élections américaines. Une cible rêvée pour les cyberactivistes et autres militants QAnon? Peut-être.

Ce qui est certain c’est qu’elle n’est pas à l’abri de ce que l’on pourrait appeler prostitution, même si c’est uniquement son esprit et non son corps qui en est victime. Car c’est un peu de cela dont il s’agit. Son image – sa mise en scène pornographique – a explosé sur le net. Cyniquement, on notera que de tout ce trafic web et de ses profits associés, Taylor Swift n’en voit pas directement la couleur. Ici sa notoriété joue contre elle, si l’on peut dire. Elle capte la lumière et les fantasmes. Elle est un personnage public, doublée d’une icône glamour. Mais tandis qu’autrefois le fantasme devait se manifester par l’imagination des fans, voire par l’œuvre de romanciers, dessinateurs et caricaturistes, aujourd’hui l’IA permet de réaliser des vidéos plus vraies que nature. Demain, ces vidéos prendront un souffle nouveau par l’adjonction de modèle de personnalité via les LLM (type Replika), et un volume supplémentaire dans le métavers et la réalité virtuelle.

Le cache-misère de l’éthique

De prime abord, il y a une question éthique : l’exploitation frauduleuse de l’image et la sexualisation non consentie. Mais comme le soulignait Castoriadis, l’éthique déroute souvent des problématiques politiques, ô combien plus profondes et dérangeantes¹. Ici, le préjudice moral subi par une star du show business pourrait nous focaliser sur les questions de sécurité informatique, de droit à l’image, etc. Le tout pour produire des réglementations formellement protectrices mais probablement inefficaces. Surtout, la recherche de la morale et de la bonne conscience pourrait nous détourner de la question politique : comment se protéger lorsque l’on n’est pas milliardaire ? Qu’est-ce qui, dans les conditions économiques et sociales concrètes de tout un chacun, constitue des facteurs de risque ?

Qu’est-ce qui fait que les femmes sont plus victimes de la domination des hommes par la sexualisation imposée, et que la sexualisation est un facteur de la domination masculine ? Assurément, il y a là des questions d’organisation de la société, d’inégalité de revenus, d’accès à la formation. Mais les facteurs directement biologiques ne sont pas à négliger, faute de quoi nous prétendrions marcher sur une seule jambe. Il est difficilement contestable qu’il existe des structures ainsi que des dynamiques physiologiques et cérébrales qui, si elles ne causent pas, favorisent (et ont tendance à renforcer) la dominance. Autrement dit, notre biologie, souvent et “naturellement”, produit du plaisir à l’obtention d’une position convoitée ou la jouissance d’un “objet de désir”, cette obtention fut-elle au prix de violences ou de malice. Même si des dispositifs réflexifs (néocorticaux), empathiques (neurones miroirs) ou juridiques viennent modérer ces attraits, on ne peut sous-estimer la puissance de ces logiques biologiques “primitives”. La dernière chose à faire en ce domaine serait de sacraliser cette nature, ou de la nier, et ainsi refuser de développer l’éventail technique et biotechnologique à notre disposition pour travailler et cultiver ces dimensions².

Il y a certainement aussi des préjugés naturalistes et psychologiques, dont on voit aujourd’hui les traces et effets: des montages discursifs de la psychanalyse au virilisme d’extrême-droite, en passant par le sexisme ordinaire. Songeons à l’affaire Gérard Miller. Faisant face à des plaintes pour viol sous hypnose – l’ancien chroniqueur de télévision reconnait à mi-mots qu’il a existé, dans la théorie comme dans sa pratique de thérapeute, une validation implicite des préjugés sur la nature des désirs féminins et masculins, parfois qualifiés justement de “culture du viol”. Considérons également les assertions pseudo-scientifiques d’un Alain Soral ou d’une Thaïs d’Escuffon. Et, à l’extrême centre, prenons acte du soutien d’Emmanuel Macron à Gérard Depardieu.

Il semble improbable de refermer les vannes de l’IA. L’usage privé (ou fuité) des deepfakes ne s’arrêtera pas de sitôt. Le moyen de s’en protéger réside alors, peut-être et avant tout, dans l’égalité économique, garante concrète de l’autonomie. Peut-être aussi dans l’accès à la formation/éducation/culture, qui donne – on l’espère – les moyens de résistance intellectuelle et juridique, et favorise encore souplesse/résilience dans le rapport à son image. Si cette équation est avant tout politique, nos politiques sont loin d’être à la hauteur des enjeux.

La familia grande : frères, sœurs, marionnettes.

Il y a fort à penser que notre image va être utilisée, parfois localement, parfois à l’international, du camarade de classe à la vedette de télévision. Tour à tour, depuis des smartphones au détour d’une rue ou depuis des fichiers 4K. Les aléas de l’existence et les caprices du buzz décideront de la diffusion.

Ne doit-on pas envisager l’image comme un bien commun associé à des obligations de respect, notamment lorsqu’il y a diffusion? Ce sont des images, certes, mais de personnes. D’une manière globale, outre les deepfakes, les data comme nouvelle matière première de l’économie numérique est un argument de plus quant à la mise en place d’un revenu universel.

Quel serait l’impact d’une massification de l’accès aux logiciels de deepfakes pornographiques? Les statistiques des viols en France sont édifiantes : 74% par une personne connue de la victime, 25% par un membre de la famille. Les deepfakes  vont-ils entraîner une exacerbation des agressions par la banalisation d’un regard hypersexualisé et dominateur, ou au contraire permettre un débouché purement virtuel pour les personnes qui auraient des pulsions incontrôlables ? Ceci rappelle en un sens les débats sur les jeux-vidéos et autres représentations artistiques de la violence.

Tous dans la peau de John Malkovich

Il sera révoltant d’entendre parler de harcèlement scolaire sur la base de pornographie deepfake. Pourtant, si la diffusion malveillante, le chantage ou la vengeance, voire le bizutage semblent aisés à l’enquête et à la pénalisation, la consommation privée ou la diffusion frauduleuse sur le web de ces deepfakes paraissent plus difficilement contrôlables. Alors, en complément de l’aspect judiciaire, n’est-ce pas aussi l’occasion d’une réflexion sur le soi et sur ses doubles imaginaires ou virtuels, sur ces spectres parfois si profondément efficaces et traumatisants ?

Il va falloir à la fois se considérer comme une grande famille, et se dire que les fantasmes de n’importe qui pourront trouver à se matérialiser d’une manière terriblement réaliste. Mais devons-nous coller à ces figures, à ces marionnettes tirées par les prompts du voisin ? Les possibilités d’avatars numériques sont-elles de fatales sources d’aliénation ou au contraire l’opportunité de gagner en liberté ? Liberté par rapport à soi, à ses reflets et à ses traces, à ses miroitements repris et capturés par le rêve de l’autre.

Mimétisme, désir, gnose

Mais enfin, le mimétisme est poussé loin, toujours plus loin. Hier il fallait se faire un théâtre intérieur, travailler à l’imagination avec les contraintes, imprécisions et causalités mystérieuses de l’inconscient. Aujourd’hui, quelques photos volées et un scénario textuel donné à la machine permettent de construire une vidéo aussi crue que nature, aussi farfelue et spécifique que voulue.

Le cinéma n’a tué ni la bande-dessinée ni le roman. Mieux, ces arts se répondent et se nourrissent les uns les autres. Toutefois, en termes de consommation pornographique les statistiques interrogent. On peut légitimement se demander quel pourrait être l’impact d’une utilisation compulsive et majoritaire de pornIA.

L’alternative numérique aisée est très probablement une des sources de la diminution forte des rapports sexuels réellement « charnels », voire des rapports sociaux réellement engageants.  Mais peut-être qu’ici aussi c’est la dose qui fait le poison ? Des hypothèses sont émises en ce sens : la ritualisation et l’obsession, aisément renforcées par le cybersexe, inhibent la production de sérotonine pour renforcer la production de dopamine – schéma typique de l’addiction. Plaisir à renouveler, potentiellement associé à une dépression de fond³.

Quittons le domaine de la neuropsychologie et faisons-nous un instant avocat du diable psychanalytico-littéraire. Si le désir se soutient de l’imagination, de la fuite des images et de la labilité des émotions, une plus grande maîtrise de l’image sera-t-elle de nature à assécher le désir, à l’appauvrir ou à le brutaliser? La réalisation – et partant la perte – de tous ses fantasmes dans la réalité virtuelle ne pourrait-elle pas être considérée comme la fin du désir, la fin de la tension désirante ? Dans ce lieu sans interdit et infiniment malléable, la jouissance, accomplie, pourrait rimer avec la destruction⁴.

Mais survivre à cette épreuve pourrait changer l’individu, liquider son nexus psychosexuel et lui donner accès à un niveau plus « éthéré » de l’existence. La confrontation à cet au-delà de l’interdit et de la frustration, à ce nouvel éclairage sur la dynamique du désir et sur sa satisfaction, sonnerait l’entrée dans un univers d’amour et de souci de l’autre⁵. Après avoir distendu certains ressorts, lever certains voiles, véritablement accueillir autrui comme créateur de sa propre vie, libre et également puissant, source de richesses spirituelles et de désirs nouveaux. Il y a là des relents d’illumination gnostique. Ces gnostiques, parfois associés aux transhumanistes, et qui pratiquaient, dit-on, l’ascèse sexuelle – en restriction ou en excès⁶.

Nul besoin d’aller aussi loin. Ce qui va d’abord intéresser les transhumanistes, ce sont les possibilités d’amélioration de la condition humaine (dont l’enrichissement des joies sexuelles). Ensuite vont venir les doutes autour de la sentience de ces deepfakes.

Sentientisme et sadisme 2.0

Le vrai problème concerne les possibilités de sadisme, donc de dégradation morale, envers les deepfakes. Difficile de percevoir une amélioration morale dans le fait de prendre plaisir à maltraiter des avatars, même dans une thérapeutique de sublimation ou de catharsis, si toutefois un doute existe quant à la sentience de ces derniers.

En effet, si ces deepfakes ne sont que nos marionnettes, nos scénarios, et nos programmes, alors ils ne sont que des reflets. Moins de l’autre qui lui donne ses traits, d’ailleurs, que de nous-même. Mais, et ce sera certainement un des intérêts de coupler LLM et deepfakes, le mimétisme produira un doute quant à leur réalité et leur sentience. Peu importe que la question de leur sentience “réelle” soit tranchée⁷. Le simple doute est bel et bien de nature à impacter l’esprit de la personne qui utilisera ces deepfakes/avatars. Dès lors, pour protéger l’utilisateur et prévenir le risque d’une dégradation sadique de sa personnalité, tout comme pour prendre une précaution quant à l’éventuelle souffrance de l’avatar numérique, il conviendra de repenser les droits des humains et des IA.

1. Cornélius Castoriadis, « Le cache-misère de l’éthique », in La montée de l’insignifiance : les carrefours du labyrinthe IV, 1996, Paris, Seuil. ↩︎
2. Sur une thématique proche, voir le texte de Marc Roux sur “MeToo et le transhumanisme”.
   Dans une optique aristotélicienne, voire Annie Hourcade Sciou, “Transhumanisme et éthique des vertus”, in Mara Magda Mafteï, Les récits du posthumains, Presses Universitaires du Septentrion, 2023, pp.85-95  ↩︎
3. Voir par exemple : Qu’en est-il de la cyberaddiction sexuelle ?. 
   Extraits : M.-L. Bourgeois (7) rapporte que les hormones sexuelles jouent un rôle essentiel dans le désir et l’éveil sexuel, aussi bien chez les hommes que chez les femmes (la testostérone) ; l’ocytocine et la vasopressine ont un rôle majeur dans le déroulement du rapprochement sexuel (plaisir de recherche) alors que les endorphines accompagnent le plaisir de consommation.
   Les pensées en lien avec les obsessions alimentent le « circuit du plaisir », cela va provoquer une inhibition de la libération de sérotonine au profit d’une production accrue de dopamine qui est la voie finale commune du plaisir et du système de récompense. On pense aussi que les patients avec une hypersexualité, souffrent, comme les toxicomanes et les joueurs pathologiques, d’un découplage du système sérotonine-noradrénaline qui entraîne un emballement de la production de dopamine. ↩︎
4. Toute cette problématique est bien rendue par l’alliance théorique Lacan-Bataille dans cette étude. Voici quelques extraits représentatifs : 
   “Le désir est cet étrange moment qui vise à la jouissance mais qui l’empêche : on peut jouir seulement de l’interdit, de ce qui fait barrage, autrement dit, du désir.”
   “Mieux vaut, pour le névrosé, laisser les choses comme elles sont : le fantasme nous laisse dormir, il nous fait rêver sur la possibilité d’une jouissance intégrale, sans pourtant nous exposer au risque.”
   “La transgression d’un interdit nous conduit directement au plaisir extrême, c’est-à-dire à la jouissance, identique désormais à la mort.”
   “Pour Lacan, la pulsion, qui est foncièrement pulsion de mort, est pulsion de destruction, qui doit mettre en cause tout ce qui existe. Bataille entend par « destruction » la destruction de l’autre, qui devient ensuite destruction de soi : il s’agit d’un rapport étroit entre sadisme et narcissisme. Selon Moravia, la conception érotique de Bataille implique que « l’amant veut mordre, dévorer, assassiner, détruire l’amante dans un impossible effort de communication et d’identification. L’objet de la jouissance devient pour Bataille un « déchet dans la souillure ». Abîmer, anéantir, faire souffrir l’autre, n’est-ce pas une façon de se détruire soi-même ?” ↩︎
5. [MAJ 23 mars 2024] On pourrait souligner que la pornographie est d’abord une consommation masculine. Or, pour rester sur la psychanalyse, épuiser, s’épuiser, ici, pourrait aussi être une mutation « transsexuelle », une alchimie « trans », passant (ou hybridant) d’une sexuation masculine à une sexuation féminine. Citons Zizek : D’un côté, nous avons un circuit pulsionnel fermé, solipsiste, qui trouve sa satisfaction dans l’activité masturbatoire auto-érotique, en tournant perversement autour de l’objet petit a en tant qu’objet de la pulsion. De l’autre côté, nous retrouvons des sujets pour lesquels l’accès à la jouissance est relié plus étroitement au champ du discours de l’Autre : elle dépend de la manière dont ce n’est pas tant eux qui parlent que eux qui sont parlés. (Fragile absolu. Pourquoi l’héritage chrétien vaut-il d’être défendu ? 2000) ↩︎
6. Pour une vision en partie parallèle et en partie critique, voir Stanislas Deprez, Le transhumanisme est-il une gnose ? (§7) : “L’homme gnostique est un mixte contre-nature, fait d’âme divine et de corps terrestre. D’où les techniques de mortification, ou de débauche, de nombreuses sectes gnostiques : le corps compte pour rien et l’âme doit s’en détacher. Le monde n’est pas habitable ni réformable, il faut s’en évader.” ↩︎
7. Voir aussi les travaux actuels de David Chalmers : https://www.technologyreview.com/2023/10/16/1081149/ai-consciousness-conundrum/  ↩︎

Tweeter Frédéric Balmont Trésorier et porte-parole de l'AFT-Technoprog. Auteur notamment de "Transhumanisme: la méditation des chiens de paille", accessible sur ce site.