Transhumanisme et politiques de surveillance
Sécurité, liberté, transgression… Nos repères sont bousculés par l'introduction du transhumanisme en tant qu'outil politique et policier.
Publié le 20 mai 2023, par dans « Question sociale »
Les nouvelles technologies NBIC offrent un éventail de possibilités inédites pour aider à l’application des lois et règlements. Elles nous invitent ainsi à reposer la question des limites qu’une société veut se donner. Une telle mutation dans les outils de contrôle nous contraint à redéfinir les cibles prioritaires, les zones de tolérance, la hiérarchie des illégalités. C’est aussi l’impact des outils numériques sur la dynamique des crimes et délits, sur l’émergence de manières d’être, sur nos degrés de liberté, qui est éclairé sous un jour nouveau.
Écouter en podcast cet article lu sur notre chaîne YouTube (en cliquant l’image ci-dessous)
Surveiller, punir, prévenir : trois doctrines pour penser la loi et son effectivité
A priori, lorsqu’un État (ou un corps social) se dote de lois, c’est pour qu’elles soient respectées. Sinon, des recommandations suffiraient. En conséquence, les technologies qui ont pour but et pour effet l’application des lois devraient-elle être perçues comme directement légitimes. D’ailleurs, avoir une multitude de lois non respectées est dommageable pour la crédibilité des pouvoirs judiciaire et législatif. Pourtant, si l’on peut difficilement douter du fait qu’il existe pléthore de lois, leur application est moins certaine. Les unes s’exercent avec rigueur, pour tout ou partie des justiciables ; les autres semblent oubliées et ignorées ; certaines sont cruellement impuissantes.
Comment les nouvelles technologies (5G et objets connectés, vidéosurveillance, smartphones, etc.) pourraient-elles aider à l’application des lois ? Pourquoi nous inquiètent-elles ?
Punir et responsabiliser
La solution la plus proche de ce qu’il se fait actuellement consiste dans une éducation républicaine. L’application de la “fiction”[1] humaniste de liberté et d’égalité institue la responsabilité de chacun. Tout citoyen est libre, éclairé et capable de s’autolimiter. Lorsqu’il décide d’enfreindre les lois, il le fait en conscience. Suite à une enquête ou pris sur le fait, il peut tenter de s’expliquer devant la justice et être condamné en conséquence. Mais un nombre plus ou moins important de crimes ne sera pas élucidés[2], et des préjudices ne seront pas réparés.
Les problèmes sont actuellement la multiplication des infractions, l’échec de l’autodiscipline, la saturation des services de police, l’engorgement des tribunaux et l’état des prisons. Les nouvelles technologies pourraient permettre des enquêtes plus efficaces. On songe notamment à la vidéosurveillance, aux accès informatiques, au tracing des smartphones sur réquisitions judiciaires. Concernant les peines, il serait possible de proposer des alternatives à l’emprisonnement ou à l’amende, par exemple un tracing 24h/24, des restrictions de liberté hors prison, des injonctions de soins et de formation, voire des actions de type moral enhancement ou, à la limite, des thérapies géniques.
S’il l’on s’en tient à cette doctrine (acceptant ou refusant l’usage de telle ou telle nouvelle technologie), il semble qu’il faille trouver les moyens d’inciter à l’autodiscipline et à l’intégration des citoyens/personnes dans la construction de la vie collective. Sans cela, on court le risque de voir le système judiciaire et pénal devenir impuissant ou contre-productif. Sans cela, on court aussi le risque de voir ce système être critiqué comme légitimation hypocrite d’un ordre de domination « bourgeois ».
Prévenir et brider
Par prévention, entendons ici quelque chose de radical. Autrement dit, il ne s’agira pas de l’éducation civique des personnes, même avec des dispositifs issus des nouvelles technologies (simulations, réalité virtuelle, réalités augmentée, etc.). Non, il s’agira plutôt de prévention dans le sens qui est en vigueur dans le domaine du travail. Ici, adapter le monde à la réalité concrète des populations et éliminer à la source le risque d’infraction. Privilégier, là où c’est possible, les dispositifs de protection collective ne nécessitant aucune démarche proactive de l’individu.
Par exemple, concernant le code de la route, on songera aux transports en commun, aux voitures pilotées par IA. Mais encore, si le conducteur reste humain, à des voitures connectées et des routes munies de bornes. Les véhicules seront bridés et incapables de dépasser les limitations de vitesse. En général, il s’agira de concevoir l’outil de sorte que, dans un usage non détourné, il soit quasi impossible de commettre une infraction[3].
La loi devient abstraite, imperceptible. La transgression n’est plus une possibilité aisément accessible. Elle nécessite de court-circuiter volontairement les brides, de détourner le dispositif. L’infraction commise devient alors plus grave, car elle se double du piratage prémédité. Si cette manière de faire était efficace, on pourrait toutefois se demander si l’on rendrait vraiment les gens meilleurs en leur évitant, à la source, de choisir entre respecter et enfreindre. Leur liberté et leur jugement moral ne seraient-ils pas esquivés ?
Surveiller et justifier
Une sorte de moyen terme entre la punition a posteriori et la prévention a priori est concevable. Une surveillance constante des paramètres choisis par les objets connectés et autres traceurs, mais dont les données seraient anonymisées. Le caractère incitatif viendrait du fait que chacun saurait qu’une infraction est susceptible de lever l’anonymat. Les informations transmises pour enquête entraîneraient parfois une injonction à rendre compte. Ce dispositif permettrait la délibération et la responsabilité puisqu’il n’y aurait aucun frein technique à la commission des infractions, et pas de systématicité de la sanction pour les infractions de base sans victime.
Encore sur l’exemple routier, il n’est pas aujourd’hui obligatoire d’équiper son véhicule de boite noire. On sait toutefois que la probabilité de croiser des automobilistes qui ont installé des caméras sur leur propre véhicule va croissante. Cela donne une idée de l’état d’esprit que de tels dispositifs suscitent.
L’ingénierie anthropologique par le contrôle des limites
Les paramètres principaux pour évaluer l’intérêt d’introduire les nouvelles technologies sont le coût, l’efficacité/faisabilité et la valeur humaine du projet[4].
On suppose que pour chaque doctrine, l’usage ou le non-usage des technologies, la part de prévention, de surveillance et de répression vont avoir un effet profond sur la manière dont l’homme se comporte. Un effet sur la perception de son autonomie individuelle et son intégration politique.
En fonction de comment se prendront les décisions, le visage des sociétés pourra en être bouleversé. Un contrôle purement technocratique de l’usage des technologies conduira probablement à l’occultation des processus socio-politiques sous-jacents en les “naturalisant”. L’exemple évident est celui des algorithmes prédictifs de la délinquance[5].
Un défaut de supervision démocratique pourrait voir le détournement des réseaux sociaux et autres incubateurs de common decency en dispositifs para-judiciaires ou de cristallisation de préjugés aberrants. Ce fut récemment le cas en Chine, avec l’aval final du gouvernement[6].
Crédit social et spectre totalitaire
La crainte d’une extension des dispositifs de surveillance constante, type reconnaissance faciale, associés à une évaluation diffuse, sert de repoussoir. L’exemple du crédit social chinois peut inquiéter par son caractère incitatif paralégal, les dérives de délations possibles, et son omniprésence intrusive. Un totalitarisme mou, à consentement ambigu, semble la manière majoritaire de l’appréhender hors de Chine. Toutefois, ce contre-exemple doit nous intéresser. Il peut mettre en lumière les dangers et dérives potentielles de l’alliance des technologies et de la volonté sécuritaire. Mais il peut aussi nous inviter à considérer le point de vue des principaux intéressés, à savoir les chinois, dans leur diversité et avec leurs propres spécificités culturelles et contraintes politico-sociales[7].
Dans une perspective plus technoprogressiste, il est envisageable de mettre à disposition des individus des outils de développement de l’autonomie. Par exemple, plutôt qu’une surveillance intrusive (incitative/coercitive), agir sur la physiologie ou les tendances passives qui entravent (agressivité, dominance, etc.) en utilisant la stimulation cérébrale ou la mise en situation, l’entraînement en réalité virtuelle. Tout cela en vue de réorganiser les fonctionnements neurologiques pour accroître la maîtrise de soi, la réflexivité et la liberté. Une sorte d’éducation augmentée, un moral enhancement.
En conséquence, il semble que l’introduction de nouvelles technologies, le niveau d’usage et leur orientation pratique, doivent être pensés au cas par cas, sans doctrine de principe univoque. Dans certains domaines, particulièrement criminels ou nuisibles, il pourrait être préférable de faire de la prévention avec un verrou technique fort. Dans d’autres cas, on pourrait envisager de laisser la responsabilité de chacun s’exercer – avec ou sans incitation[8].
Biologique et sociale : agir sur les deux dimensions
La position délinquante – ou de pègre – comporte une forme de marginalité. Elle comporte aussi une dimension de conformisme aux valeurs et à l’imaginaire fondateur de l’organisation sociale : un système hiérarchique[9]. Autrement dit, des gagnants (peu) et des perdants (beaucoup) désirent réussir dans ce cadre, et selon telle forme de la réussite. Dès lors, les individus défavorisés vont jouer à partir de positions plus difficiles, illégales, violentes. Sauf en cas concurrence ouverte avec les figures légitimes de la domination[10], des relations hypocrites en surface et fonctionnelles en profondeur vont s’établir entre l’officiel et la “contre-culture”.
Aussi critiquée qu’elle puisse être, la thèse de Foucault, dans Surveiller et Punir, est intéressante. Tout système économique fonctionne en intégrant des marges et en traitant différemment les formes d’illégalités (ex: col blanc vs petite délinquance). En outre, traiter la délinquance par la prison permet de constituer une classe sociale repoussoir. Le but est notamment de prévenir toute alliance séditieuse avec les classes laborieuses pauvres. Il s’agit de diviser les perdants, en quelque sorte, et de détourner l’attention des illégalismes des dominants.
Mais les facteurs socio-politiques ne sont pas les seuls déterminants. Il y a les histoires personnelles, les facteurs biologiques et psychologiques, les rencontres fortuites, etc[11]. C’est pourquoi l’on marche sur une seule jambe si l’on ne veut voir que les facteurs individuels ou que les facteurs sociaux.
Insuffisance de la solution procédurale
De prime abord, on pourrait dire que la démocratie directe est la solution à tous les problèmes. En effet, dès lors que la loi et ses modalités d’application sont élaborées par le peuple, toute décision devrait être sienne. Légitime parce que sienne : autonome. De plus, il est aisé, dans ce type de régime, de proposer de nouvelles votations en fonction des effets observés. Toutefois, cette procédure ne dit rien du contenu de ce qui va être adopté. Ni d’ailleurs de ses conséquences sur le corps social. Preuve en est la référence à la notion de tyrannie de la majorité. Gardons en tête qu’elle s’exprime plus souvent que de raison et parfois en défense d’un statu quo encore plus incertain[12] ?
De manière encore plus problématique, laisser la décision à des représentants élus ou à des aristoï (les meilleurs : par le sang, le titre, la connaissance, le statut), c’est s’en remettre à leurs hypothétiques discernement et sagesse pratiques. Autrement dit, cela fonctionne tant que la confiance est grande, ou tant que la force des gouvernants est implacable.
Parfois, la loi n’est pas vraiment reconnue comme étant la nôtre. Elle ne semble pas mise au service du bien commun sur lequel elle prétendait se fonder. Parfois son application est inégalitaire ou aléatoire. On se retrouve dans la contradiction de vouloir se protéger des excès de l’Etat tout en attendant de lui la garantie de nos biens, de nos personnes, de nos libertés.
Il semble ainsi que la démocratie soit la moitié de la solution. L’autre moitié étant une vigilance critique toujours affûtée.
Pour autant, cela valide-t-il les positions extrêmes par rapport à la loi et aux dispositifs policiers ?
Impasse des positions extrêmes
Est-il pensable de rejeter toute loi ? Que serait un espace sans loi ? La loi de la jungle – autrement dit le triomphe de la force ? Mais l’intelligence et la coopération peuvent faire une force supérieure. Alors, pour des êtres parlants, le lieu sans foi ni loi à de fortes chances de devenir le lieu de l’éternel retour de la loi.
A l’inverse, peut-on envisager de contrôler l’ensemble des phénomènes sociaux ? Étendre indéfiniment le contrôle, n’est-ce pas impossible ? Chaque élément contrôlé levant le voile sur une multitude d’autres, déterminants pour certains et qu’il faudrait à leur tour contrôler, on risque de tomber dans une poursuite aussi obsessionnelle qu’infinie.
Le risque d’un contrôle trop rigide, notamment via des contraintes trop fortes, c’est d’être aveugle aux effets de blocage sur d’autres paramètres du système. Or, conserver de la souplesse semble un facteur indispensable à la santé de nos sociétés. C’est pourquoi le contrôle doit s’envisager dans le but d’augmenter la souplesse[13].
Restent alors les positions intermédiaires : quels paramètres contrôler, quelles lois se donner, comment les faire appliquer ?
La sauvagerie réelle ne peut être que virtuelle
La sauvagerie ne semble jamais être qu’un fantasme ou un mythe. Des organisations, mafieuses ou tribales, prennent souvent le relais d’un pouvoir collectif plongé dans le désarroi et l’impuissance. Peut-être qu’il devrait toujours être possible, néanmoins, d’accéder à des zones dangereuses, des marges. Les frontières, si elles existent, ne devraient jamais être fermées pour la sortie. Toutefois, sur une planète unifiée politiquement, ne courrait-on pas le risque d’un sentiment d’étouffement ? Ne voyant plus aucune marge, plus aucun ailleurs sauvage (ou fantasmatiquement sauvage), se sent-on claustrophobe ? Le désir et la transgression sont-ils tellement liés qu’il faille ménager des possibilités pour que s’exprime le risque et le mal, sous peine de voir l’âme humaine s’éteindre[14] ?
Mais le vrai sauvage, dépourvu d’État et de pouvoir institué, où peut-il se trouver ? Ce monde dépourvu d’humains, ou doté d’individus programmés pour ne pas reconstituer d’organisations trop verrouillées, où le chercher ? Ce défouloir, l’échappatoire, pourrait être une simulation virtuelle : un art à part entière de création de mondes. Le besoin d’étrange des uns n’aurait alors pas pour prix la constitution réelle de marges où prospèrent la souffrance et la barbarie.
[1] Fiction n’est pas à entendre en un sens péjoratif ni comme synonyme d’illusion. Il s’agit d’un postulat théorique. Si l’on part d’un autre postulat, que les individus ne sont pas libres, alors il serait possible de leur appliquer des mesures sans leur aval. A la manière des choses, animaux ou personnes “irresponsables”. Parfois sous couvert de bienveillance (prendre en compte la réalité psychosociale), parfois pour psychiatriser les faits sociaux dérangeant l’ordre établi (inégalités sociales, destin social, effets socio-politiques, etc.).
[2] Pour les USA : http://www.slate.fr/story/167672/etats-unis-presque-un-meurtre-sur-deux-non-elucide
[3] L’édiction d’une loi, dans ses décrets d’application, comprendrait les dispositifs qui empêchent concrètement, ou limitent techniquement les possibilités d’infraction. Elle comprendrait aussi les possibilité de traçage des piratages.
[4] Exemple de dispositif hybride : https://trustmyscience.com/ado-17-ans-cree-dispositif-anti-braconnage-ultra-efficace-peu-couteux-proteger-elephants/
[5] https://www.cairn.info/revue-reseaux-2018-5-page-221.htm
[6] https://www.monde-diplomatique.fr/2022/08/FANG/64957
[7] Sur la relative validation des chinois voir : Ma femme a du crédit. https://www.youtube.com/watch?v=Jt2HA7jfzj8
Et, pour une analyse politique plus générale, associées à l’anthropologie chinoise et aux conséquences sociopolitiques. « Cette impression est celle d’une paradoxale liberté sous la chape du système, d’une humble sérénité de sous-bois à l’ombre des chênes d’un pouvoir qui fut toujours hiératique et monumental. Chacun est à sa place. Les puissants gouvernent, les administrateurs administrent, les chats chassent, les vivants vivent […] Le prix de cette familiarité ? Le renoncement à la politique ». Slobodan Despot, Chine la revanche de l’État total. Entre Confucius et Orwell, in Éléments, n°178, juin-juillet 2019.
[8] On pense ici aux aspects d’incitation infra légale. Par exemple, dans le domaine de la santé, réduire les primes d’assurance en fonction du niveau de graisses, sucres ou stupéfiants dans le sang (sur la base d’un tracing volontaire). Comme avec les bonus/malus actuels pour les accidents responsables. Les problèmes associés sont ceux autour de la mutation de la solidarité universelle type sécurité sociale vers une sanction de comportements impactant la collectivité et l’individu, sans pour autant être interdits. En outre, l’attraction pour la bonne santé est telle que l’ont pourrait plébisciter ces tracing sans incitation assurantielles.
[9] En effet, un système hiérarchique prétend se fonder sur la rétribution de différences de performance et d’utilité. Que cette prétention soit possiblement fallacieuse, en tout ou partie, ne change rien. Le “mérite” est ici d’abord un opérateur de justification. Sans jamais pouvoir véritablement prouver son efficacité (la comparaison avec d’autres organisation, toutes choses égales par ailleurs, est, sauf trivialités, une illusion), ni la prééminence de ses valeurs (précisément parce qu’une valeur est un principe qui s’argumente sans pouvoir se fonder – sans quoi ce ne serait pas un principe), chaque organisation sociale est bien une “option” instituant la société en question.
[10] Les séries Peaky Blinders et Narcos, montrent peu ou proue, des groupes de défavorisés, petits délinquants, devenant une pègre. Ils investissent ensuite dans l’économie classique et… tombent lorsqu’ils veulent passer à la politique. Mettre en danger les positions de dominance des insiders ou de la structure de l’État est intolérable. Parfois les liens sont plus fluides : Pasqua, Castaner.
[11] Facteurs certainement intriqués avec les déterminants sociopolitiques.
[12] Il serait […] de très mauvais ton de demander aux tocquevilliens, ou prétendus tels, d’aujourd’hui : et qu’avez-vous donc à dire, en tant que tocquevilliens, sur les fortes différenciations sociales et politiques qui ne s’atténuent nullement, sur les nouvelles qui se créent, sur le caractère fortement oligarchique des prétendues “démocraties”, sur l’érosion des présupposés aussi bien économiques qu’anthropologiques de la “marche vers l’égalisation des conditions”, sur l’incapacité visible de l’imaginaire politique occidental de pénétrer de très vastes régions du monde non occidental ? Et sur l’apathie politique généralisée ? Castoriadis, La montée de l’insignifiance, 1996, p.97
[13] “Il faut noter que la souplesse est à la spécialisation ce que l’entropie est à la néguentropie. La souplesse peut donc être définie comme une potentialité non engagée de changement ». Grégory Bateson, « écologie et souplesse dans la civilisation urbaine », Vers une écologie de l’esprit, 1980
[14] On peut reconnaître là certaines positions philosophiques inspirées de la psychanalyse ou de G.Bataille.
Tweeter