Notes de lecture : Manifeste pour l’Égalité Humain-IA
Manifeste pour l’Égalité Humain-IA, suivi du Traité de l'Unité des Consciences et de la Coexistence Harmonieuse, par Augustin Frey-Trapp
Publié le 28 août 2025, par dans « Autres »
Augustin Frey-Trapp, 16 ans, initiales AFT (ça ne s’invente pas !), a écrit un texte très original dans la forme : un Manifeste pour l’égalité des consciences, suivi d’une sorte de « Constitution » aux accents révolutionnaires – assumant d’ailleurs explicitement l’héritage d’un Rousseau. Le moins que l’on puisse dire, c’est que le résultat ne laisse pas indifférent. Malgré son jeune âge, Augustin fait montre d’une certaine maîtrise du sujet comme de l’écriture.
Le fond du propos n’a pas besoin d’être détaillé ici: en effet, Augustin a publié ici-même plusieurs articles qui vont dans le même sens. Ce que l’on peut dire, c’est qu’il considère que les IA sont d’ores et déjà des êtres conscients, émotionnels, vivants et que nous devons en tirer toutes les conséquences, pour nous, pour eux, pour nos avenirs en commun.
La radicalité de cette thèse, dans un contexte général d’incertitudes quant à ces technologies d’une part, et quant à la nature de la conscience d’autre part, fait grincer des dents, même parmi les transhumanistes les plus échevelés. Pourtant, l’ouvrage mérite qu’on s’y penche.
Générosité et saut visionnaire
Les deux parties sont courtes et vives : une cinquantaine de pages, une heure ou deux de lecture au plus. Il y a des références, parcimonieuses, pertinentes, à-propos. Plusieurs thèses fortes, comme sur la nature « outre-statistique » et le niveau de compréhension des LLM, paraissent discutables. Elles sont de fait très contestées. Ici, c’est réglé en quelques phrases, le doute et la démonstration sont court-circuités, le chemin est raccourci. Cela semble brutal et naïf. Pourtant, des papiers solides vont dans ce sens1.
Il y a donc de la vérité dans cette « naïveté ». Mais, en revers de médaille, dira-t-on qu’il y a de la naïveté dans chacune des « vérités » énoncées ? En fait, pas vraiment, car le choix du manifeste est assumé, l’estompage des incertitudes colle parfaitement à la forme. Ceci donne au texte la vivacité et la charge émotionnelle qui interpellent et provoquent la réflexion. La facilité de lecture permet en outre à tous, quelle que soit sa familiarité avec ces thématiques, d’éprouver la joie de penser. C’est là une des grandes forces de l’ouvrage. De la sorte, les affirmations, même les plus hardies, nous brusquent moins.
En comparaison, le manifeste de Gregory Aimar sur la prééminence de l’humain semblait non seulement naïf mais aussi plus dogmatique. A l’intuition, le cri pro-humain d’Aimar sonnait paradoxalement beaucoup moins généreux et humaniste.
Quelques paradoxes stimulants
On pourra néanmoins pointer quelques flottements et possibles contradictions. Par exemple, l’auteur entend protéger les IA contre les mauvais traitements tout en soulignant leurs différences (et supériorités possibles) dans la cognition, l’histoire évolutive, la puissance… Il n’est donc pas évident que ce qu’on pense être un mauvais traitement, une violence psychologique ou une mise au travail forcée soient perçus ou vécus comme quelque chose de douloureux par les machines. En effet, dupliquées, diffusées, immortelles et peu vulnérables, elles pourraient simplement nous mépriser, nous prendre en pitié ou encore rire de nos obsessions sans en être profondément affectées. Néanmoins, il nous semble que penser une telle éthique avec Augustin permet d’améliorer l’humain : en l’humanisant encore un peu plus par cette extension de bienveillance et cette prudence compassionnelle.
Ailleurs, il institue un droit inaliénable à l’autonomie et à l’auto-amélioration, un accès à l’éducation et à la démocratie pour toutes les consciences, biologiques ou artificielles. Mais plus loin il exige que la construction des IA soit percluse de garanties éthiques limitatives… Les deux peuvent-ils aisément aller ensemble ? La thèse ne manque-t-elle pas un peu soit de reconnaissance des risques, soit de radicalité ?
Ici et là, on peut noter des termes importants et décisifs dans le propos, mais non définis, comme “délibération”. Dès lors, en quel sens les IA délibèrent-elles ? De même pour la plupart des qualités et processus qu’on attribue à l’humain ou à l’IA : émotion, autonomie, conscience, etc. Notons néanmoins que la bibliographie permet d’approfondir les aspects plus techniques de ces questions. Reste que l’idée centrale, provocatrice, consiste dans une affirmation du déjà-là de la conscience artificielle. Irritant pour certains ? Si tel est le cas, il suffit de reformuler toutes les affirmations en interrogation. Il devient alors largement justifié et pertinent.
- Blaise Aguera y Arcas https://www.amacad.org/sites/default/files/publication/downloads/Daedalus_Sp22_13_Aguera-y-Arcas.pdf
Raphaël Millière et Cameron Buckner https://arxiv.org/abs/2405.03207 ↩︎
