Dario Amodei : un siècle de progrès en une décennie ?

Dans l'essai "Machines of Loving Grace", le chercheur Dario Amodei détaille le scénario qu'il estime le plus probable pour les 5 à 10 prochaines années : "un siècle de découvertes en une décennie".

Publié le 31 octobre 2024, par Emmanuel dans « transhumanisme »

Dans l’essai « Machines of Loving Grace » (lire l’original en anglais ici) publié très récemment et dont nous proposons une traduction ici, le chercheur italo-américain Dario Amodei esquisse à gros traits, mais de manière exhaustive, le scénario qu’il estime le plus probable pour les 5 à 10 prochaines années : une série de révolutions scientifiques radicales, amenées par le travail conjoint de multiples intelligences artificielles ultra puissantes. En un mot : « un siècle de découvertes en une décennie ».

Au menu : extension de l’espérance de vie à 150 ans, victoire sur le cancer, liberté morphologique, confort psychique, neuro-amélioration, progrès économiques, sociaux et démocratiques… Le calendrier est réjouissant pour les transhumanistes !

D’autres avant lui ont établi ce genre de « liste au Père Noël » techno optimistes. Mais Dario Amodei n’est pas un chercheur comme les autres : il vient de la biologie et de la physique, a géré les premiers GPT chez OpenAI et est aujourd’hui dirigeant d’Anthropic, l’une des entreprises d’IA les plus avancées et mieux financées du monde. Régulièrement reçu par les parlementaires étatsuniens, il est lancé dans une course à l’IA qui représente le plus gros coup d’accélérateur techno-capitaliste de l’Histoire, à coups de centaines de milliards de dollars.

Il est heureux qu’Amodei, comme Demis Hassabis qui a reçu ce mois-ci le prix Nobel de Chimie pour les exploits d’AlphaFold, porte un projet technoprogressiste et transhumaniste tout en ayant une attitude responsable et prudente vis-à-vis des risques inhérents à ces « réacteurs de savoir ».

L’essai en question étant relativement long, nous avons demandé à Claude, l’assistant IA développé par Anthropic, d’en fournir un résumé. A la suite de celui-ci, vous trouverez l’essai intégral. Bonne lecture !

Résumé (proposé par Claude)

L’auteur, Dario Amodei, qui est le PDG de la société d’IA Anthropic, reconnaît qu’il se concentre beaucoup sur les risques liés à l’IA qu’il qualifie de “puissante”. Cependant, il estime que les avantages potentiels de l’IA sont encore plus radicaux et sous-estimés par la plupart des gens.

Dans cet essai, il vise à décrire à quoi pourrait ressembler un avenir positif avec une IA puissante, si tout se passe bien. Il admet que de telles prédictions sont par nature incertaines, mais espère faire des spéculations éclairées et utiles.

Il explique pourquoi Anthropic et lui-même n’ont pas autant parlé des avantages de l’IA – principalement pour maximiser l’impact sur l’atténuation des risques, éviter de paraître propagandiste et empêcher la rhétorique grandiose ou de type science-fiction.

L’auteur estime cependant qu’il est essentiel d’avoir une vision inspirante de l’avenir, pas seulement un plan pour lutter contre les incendies. Il se concentrera sur cinq domaines clés dans lesquels une IA puissante pourrait améliorer considérablement la vie humaine : la biologie/santé physique, les neurosciences/santé mentale, le développement économique/pauvreté, la paix/gouvernance et le travail/sens.

En introduction (Hypothèses de base et cadre) l’auteur commence par définir ce qu’il entend par « IA puissante », afin de fixer le cadre pour le reste de l’essai. Il suppose que cette IA arrivera dans les 5 à 10 prochaines années, même s’il reconnaît que les dates sont incertaines.

Il décrit l’IA puissante comme ayant les caractéristiques suivantes :

Intelligence supérieure à celle d’un lauréat du prix Nobel dans de nombreux domaines pertinents
Capacité d’interaction multimodale (texte, audio, vidéo, contrôle d’outils)
Autonomie pour effectuer des tâches complexes sur de longues périodes
Pas d’incarnation physique mais capacité de contrôler des outils/robots
Possibilité de déployer des millions de copies travaillant en collaboration

L’auteur rejette deux visions extrêmes : celle d’une transformation instantanée du monde (« la Singularité »), et celle d’un progrès infini sans limites. Il pense que l’IA sera extrêmement puissante mais devra toujours composer avec des contraintes physiques et pratiques.

L’auteur discute des limites possibles du progrès technologique, en particulier de l’intelligence artificielle. Il considère que la vérité est probablement un mélange subtil de deux visions extrêmes :

D’un côté, l’IA pourrait décupler les progrès dans de nombreux domaines.
De l’autre, le progrès pourrait être limité par des facteurs physiques, sociaux ou liés aux données disponibles.

L’auteur propose un cadre pour réfléchir à ces limites, en identifiant des « facteurs de production » complémentaires à l’intelligence, comme :

La vitesse du monde réel
Le besoin de données
La complexité intrinsèque de certains problèmes
Les contraintes imposées par les humains
Les lois physiques

Il suggère que l’intelligence pourra progressivement surmonter ces facteurs limitants, même s’ils ne disparaîtront jamais complètement. La question clé est le rythme et l’ordre de ce processus.

La biologie (qu’il évoque dans la partie 1) est probablement le domaine dans lequel les progrès scientifiques ont le plus de chances d’améliorer directement la qualité de vie humaine. Bien que la biologie soit confrontée à des défis liés aux données, à la vitesse du monde physique et à la complexité intrinsèque, l’IA pourrait accélérer drastiquement les progrès dans ce domaine.

En effet, de nombreuses avancées majeures en biologie (comme CRISPR ou les vaccins à ARNm) ont été réalisées par un petit nombre de chercheurs créatifs. L’IA pourrait multiplier par 10 ou plus le taux de découvertes de ce type, permettant ainsi de réaliser en 5 à 10 ans les progrès qui auraient normalement pris 50 à 100 ans.

Parmi les réalisations potentielles d’une biologie et d’une médecine accélérées par l’IA, on peut citer :

– La prévention et le traitement fiables de la plupart des maladies infectieuses

– L’élimination de la plupart des cancers

– La prévention et le traitement efficaces des maladies génétiques

– La prévention de la maladie d’Alzheimer

– L’amélioration du traitement de nombreuses autres maladies

– Une plus grande « liberté biologique » permettant de contrôler des aspects comme le poids ou la reproduction

– Un doublement de l’espérance de vie humaine

Ces changements radicaux surprendront la majorité des gens, mais représenteraient un triomphe humanitaire inimaginable.

La section 2 aborde le domaine des neurosciences et de la santé mentale. Elle souligne l’importance de la santé mentale, qui affecte directement le bien-être humain. Des centaines de millions de personnes souffrent de problèmes de santé mentale comme la dépression, la schizophrénie ou l’autisme.

L’auteur estime que les progrès des neurosciences s’accélèreront grâce à l’IA, suivant un rythme similaire à celui de la biologie générale. Certaines découvertes en IA, comme l’interprétabilité, pourraient aider à faire progresser les neurosciences.

Il identifie quatre voies par lesquelles l’IA peut accélérer les progrès neuroscientifiques :

1. Biologie moléculaire traditionnelle, chimie et génétique pour développer de nouveaux médicaments.

2. Mesure et intervention neuronales à granularité fine.

3. Neurosciences computationnelles avancées utilisant les connaissances de l’IA.

4. Interventions comportementales aidées par l’IA.

Ces progrès devraient permettre de guérir ou prévenir la plupart des maladies mentales non pas dans les 100 prochaines années, mais en 5-10 ans avec l’accélération de l’IA. Cela permettrait aussi d’améliorer l’expérience humaine de base et les capacités cognitives et émotionnelles.

Le texte aborde ensuite le développement économique et la pauvreté dans le contexte de l’avancée technologique, notamment avec l’IA. Il souligne plusieurs points clés :

1. Accès aux interventions sanitaires et technologiques : Bien que de nouvelles technologies puissent améliorer la santé et la qualité de vie, l’enjeu est de s’assurer que tout le monde y ait accès, y compris dans les pays les plus pauvres.

2. Croissance économique : L’IA pourrait potentiellement favoriser une croissance économique rapide dans les pays en développement, les aidant à rattraper leur retard sur les pays développés. Cela nécessiterait cependant des efforts concertés.

3. Sécurité alimentaire : Les progrès technologiques, notamment en agriculture, pourraient contribuer à une deuxième révolution verte pour améliorer la sécurité alimentaire dans les pays en développement.

4. Atténuation du changement climatique : L’IA pourrait permettre le développement de technologies permettant de ralentir ou d’atténuer les effets du changement climatique, bénéficiant en particulier aux pays les plus vulnérables.

5. Inégalités au sein des pays : Il faudra veiller à ce que les populations les plus défavorisées aient également accès aux technologies améliorant la santé et la qualité de vie.

6. Risque de rejet de l’IA : Le rejet des technologies par certaines populations pourrait créer des inégalités supplémentaires, nécessitant des efforts de sensibilisation.

L’auteur se montre globalement optimiste quant à la capacité de l’IA à améliorer les conditions de vie dans les pays en développement, à condition que des efforts concertés soient entrepris.

Dans le chapitre suivant (Paix et gouvernance), Amodei souligne que même si les progrès dans les domaines de la santé, de la pauvreté et des inégalités sont importants, il reste à résoudre les questions de conflits entre humains et de gouvernance.

L’auteur est préoccupé par le fait que l’IA puissante pourrait favoriser l’autoritarisme plutôt que la démocratie, avec des outils comme la propagande et la surveillance améliorés. Pour contrer cela, il propose une « stratégie d’entente » où une coalition de démocraties cherche à obtenir un avantage clair sur l’IA, tout en distribuant les avantages d’une IA puissante à un groupe de pays de plus en plus large en échange de leur soutien.

Au niveau national, l’auteur est optimiste sur le fait que dans un environnement mondial dominé par les démocraties, l’IA pourrait favoriser structurellement la démocratie, en aidant à contrer la propagande des régimes autoritaires et à faciliter la libre circulation de l’information.

Enfin, l’auteur suggère que l’IA pourrait aussi être utilisée pour améliorer les institutions démocratiques, en rendant le système judiciaire plus impartial et en aidant à rassembler les opinions des citoyens pour favoriser le consensus.

Enfin, dans la partie 5, le travail et le sens, l’auteur avance que, même dans un monde où les problèmes de maladie, de pauvreté et d’inégalités sont résolus, et où la démocratie libérale domine, la question du sens que les humains donneront à leur vie reste difficile. L’auteur reconnaît que cette question est plus complexe et moins prévisible que les précédentes.

Il pense cependant que le sens ne dépend pas seulement du travail économique. Les gens peuvent trouver du sens dans des activités sans valeur économique, comme les loisirs ou la compétition. Ainsi, même si une IA peut faire certaines tâches mieux que les humains, ces derniers pourront continuer à tirer un sens des efforts complexes ou de l’accomplissement personnel.

Sur le plan économique, l’auteur estime que l’avantage comparatif des humains les maintiendra pertinents à court terme, même face à l’IA. Mais à long terme, lorsque l’IA deviendra très efficace et peu coûteuse, le système économique actuel devra être repensé. L’auteur envisage diverses possibilités comme un revenu de base universel ou une économie basée sur les « points de réputation de type Whuffie« , tout en reconnaissant les nombreux défis posés par ces transitions.

Globalement, l’auteur considère cette question comme difficile et ne prétend pas avoir de réponses claires, mais souligne l’importance de s’y attaquer et d’éviter les scénarios exploitatifs ou dystopiques.

Pour conclure, Dario Amodei reconnaît que la vision présentée dans cet essai est très ambitieuse et pourrait sembler irréaliste ou indésirable pour certains. Cependant, il soutient que cette vision représente en fait une stratégie gagnante, fondée sur des valeurs humaines de base comme l’équité, la coopération et l’autonomie.

Il estime que ces valeurs ont une force morale évidente et tendent naturellement à rassembler les gens. Poussées jusqu’à leur conclusion logique, elles mènent inévitablement vers un monde proche de celui décrit, avec la démocratie libérale, l’État de droit et le respect des droits de l’homme. L’IA offre simplement la possibilité d’accélérer cette évolution positive.

Bien que la réalisation de cette vision nécessitera beaucoup d’efforts et de lutte, l’auteur considère qu’elle en vaut la peine. Il pense que ceux qui verraient ce monde se concrétiser en seraient profondément touchés et heureux.

Des machines gracieuses et aimantes[1]

Un essai de Dario Amodei sur l’apport positif de l’IA

Je réfléchis et parle beaucoup des risques liés à une IA puissante. L’entreprise dont je suis le PDG, Anthropic, effectue de nombreuses recherches sur la manière de réduire ces risques. C’est pourquoi les gens en concluent parfois que je suis un pessimiste ou un « doomer » qui pense que l’IA sera principalement mauvaise ou dangereuse. Je ne pense pas du tout cela. En fait, l’une des principales raisons pour lesquelles je me concentre sur les risques est qu’ils sont la seule chose qui se dresse entre nous et ce que je considère comme un avenir fondamentalement positif. Je pense que la plupart des gens sous-estiment à quel point les avantages de l’IA pourraient être radicaux, tout comme je pense que la plupart des gens sous-estiment à quel point les risques pourraient être graves.

Dans cet essai, j’essaie d’esquisser à quoi pourrait ressembler cet aspect positif – à quoi pourrait ressembler un monde doté d’une IA puissante si tout se passe bien[2]. Bien sûr, personne ne peut connaître l’avenir avec certitude ou précision, et les effets d’une IA puissante sont susceptibles d’être encore plus imprévisibles que les changements technologiques passés, donc tout cela ne consistera inévitablement qu’en suppositions. Mais je vise au moins des suppositions éclairées et utiles, qui saisissent l’esprit de ce qui se passera même si la plupart des détails finissent par être erronés. J’inclus beaucoup de détails principalement parce que je pense qu’une vision concrète fait plus avancer le débat qu’une vision très hésitante et abstraite.

Mais avant tout, je voudrais expliquer brièvement pourquoi Anthropic et moi-même n’avons pas beaucoup parlé des avantages de l’IA puissante et pourquoi nous allons probablement continuer, dans l’ensemble, à parler beaucoup des risques. En particulier, j’ai fait ce choix par désir de :

Maximiser l’effet de levier. Le développement fondamental de la technologie de l’IA et de bon nombre de ses avantages (mais pas tous) semble inévitable (à moins que les risques ne fassent tout dérailler) et est fondamentalement déterminé par de puissantes forces du marché. D’un autre côté, les risques ne sont pas prédéterminés et nos actions peuvent grandement modifier leur probabilité.
Éviter de diffuser de la propagande. Les entreprises d’IA qui vantent tous les avantages incroyables de l’IA peuvent passer pour des propagandistes ou pour des personnes qui tentent de détourner l’attention des inconvénients. Je pense aussi que, par principe, il est mauvais pour votre âme de passer trop de temps à « parler de votre projet ».
Éviter la grandiloquence. Je suis souvent rebuté par la façon dont de nombreuses personnalités publiques en matière de risques liés à l’IA (sans parler des dirigeants d’entreprises d’IA) parlent du monde post-IAG, comme si leur mission était de le faire advenir à eux seuls, tel un prophète conduisant son peuple vers le salut. Je pense qu’il est dangereux de considérer les entreprises comme façonnant le monde de manière unilatérale, et dangereux de considérer les objectifs technologiques pratiques en termes essentiellement religieux.
Éviter les arguments « science-fiction ». Bien que je pense que la plupart des gens sous-estiment les avantages d’une IA puissante, la petite communauté de personnes qui discutent des futurs radicaux de l’IA le fait souvent sur un ton excessivement « science-fictionnesque » (avec par exemple le téléchargement de l’esprit, l’exploration spatiale ou le style cyberpunk en général). Je pense que cela amène les gens à prendre les affirmations moins au sérieux et à les imprégner d’une sorte d’irréalité. Pour être clair, la question n’est pas de savoir si les technologies décrites sont possibles ou probables (l’essai principal en discute en détail) – c’est plutôt que l’« ambiance » fait passer en fraude un tas de bagages culturels et d’hypothèses non formulées sur le type d’avenir souhaitable, la manière dont divers problèmes sociétaux se dérouleront, etc. Le résultat finit souvent par se lire comme un fantasme pour une sous-culture étroite, tout en étant rebutant pour la plupart des gens.

Malgré toutes les inquiétudes évoquées ci-dessus, je pense qu’il est vraiment important de discuter de ce à quoi pourrait ressembler un monde meilleur doté d’une IA puissante, tout en faisant de notre mieux pour éviter les écueils mentionnés ci-dessus. En fait, je pense qu’il est essentiel d’avoir une vision véritablement inspirante de l’avenir, et pas seulement un plan pour lutter contre les incendies. De nombreuses implications d’une IA puissante sont conflictuelles ou dangereuses, mais au bout du compte, il doit y avoir quelque chose pour lequel nous nous battons, un résultat positif où tout le monde s’en sortira mieux, quelque chose qui rassemble les gens pour s’élever au-dessus de leurs querelles et affronter les défis à venir. La peur est une sorte de motivation, mais elle ne suffit pas : nous avons aussi besoin d’espoir.

La liste des applications positives d’une IA puissante est extrêmement longue (elle comprend la robotique, la fabrication, l’énergie et bien d’autres encore), mais je vais me concentrer sur un petit nombre de domaines qui me semblent avoir le plus grand potentiel pour améliorer directement la qualité de vie humaine. Les cinq catégories qui m’enthousiasment le plus sont les suivantes :

Biologie et santé physique
Neurosciences et santé mentale
Développement économique et pauvreté
Paix et gouvernance
Travail et sens

Mes prédictions vont être radicales à en juger par la plupart des critères (autres que les visions de « singularité » de science-fiction[2]), mais je le pense sincèrement et avec sérieux. Tout ce que je dis pourrait très facilement être faux (pour répéter ce que j’ai dit plus haut), mais j’ai au moins essayé de fonder mes opinions sur une évaluation semi-analytique de l’accélération des progrès dans divers domaines et de ce que cela pourrait signifier en pratique. J’ai la chance d’avoir une expérience professionnelle à la fois en biologie et en neurosciences, et je suis un amateur informé dans le domaine du développement économique, mais je suis sûr que je me tromperai beaucoup. Une chose que la rédaction de cet essai m’a fait réaliser est qu’il serait utile de réunir un groupe d’experts du domaine (en biologie, en économie, en relations internationales et dans d’autres domaines) pour rédiger une version bien meilleure et mieux informée de ce que j’ai produit ici. Il est probablement préférable de considérer mes efforts ici comme un point de départ pour ce groupe.

Hypothèses de base et cadre

Pour rendre cet essai plus précis et plus fondé, il est utile de préciser clairement ce que nous entendons par IA puissante (c’est-à-dire le seuil à partir duquel l’horloge de 5 à 10 ans commence à compter), ainsi que d’établir un cadre de réflexion sur les effets d’une telle IA une fois qu’elle est présente.

À quoi ressemblera l’IA puissante (je n’aime pas le terme IAG)[3), et quand (ou si) elle arrivera, est un vaste sujet en soi. C’est un sujet dont j’ai parlé publiquement et sur lequel je pourrais écrire un essai complètement séparé (je le ferai probablement à un moment donné). Évidemment, beaucoup de gens sont sceptiques quant à la construction prochaine d’une IA puissante et certains sont sceptiques quant à sa construction même. Je pense qu’elle pourrait arriver dès 2026, même si cela pourrait aussi prendre beaucoup plus de temps. Mais pour les besoins de cet essai, j’aimerais mettre ces questions de côté, supposer qu’elle arrivera assez rapidement et me concentrer sur ce qui se passera dans les 5 à 10 ans qui suivront. Je veux également supposer une définition de ce à quoi ressemblera un tel système, quelles sont ses capacités et comment il interagit, même s’il y a matière à désaccord sur ce point.

Par IA puissante, j’entends un modèle d’IA, probablement similaire aux LLM d’aujourd’hui dans sa forme, bien qu’il puisse être basé sur une architecture différente, puisse impliquer plusieurs modèles en interaction et puisse être formé différemment, avec les propriétés suivantes :

En termes d’intelligence pure[4], il est plus intelligent qu’un lauréat du prix Nobel dans la plupart des domaines pertinents – biologie, programmation, mathématiques, ingénierie, écriture, etc. Cela signifie qu’il peut prouver des théorèmes mathématiques non résolus, écrire de très bons romans, écrire des bases de code difficiles à partir de zéro, etc.

En plus d’être simplement un « objet intelligent avec lequel on parle », il dispose de toutes les « interfaces » disponibles pour un humain travaillant virtuellement, notamment le texte, l’audio, la vidéo, le contrôle de la souris et du clavier et l’accès à Internet. Il peut s’engager dans toutes les actions, communications ou opérations à distance permises par cette interface, y compris effectuer des actions sur Internet, donner ou donner des instructions à des humains, commander du matériel, diriger des expériences, regarder des vidéos, créer des vidéos, etc. Il effectue toutes ces tâches avec, là encore, une compétence dépassant celle des humains les plus compétents du monde.

Il ne se contente pas de répondre passivement aux questions ; au contraire, il peut se voir confier des tâches qui prennent des heures, des jours ou des semaines à accomplir, puis s’en acquitter de manière autonome, à la manière d’un employé intelligent, en demandant des éclaircissements si nécessaire.

Il n’a pas d’incarnation physique (autre que de vivre sur un écran d’ordinateur), mais il peut contrôler des outils physiques existants, des robots ou des équipements de laboratoire via un ordinateur ; en théorie, il pourrait même concevoir des robots ou des équipements qu’il pourrait utiliser lui-même.

Les ressources utilisées pour entraîner le modèle peuvent être réaffectées pour exécuter des millions d’instances de celui-ci (ce qui correspond aux tailles de cluster projetées d’ici 2027), et le modèle peut absorber des informations et générer des actions à une vitesse environ 10 à 100 fois supérieure à celle d’un humain[5]. Il peut cependant être limité par le temps de réponse du monde physique ou des logiciels avec lesquels il interagit.

Chacune de ces millions de copies peut agir indépendamment sur des tâches sans rapport, ou si nécessaire, elles peuvent toutes travailler ensemble de la même manière que les humains collaboreraient, peut-être avec différentes sous-populations affinées pour être particulièrement efficaces dans des tâches particulières.

On pourrait résumer cela comme un « pays de génies dans un data center ».

Il est clair qu’une telle entité serait capable de résoudre des problèmes très difficiles, très rapidement, mais il n’est pas facile de déterminer à quelle vitesse. Deux positions « extrêmes » me semblent toutes deux fausses. D’abord, on pourrait penser que le monde serait instantanément transformé à l’échelle de quelques secondes ou de quelques jours (« la Singularité »), car une intelligence supérieure se développerait d’elle-même et résoudrait presque immédiatement toutes les tâches scientifiques, techniques et opérationnelles possibles. Le problème est qu’il existe de réelles limites physiques et pratiques, par exemple en ce qui concerne la construction de matériel ou la conduite d’expériences biologiques. Même un nouveau pays de génies se heurterait à ces limites. L’intelligence peut être très puissante, mais ce n’est pas de la poudre de perlimpinpin.

Deuxièmement, et inversement, on pourrait croire que le progrès technologique est saturé ou limité par les données du monde réel ou par des facteurs sociaux, et qu’une intelligence supérieure à celle des humains n’apportera que très peu de progrès[6]. Cela me paraît tout aussi peu plausible – je peux penser à des centaines de problèmes scientifiques ou même sociaux pour lesquels un grand groupe de personnes vraiment intelligentes accélérerait considérablement les progrès, surtout s’ils ne se limitent pas à l’analyse et peuvent faire bouger les choses dans le monde réel (ce que notre prétendu pays de génies peut faire, notamment en dirigeant ou en aidant des équipes d’humains).

Je pense que la vérité est probablement un mélange confus de ces deux visions extrêmes, quelque chose qui varie selon la tâche et le domaine et qui est très subtil dans ses détails. Je crois que nous avons besoin de nouveaux cadres pour réfléchir à ces détails de manière productive.

Les économistes parlent souvent de « facteurs de production » : travail, terre et capital. L’expression « rendements marginaux du travail/de la terre/du capital » traduit l’idée que dans une situation donnée, un facteur donné peut ou non être le facteur limitant – par exemple, une armée de l’air a besoin à la fois d’avions et de pilotes, et embaucher plus de pilotes n’aide pas beaucoup si vous n’avez plus d’avions. Je pense qu’à l’ère de l’IA, nous devrions parler des rendements marginaux de l’intelligence[7], et essayer de déterminer quels sont les autres facteurs qui sont complémentaires à l’intelligence et qui deviennent des facteurs limitants lorsque l’intelligence est très élevée. Nous n’avons pas l’habitude de penser de cette façon – en nous demandant « dans quelle mesure le fait d’être plus intelligent aide-t-il à accomplir cette tâche, et sur quelle échelle de temps ? » – mais cela semble être la bonne façon de conceptualiser un monde doté d’une IA très puissante.

Je pense qu’une liste de facteurs qui limitent ou complètent l’intelligence comprend :

Vitesse du monde extérieur. Les agents intelligents doivent opérer de manière interactive dans le monde pour accomplir des choses et aussi pour apprendre[8]. Mais le monde ne bouge pas aussi vite. Les cellules et les animaux fonctionnent à une vitesse fixe, de sorte que les expériences sur eux prennent un certain temps qui peut être irréductible. Il en va de même pour le matériel informatique, la science des matériaux, tout ce qui implique la communication avec les gens, et même notre infrastructure logicielle existante. De plus, en science, de nombreuses expériences sont souvent nécessaires en séquence, chacune apprenant de la précédente ou s’appuyant sur la précédente. Tout cela signifie que la vitesse à laquelle un projet majeur – par exemple le développement d’un traitement contre le cancer – peut être achevé peut avoir un minimum irréductible qui ne peut plus être réduit même si l’intelligence continue de croître.
Besoin de données. Parfois, les données brutes font défaut et, en leur absence, une plus grande intelligence ne sert à rien. Les physiciens des particules d’aujourd’hui sont très ingénieux et ont développé une large gamme de théories, mais ils manquent de données pour choisir entre elles, car les données sur les accélérateurs de particules sont très limitées. Il n’est pas certain qu’ils feraient beaucoup mieux s’ils étaient superintelligents – sauf peut-être en accélérant la construction d’un plus grand accélérateur.
Complexité intrinsèque. Certaines choses sont intrinsèquement imprévisibles ou chaotiques et même l’IA la plus puissante ne peut pas les prédire ou les démêler beaucoup mieux qu’un humain ou un ordinateur aujourd’hui. Par exemple, même une IA incroyablement puissante ne pourrait prédire que légèrement plus loin dans un système chaotique (comme le problème des trois corps ) dans le cas général[9], par rapport aux humains et aux ordinateurs d’aujourd’hui.
Les contraintes imposées par les humains. Beaucoup de choses ne peuvent être faites sans enfreindre les lois, nuire aux humains ou bouleverser la société. Une IA alignée ne voudrait pas faire ces choses (et si nous avons une IA non alignée, nous revenons à parler de risques). De nombreuses structures sociétales humaines sont inefficaces, voire activement nuisibles, mais sont difficiles à changer tout en respectant des contraintes telles que les exigences légales sur les essais cliniques, la volonté des gens de changer leurs habitudes ou le comportement des gouvernements. Parmi les exemples d’avancées qui fonctionnent bien d’un point de vue technique, mais dont l’impact a été considérablement réduit par des réglementations ou des craintes mal placées, on peut citer l’énergie nucléaire, les vols supersoniques et même les ascenseurs.
Lois physiques. C’est une version plus austère du premier point. Certaines lois physiques semblent inviolables. Il est impossible de voyager plus vite que la lumière. Le pudding ne se démoule pas. Les puces ne peuvent contenir qu’un nombre limité de transistors par centimètre carré avant de devenir peu fiables. Le calcul nécessite une certaine énergie minimale par bit effacé, ce qui limite la densité de calcul dans le monde.
Il existe une autre distinction basée sur les échelles de temps. Des éléments qui constituent des contraintes difficiles à court terme peuvent devenir plus malléables à l’intelligence à long terme. Par exemple, l’intelligence peut être utilisée pour développer un nouveau paradigme expérimental qui nous permet d’apprendre in vitro ce qui nécessitait auparavant des expériences sur des animaux vivants, ou pour construire les outils nécessaires à la collecte de nouvelles données (par exemple, un plus grand accélérateur de particules), ou pour (dans les limites éthiques) trouver des moyens de contourner les contraintes humaines (par exemple, en contribuant à améliorer le système d’essais cliniques, en contribuant à créer de nouvelles juridictions où les essais cliniques sont moins bureaucratiques, ou en améliorant la science elle-même pour rendre les essais cliniques sur l’homme moins nécessaires ou moins chers).

Il faut donc imaginer un scénario dans lequel l’intelligence est initialement fortement entravée par les autres facteurs de production, mais où, au fil du temps, l’intelligence elle-même contourne de plus en plus les autres facteurs, même s’ils ne se dissolvent jamais complètement (et certaines choses comme les lois physiques sont absolues)[10]. La question clé est de savoir à quelle vitesse tout cela se produit et dans quel ordre.

Avec le cadre ci-dessus à l’esprit, je vais essayer de répondre à cette question pour les cinq domaines mentionnés dans l’introduction.

1. Biologie et santé

La biologie est probablement le domaine dans lequel les progrès scientifiques ont le plus de chances d’améliorer directement et sans ambiguïté la qualité de vie humaine. Au siècle dernier, certaines des maladies les plus anciennes (comme la variole) ont finalement été vaincues, mais il en reste encore beaucoup d’autres, et les vaincre serait un immense exploit humanitaire. Au-delà de la guérison des maladies, la science biologique peut en principe améliorer la qualité de base de la santé humaine, en prolongeant la durée de vie en bonne santé, en augmentant le contrôle et la liberté sur nos propres processus biologiques et en s’attaquant aux problèmes quotidiens que nous considérons actuellement comme des éléments immuables de la condition humaine.

Dans le langage des « facteurs limitatifs » de la section précédente, les principaux défis que pose l’application directe de l’intelligence à la biologie sont les données, la vitesse du monde physique et la complexité intrinsèque (en fait, ces trois facteurs sont liés les uns aux autres). Les contraintes humaines jouent également un rôle à un stade ultérieur, lors des essais cliniques. Examinons-les un par un.

Les expériences sur les cellules, les animaux et même les processus chimiques sont limités par la vitesse du monde physique : de nombreux protocoles biologiques impliquent la culture de bactéries ou d’autres cellules, ou simplement l’attente de réactions chimiques, ce qui peut parfois prendre des jours, voire des semaines, sans moyen évident d’accélérer le processus. Les expériences sur les animaux peuvent durer des mois (ou plus) et les expériences sur les humains prennent souvent des années (ou même des décennies pour les études de résultats à long terme). Dans le même ordre d’idées, les données manquent souvent, pas tant en quantité qu’en qualité : il y a toujours une pénurie de données claires et sans ambiguïté qui isolent un effet biologique intéressant des 10 000 autres facteurs confondants qui se produisent, ou qui interviennent de manière causale dans un processus donné, ou qui mesurent directement un effet (au lieu d’en déduire les conséquences de manière indirecte ou bruyante). Même les données moléculaires massives et quantitatives, comme les données protéomiques que j’ai collectées en travaillant sur les techniques de spectrométrie de masse, sont bruyantes et passent à côté de beaucoup de choses (dans quels types de cellules se trouvaient ces protéines ? Dans quelle partie de la cellule ? À quelle phase du cycle cellulaire ?).

Ces problèmes de données sont en partie dus à leur complexité intrinsèque : si vous avez déjà vu un diagramme montrant la biochimie du métabolisme humain , vous savez qu’il est très difficile d’isoler l’effet d’une partie quelconque de ce système complexe, et encore plus difficile d’intervenir sur ce système de manière précise et prévisible. Enfin, au-delà du temps intrinsèque nécessaire à la réalisation d’une expérience sur des humains, les essais cliniques réels impliquent beaucoup de bureaucratie et d’exigences réglementaires qui (de l’avis de nombreuses personnes, dont moi-même) ajoutent du temps supplémentaire inutile et retardent les progrès.

Compte tenu de tout cela, de nombreux biologistes sont depuis longtemps sceptiques quant à la valeur de l’IA et plus généralement du « big data » en biologie. Historiquement, les mathématiciens, informaticiens et physiciens qui ont appliqué leurs compétences à la biologie au cours des 30 dernières années ont connu un certain succès, mais n’ont pas eu l’impact véritablement transformateur espéré au départ. Une partie du scepticisme a été atténuée par des avancées majeures et révolutionnaires comme AlphaFold (qui vient de faire mériter à ses créateurs le prix Nobel de chimie) et AlphaProteo[11], mais il existe toujours une perception selon laquelle l’IA n’est (et continuera d’être) utile que dans un ensemble limité de circonstances. Une formulation courante est « l’IA peut faire un meilleur travail d’analyse de vos données, mais elle ne peut pas produire plus de données ni améliorer la qualité des données. Des données inutiles entrent, des données inutiles sortent ».

Mais je pense que cette perspective pessimiste est une façon erronée de considérer l’IA. Si notre hypothèse de base sur les progrès de l’IA est correcte, alors la bonne façon de considérer l’IA n’est pas comme une méthode d’analyse de données, mais comme un biologiste virtuel qui effectue toutes les tâches des biologistes, y compris la conception et la conduite d’expériences dans le monde réel (en contrôlant des robots de laboratoire ou simplement en indiquant aux humains quelles expériences mener – comme le ferait un chercheur principal à ses étudiants diplômés), l’invention de nouvelles méthodes biologiques ou techniques de mesure, etc. C’est en accélérant l’ensemble du processus de recherche que l’IA peut vraiment accélérer la biologie. Je tiens à le répéter car c’est l’idée fausse la plus courante qui revient lorsque je parle de la capacité de l’IA à transformer la biologie : je ne parle pas de l’IA comme d’un simple outil d’analyse de données. Conformément à la définition d’IA puissante au début de cet essai, je parle d’utiliser l’IA pour exécuter, diriger et améliorer presque tout ce que font les biologistes.

Pour être plus précis sur la source probable de l’accélération, je dirais qu’une fraction étonnamment importante des progrès en biologie est le fruit d’un nombre vraiment minuscule de découvertes, souvent liées à des outils ou techniques de mesure de grande envergure[12] qui permettent une intervention précise mais généralisée ou programmable dans les systèmes biologiques. On compte environ une de ces découvertes majeures par an et, collectivement, elles sont sans doute à l’origine de plus de 50 % des progrès en biologie. Ces découvertes sont si puissantes précisément parce qu’elles dépassent la complexité intrinsèque et les limites des données, augmentant directement notre compréhension et notre contrôle des processus biologiques. Quelques découvertes par décennie ont permis à la fois l’essentiel de notre compréhension scientifique fondamentale de la biologie et ont donné naissance à de nombreux traitements médicaux parmi les plus puissants.

Voici quelques exemples :

CRISPR : une technique qui permet de modifier en direct n’importe quel gène dans les organismes vivants (remplacement de n’importe quelle séquence génétique arbitraire par n’importe quelle autre séquence arbitraire). Depuis le développement de la technique originale, des améliorations constantes ont été apportées pour cibler des types de cellules spécifiques, augmenter la précision et réduire les modifications du mauvais gène, autant de mesures nécessaires pour une utilisation sûre chez l’homme.
Différents types de microscopie pour observer ce qui se passe à un niveau précis : microscopes optiques avancés (avec différents types de techniques de fluorescence, optiques spéciales, etc.), microscopes électroniques, microscopes à force atomique, etc.
Le séquençage et la synthèse du génome, dont le coût a diminué de plusieurs ordres de grandeur au cours des deux dernières décennies.
Techniques optogénétiques qui permettent de déclencher un neurone en projetant de la lumière dessus.
Les vaccins à ARNm qui, en principe, nous permettent de concevoir un vaccin contre n’importe quoi, puis de l’adapter rapidement (les vaccins à ARNm sont bien sûr devenus célèbres pendant le COVID).
Les thérapies cellulaires telles que CAR-T permettent de retirer les cellules immunitaires du corps et de les « reprogrammer » pour attaquer, en principe, n’importe quoi.
Des idées conceptuelles telles que la théorie des germes de la maladie ou la constatation d’un lien entre le système immunitaire et le cancer[13] .

Je me donne la peine d’énumérer toutes ces technologies car je veux faire une affirmation cruciale à leur sujet : je pense que leur taux de découverte pourrait être multiplié par 10 ou plus s’il y avait beaucoup plus de chercheurs talentueux et créatifs . Ou, en d’autres termes, je pense que les rendements en intelligence de ces découvertes sont élevés et que tout le reste en biologie et en médecine en découle en grande partie.

Pourquoi est-ce que je pense cela ? En raison des réponses à certaines questions que nous devrions prendre l’habitude de nous poser lorsque nous essayons de déterminer le « rendement de l’intelligence ». Premièrement, ces découvertes sont généralement faites par un petit nombre de chercheurs, souvent les mêmes personnes à plusieurs reprises, ce qui suggère une compétence et non une recherche aléatoire (ce dernier pourrait suggérer que les longues expériences sont le facteur limitant). Deuxièmement, elles « auraient souvent pu être faites » des années plus tôt qu’elles ne l’ont été : par exemple, CRISPR était un composant naturel du système immunitaire des bactéries connu depuis les années 1980, mais il a fallu 25 ans de plus pour que les gens réalisent qu’il pouvait être réutilisé pour l’édition générale des gènes. Elles sont également souvent retardées de plusieurs années par le manque de soutien de la communauté scientifique pour des orientations prometteuses (voir ce profil sur l’inventeur des vaccins à ARNm ; des histoires similaires abondent). Troisièmement, les projets réussis sont souvent décousus ou ont été des réflexions de dernière minute que les gens ne pensaient pas initialement prometteuses, plutôt que des efforts massivement financés. Cela suggère que ce n’est pas seulement la concentration massive des ressources qui est à l’origine des découvertes, mais l’ingéniosité.

Enfin, bien que certaines de ces découvertes aient une « dépendance sérielle » (il faut d’abord faire la découverte A pour avoir les outils ou les connaissances nécessaires à la découverte B) – ce qui pourrait encore créer des retards expérimentaux – beaucoup, peut-être la plupart, sont indépendantes, ce qui signifie que plusieurs découvertes à la fois peuvent être réalisées en parallèle. Ces deux faits, et mon expérience générale de biologiste, me portent à croire qu’il y a des centaines de découvertes de ce genre qui attendent d’être faites si les scientifiques étaient plus intelligents et plus aptes à établir des liens entre la vaste quantité de connaissances biologiques que possède l’humanité (prenez encore l’exemple de CRISPR). Le succès d’AlphaFold / AlphaProteo à résoudre des problèmes importants bien plus efficacement que les humains, malgré des décennies de modélisation physique soigneusement conçue, fournit une preuve de principe (bien qu’avec un outil restreint dans un domaine restreint) qui devrait montrer la voie à suivre.

Ainsi, je pense qu’une IA puissante pourrait au moins décupler le rythme de ces découvertes, nous offrant les 50 à 100 prochaines années de progrès biologique en 5 à 10 ans[14]. Pourquoi pas 100 fois ? C’est peut-être possible, mais ici, la dépendance sérielle et les temps d’expérimentation deviennent tous deux importants : obtenir 100 ans de progrès en 1 an nécessite que beaucoup de choses se passent bien du premier coup, y compris les expériences sur les animaux et des choses comme la conception de microscopes ou d’installations de laboratoire coûteuses. Je suis en fait ouvert à l’idée (peut-être absurde) que nous pourrions obtenir 1000 ans de progrès en 5 à 10 ans, mais je suis très sceptique quant à la possibilité d’obtenir 100 ans en 1 an. Une autre façon de le dire est que je pense qu’il y a un retard constant inévitable : les expériences et la conception du matériel ont une certaine « latence » et doivent être répétées un certain nombre « irréductible » de fois afin d’apprendre des choses qui ne peuvent pas être déduites logiquement. Mais un parallélisme massif pourrait être possible en plus de cela[15].

Qu’en est-il des essais cliniques ? Bien qu’ils soient associés à une bureaucratie et à des lenteurs considérables, la vérité est qu’une grande partie (mais pas la totalité !) de leur lenteur provient en fin de compte de la nécessité d’évaluer rigoureusement des médicaments qui fonctionnent à peine ou de manière ambiguë. C’est malheureusement vrai pour la plupart des thérapies actuelles : le médicament anticancéreux moyen augmente la survie de quelques mois tout en ayant des effets secondaires importants qui doivent être soigneusement mesurés (il en va de même pour les médicaments contre la maladie d’Alzheimer). Cela conduit à des études de grande envergure (afin d’obtenir une puissance statistique) et à des compromis difficiles que les organismes de réglementation ne sont généralement pas très doués pour faire, encore une fois en raison de la bureaucratie et de la complexité des intérêts concurrents.

Quand quelque chose fonctionne vraiment bien, cela va beaucoup plus vite : il y a un processus d’approbation accéléré et la facilité d’approbation est beaucoup plus grande lorsque les effets positifs sont plus importants. Les vaccins à ARNm contre la COVID ont été approuvés en 9 mois, soit beaucoup plus rapidement que le rythme habituel. Cela dit, même dans ces conditions, les essais cliniques sont encore trop lents – les vaccins à ARNm auraient sans doute dû être approuvés en environ 2 mois. Mais ce genre de retard (environ 1 an de bout en bout pour un médicament), combiné à une parallélisation massive et à la nécessité d’une certaine itération, mais pas trop (« quelques essais »), est tout à fait compatible avec une transformation radicale en 5 à 10 ans. De manière encore plus optimiste, il est possible que la science biologique basée sur l’IA réduise le besoin d’itération dans les essais cliniques en développant de meilleurs modèles expérimentaux animaux et cellulaires (ou même des simulations) qui sont plus précis pour prédire ce qui se passera chez l’homme. Cela sera particulièrement important pour développer des médicaments contre le processus de vieillissement, qui se déroule sur des décennies et pour lequel nous avons besoin d’une boucle d’itération plus rapide.

Enfin, en ce qui concerne les essais cliniques et les obstacles sociétaux, il convient de souligner explicitement que, à certains égards, les innovations biomédicales ont un taux de déploiement exceptionnellement élevé, contrairement à d’autres technologies[16]. Comme mentionné dans l’introduction, de nombreuses technologies sont entravées par des facteurs sociétaux, même si elles fonctionnent bien sur le plan technique. Cela pourrait suggérer une perspective pessimiste sur ce que l’IA peut accomplir. Mais la biomédecine est unique en ce sens que, bien que le processus de développement des médicaments soit excessivement lourd, une fois développés, ils sont généralement déployés et utilisés avec succès.

Pour résumer ce qui précède, ma prédiction de base est que la biologie et la médecine basées sur l’IA nous permettront de condenser en 5 à 10 ans les progrès que les biologistes humains auraient accomplis au cours des 50 à 100 prochaines années. Je qualifierai cela de « XXIe siècle compressé » : l’idée qu’une fois que l’IA puissante aura été développée, nous réaliserons en quelques années tous les progrès en biologie et en médecine que nous aurions réalisés au cours de tout le XXIe siècle.

Bien qu’il soit par nature difficile et spéculatif de prédire ce que l’IA puissante peut faire dans quelques années, il y a une certaine dimension concrète à se demander « que pourraient faire les humains sans aide dans les 100 prochaines années ? ». Il suffit de regarder ce que nous avons accompli au cours du XXe siècle, d’extrapoler à partir des deux premières décennies du XXIe siècle ou de se demander ce que « 10 CRISPR et 50 CAR-T » nous apporteraient, pour estimer le niveau général de progrès que nous pourrions attendre d’une IA puissante.

Ci-dessous, j’essaie de dresser une liste de ce à quoi nous pouvons nous attendre. Cette liste ne repose sur aucune méthodologie rigoureuse et se révélera presque certainement erronée dans les détails, mais elle tente de faire passer le niveau général de radicalisme auquel nous devons nous attendre :

Prévention et traitement fiables de la quasi-totalité des 17 maladies infectieuses naturelles. Compte tenu des énormes progrès réalisés dans la lutte contre les maladies infectieuses au XXe siècle, il n’est pas radical d’imaginer que nous pourrions plus ou moins « terminer le travail » dans un XXIe siècle plus court. Les vaccins à ARNm et les technologies similaires ouvrent déjà la voie à des « vaccins pour tout ». L’éradication totale ou partielle des maladies infectieuses dans le monde (et non seulement dans certains endroits) dépend des questions relatives à la pauvreté et aux inégalités, qui sont abordées dans la section 3.
Élimination de la plupart des cancers. Les taux de mortalité par cancer ont chuté d’environ 2 % par an au cours des dernières décennies ; nous sommes donc en bonne voie pour éliminer la plupart des cancers au 21e siècle au rythme actuel de la science humaine. Certains sous-types ont déjà été largement guéris (par exemple certains types de leucémie avec la thérapie CAR-T ), et je suis peut-être encore plus enthousiaste à l’idée de médicaments très sélectifs qui ciblent le cancer à ses débuts et l’empêchent de se développer. L’IA permettra également de mettre en place des schémas thérapeutiques très finement adaptés au génome individualisé du cancer – ceux-ci sont possibles aujourd’hui, mais extrêmement coûteux en temps et en expertise humaine, que l’IA devrait nous permettre de mettre à l’échelle. Des réductions de 95 % ou plus de la mortalité et de l’incidence semblent possibles. Cela dit, le cancer est extrêmement varié et adaptatif, et est probablement la plus difficile de ces maladies à détruire complètement. Il ne serait pas surprenant qu’un assortiment de tumeurs malignes rares et difficiles persiste.
Prévention et traitement très efficaces des maladies génétiques. Un dépistage embryonnaire grandement amélioré permettra probablement de prévenir la plupart des maladies génétiques, et un descendant plus sûr et plus fiable du CRISPR pourrait guérir la plupart des maladies génétiques chez les personnes existantes. Les affections du corps entier qui affectent une grande fraction des cellules pourraient toutefois être les dernières à résister.
Prévention de la maladie d’Alzheimer. Nous avons eu beaucoup de mal à comprendre les causes de la maladie d’Alzheimer (elle est en quelque sorte liée à la protéine bêta-amyloïde, mais les détails réels semblent très complexes). Cela semble être exactement le type de problème qui peut être résolu avec de meilleurs outils de mesure qui isolent les effets biologiques ; je suis donc optimiste quant à la capacité de l’IA à le résoudre. Il y a de bonnes chances que la maladie puisse éventuellement être évitée grâce à des interventions relativement simples, une fois que nous aurons réellement compris ce qui se passe. Cela dit, les dommages causés par une maladie d’Alzheimer déjà existante peuvent être très difficiles à inverser.
Amélioration du traitement de la plupart des autres maladies. Cette catégorie regroupe d’autres maladies, notamment le diabète, l’obésité, les maladies cardiaques, les maladies auto-immunes, etc. La plupart de ces maladies semblent « plus faciles » à traiter que le cancer et la maladie d’Alzheimer et, dans de nombreux cas, elles sont déjà en net déclin. Par exemple, les décès dus aux maladies cardiaques ont déjà diminué de plus de 50 %, et des interventions simples comme les agonistes du GLP-1 ont déjà permis d’énormes progrès dans la lutte contre l’obésité et le diabète.
Liberté biologique. Les 70 dernières années ont été marquées par des avancées dans le domaine du contrôle des naissances, de la fertilité, de la gestion du poids et bien d’autres domaines. Mais je pense que la biologie accélérée par l’IA élargira considérablement les possibilités : le poids, l’apparence physique, la reproduction et d’autres processus biologiques seront entièrement sous le contrôle des individus. Nous y ferons référence sous le titre de liberté biologique : l’idée que chacun devrait avoir le pouvoir de choisir ce qu’il veut devenir et de vivre sa vie de la manière qui lui convient le mieux. Il y aura bien sûr d’importantes questions sur l’égalité d’accès à l’échelle mondiale ; voir la section 3 pour plus d’informations.
Doublement de la durée de vie humaine[18]. Cela peut sembler radical, mais l’espérance de vie a presque doublé au 20e siècle (de ~40 ans à ~75 ans), il est donc « dans la tendance » que le « 21e siècle comprimé » la double encore à 150. Évidemment, les interventions impliquées dans le ralentissement du processus de vieillissement réel seront différentes de celles qui étaient nécessaires au siècle dernier pour prévenir les décès prématurés (principalement infantiles) dus à la maladie, mais l’ampleur du changement n’est pas sans précédent[19]. Concrètement, il existe déjà des médicaments qui augmentent la durée de vie maximale des rats de 25 à 50 % avec des effets néfastes limités. Et certains animaux (par exemple certains types de tortues) vivent déjà 200 ans, donc les humains ne sont manifestement pas à une limite supérieure théorique. À première vue, la chose la plus importante dont on a besoin pourrait être des biomarqueurs fiables et non Goodhart-able du vieillissement humain, car cela permettra une itération rapide des expériences et des essais cliniques. Une fois que l’espérance de vie humaine atteindra 150 ans, nous pourrons peut-être atteindre la « vitesse d’échappement », gagnant ainsi suffisamment de temps pour que la plupart des personnes actuellement en vie puissent vivre aussi longtemps qu’elles le souhaitent, même s’il n’y a aucune garantie que cela soit biologiquement possible.

Il vaut la peine de jeter un œil à cette liste et de réfléchir à la façon dont le monde sera différent si tout cela est réalisé d’ici 7 à 12 ans (ce qui correspondrait à un calendrier agressif d’IA). Il va sans dire que ce serait un triomphe humanitaire inimaginable, l’élimination d’un seul coup de la plupart des fléaux qui hantent l’humanité depuis des millénaires. Beaucoup de mes amis et collègues élèvent des enfants, et quand ces enfants grandiront, j’espère que toute mention de maladie sonnera à leurs oreilles comme le scorbut, la variole ou la peste bubonique aux nôtres. Cette génération bénéficiera également d’une plus grande liberté biologique et d’expression personnelle et, avec un peu de chance, pourra peut-être vivre aussi longtemps qu’elle le souhaite.

Il est difficile de surestimer à quel point ces changements surprendront tout le monde, sauf la petite communauté de personnes qui s’attendaient à une IA puissante. Par exemple, des milliers d’économistes et d’experts politiques aux États-Unis débattent actuellement de la manière de maintenir la solvabilité de la Sécurité sociale et de Medicare, et plus généralement de la manière de maintenir le coût des soins de santé à un bas niveau (qui est principalement dû aux personnes de plus de 70 ans et en particulier aux personnes atteintes de maladies incurables comme le cancer). La situation de ces programmes devrait s’améliorer radicalement si tout cela se concrétise[20], car le ratio entre la population en âge de travailler et la population à la retraite changera radicalement. Il ne fait aucun doute que ces défis seront remplacés par d’autres, comme la manière d’assurer un accès généralisé aux nouvelles technologies, mais il vaut la peine de réfléchir à l’ampleur des changements que le monde va connaître, même si la biologie est le seul domaine à être accéléré avec succès par l’IA.

2. Neurosciences et esprit

Dans la section précédente, je me suis concentré sur les maladies physiques et la biologie en général, sans aborder les neurosciences ou la santé mentale. Mais les neurosciences sont une sous-discipline de la biologie et la santé mentale est tout aussi importante que la santé physique. En fait, la santé mentale affecte le bien-être humain encore plus directement que la santé physique. Des centaines de millions de personnes ont une très mauvaise qualité de vie en raison de problèmes tels que la toxicomanie, la dépression, la schizophrénie, l’autisme de faible niveau de fonctionnement, le syndrome de stress post-traumatique, la psychopathie [21] ou les déficiences intellectuelles. Des milliards d’autres sont aux prises avec des problèmes quotidiens qui peuvent souvent être interprétés comme des versions beaucoup plus légères de l’un de ces troubles cliniques graves. Et comme pour la biologie générale, il pourrait être possible d’aller au-delà de la résolution des problèmes pour améliorer la qualité de base de l’expérience humaine.

Le cadre de base que j’ai établi pour la biologie s’applique également aux neurosciences. Ce domaine est propulsé en avant par un petit nombre de découvertes souvent liées à des outils de mesure ou d’intervention précise – dans la liste ci-dessus, l’optogénétique est une découverte des neurosciences, et plus récemment CLARITY et la microscopie à expansion sont des avancées dans la même veine, en plus de nombreuses méthodes générales de biologie cellulaire directement transposées aux neurosciences. Je pense que le rythme de ces avancées sera également accéléré par l’IA et que, par conséquent, le cadre des « 100 ans de progrès en 5 à 10 ans » s’applique aux neurosciences de la même manière qu’à la biologie et pour les mêmes raisons. Comme en biologie, les progrès des neurosciences du XXe siècle ont été énormes – par exemple, nous ne comprenions même pas comment ou pourquoi les neurones s’activaient avant les années 1950. Il semble donc raisonnable de s’attendre à ce que les neurosciences accélérées par l’IA produisent des progrès rapides en quelques années.

Il y a une chose que nous devrions ajouter à ce tableau de base, à savoir que certaines des choses que nous avons apprises (ou apprenons) sur l’IA elle-même au cours des dernières années sont susceptibles de contribuer à faire progresser les neurosciences, même si elles continuent d’être pratiquées uniquement par des humains. L’interprétabilité en est un exemple évident : bien que les neurones biologiques fonctionnent superficiellement d’une manière complètement différente des neurones artificiels (ils communiquent via des pics et souvent des taux de pics, il y a donc un élément temporel qui n’est pas présent dans les neurones artificiels, et un tas de détails relatifs à la physiologie cellulaire et aux neurotransmetteurs modifient considérablement leur fonctionnement), la question fondamentale de « comment des réseaux distribués et entraînés d’unités simples qui effectuent des opérations linéaires/non linéaires combinées fonctionnent ensemble pour effectuer des calculs importants » est la même, et je soupçonne fortement que les détails de la communication neuronale individuelle seront abstraits dans la plupart des questions intéressantes sur le calcul et les circuits[22]. Pour ne citer qu’un exemple, un mécanisme de calcul découvert par des chercheurs en interprétabilité dans les systèmes d’IA a été récemment redécouvert dans le cerveau des souris.

Il est beaucoup plus facile de réaliser des expériences sur des réseaux neuronaux artificiels que sur des réseaux réels (ces derniers nécessitent souvent de découper des cerveaux d’animaux), et l’interprétabilité pourrait donc bien devenir un outil permettant d’améliorer notre compréhension des neurosciences. De plus, les IA puissantes seront probablement elles-mêmes capables de développer et d’appliquer cet outil mieux que les humains.

Mais au-delà de la simple interprétabilité, ce que nous avons appris de l’IA sur la façon dont les systèmes intelligents sont formés devrait (même si je ne suis pas sûr que ce soit déjà le cas) provoquer une révolution dans les neurosciences. Lorsque je travaillais dans le domaine des neurosciences, beaucoup de gens se concentraient sur ce que je considère aujourd’hui comme les mauvaises questions sur l’apprentissage, car le concept de l’hypothèse d’échelle (la fameuse “amère leçon”) n’existait pas encore. L’idée qu’une simple fonction objective plus une grande quantité de données puissent conduire à des comportements incroyablement complexes rend plus intéressante la compréhension des fonctions objectives et des biais architecturaux et moins intéressante la compréhension des détails des calculs émergents. Je n’ai pas suivi de près le domaine ces dernières années, mais j’ai le vague sentiment que les neuroscientifiques computationnels n’ont pas encore pleinement assimilé la leçon. Mon attitude à l’égard de l’hypothèse d’échelle a toujours été « aha – c’est une explication, à un niveau élevé, de la façon dont l’intelligence fonctionne et de la façon dont elle a si facilement évolué », mais je ne pense pas que ce soit le point de vue du neuroscientifique moyen, en partie parce que l’hypothèse d’échelle en tant que « secret de l’intelligence » n’est pas pleinement acceptée, même au sein de l’IA.

Je pense que les neuroscientifiques devraient essayer de combiner cette idée fondamentale avec les particularités du cerveau humain (limitations biophysiques, histoire évolutive, topologie, détails des entrées/sorties motrices et sensorielles) pour essayer de résoudre certaines des énigmes clés des neurosciences. Certains le font probablement déjà, mais je pense que ce n’est pas encore suffisant et que les neuroscientifiques de l’IA seront en mesure d’exploiter plus efficacement cet angle pour accélérer les progrès.

Je m’attends à ce que l’IA accélère les progrès neuroscientifiques selon quatre voies distinctes, qui peuvent toutes, je l’espère, fonctionner ensemble pour guérir les maladies mentales et améliorer les fonctions :

Biologie moléculaire traditionnelle, chimie et génétique. C’est essentiellement la même histoire que la biologie générale de la section 1, et l’IA peut probablement l’accélérer via les mêmes mécanismes. Il existe de nombreux médicaments qui modulent les neurotransmetteurs afin de modifier la fonction cérébrale, d’affecter la vigilance ou la perception, de changer l’humeur, etc., et l’IA peut nous aider à en inventer beaucoup d’autres. L’IA peut probablement aussi accélérer la recherche sur les bases génétiques des maladies mentales.
Mesure et intervention neuronales à granularité fine. Il s’agit de la capacité à mesurer ce que font un grand nombre de neurones ou de circuits neuronaux individuels et à intervenir pour modifier leur comportement. L’optogénétique et les sondes neuronales sont des technologies capables à la fois de mesurer et d’intervenir dans les organismes vivants, et un certain nombre de méthodes très avancées (telles que les bandes de téléscripteurs moléculaires pour lire les schémas de déclenchement d’un grand nombre de neurones individuels) ont également été proposées et semblent possibles en principe.
Neurosciences computationnelles avancées. Comme indiqué ci-dessus, les connaissances spécifiques et la gestalt de l’IA moderne peuvent probablement être appliquées de manière fructueuse aux questions de neurosciences des systèmes, y compris peut-être pour découvrir les causes réelles et la dynamique de maladies complexes comme la psychose ou les troubles de l’humeur.
Interventions comportementales. Je n’en ai pas beaucoup parlé étant donné l’accent mis sur le côté biologique des neurosciences, mais la psychiatrie et la psychologie ont bien sûr développé un large répertoire d’interventions comportementales au cours du XXe siècle ; il va de soi que l’IA pourrait également accélérer ces interventions, à la fois le développement de nouvelles méthodes et l’aide aux patients à adhérer aux méthodes existantes. Plus largement, l’idée d’un « coach IA » qui vous aide toujours à être la meilleure version de vous-même, qui étudie vos interactions et vous aide à apprendre à être plus efficace, semble très prometteuse.

Je pense que ces quatre voies de progrès, si elles fonctionnent ensemble, pourraient, comme pour les maladies physiques, conduire à la guérison ou à la prévention de la plupart des maladies mentales au cours des 100 prochaines années, même si l’IA n’était pas impliquée – et pourraient donc raisonnablement être achevées en 5 à 10 ans accélérés par l’IA. Concrètement, je pense que ce qui se passera sera quelque chose comme ce qui suit :

La plupart des maladies mentales pourront probablement être guéries. Je ne suis pas un expert en maladies psychiatriques (j’ai passé mon temps en neurosciences à construire des sondes pour étudier de petits groupes de neurones), mais je pense que des maladies comme le syndrome de stress post-traumatique, la dépression, la schizophrénie, la toxicomanie, etc. peuvent être comprises traitées très efficacement grâce à une combinaison des quatre orientations ci-dessus. La réponse est probablement une combinaison de « quelque chose s’est mal passé biochimiquement » (même si cela peut être très complexe) et « quelque chose s’est mal passé avec le réseau neuronal, à un niveau élevé ». C’est-à-dire qu’il s’agit d’une question de neuroscience des systèmes – bien que cela ne contredise pas l’impact des interventions comportementales évoquées ci-dessus. Les outils de mesure et d’intervention, en particulier chez les humains vivants, semblent susceptibles de conduire à des itérations et des progrès rapides.
Les troubles très « structurels » peuvent être plus difficiles à traiter, mais pas impossibles. Il existe des preuves que la psychopathie est associée à des différences neuroanatomiques évidentes : certaines régions du cerveau sont simplement plus petites ou moins développées chez les psychopathes. On pense également que les psychopathes manquent d’empathie dès leur plus jeune âge ; quelle que soit la différence dans leur cerveau, il a probablement toujours été ainsi. Il en va peut-être de même pour certains handicaps intellectuels, et peut-être pour d’autres troubles. Restructurer le cerveau semble difficile, mais cela semble aussi être une tâche qui rapporte beaucoup d’intelligence. Peut-être existe-t-il un moyen de faire passer le cerveau adulte à un état plus précoce ou plus malléable où il peut être remodelé. Je ne suis pas sûr que cela soit possible, mais mon instinct me dit d’être optimiste quant à ce que l’IA peut inventer dans ce domaine.
Il semble possible de prévenir efficacement les maladies mentales par la génétique. La plupart des maladies mentales sont partiellement héréditaires et les études d’association pangénomique commencent à prendre de l’ampleur pour identifier les facteurs pertinents, qui sont souvent nombreux. Il sera probablement possible de prévenir la plupart de ces maladies grâce au dépistage des embryons, comme c’est le cas pour les maladies physiques. Une différence est que les maladies psychiatriques sont plus susceptibles d’être polygéniques (de nombreux gènes y contribuent), donc en raison de leur complexité, il existe un risque accru de sélection involontaire contre des traits positifs qui sont corrélés à la maladie. Curieusement, cependant, ces dernières années, les études GWAS [Genome Wide Association Studies] semblent suggérer que ces corrélations pourraient avoir été surestimées. Dans tous les cas, les neurosciences accélérées par l’IA peuvent nous aider à comprendre ces choses. Bien sûr, le dépistage des traits complexes sur les embryons soulève un certain nombre de questions sociétales et sera controversé, même si je suppose que la plupart des gens seraient favorables au dépistage des maladies mentales graves ou débilitantes.
Les problèmes quotidiens que nous ne considérons pas comme des maladies cliniques seront également résolus. La plupart d’entre nous ont des problèmes psychologiques quotidiens qui ne sont pas habituellement considérés comme des maladies cliniques. Certaines personnes se mettent rapidement en colère, d’autres ont du mal à se concentrer ou sont souvent somnolentes, certaines sont craintives ou anxieuses ou réagissent mal au changement. Aujourd’hui, il existe déjà des médicaments pour aider à la vigilance ou à la concentration (caféine, modafinil, ritaline), mais comme dans de nombreux autres domaines, il est probable que beaucoup plus de choses soient possibles. Il existe probablement beaucoup plus de médicaments de ce type qui n’ont pas été découverts, et il pourrait également y avoir des modalités d’intervention totalement nouvelles, telles que la stimulation lumineuse ciblée (voir l’optogénétique ci-dessus) ou les champs magnétiques. Étant donné le nombre de médicaments que nous avons développés au 20e siècle pour ajuster les fonctions cognitives et l’état émotionnel, je suis très optimiste quant au « 21e siècle compressé » où chacun pourra faire en sorte que son cerveau se comporte un peu mieux et vivre une expérience quotidienne plus épanouissante.
L’expérience humaine de base peut être bien meilleure. En allant plus loin, de nombreuses personnes ont vécu des moments extraordinaires de révélation, d’inspiration créatrice, de compassion, d’épanouissement, de transcendance, d’amour, de beauté ou de paix méditative. Le caractère et la fréquence de ces expériences diffèrent grandement d’une personne à l’autre et au sein d’une même personne à des moments différents, et peuvent aussi parfois être déclenchés par divers médicaments (bien que souvent avec des effets secondaires). Tout cela suggère que « l’espace de ce qu’il est possible de vivre » est très large et qu’une plus grande fraction de la vie des gens pourrait être constituée de ces moments extraordinaires. Il est aussi vraisemblablement possible d’améliorer diverses fonctions cognitives à tous les niveaux. C’est peut-être la version neuroscientifique de la « liberté biologique » ou de la « durée de vie prolongée ».

Un sujet qui revient souvent dans les représentations de l’IA dans la science-fiction, mais que je n’ai pas abordé ici intentionnellement, est le « téléchargement de l’esprit », l’idée de capturer le modèle et la dynamique d’un cerveau humain et de les instancier dans un logiciel. Ce sujet pourrait faire l’objet d’un essai à lui seul, mais il suffit de dire que même si je pense que le téléchargement est presque certainement possible en principe, dans la pratique, il est confronté à des défis technologiques et sociétaux importants, même avec une IA puissante, qui le placent probablement hors de la fenêtre de 5 à 10 ans dont nous parlons.

En résumé, les neurosciences accélérées par l’IA sont susceptibles d’améliorer considérablement les traitements, voire de guérir, de la plupart des maladies mentales, ainsi que d’accroître considérablement la « liberté cognitive et mentale » et les capacités cognitives et émotionnelles humaines. Ces progrès seront tout aussi radicaux que les améliorations de la santé physique décrites dans la section précédente. Le monde ne sera peut-être pas visiblement différent de l’extérieur, mais le monde tel que le vivent les humains sera un endroit bien meilleur et plus humain, ainsi qu’un endroit qui offrira de plus grandes possibilités d’épanouissement personnel. Je soupçonne également qu’une meilleure santé mentale permettra d’atténuer de nombreux autres problèmes sociétaux, y compris ceux qui semblent politiques ou économiques.

3. Développement économique et pauvreté

Les deux sections précédentes portent sur le développement de nouvelles technologies permettant de guérir les maladies et d’améliorer la qualité de vie humaine. Cependant, une question évidente se pose, d’un point de vue humanitaire : « Est-ce que tout le monde aura accès à ces technologies ? »

C’est une chose de mettre au point un remède contre une maladie, c’en est une autre de l’éradiquer de la planète. De manière plus générale, de nombreuses interventions sanitaires existantes n’ont pas encore été appliquées partout dans le monde, et il en va de même pour les améliorations technologiques (non sanitaires) en général. Autrement dit, les niveaux de vie dans de nombreuses régions du monde sont encore désespérément bas : le PIB par habitant est d’environ 2 000 dollars en Afrique subsaharienne, contre environ 75 000 dollars aux États-Unis. Si l’IA accroît encore la croissance économique et la qualité de vie dans le monde développé, tout en faisant peu pour aider le monde en développement, nous devrions considérer cela comme un terrible échec moral et une tache sur les véritables victoires humanitaires des deux sections précédentes. Idéalement, une IA puissante devrait aider le monde en développement à rattraper le monde développé, même si elle révolutionne ce dernier.

Je ne suis pas aussi convaincu que l’IA puisse résoudre les inégalités et favoriser la croissance économique que je le suis qu’elle puisse inventer des technologies fondamentales, car la technologie offre des rendements en intelligence tellement élevés (notamment la capacité à contourner les complexités et le manque de données) alors que l’économie implique de nombreuses contraintes humaines, ainsi qu’une forte dose de complexité intrinsèque. Je suis quelque peu sceptique quant à la capacité d’une IA à résoudre le fameux « problème de calcul socialiste » [23] et je ne pense pas que les gouvernements confieront (ou devraient confier) leur politique économique à une telle entité, même si elle en était capable. Il y a aussi des problèmes comme celui de convaincre les gens de suivre des traitements qui sont efficaces mais dont ils peuvent se méfier.

Les défis auxquels sont confrontés les pays en développement sont encore plus complexes en raison de la corruption généralisée dans les secteurs privé et public. La corruption crée un cercle vicieux : elle aggrave la pauvreté , et la pauvreté engendre à son tour davantage de corruption. Les plans de développement économique axés sur l’IA doivent tenir compte de la corruption, de la faiblesse des institutions et d’autres défis très humains.

Néanmoins, je vois des raisons importantes d’être optimiste. Les maladies ont été éradiquées et de nombreux pays sont passés de pauvres à riches, et il est clair que les décisions impliquées dans ces tâches présentent un rendement élevé en intelligence (malgré les contraintes humaines et la complexité). Par conséquent, l’IA peut probablement les réaliser mieux qu’elles ne le font actuellement. Il existe peut-être aussi des interventions ciblées qui contournent les contraintes humaines et sur lesquelles l’IA pourrait se concentrer. Mais plus important encore, nous devons essayer. Les entreprises d’IA et les décideurs politiques des pays développés devront faire leur part pour s’assurer que les pays en développement ne soient pas laissés pour compte ; l’impératif moral est trop grand. Dans cette section, je continuerai donc à défendre un point de vue optimiste, mais gardez à l’esprit que le succès n’est pas garanti et dépend de nos efforts collectifs.

Ci-dessous, je fais quelques suppositions sur la façon dont je pense que les choses pourraient évoluer dans les pays en développement au cours des 5 à 10 ans suivant le développement d’une IA puissante :

La distribution des interventions sanitaires. Le domaine dans lequel je suis peut-être le plus optimiste est celui de la distribution des interventions sanitaires dans le monde entier. Des maladies ont en fait été éradiquées par des campagnes descendantes : la variole a été totalement éliminée dans les années 1970, et la polio et le ver de Guinée sont presque éradiqués avec moins de 100 cas par an. La modélisation épidémiologique mathématiquement sophistiquée joue un rôle actif dans les campagnes d’éradication des maladies, et il semble très probable qu’il y ait de la place pour des systèmes d’IA plus intelligents que les humains pour faire un meilleur travail que les humains. La logistique de la distribution peut également être grandement optimisée. Une chose que j’ai apprise en tant que donateur précoce de GiveWell est que certaines organisations caritatives de santé sont bien plus efficaces que d’autres ; j’espère que les efforts accélérés par l’IA le seront encore plus. En outre, certaines avancées biologiques facilitent considérablement la logistique de la distribution : par exemple, le paludisme a été difficile à éradiquer car il nécessite un traitement chaque fois que la maladie est contractée ; Un vaccin qui ne doit être administré qu’une seule fois simplifie considérablement la logistique (et de tels vaccins contre le paludisme sont d’ailleurs en cours de développement ). Des mécanismes de distribution encore plus simples sont possibles : certaines maladies pourraient en principe être éradiquées en ciblant leurs vecteurs animaux, par exemple en relâchant des moustiques infectés par une bactérie qui bloque leur capacité à véhiculer une maladie (qui infecte ensuite tous les autres moustiques) ou simplement en utilisant le forçage génétique. Pour éliminer les moustiques, il faut une ou plusieurs actions centralisées, plutôt qu’une campagne coordonnée qui doit traiter individuellement des millions de personnes. Globalement, je pense que 5 à 10 ans est un délai raisonnable pour qu’une bonne partie (peut-être 50 %) des bienfaits de l’IA pour la santé se propagent même aux pays les plus pauvres du monde. Un bon objectif pourrait être que, 5 à 10 ans après l’apparition de l’IA puissante, le monde en développement soit au moins sensiblement en meilleure santé que le monde développé aujourd’hui, même s’il continue à être à la traîne par rapport au monde développé. Pour y parvenir, il faudra bien sûr un énorme effort en matière de santé mondiale, de philanthropie, de plaidoyer politique et de nombreux autres efforts, auxquels les développeurs d’IA et les décideurs politiques devraient contribuer.
Croissance économique. Le monde en développement peut-il rapidement rattraper le monde développé, non seulement en matière de santé, mais aussi sur le plan économique ? Il existe un précédent à ce sujet : dans les dernières décennies du XXe siècle, celui de plusieurs économies d’Asie de l’Est. Les pays en développement ont atteint des taux de croissance annuels du PIB réel soutenus d’environ 10 %, ce qui leur a permis de rattraper le monde développé. Les planificateurs économiques humains ont pris les décisions qui ont conduit à ce succès, non pas en contrôlant directement des économies entières, mais en actionnant quelques leviers clés (comme une politique industrielle de croissance tirée par les exportations et en résistant à la tentation de s’appuyer sur la richesse des ressources naturelles) ; il est plausible que les « ministres des finances et les banquiers centraux de l’IA » puissent reproduire ou dépasser cet exploit de 10%. Une question importante est de savoir comment amener les gouvernements des pays en développement à les adopter tout en respectant le principe d’autodétermination – certains peuvent être enthousiastes à ce sujet, mais d’autres sont susceptibles d’être sceptiques. Du côté optimiste, de nombreuses interventions sanitaires mentionnées au point précédent sont susceptibles d’accroître organiquement la croissance économique : l’éradication du sida, du paludisme, des vers parasites aurait un effet transformateur sur la productivité, sans parler des avantages économiques que certaines interventions en neurosciences (comme l’amélioration de l’humeur et de la concentration) auraient dans les pays développés comme dans les pays en développement. Enfin, les technologies accélérées par l’IA dans d’autres domaines que la santé (comme les technologies énergétiques, les drones de transport, les matériaux de construction améliorés, la logistique et la distribution, etc.) pourraient tout simplement se répandre naturellement dans le monde. Par exemple, même les téléphones portables ont rapidement envahi l’Afrique subsaharienne via les mécanismes du marché, sans nécessiter d’efforts philanthropiques. Sur le plan négatif, si l’IA et l’automatisation présentent de nombreux avantages potentiels, elles posent également des problèmes de développement économique, en particulier pour les pays qui ne sont pas encore industrialisés. Trouver des moyens de garantir que ces pays puissent continuer à développer et à améliorer leur économie à l’ère de l’automatisation croissante est un défi important que les économistes et les décideurs politiques doivent relever. Dans l’ensemble, un scénario de rêve – peut-être un objectif à atteindre – serait un taux de croissance annuel du PIB de 20% dans le monde en développement, dont 10% proviendraient chacun des décisions économiques rendues possibles par l’IA et de la diffusion naturelle des technologies accélérées par l’IA, y compris, mais sans s’y limiter, dans le domaine de la santé. Si cela se concrétise, l’Afrique subsaharienne pourrait atteindre le PIB par habitant actuel de la Chine dans 5 à 10 ans, tout en élevant une grande partie du reste du monde en développement à des niveaux supérieurs au PIB actuel des États-Unis. il s’agit d’un scénario de rêve, pas de ce qui se produit par défaut : c’est quelque chose sur lequel nous devons tous travailler ensemble pour le rendre plus probable.
Sécurité alimentaire[24]. Les progrès technologiques dans le domaine des cultures, comme l’amélioration des engrais et des pesticides, l’automatisation et l’utilisation plus efficace des terres, ont considérablement augmenté les rendements des cultures au cours du XXe siècle, sauvant des millions de personnes de la faim. Le génie génétique améliore actuellement de nombreuses cultures. Trouver encore plus de moyens pour y parvenir, ainsi que pour rendre les chaînes d’approvisionnement agricoles encore plus efficaces, pourrait donner naissance à une deuxième révolution verte pilotée par l’IA, contribuant ainsi à combler l’écart entre le monde en développement et le monde développé.
L’atténuation du changement climatique. Le changement climatique sera ressenti beaucoup plus fortement dans les pays en développement, entravant leur développement. On peut s’attendre à ce que l’IA conduise à des améliorations dans les technologies qui ralentissent ou empêchent le changement climatique, de la technologie d’élimination du carbone atmosphérique et d’énergie propre à la viande cultivée en laboratoire qui réduit notre dépendance à l’élevage industriel à forte intensité de carbone. Bien sûr, comme nous l’avons vu plus haut, la technologie n’est pas le seul obstacle aux progrès en matière de changement climatique – comme pour toutes les autres questions abordées dans cet essai, les facteurs sociétaux humains sont importants. Mais il y a de bonnes raisons de penser que la recherche améliorée par l’IA nous donnera les moyens de rendre l’atténuation du changement climatique beaucoup moins coûteuse et moins perturbatrice, rendant ainsi de nombreuses objections sans objet et permettant aux pays en développement de faire plus de progrès économiques.
Inégalités au sein des pays. J’ai surtout parlé des inégalités comme d’un phénomène mondial (ce qui est à mon avis sa manifestation la plus importante), mais bien sûr, les inégalités existent aussi au sein des pays. Avec les interventions médicales avancées et en particulier l’allongement radical de la durée de vie ou les médicaments améliorant les capacités cognitives, il y aura certainement des inquiétudes légitimes quant au fait que ces technologies ne soient « que pour les riches ». Je suis plus optimiste quant aux inégalités au sein des pays, en particulier dans le monde développé, pour deux raisons. Tout d’abord, les marchés fonctionnent mieux dans le monde développé et ils sont généralement efficaces pour faire baisser le coût des technologies à forte valeur ajoutée au fil du temps[25]. Ensuite, les institutions politiques du monde développé sont plus réceptives à leurs citoyens et ont une plus grande capacité étatique à mettre en œuvre des programmes d’accès universel – et je m’attends à ce que les citoyens exigent l’accès à des technologies qui améliorent aussi radicalement la qualité de vie. Bien sûr, il n’est pas prédéterminé que de telles demandes aboutissent – et c’est un autre domaine dans lequel nous devons collectivement faire tout ce que nous pouvons pour garantir une société équitable. Il existe un problème distinct lié à l’inégalité des richesses (par opposition à l’inégalité d’accès aux technologies qui sauvent et améliorent la vie), qui semble plus difficile à résoudre et dont je parle dans la section 5.
Le problème du refus de l’IA. Dans les pays développés comme dans les pays en développement, les gens se détournent des avantages offerts par l’IA (comme le mouvement anti-vaccin ou les mouvements luddites en général). Il pourrait en résulter des cycles de rétroaction négatifs où, par exemple, les personnes les moins capables de prendre de bonnes décisions se retireraient des technologies qui améliorent leurs capacités de prise de décision, ce qui conduirait à un écart toujours plus grand et même à la création d’une sous-classe dystopique (certains chercheurs ont avancé que cela porterait atteinte à la démocratie , un sujet que j’aborderai plus en détail dans la section suivante). Cela porterait, une fois de plus, atteinte morale aux avancées positives de l’IA. C’est un problème difficile à résoudre car je ne pense pas qu’il soit éthiquement acceptable de contraindre les gens, mais nous pouvons au moins essayer d’accroître la compréhension scientifique des gens – et peut-être que l’IA elle-même peut nous y aider. Un signe encourageant est que les mouvements anti-technologie ont toujours été plus agressifs que mordants : les critiques contre la technologie moderne sont populaires, mais la plupart des gens finissent par l’adopter, du moins lorsqu’il s’agit d’un choix individuel. Les individus ont tendance à adopter la plupart des technologies de santé et de consommation, tandis que les technologies qui sont vraiment entravées, comme l’énergie nucléaire, ont tendance à être le résultat de décisions politiques collectives.

Dans l’ensemble, je suis optimiste quant à la possibilité de mettre rapidement à la disposition des populations des pays en développement les avancées biologiques de l’IA. J’ai bon espoir, même si je ne suis pas convaincu, que l’IA puisse également favoriser des taux de croissance économique sans précédent et permettre aux pays en développement de dépasser au moins le niveau actuel des pays développés. Je suis préoccupé par le problème du « retrait » dans les pays développés comme dans les pays en développement, mais je pense qu’il s’atténuera avec le temps et que l’IA peut contribuer à accélérer ce processus. Ce ne sera pas un monde parfait et ceux qui sont à la traîne ne rattraperont pas complètement leur retard, du moins pas dans les premières années. Mais avec de gros efforts de notre part, nous pourrions peut-être faire avancer les choses dans la bonne direction – et rapidement. Si nous y parvenons, nous pourrons au moins tenir les promesses de dignité et d’égalité que nous devons à chaque être humain sur terre.

4. Paix et gouvernance

Supposons que tout se passe bien dans les trois premières sections : la maladie, la pauvreté et les inégalités sont considérablement réduites et le niveau de référence de l’expérience humaine est considérablement élevé. Il ne s’ensuit pas que toutes les causes majeures de la souffrance humaine soient résolues. Les humains constituent toujours une menace les uns pour les autres. Bien qu’il y ait une tendance à l’amélioration technologique et au développement économique menant à la démocratie et à la paix, il s’agit d’une tendance très lâche, avec des reculs fréquents (et récents). À l’aube du XXe siècle, les gens pensaient avoir laissé la guerre derrière eux ; puis sont arrivées les deux guerres mondiales. Il y a trente ans, Francis Fukuyama a écrit sur « la fin de l’histoire » et le triomphe final de la démocratie libérale ; cela n’est pas encore arrivé. Il y a vingt ans, les décideurs politiques américains pensaient que le libre-échange avec la Chine entraînerait la libéralisation de ce pays à mesure qu’il s’enrichirait ; cela n’a pas du tout été le cas, et nous semblons maintenant nous diriger vers une deuxième guerre froide avec un bloc autoritaire renaissant. Des théories plausibles suggèrent que la technologie Internet pourrait en réalité favoriser l’autoritarisme, et non la démocratie comme on le croyait initialement (par exemple pendant la période du « Printemps arabe »). Il semble important d’essayer de comprendre comment l’intelligence artificielle puissante interagit avec ces questions de paix, de démocratie et de liberté.

Malheureusement, je ne vois aucune raison valable de croire que l’IA fera progresser la démocratie et la paix de manière préférentielle ou structurelle, de la même manière que je pense qu’elle fera progresser la santé humaine et réduira la pauvreté. Les conflits humains ont plusieurs faces et l’IA peut en principe aider à la fois les « bons » et les « méchants ». Au contraire, certains facteurs structurels semblent inquiétants : l’IA semble susceptible de permettre une bien meilleure propagande et une meilleure surveillance, deux outils majeurs dans la boîte à outils de l’autocrate. Il nous appartient donc, en tant qu’acteurs individuels, de faire pencher la balance dans la bonne direction : si nous voulons que l’IA favorise la démocratie et les droits individuels, nous allons devoir nous battre pour obtenir ce résultat. Je suis encore plus convaincu de cela que de l’inégalité internationale : le triomphe de la démocratie libérale et de la stabilité politique n’est pas garanti, peut-être même pas probable, et nécessitera de grands sacrifices et un engagement de notre part, comme cela a souvent été le cas par le passé.

Je pense que le problème se présente sous deux aspects : les conflits internationaux et la structure interne des nations. Sur le plan international, il me semble très important que les démocraties aient l’avantage sur la scène mondiale lorsque des IA puissantes sont créées. L’autoritarisme basé sur l’IA semble trop terrible pour être envisagé, c’est pourquoi les démocraties doivent être en mesure de définir les conditions dans lesquelles une IA puissante est mise au monde, à la fois pour éviter d’être dominées par des régimes autoritaires et pour empêcher les violations des droits de l’homme dans les pays autoritaires.

Je pense que la meilleure façon d’y parvenir est de mettre en place une « stratégie d’entente » [26], dans laquelle une coalition de démocraties chercherait à obtenir un avantage clair (même temporaire) sur une IA puissante en sécurisant sa chaîne d’approvisionnement, en évoluant rapidement et en bloquant ou en retardant l’accès des adversaires à des ressources clés comme les puces et les semi-conducteurs. Cette coalition utiliserait d’un côté l’IA pour obtenir une solide supériorité militaire (le bâton) tout en proposant en même temps de distribuer les avantages d’une IA puissante (la carotte) à un groupe de plus en plus large de pays en échange du soutien à la stratégie de la coalition visant à promouvoir la démocratie (ce qui serait un peu analogue à « Atoms for Peace »). La coalition aurait pour objectif de gagner le soutien d’une part de plus en plus grande du monde, en isolant nos pires adversaires et en les plaçant finalement dans une position où ils feraient mieux de conclure le même marché que le reste du monde : renoncer à rivaliser avec les démocraties afin de recevoir tous les avantages et de ne pas combattre un ennemi supérieur.

Si nous parvenons à faire tout cela, nous vivrons dans un monde dans lequel les démocraties domineront la scène internationale et disposeront de la puissance économique et militaire nécessaire pour éviter d’être minées, conquises ou sabotées par les autocraties, et pourront peut-être transformer leur supériorité en intelligence artificielle en un avantage durable. Cela pourrait conduire, avec optimisme, à un « éternel 1991 » – un monde où les démocraties auront le dessus et où les rêves de Fukuyama se réaliseront. Là encore, cela sera très difficile à réaliser et nécessitera notamment une coopération étroite entre les entreprises privées d’intelligence artificielle et les gouvernements démocratiques, ainsi que des décisions extrêmement judicieuses sur l’équilibre à trouver entre la carotte et le bâton.

Même si tout se passe bien, il reste à résoudre la question de la lutte entre démocratie et autocratie au sein de chaque pays. Il est évidemment difficile de prédire ce qui se passera ici, mais je suis assez optimiste quant au fait que, dans un environnement mondial où les démocraties contrôlent l’IA la plus puissante, l’IA pourrait effectivement favoriser structurellement la démocratie partout. En particulier, dans cet environnement, les gouvernements démocratiques peuvent utiliser leur IA supérieure pour gagner la guerre de l’information : ils peuvent contrer les opérations d’influence et de propagande des autocraties et peuvent même être en mesure de créer un environnement d’information libre à l’échelle mondiale en fournissant des canaux d’information et des services d’IA d’une manière que les autocraties n’ont pas la capacité technique de bloquer ou de surveiller. Il n’est probablement pas nécessaire de faire de la propagande, mais seulement de contrer les attaques malveillantes et de débloquer la libre circulation de l’information. Bien que ce ne soit pas immédiat, un terrain de jeu équitable comme celui-ci a de bonnes chances de faire progressivement pencher la gouvernance mondiale vers la démocratie, pour plusieurs raisons.

Premièrement, les améliorations de la qualité de vie observées dans les sections 1 à 3 devraient, toutes choses égales par ailleurs, favoriser la démocratie : elles l’ont historiquement fait, au moins dans une certaine mesure. Je m’attends en particulier à ce que les améliorations de la santé mentale, du bien-être et de l’éducation renforcent la démocratie, car ces trois aspects sont négativement corrélés au soutien aux dirigeants autoritaires. En général, les gens veulent davantage s’exprimer lorsque leurs autres besoins sont satisfaits, et la démocratie est entre autres une forme d’expression de soi. À l’inverse, l’autoritarisme se nourrit de la peur et du ressentiment.

Deuxièmement, il y a de fortes chances que l’information libre porte réellement atteinte à l’autoritarisme, tant que les dirigeants autoritaires ne peuvent pas la censurer. Et l’IA non censurée peut aussi fournir aux individus des outils puissants pour affaiblir les gouvernements répressifs. Les gouvernements répressifs survivent en refusant aux gens un certain type de connaissance commune, en les empêchant de se rendre compte que « l’empereur est nu ». Par exemple, Srđa Popović , qui a contribué à renverser le gouvernement de Milošević en Serbie, a beaucoup écrit sur les techniques permettant de dépouiller psychologiquement les autocrates de leur pouvoir, de briser le sortilège et de rallier des soutiens contre un dictateur. Une version IA de Popović surhumainement efficace (dont les compétences semblent avoir un rendement élevé en intelligence) dans la poche de tout le monde, une version que les dictateurs seraient incapables de bloquer ou de censurer, donnerait du souffle aux dissidents et aux réformateurs du monde entier. Je le répète, ce sera un combat long et interminable, dont la victoire n’est pas assurée, mais si nous concevons et construisons l’IA de la bonne manière, ce sera peut-être au moins un combat dans lequel les défenseurs de la liberté partout dans le monde auront un avantage.

Comme pour les neurosciences et la biologie, nous pouvons aussi nous demander comment les choses pourraient être « meilleures que la normale » – pas seulement comment éviter l’autocratie, mais comment rendre les démocraties meilleures qu’elles ne le sont aujourd’hui. Même au sein des démocraties, des injustices se produisent en permanence. Les sociétés fondées sur l’État de droit promettent à leurs citoyens que tout le monde sera égal devant la loi et que chacun verra respectés les droits fondamentaux de l’homme, mais il est évident que les gens ne bénéficient pas toujours de ces droits dans la pratique. Le fait que cette promesse soit même partiellement tenue est une source de fierté, mais l’IA peut-elle nous aider à faire mieux ?

Par exemple, l’IA pourrait-elle améliorer notre système juridique et judiciaire en rendant les décisions et les processus plus impartiaux ? Aujourd’hui, les gens craignent surtout que les systèmes d’IA soient une cause de discrimination dans les contextes juridiques ou judiciaires , et ces craintes sont importantes et doivent être combattues. Dans le même temps, la vitalité de la démocratie dépend de l’exploitation des nouvelles technologies pour améliorer les institutions démocratiques, et pas seulement pour répondre aux risques. Une mise en œuvre véritablement mature et réussie de l’IA a le potentiel de réduire les préjugés et d’être plus équitable pour tous.

Depuis des siècles, les systèmes juridiques sont confrontés au dilemme suivant : la loi se veut impartiale, mais elle est par nature subjective et doit donc être interprétée par des humains partiaux. Tenter de rendre la loi entièrement mécanique n’a pas fonctionné, car le monde réel est confus et ne peut pas toujours être saisi par des formules mathématiques. Au lieu de cela, les systèmes juridiques s’appuient sur des critères notoirement imprécis comme « punition cruelle et inhabituelle » ou « absolument sans importance sociale », que les humains interprètent ensuite – et le font souvent d’une manière qui fait preuve de partialité, de favoritisme ou d’arbitraire. Les « contrats intelligents » dans les cryptomonnaies n’ont pas révolutionné le droit parce que le code ordinaire n’est pas assez intelligent pour statuer sur autant d’intérêts. Mais l’IA pourrait être suffisamment intelligente pour cela : c’est la première technologie capable de rendre des jugements larges et flous de manière répétable et mécanique.

Je ne propose pas de remplacer littéralement les juges par des systèmes d’IA, mais la combinaison de l’impartialité et de la capacité à comprendre et à traiter des situations complexes du monde réel semble avoir des applications positives sérieuses dans le domaine du droit et de la justice. Au minimum, de tels systèmes pourraient fonctionner aux côtés des humains comme une aide à la prise de décision. La transparence serait importante dans tout système de ce type, et une science de l’IA mature pourrait vraisemblablement la fournir : le processus de formation de tels systèmes pourrait être étudié en profondeur, et des techniques d’interprétation avancées pourraient être utilisées pour voir à l’intérieur du modèle final et l’évaluer pour y déceler des biais cachés, d’une manière qui n’est tout simplement pas possible avec des humains. De tels outils d’IA pourraient également être utilisés pour surveiller les violations des droits fondamentaux dans un contexte judiciaire ou policier, rendant ainsi les Constitutions plus auto-exécutoires.

Dans la même optique, l’IA pourrait être utilisée pour rassembler les opinions et favoriser le consensus entre les citoyens, résoudre les conflits, trouver un terrain d’entente et rechercher des compromis. Certaines idées dans ce sens ont été mises en œuvre par le projet Computational Democracy, notamment en collaboration avec Anthropic. Une population mieux informée et plus réfléchie renforcerait évidemment les institutions démocratiques.

L’IA a également la possibilité de contribuer à la fourniture de services publics, comme les prestations de santé ou les services sociaux, qui sont en principe accessibles à tous mais qui, dans la pratique, sont souvent très insuffisants et pires dans certains endroits que dans d’autres. Cela inclut les services de santé, les transports, les impôts, la sécurité sociale, l’application du code de la construction, etc. Avoir une IA très réfléchie et informée, dont la tâche consiste à vous donner tout ce à quoi le gouvernement doit légalement vous donner accès d’une manière que vous puissiez comprendre – et qui vous aide également à vous conformer à des règles gouvernementales souvent déroutantes – serait un atout majeur. L’augmentation des capacités de l’État contribue à la fois à tenir la promesse d’égalité devant la loi et à renforcer le respect de la gouvernance démocratique. Les services mal mis en œuvre sont actuellement l’un des principaux moteurs du cynisme à l’égard du gouvernement[27].

Toutes ces idées sont assez vagues et, comme je l’ai dit au début de cette section, je ne suis pas aussi confiant dans leur faisabilité que dans les progrès de la biologie, des neurosciences et de la réduction de la pauvreté. Elles sont peut-être utopiques et irréalistes. Mais l’important est d’avoir une vision ambitieuse, d’être prêt à rêver grand et à essayer des choses. La vision de l’IA comme garante de la liberté, des droits individuels et de l’égalité devant la loi est une vision trop puissante pour ne pas se battre. Un système politique du XXIe siècle basé sur l’IA pourrait être à la fois un meilleur protecteur de la liberté individuelle et un phare d’espoir qui contribuerait à faire de la démocratie libérale la forme de gouvernement que le monde entier souhaite adopter.

5. Travail et sens

Même si tout se passe bien dans les quatre sections précédentes (non seulement nous réduisons la maladie, la pauvreté et les inégalités, mais la démocratie libérale devient la forme dominante de gouvernement et les démocraties libérales existantes deviennent de meilleures versions d’elles-mêmes), au moins une question importante demeure. « C’est formidable que nous vivions dans un monde aussi avancé sur le plan technologique, juste et décent », pourrait objecter quelqu’un, « mais avec l’IA qui fait tout, comment les humains auront-ils un sens ? Et d’ailleurs, comment survivront-ils économiquement ? ».

Je pense que cette question est plus difficile que les autres. Je ne veux pas dire que je suis nécessairement plus pessimiste à ce sujet que sur les autres questions (même si je vois des défis). Je veux dire qu’elle est plus floue et plus difficile à prévoir à l’avance, car elle concerne des questions macroscopiques sur la façon dont la société est organisée, qui ont tendance à se résoudre uniquement avec le temps et de manière décentralisée. Par exemple, les sociétés historiques de chasseurs-cueilleurs ont pu imaginer que la vie n’avait aucun sens sans la chasse et les divers types de rituels religieux liés à la chasse, et auraient pu imaginer que notre société technologique bien nourrie était dépourvue de but. Elles n’ont peut-être pas non plus compris comment notre économie peut subvenir aux besoins de tous, ou quelle fonction les gens peuvent utilement remplir dans une société mécanisée.

Néanmoins, il vaut la peine d’en dire au moins quelques mots, tout en gardant à l’esprit que la brièveté de cette section ne doit pas du tout être interprétée comme un signe que je ne prends pas ces questions au sérieux – au contraire, c’est le signe d’un manque de réponses claires.

En ce qui concerne la question du sens, je pense que c’est probablement une erreur de croire que les tâches que vous entreprenez n’ont aucun sens simplement parce qu’une IA pourrait les faire mieux. La plupart des gens ne sont pas les meilleurs au monde dans aucun domaine, et cela ne semble pas les déranger particulièrement. Bien sûr, aujourd’hui, ils peuvent toujours apporter leur contribution grâce à un avantage comparatif et peuvent tirer un sens de la valeur économique qu’ils produisent, mais les gens apprécient aussi beaucoup les activités qui n’ont aucune valeur économique. Je passe beaucoup de temps à jouer à des jeux vidéo, à nager, à me promener dehors et à discuter avec des amis, ce qui ne génère aucune valeur économique. Je peux passer une journée à essayer de m’améliorer dans un jeu vidéo ou de grimper une montagne plus rapidement à vélo, et cela ne m’importe pas vraiment que quelqu’un, quelque part, soit bien meilleur dans ces domaines. Dans tous les cas, je pense que le sens vient principalement des relations et des liens humains, et non du travail économique. Les gens veulent un sentiment d’accomplissement, voire de compétition, et dans un monde post-IA, il sera parfaitement possible de passer des années à tenter une tâche très difficile avec une stratégie complexe, semblable à ce que font les gens aujourd’hui lorsqu’ils se lancent dans des projets de recherche, tentent de devenir des acteurs hollywoodiens ou fondent des entreprises[28]. Le fait que (a) une IA quelque part pourrait en principe accomplir cette tâche mieux, et (b) cette tâche ne constitue plus un élément économiquement gratifiant de l’économie mondiale, ne me semble pas avoir beaucoup d’importance.

En réalité, le volet économique me paraît plus difficile à résoudre que le volet sens. Par « économique », j’entends dans cette section le problème éventuel que la plupart, voire la totalité, des humains pourraient ne pas être en mesure de contribuer de manière significative à une économie suffisamment avancée, axée sur l’IA. Il s’agit d’un problème plus macroéconomique que le problème distinct des inégalités, en particulier celles liées à l’accès aux nouvelles technologies, que j’ai évoqué dans la section 3.

Tout d’abord, à court terme, je suis d’accord avec les arguments selon lesquels l’avantage comparatif continuera de maintenir la pertinence des humains et d’accroître leur productivité, et pourrait même, d’une certaine manière, égaliser les règles du jeu entre les humains . Tant que l’IA ne sera meilleure que dans 90 % d’un travail donné, les 10 % restants entraîneront un endettement important des humains, ce qui augmentera les rémunérations et créera en fait un tas de nouveaux emplois humains complétant et amplifiant ce que l’IA fait de mieux, de sorte que les « 10 % » s’élargiront pour continuer à employer presque tout le monde. En fait, même si l’IA peut faire 100 % des choses mieux que les humains, mais qu’elle reste inefficace ou coûteuse dans certaines tâches, ou si les ressources utilisées par les humains et les IA sont sensiblement différentes, alors la logique de l’avantage comparatif continue de s’appliquer. Un domaine dans lequel les humains sont susceptibles de conserver un avantage relatif (ou même absolu) pendant une période significative est le monde physique. Ainsi, je pense que l’économie humaine peut continuer à avoir du sens même un peu après la création de ces « pays de génies dans un data center ».

Je pense néanmoins qu’à long terme, l’IA deviendra si largement efficace et si bon marché que cette idée ne sera plus valable. À ce moment-là, notre système économique actuel n’aura plus de sens et il faudra mener un débat sociétal plus large sur la manière dont l’économie devrait être organisée.

Bien que cela puisse paraître fou, le fait est que la civilisation a réussi à traverser avec succès des changements économiques majeurs dans le passé : de la chasse-cueillette à l’agriculture, de l’agriculture au féodalisme, et du féodalisme à l’industrialisation. Je soupçonne qu’une chose nouvelle et plus étrange sera nécessaire, et que personne n’a encore bien imaginée. Cela pourrait être aussi simple qu’un revenu de base universel important pour tous, même si je pense que ce ne sera qu’une petite partie de la solution. Cela pourrait être une économie capitaliste de systèmes d’IA, qui distribueraient ensuite des ressources (en quantité énorme, puisque le gâteau économique global sera gigantesque) aux humains sur la base d’une économie secondaire de ce que les systèmes d’IA pensent qu’il est logique de récompenser chez les humains (sur la base d’un jugement finalement dérivé des valeurs humaines). Peut-être que l’économie fonctionnera sur le principe des points Whuffie. Ou peut-être que les humains continueront d’avoir une valeur économique après tout, d’une manière que les modèles économiques habituels n’anticipent pas. Toutes ces solutions présentent des tonnes de problèmes potentiels, et il n’est pas possible de savoir si elles auront du sens sans de nombreuses itérations et expérimentations. Et comme pour d’autres défis, nous devrons probablement nous battre pour obtenir un bon résultat ici : des orientations exploitatrices ou dystopiques sont clairement également possibles et doivent être évitées. On pourrait écrire beaucoup plus sur ces questions et j’espère le faire à un moment donné.

Faire le point

À travers les différents sujets évoqués ci-dessus, j’ai essayé de présenter une vision d’un monde qui soit à la fois plausible si tout se passe bien avec l’IA, et bien meilleur que le monde d’aujourd’hui. Je ne sais pas si ce monde est réaliste, et même s’il l’est, il ne sera pas atteint sans un effort et une lutte considérables de la part de nombreuses personnes courageuses et dévouées. Chacun (y compris les entreprises d’IA !) devra faire sa part pour prévenir les risques et pour profiter pleinement des avantages.

Mais ce monde vaut la peine qu’on se batte pour lui. Si tout cela se produit vraiment dans les cinq à dix prochaines années – la défaite de la plupart des maladies, l’accroissement de la liberté biologique et cognitive, la sortie de milliards de personnes de la pauvreté pour leur permettre de bénéficier des nouvelles technologies, une renaissance de la démocratie libérale et des droits de l’homme – je pense que tous ceux qui le verront seront surpris par l’effet que cela aura sur eux. Je ne parle pas de l’expérience de bénéficier personnellement de toutes les nouvelles technologies, même si cela sera certainement extraordinaire. Je parle de l’expérience de voir un ensemble d’idéaux de longue date se matérialiser sous nos yeux d’un seul coup. Je pense que beaucoup seront littéralement émus aux larmes par cela.

Tout au long de la rédaction de cet essai, j’ai remarqué une tension intéressante. Dans un sens, la vision exposée ici est extrêmement radicale : elle ne correspond à ce que presque personne ne s’attend à voir se produire dans la prochaine décennie et elle paraîtra probablement à beaucoup comme un fantasme absurde. Certains ne la considéreront peut-être même pas comme souhaitable ; elle incarne des valeurs et des choix politiques avec lesquels tout le monde ne sera pas d’accord. Mais en même temps, il y a quelque chose d’aveuglant, de surdéterminé, comme si de nombreuses tentatives différentes pour imaginer un monde bon aboutissaient inévitablement à ce résultat.

Dans The Player of Games[29] de Iain M. Banks, le protagoniste, membre d’une société appelée la Culture, qui repose sur des principes qui ne sont pas sans rappeler ceux que j’ai exposés ici, se rend dans un empire répressif et militariste dans lequel le leadership est déterminé par la compétition dans un jeu de bataille complexe. Le jeu, cependant, est suffisamment complexe pour que la stratégie d’un joueur au sein de celui-ci tende à refléter sa propre vision politique et philosophique. Le protagoniste parvient à vaincre l’empereur dans le jeu, montrant que ses valeurs (les valeurs de la Culture) représentent une stratégie gagnante même dans un jeu conçu par une société basée sur la compétition impitoyable et la survie du plus fort. Un article bien connu de Scott Alexander présente la même thèse : la compétition est contre-productive et tend à conduire à une société basée sur la compassion et la coopération. L’« arc de l’univers moral » est un autre concept similaire.

Je pense que les valeurs de la Culture sont une stratégie gagnante parce qu’elles sont la somme d’un million de petites décisions qui ont une force morale évidente et qui tendent à rassembler tout le monde dans le même camp. Les intuitions humaines de base que sont l’équité, la coopération, la curiosité et l’autonomie sont difficiles à contester et sont cumulatives d’une manière qui ne l’est pas souvent pour nos pulsions les plus destructrices. Il est facile d’affirmer que les enfants ne devraient pas mourir de maladie si nous pouvons les prévenir, et de là, facile d’affirmer que tous les enfants méritent ce droit de la même manière. De là, il n’est pas difficile d’affirmer que nous devrions tous nous unir et appliquer notre intelligence pour atteindre ce résultat. Rares sont ceux qui contestent que les gens devraient être punis pour avoir attaqué ou blessé autrui inutilement, et de là, il n’y a pas beaucoup de chemin à parcourir pour arriver à l’idée que les punitions devraient être cohérentes et systématiques pour tous. Il est tout aussi intuitif que les gens devraient avoir une autonomie et une responsabilité sur leur propre vie et leurs propres choix. Ces intuitions simples, si on les pousse jusqu’à leur conclusion logique, mènent finalement à l’État de droit, à la démocratie et aux valeurs des Lumières. Si ce n’est pas inévitable, du moins en termes de tendance statistique, c’est vers quoi l’humanité se dirigeait déjà. L’IA offre simplement la possibilité de nous y amener plus rapidement, de rendre la logique plus nette et la destination plus claire.

Il n’en demeure pas moins qu’il s’agit d’une chose d’une beauté transcendante. Nous avons la possibilité de jouer un petit rôle pour la rendre réelle.

D. A.

1 https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace

2 Je m’attends à ce que la réaction d’une minorité de personnes soit « c’est plutôt calme ». Je pense que ces personnes devraient, pour reprendre le jargon de Twitter, « attendre un peu ». Mais plus important encore, ce qui est calme est bon d’un point de vue sociétal. Je pense que les gens ne peuvent pas gérer tous les changements à la fois, et le rythme que je décris est probablement proche des limites de ce que la société peut absorber sans turbulences extrêmes.

3 Je trouve que l’IAG est un terme imprécis qui a suscité beaucoup de battage médiatique et de controverses dans le domaine de la science-fiction. Je préfère parler d’« IA puissante » ou de « science et ingénierie de niveau expert », qui correspondent parfaitement à ce que je veux dire sans faire de battage médiatique.

4 Dans cet essai, j’utilise le terme « intelligence » pour désigner une capacité générale de résolution de problèmes qui peut être appliquée à divers domaines. Cela inclut des capacités telles que le raisonnement, l’apprentissage, la planification et la créativité. Bien que j’utilise le terme « intelligence » comme abréviation tout au long de cet essai, je reconnais que la nature de l’intelligence est un sujet complexe et débattu dans les sciences cognitives et la recherche en IA. Certains chercheurs soutiennent que l’intelligence n’est pas un concept unique et unifié, mais plutôt un ensemble de capacités cognitives distinctes. D’autres soutiennent qu’il existe un facteur général d’intelligence (facteur g) sous-jacent à diverses compétences cognitives. C’est un débat pour une autre fois.

5 C’est à peu près la vitesse actuelle des systèmes d’IA. Par exemple, ils peuvent lire une page de texte en quelques secondes et écrire une page de texte en peut-être 20 secondes, ce qui est 10 à 100 fois plus rapide que celui auquel les humains peuvent faire ces choses. Au fil du temps, les modèles plus grands ont tendance à ralentir ce processus, mais les puces plus puissantes ont tendance à le rendre plus rapide ; à ce jour, les deux effets se sont à peu près annulés.

6 Cela peut sembler être une position fallacieuse, mais des penseurs prudents comme Tyler Cowen et Matt Yglesias l’ont soulevé comme une préoccupation sérieuse (même si je ne pense pas qu’ils partagent pleinement ce point de vue), et je ne pense pas que ce soit fou.

7 Les travaux économiques les plus proches , à ma connaissance, de cette question sont ceux sur les « technologies à usage général » et les « investissements immatériels » qui servent de complément aux technologies à usage général. ↩

8 Cet apprentissage peut inclure un apprentissage temporaire, en contexte, ou une formation traditionnelle ; les deux seront limités par le monde physique. ↩

9 Dans un système chaotique, les petites erreurs se multiplient de manière exponentielle au fil du temps, de sorte que même une augmentation énorme de la puissance de calcul n’entraîne qu’une faible amélioration de la distance à laquelle il est possible de prédire, et dans la pratique, les erreurs de mesure peuvent encore dégrader cette distance. ↩

10 Un autre facteur est bien sûr que l’IA elle-même peut potentiellement être utilisée pour créer une IA encore plus puissante. Je suppose que cela pourrait se produire (en fait, cela se produira probablement), mais que son effet sera plus faible que vous ne l’imaginez, précisément en raison des « rendements marginaux décroissants de l’intelligence » évoqués ici. En d’autres termes, l’IA continuera de devenir plus intelligente rapidement, mais son effet sera finalement limité par des facteurs non liés à l’intelligence, et l’analyse de ces facteurs est ce qui importe le plus pour la vitesse du progrès scientifique en dehors de l’IA. ↩

11 Ces réalisations ont été pour moi une source d’inspiration et constituent peut-être l’exemple le plus puissant d’IA utilisée pour transformer la biologie. ↩

12 « Le progrès scientifique dépend de nouvelles techniques, de nouvelles découvertes et de nouvelles idées, probablement dans cet ordre. » – Sydney Brenner ↩

13 Merci à Parag Mallick d’avoir suggéré ce point. ↩

14 Je ne voulais pas encombrer le texte avec des spéculations sur les futures découvertes spécifiques que la science basée sur l’IA pourrait faire, mais voici un aperçu de certaines possibilités :

— Conception de meilleurs outils informatiques comme AlphaFold et AlphaProteo — c’est-à-dire un système d’IA général accélérant notre capacité à créer des outils de biologie computationnelle d’IA spécialisés.

— CRISPR plus efficace et sélectif.

— Thérapies cellulaires plus avancées.

— Des avancées dans la science des matériaux et la miniaturisation conduisant à de meilleurs dispositifs implantés.

— Meilleur contrôle des cellules souches, de la différenciation et de la dédifférenciation cellulaires, et une capacité résultante à régénérer ou à remodeler les tissus.

— Meilleur contrôle du système immunitaire : l’activer de manière sélective pour lutter contre le cancer et les maladies infectieuses, et le désactiver de manière sélective pour lutter contre les maladies auto-immunes. ↩

15 L’IA peut bien sûr également aider à choisir plus intelligemment les expériences à mener : améliorer la conception des expériences, tirer davantage de leçons d’une première série d’expériences afin que la deuxième série puisse se concentrer sur les questions clés, etc. ↩

16 Merci à Matthew Yglesias d’avoir suggéré ce point. ↩

17 Les maladies à évolution rapide, comme les souches multirésistantes aux médicaments qui utilisent essentiellement les hôpitaux comme un laboratoire évolutif pour améliorer continuellement leur résistance au traitement, pourraient être particulièrement difficiles à traiter et pourraient être le genre de chose qui nous empêche d’atteindre 100 %. ↩

18 Il est peut-être difficile de savoir si nous aurons doublé la durée de vie humaine en 5 à 10 ans. Même si nous y sommes parvenus, nous ne pouvons peut-être pas encore le savoir dans le délai imparti pour l’étude. ↩

19 C’est un domaine dans lequel je suis prêt, malgré les différences biologiques évidentes entre la guérison des maladies et le ralentissement du processus de vieillissement lui-même, à regarder la tendance statistique avec plus de distance et à dire : « même si les détails sont différents, je pense que la science humaine trouverait probablement un moyen de poursuivre cette tendance ; après tout, les tendances lisses dans tout ce qui est complexe sont nécessairement créées en additionnant des composants très hétérogènes. ↩

20 À titre d’exemple, on m’a dit qu’une augmentation de la croissance de la productivité de 1 % ou même de 0,5 % par an transformerait les projections liées à ces programmes. Si les idées envisagées dans cet essai se concrétisaient, les gains de productivité pourraient être bien plus importants que cela. ↩

21 Les médias adorent dépeindre des psychopathes de haut rang, mais le psychopathe moyen est probablement une personne avec de mauvaises perspectives économiques et un faible contrôle des impulsions qui finit par passer beaucoup de temps en prison. ↩

22 Je pense que cela est quelque peu analogue au fait que de nombreux résultats, mais probablement pas tous, que nous apprenons de l’interprétabilité continueraient d’être pertinents même si certains détails architecturaux de nos réseaux neuronaux artificiels actuels, tels que le mécanisme d’attention, étaient modifiés ou remplacés d’une manière ou d’une autre. ↩

23 Je pense que cela ressemble un peu à un système chaotique classique, en proie à une complexité irréductible qui doit être gérée de manière essentiellement décentralisée. Mais comme je le dis plus loin dans cette section, des interventions plus modestes sont peut-être possibles. L’économiste Erik Brynjolfsson m’a fait valoir que les grandes entreprises (comme Walmart ou Uber) commencent à avoir suffisamment de connaissances centralisées pour comprendre les consommateurs mieux que n’importe quel processus décentralisé, ce qui nous oblige peut-être à réviser les idées de Hayek sur qui possède la meilleure connaissance locale. ↩

24 Merci à Kevin Esvelt d’avoir suggéré ce point. ↩

25 Par exemple, les téléphones portables étaient à l’origine une technologie réservée aux riches, mais ils sont rapidement devenus très bon marché, les améliorations d’année en année se produisant si rapidement qu’elles ont rendu inutile tout avantage lié à l’achat d’un téléphone portable « de luxe », et aujourd’hui la plupart des gens possèdent des téléphones de qualité similaire. ↩

26 C’est le titre d’un prochain article de la RAND, qui expose approximativement la stratégie que je décris. ↩

27 Lorsque l’on pense aux institutions publiques, on pense probablement à son expérience avec le DMV [l’autorité de contrôle des permis de conduire aux Etats-Unis, NdT], l’IRS [le fisc américain, NdT], Medicare [la Sécurité Sociale américaine, NdT]ou des organismes similaires. Rendre ces expériences plus positives qu’elles ne le sont actuellement semble être un moyen efficace de lutter contre un cynisme excessif. ↩

28 En effet, dans un monde propulsé par l’IA, l’éventail de ces défis et projets possibles sera bien plus vaste qu’aujourd’hui. ↩

29 Je ne fais pas fi de ma propre règle de ne pas traiter de science-fiction, mais j’ai du mal à ne pas y faire référence au moins un peu. La vérité est que la science-fiction est l’une de nos seules sources d’expérimentations de pensée expansives sur le futur ; je pense que le fait qu’elle soit si étroitement liée à une sous-culture particulière et étroite en dit long. ↩

Emmanuel Porte-parole de l'AFT

AFT+Technoprog

Notre association interpelle la société sur les questionnements relatifs aux mutations actuelles de la condition biologique et sociale de l’humain. Son objectif est d’améliorer cette condition, notamment en allongeant radicalement la durée de vie en bonne santé. Elle cherche à promouvoir les technologies qui permettent ces transformations tout en prônant une préservation des équilibres environnementaux, une attention aux risques sanitaires, le tout dans un soucis de justice sociale.