Vers la conscience artificielle ?
L'intelligence artificielle est en plein essor. Les ordinateurs remplacent l'homme dans des tâches intellectuelles de plus en plus complexes. Cependant, quelle que soit la complexité de ces systèmes informatiques, il semble leur manquer une propriété essentielle pour être considérés comme des alter ego : la conscience …
Publié le 31 mars 2015, par dans « transhumanisme »
L’intelligence artificielle est en plein essor. Les ordinateurs remplacent l’homme dans des tâches intellectuelles de plus en plus complexes [1]. Des intelligences artificielles telles que Watson [2] parviennent aujourd’hui à comprendre des questions formulées en langage naturel. Cependant, quelle que soit la complexité de ces systèmes informatiques, il semble leur manquer une propriété essentielle pour être considérés comme des alter ego : la conscience.
Nous avons tous une conception intuitive de ce qu’est la conscience, et cependant, il est très difficile de la définir en termes précis. Durant les siècles passés, à l’ère de la métaphysique, il n’y avait pas de consensus sur le sujet, qui était une source de débats permanents. Aujourd’hui, un consensus scientifique semble se dessiner sur les mécanismes cérébraux liés à la conscience. Cependant, l’essentiel nous échappe encore : d’où nous vient cette certitude persistante d’exister qui, à nos yeux, nous différencie qualitativement des ordinateurs actuels ?
Quelques considérations métaphysiques…
Sur le plan métaphysique, deux conceptions s’affrontent : dualisme et monisme. Le dualisme, essentiellement d’origine religieuse, considère que l’origine de la conscience est extérieure à notre monde, et que la compréhension de son fonctionnement est hors de notre portée. Le monisme, conception matérialiste largement renforcée par les progrès de la science, considère que la conscience est un phénomène émergent, dont le support sont les atomes de notre corps (et en particulier de notre cerveau), et dont la compréhension n’est qu’une question de temps. Toutefois, quand bien même la conscience découlerait de causes extérieures à notre monde, rien ne dit que ces causes n’obéissent pas également à des lois, ne seraient-ce que statistiques. Au final, que le support de la conscience soit matériel ou de nature inconnue, la question fondamentale est plutôt de savoir si elle est bel et bien un phénomène.
En effet, un phénomène (une onde, un programme, un comportement…) est par définition indépendant de son support, et peut donc être reproduit sur un autre support similaire. Ainsi, si la conscience résulte des signaux électriques de notre cerveau, il est indifférent que l’on remplace une à une les cellules de notre boîte crânienne. Si l’on poursuit le raisonnement, on pourrait remplacer ces cellules par des composants électroniques au comportement identique, puis ces composants par un programme informatique simulant leur fonctionnement [3] : le phénomène resterait inchangé. Si le support de la conscience est extérieur à notre monde, cela nous complique certes énormément la tâche, mais ne modifie pas la nature du problème : a priori, tout phénomène peut être simulé si l’on dispose d’une puissance de calcul suffisante.
Le problème serait en revanche différent si la conscience était, non pas un phénomène, mais une substance : quelque chose qui ne peut être dupliqué, rendant chaque conscience unique. Cependant, là encore, rien n’empêcherait a priori de produire cette substance artificiellement, puisqu’elle peut déjà être produite biologiquement (par le développement progressif d’un embryon). Si notre cerveau n’est composé que d’atomes, alors la conscience pourrait tout aussi bien se lier à un autre agencement d’atomes, produit artificiellement. C’est notamment le point de vue de courants transhumanistes d’inspiration religieuse [4].
Ainsi, que l’on adopte un point de vue moniste ou dualiste, que la conscience soit phénoménale ou substantielle, il ne semble pas y avoir d’obstacle de principe à la création d’une conscience artificielle. Notons cependant que la plupart des découvertes scientifiques tendent, jusqu’à présent, à valider la conception moniste et phénoménale.
La conscience, pure illusion ?
Les mécanismes élémentaires du cerveau ne sont plus un mystère depuis longtemps. Le cerveau est un vaste assemblage de cellules inter-connectées, dont chacune peut être vu comme un composant électronique : elle possède des fils d’entrée et de sortie, et les signaux électriques reçus en entrée, combinés à sa mémoire interne, déterminent les signaux en sortie. Le cerveau apparaît ainsi comme un système déterministe et de complexité finie, ce qui renforce l’analogie informatique. Cependant, nous sommes encore loin de comprendre comment ce câblage neuronal produit nos pensées.
En particulier, si le cerveau est un système fini et déterministe, il faut rechercher quel est le rôle de la conscience dans le fonctionnement des individus. En effet, on ne peut nier un grand nombre de comportements complexes qui s’effectuent de façon inconsciente (actes manqués, somnambulisme…). Plus troublant encore : des expériences simples [5] semblent montrer que nous prenons des décisions inconscientes, puis que nous nous persuadons a posteriori qu’il s’agit de décisions conscientes !
Cette faculté de la conscience à se leurrer elle-même est parfaitement illustrée par le syndrome dit du « split-brain » [6]. Il existe une malformation rare du cerveau où les deux hémisphères sont entièrement séparés (aucun neurone ne les relie). Étrangement, les individus victimes de cette malformation ont un comportement tout à fait normal, à quelques anomalies près. En effet, si l’on montre une image à un seul œil du patient, on communique une information à un seul des deux hémisphères, ce qui le conduit à effectuer une certaine action. Or, de façon incroyable, l’autre hémisphère va s’attribuer la paternité de cette action, en imaginant une fausse raison pour la justifier ! Nous avons donc ici des individus composés de deux cerveaux disjoints, mais qui se persuadent chacun de former une seule conscience. Et cela fonctionne plutôt bien.
On voit donc la nature hautement volatile, pour ne pas dire illusoire, de la conscience. Comment comprendre et reproduire un phénomène qui donne parfois l’impression aux scientifiques ne jouer aucun rôle dans notre comportement, et qui semble émerger d’entités séparées ?
Cependant, à défaut de comprendre la conscience, on est aujourd’hui capable d’en observer certaines manifestations. Cela est remarquablement bien synthétisé dans le livre Le Code de la conscience du neuroscientifique Stanislas Dehaene. L’idée est que le cerveau est composé de plusieurs régions, chacune dédiée à une certaine fonction (le goût, le toucher, la peur, le désir…). Ces régions sont reliées entre elles par des « autoroutes », qui prennent la forme de circuits neuronaux longs de plusieurs centimètres. Or, on fait les observations suivantes par IRM :
– Dans le cas d’une action réflexe inconsciente, seule une zone précise du cerveau est activée.
– Dans le cas d’une action reconnue a posteriori comme consciente, on observe une activation globale de toutes les zones du cerveau, par le truchement de ces « autoroutes ».
Ce procédé permet notamment de déterminer si des patients paralysés suite à un grave accident sont toujours conscients. Ainsi, la conscience n’est pas une pure illusion, et a des manifestation objectives observables. Même si le mystère de la conscience reste entier, nous avons ici une première piste pour tenter de percer à jour son fonctionnement.
Une conscience artificielle, pour quoi faire ?
Au-delà de la faisabilité technique, on peut s’interroger sur l’intérêt de créer une conscience artificielle. Au fond, pourquoi chercher à reproduire ce qui existe déjà à plus de 7 milliards d’exemplaires ?
Une première raison est la libération du support biologique. Notre corps et notre cerveau sont issus d’un long et fastidieux processus de sélection naturelle, et leur fonctionnement est loin d’être optimisé. En particulier, les signaux électriques du cerveau sont de nature électrochimique, ce qui les rend à la fois extrêmement lents et extrêmement gourmands en énergie. Par ailleurs, cela permettrait d’éviter la lente dégradation de nos tissus cérébraux, et donc la perte progressive de nos facultés cognitives. Enfin, la possibilité de sauvegarder numériquement sa conscience réduirait énormément les risques de « disparaître » par accident.
Mais tout cela reste de l’ordre du confort, de la performance et de la sécurité, et ne modifie pas qualitativement l’expérience que nous pouvons avoir de la conscience. Or, une fois numérisée, nous pourrions chercher à « augmenter » notre conscience. Des progrès se feront probablement en ce sens sur le plan biologique (drogues, médicaments, hormones…). Cependant, dans le cas d’une conscience numérique, les possibilités deviennent innombrables, et n’ont de limite que la puissance de calcul des ordinateurs (qui continue à croître exponentiellement). En effet, nous sommes plus « conscients » à l’âge adulte qu’à la naissance. En poursuivant cette analogie, nous pourrions imaginer des niveaux de conscience infiniment plus élevés, par rapport auxquels nous ne serions que des nourrissons balbutiants aux perceptions floues. Nous pourrions augmenter notre empathie, notre finesse sensorielle, notre sensibilité artistique, notre intelligence, notre créativité, nos sentiments… et peut-être même créer des consciences collectives.
De telles perspectives comportent bien sûr de terribles dangers. En particulier, une augmentation trop rapide d’un nombre trop restreint d’individus (voire d’un seul) pourrait avoir des conséquences désastreuses. D’une part, cela leur conférerait une puissance démesurée par rapport au reste de l’humanité. D’autre part, la brutalité de l’augmentation pourrait affecter leur stabilité mentale, leur faisant perdre leurs repères éthiques ou leur sens de l’empathie. En combinant ces deux risques, nous sommes potentiellement face à un risque existentiel pour l’humanité, voire même pour la vie consciente en général, quelle que soit sa nature (animale, humaine, post-humaine, artificielle…). Par ailleurs, à moindre échelle, des individus mal intentionnés pourraient copier des consciences à leur insu et les exploiter comme bon leur semble, ou « hacker » des consciences de façon bien plus radicale que par la propagande ou l’endoctrinement.
La conscience artificielle porte donc à la fois d’immenses promesses et d’immenses périls. Afin d’en tirer le meilleur et d’éviter ces écueils, il convient dès à présent de définir un cadre éthique adapté à ces augmentations radicales, et d’orienter les recherches en la matière dans une direction qui semble universellement souhaitable. Certains choisiront de s’opposer frontalement à ces avancées, en raison des dangers qu’elles comportent. Cependant, il serait tout aussi dangereux de partir du principe qu’elles ne se feront pas, car les individus qui en ont le pouvoir chercheront fatalement à contourner la loi. Il faut donc au moins considérer cette possibilité, et réfléchir à la manière dont ce courant pourrait être orienté positivement. En effet, si la recherche de puissance individuelle tend à briser les obstacles qui barrent sa route, elle est en revanche très passive par rapport au « Zeitgeist » [7] qui la détermine (religieux, communiste, libéral…). Ce futur Zeitgeist est encore à inventer, et il faut en planter les germes dès aujourd’hui.
Notes
[1] http://www.humanite.fr/lautomatisation-ne-detruit-pas-le-travail-mais-lemploi-salarie-568403
[2] http://fr.wikipedia.org/wiki/Watson_%28intelligence_artificielle%29
[4] http://en.wikipedia.org/wiki/Mormon_Transhumanist_Association
[5] http://www.informationphilosopher.com/freedom/libet_experiments.html
[6] http://www.nobelprize.org/educational/medicine/split-brain/background.html
[7] http://fr.wikipedia.org/wiki/Zeitgeist
Alexandre
Tweeter