Archives Billets/Articles Europe : Un très grand projet sur l'énergie propre ? Bienvenue dans la virosphère Les pardoxes du sapiens Vie exotique Center for Inquiry La raison et la religion Tous les articles

4 août 2008
par Jean-Paul Baquiast et Christophe Jacquemin

Conscience humaine et conscience artificielle :
un couple fécond

L'objet de cet article est de proposer au lecteur une réflexion sur les relations de la conscience artificielle avec la conscience humaine, celle la même dont nous expérimentons tous les jours les vertus – et les limites - en ce qui nous concerne.

Le besoin d'un tel travail apparaît de plus en plus évident, au fur et à mesure que des spécialistes décrivent en public, par exemple dans des Clubs de sciences ou pour la télévision, les progrès constants de la robotique en matière de conscience artificielle. Au-delà de la curiosité, la première réaction semble être l'effroi. Les commentaires des lecteurs faisant suite aux articles publiés sur ce thème dans notre revue suscitent la même constatation. Imaginer des robots capables de comportements conscients comparables à celles des hommes semble troubler profondément beaucoup de personnes.

Pourquoi cela ? Eliminons d'emblée la position des spiritualistes radicaux pour qui l'esprit humain et la conscience par laquelle il s'exprime sont des propriétés d'essence divine qu'il serait sacrilège de vouloir comprendre ou reproduire par la science. Les religions monothéistes et sans doute aussi la plupart des autres croyances religieuses ont du monde une représentation dualiste. Il existe d'une part la matière et d'autre part le spirituel lequel s'apparente au divin. Les sciences ont le droit d'étudier voire de reproduire les phénomènes matériels. Mais les faits de conscience ne peuvent et ne doivent pas faire l'objet d'études scientifiques. Ils relèvent de la foi et doivent être compris à travers les révélations qu'en ont faites les grands textes religieux et les prophètes ou prêtres seuls habilités à les interpréter. Cette position est qualifiée de dualisme par les philosophes. On sait que depuis la période dite des Lumières, le point de vue contraire, dit moniste, postule qu'il n'est pas possible de séparer l'esprit de la matière. Il s'agit de deux versions interagissantes d'une même réalité. Le monisme, sous sa forme moderne, remonte à certains philosophes de l'antiquité grecque. Il a été illustré par les écrits de Spinoza. Celui-ci n'était pas un matérialiste au sens actuel du terme, mais plutôt un panthéiste, pour qui la divinité est immanente à toutes choses. Cependant pour lui, et peut-être pour cette raison, il ne fallait pas séparer l'esprit de la matière.

Le point de vue moniste, nous le verrons, est repris par tous ceux qui étudient la conscience, que ce soit les neuroscientifiques ou les roboticiens. Un certain nombre de ces scientifiques sont croyants, mais ils considèrent comme possible de séparer celles de leurs convictions qui relèvent de la foi religieuse et celles qu'ils acquièrent en étudiant le monde à travers les instruments de la rationalité et de la science expérimentale. On ne peut pas nier cependant que depuis les Lumières, les recherches scientifiques se sont attachées à démontrer la vanité et le danger de croyances traditionnelles inspirées par les religions, pour qui certaines questions comme les origines de l'univers, la vie et la conscience ne doivent pas être matière à recherche scientifique. Les sciences sont donc globalement matérialistes. Lorsqu'elles s'efforcent d'expliquer la vie et la conscience, elles sont a priori considérées comme suspectes par les religions.

Dans le cas particulier de la conscience artificielle(1), les réticences ou les craintes qu'inspire ce concept ne relèvent pas uniquement de croyances spiritualistes intégristes, même si celles-ci sont actuellement de plus en plus répandues et intolérantes. On les rencontre aussi chez des personnes sensibles aux conséquences sociales ou politiques qui pourraient découler de la généralisation dans le monde moderne de systèmes technologiques ou robotiques dotés d'aptitudes à la conscience. Le public non spécialiste est en train de se rendre compte que le thème du robot humanisé, ayant seulement jusqu'ici fait l'objet de scénarios de science-fiction, va bientôt devenir réalité. Or beaucoup s'en inquiètent.

Autrement dit, nombre de personnes n'envisagent pas avec optimisme les prévisions relatives à l'avenir de conscience artificielle, aujourd'hui présentées par la littérature scientifique ou les vulgarisateurs. Que disent ces auteurs ? Si les sciences et technologies de l'information et de la communication (STIC ou infotechnologies) se développent au même rythme accéléré qu'actuellement, si par ailleurs aucune catastrophe globale ne vient empêcher leur diffusion dans le monde, nous côtoierons quotidiennement, dans la prochaine décennie ou au plus tard dans les vingt prochaines années, des systèmes artificiels capables de performances corporelles, intellectuelles et spirituelles analogues voire parfois supérieures à celles des humains d'aujourd'hui. Ces systèmes, de plus, seront autonomes, c'est-à-dire capables de se comporter en fonction de leurs propres intérêts, désobéissant le cas échéant aux ordres donnés par les humains. On parle d'ailleurs à leur égard de robots plus ou moins autonomes.

L'image du robot autonome est depuis longtemps présente dans l'imaginaire collectif. Sans remonter aux origines, il suffit de mentionner HAL, l'ordinateur prenant le pouvoir présenté par le film de Stanley Kubrick 2001, Odyssée de l'Espace (1968). Aujourd'hui, le film WALL. E, produit par les studios Pixar, modernise cette représentation. Il met en scène des robots dotés de toutes les qualités d'intelligence et de sensibilité propres aux humains. Le petit robot nettoyeur WALL. E, resté seul sur Terre après que l'humanité l'ait désertée, a développé une forte personnalité ... Extrêmement curieux, il se sent trop seul. Mais sa vie sera bouleversée par l'arrivée d'une petite «robote» extraterrestre prénommée Eve. Tombant instantanément amoureux d'elle, WALL. E va tout mettre en œuvre pour la séduire. Les réalisateurs du film ne donnent pas beaucoup de précisions sur les solutions technologiques permettant à ces deux robots de disposer de qualités cognitives comparables à celles des hommes, mais les spécialistes savent qu'ils se sont bornés à anticiper sur des recherches actuellement en cours.

Il faut reconnaître à sa décharge que l'argument du film WALL.E n'exploite pas la peur, trop souvent utilisée par d'autres pour générer un intérêt dramatique. Il ne nous montre pas, comme le font beaucoup d'autres films ou séries TV, des robots destructeurs. Il nous propose au contraire d'entretenir avec ses héros une relation d'empathie. Mais dans la vie réelle, la fréquentation de véritables robots autonomes, dotés de consciences et de sensibilités artificielles, ne provoquera pas seulement de l'empathie.

Beaucoup d'humains seront près à construire avec des robots-compagnons, selon l'expression consacrée, de véritables relations d'amitié. De premiers exemples existent, autour de produits japonais. Mais pour beaucoup d'autres humains, ces possibilités, comme toutes celles d'ailleurs intéressant le développement des sciences, susciteront d'abord de la méfiance. Les scientifiques et ceux qui financent leurs recherches ne vont-ils pas, selon le mot répandu, jouer les apprentis sorciers. Ne vont-ils pas mettre en circulation des entités non humaines qui, soit de leur propre chef, soit à l'incitation d'humains « malveillants » (dictateurs, terroristes, pervers) se retourneront contre les humains pour les contrôler voire les détruire ?

Il est évident que ces risques existent. Mais ils ne se limitent pas à la robotique. Le chemin actuellement suivi par l'espèce humaine montre que celle-ci est en train de modifier non seulement l'environnement terrestre, avec les risques que l'on sait, mais ses propres caractéristiques biologiques, notamment génétiques et épigénétiques. Elle peut modifier également, sans faire encore appel à l'intelligence artificielle (que nous désignerons dans la suite de cet article par l'acronyme IA), mais simplement avec de simples drogues sinon par l'abus des spectacles télévisuels, la façon dont fonctionnent les cerveaux. Personne n'est en mesure aujourd'hui de pronostiquer les effets à court terme ou à long terme de ces différents développements. Faut-il envisager des catastrophes plus ou moins étendues, touchant tous les écosystèmes ? Peut-on au contraire imaginer qu'une humanité renouvelée, parfois qualifiée de post-humaine, puisse en émerger ? Dans l'incertitude, faudrait-il appliquer un principe de précaution radical en interdisant toutes les recherches ? Mais qui pourrait ou qui voudrait procéder à de telles interdictions, à supposer qu'elles aient quelques chances de succès ?

Il faut bien admettre que des processus évolutionnaires semblant dépasser largement les capacités d'évaluation et plus encore d'intervention des organismes politiques régulateurs sont en œuvre, impliquant la participation plus ou moins passive de milliards d'hommes. On ne voit pas encore s'exprimer, sauf marginalement, de volontés conscientes visant, sinon à bloquer ces processus, du moins à les rationaliser. Les idéologues de la croissance s'en réjouiront. Pour eux de tels processus, même et surtout s'ils ne sont pas régulés, apporteront de toutes façons un progrès à l'humanité. Mais cet optimisme est de moins en moins partagé, face aux dégâts provoqués par la croissance.

Les craintes que suscite la conscience artificielle rejoignent alors les craintes suscitées par cette course irrationnelle à la croissance dans laquelle l'humanité semble engagée et dont on voit de plus en plus les limites. Non seulement l'apparition de consciences artificielles risquerait d'apporter de nouveaux éléments incontrôlables à l'explosion technoscientifique, mais elle risquerait de miner la confiance portée aux mécanismes de régulation volontaire reposant sur des prises de conscience politiques. Les militants de la décroissance ou du simple développement dit durable affirment qu'au moment où l'on mesure le peu de poids de la perception des risques, face à des phénomènes se déroulant avec l'implacabilité aveugle de tsunamis, il serait insensé de diminuer encore l'efficacité de la conscience humaine comme instrument d'un pilotage volontaire de l'avenir, en l'assimilant à des mécanismes de conscience artificielle relevant d'automatismes primaires.

Pourquoi se méfier de la conscience artificielle ?

Il faut élargir cependant le débat en reconnaissant que les procès faits à la conscience artificielle rejoignent un procès plus général fait à la science dans des sociétés développés. Celles-ci pourtant doivent en partie leurs succès aux constructions permises par cette même science. Or aujourd'hui la science, comme les applications technologiques qui en découlent, paraissent de moins en moins capables, contrairement à ce qu'espéraient les Encyclopédistes du siècle des Lumières et leurs successeurs, de faire triompher les règles de la Raison face aux préjugés obscurantistes imposées par les religions et les mythologies, elles-mêmes relayées par les illusionnistes des fausses sciences. Sans nier les mérites de la rationalité, s'exprimant dans le cadre de la pratique scientifique expérimentale (pour qui toute hypothèse doit en principe être confirmée par une expérience objective), de plus en plus de gens, y compris des scientifiques eux-mêmes, se méfient des abus qui peuvent être faits de la science(2).

Il y a d'abord les abus du scientisme. Celui-ci est souvent décrit comme une perversion de la démarche scientifique. Le scientisme, selon ses détracteurs, refuse de prendre en considération les manifestations de l'esprit et du corps qui ne peuvent être analysés et reproduits par des méthodes scientifiques classiques, à base de modèles mathématiques et logiques rigoureux. Un tel scientisme éloigne du domaine de l'étude scientifique des phénomènes et questions de grande importance que précisément des sciences modernes plus ouvertes s'attachent à étudier et intégrer : les sentiments, l'esthétique, les valeurs morales, la réflexion critique sur les finalités.

Il est évident que la réalisation de modèles de conscience artificielle qui seront nécessairement, à leurs débuts, simplificateurs, suscitera la crainte de voir le réductionnisme scientiste s'emparer, entre autres domaines, des sciences humaines et cognitives. Or pour celles-ci, comme d'ailleurs pour le bon sens ordinaire, les réalités complexes que sont l'esprit humain et la conscience ne doivent pas être niées ni artificiellement simplifiées. La même crainte d'excessive simplification avait d'ailleurs été évoquée au début de l'informatisation de la société. En ce cas, l'expérience a montré que, tout au moins dans les sociétés démocratiques, les informaticiens n'ont pas véritablement pris le pouvoir. Sera-ce le cas en matière de robotique ?

On pourrait se rassurer en considérant (à tort) que les recherches sur la conscience artificielle n'influenceront pas les neurologues et psychologues qui étudient le cerveau humain et ses manifestations. Les deux mondes, celui de la machine et celui du vivant, sont suffisamment éloignés l'un de l'autre pour que des simplifications abusives ne puissent être déduites du premier monde et imposées au second. Mais l'expérience montre que des relations existent de plus en plus. Depuis les années 1970, où l'IA a véritablement décollé, en conséquence du perfectionnement des composants et des programmes informatiques, les neurosciences et les sciences cognitives se sont considérablement inspirées des progrès de l'IA et de la robotique. En fait, les échanges se sont faits dans les deux sens. Chaque acquis de connaissance obtenu dans un domaine a été exploité par l'autre. Les bons résultats de cette méthode expliquent d'ailleurs la coopération systématique qui s'est instaurée dans la dernière décennie entre les chercheurs des différentes disciplines. Ceci ne veut pas dire cependant que le réductionnisme ait triomphé, comme le prétendent ceux qui ignorent les subtilités de ces sciences. Au contraire. Chaque domaine se heurte en permanence à de nouvelles difficultés, exigeant la recherche de nouvelles explications ou solutions, que l'autre domaine se montre généralement capable de fournir.

Il est certain par contre que l'approfondissement de la coopération avec les roboticiens oblige les sciences du cerveau et les sciences humaines en général à renoncer aux concepts et explications simplistes jusqu'ici admises non seulement par les religions mais par le sens commun. Ainsi, que ce soit en robotique ou dans les neurosciences, le concept naïf d'un espace, en machine ou dans le cortex, dédié exclusivement aux processus de génération de représentations conscientes, doit être abandonné. Ces représentations et les décisions les provoquant ou en découlant mettent en œuvre de vastes champs de forces impliquant non seulement la machine ou le corps entier mais aussi le milieu dans lequel cette machine ou ce corps évolue.

Il en résulte que les scientifiques de la conscience, qu'elle soit artificielle ou naturelle, ne vont pas, ainsi instruits, prendre le risque d'affirmer que les individus ou les groupes sont conditionnés par des déterminismes ne leur laissant aucune liberté de choix et donc aucune responsabilité à l'égard de ces choix. Aucun citoyen se voulant autonome et responsable n'accepterait de telles conclusions. Ils vont par contre étudier bien plus en détail que leurs prédécesseurs les conditions dans lesquelles les décisions petites et grandes sont prises, et les modalités permettant d'assurer le plus d'autonomie possible aux agents en charge de ces décisions. Ces conditions s'appliqueront par contre à tous, et non aux seuls humains. Le robot de demain devra en effet se comporter d'une façon aussi éthique, morale et finalement responsable que l'individu humain.

Une deuxième crainte s'exprime, avec sans doute des fondements plus solides que celles de la précédente. Elle découle du fait, de plus en plus évident, que les recherches scientifiques, dans les domaines avancés dits aussi stratégiques, sont loin de viser l'avancement désintéressé des connaissances. Si avancement il y a, il n'est que le sous-produit de pratiques par lesquelles des pouvoirs politiques et économiques visent en priorité à mieux assurer leur emprise sur les sociétés et sur le monde. Il serait excessif d'affirmer que les sciences et les technologies sont exclusivement financées et donc décidées par des militaires ou de grandes entreprises capitalistes travaillant pour le seul profit de leurs actionnaires. L'expérience montre cependant que c'est le cas à, peut-être, 80 à 90% des projets de recherche et des développements applicatifs. La robotique et l'IA ne sont pas les seules à souffrir de ce handicap. On sait que toutes les sciences émergentes, celles qui sont théoriquement les plus riches de promesses relativement à la transformation du monde - biotechnologies, nanotechnologies, infotechnologies, sciences de l'énergie, des matériaux, de l'espace et bien d'autres -, sont principalement financées par des pouvoirs visant à s'approprier leurs résultats. Robotique et IA n'échappent pas à cette règle.

Mais ceci n'est pas nouveau et a toujours trouvé des limites. L'expérience a montré que les recherches militaires ou à objectif de puissance, telles que celles concernant l'atome, l'aérospatial ou l'informatique, ont finalement bénéficié avec plus ou moins de retard à tous. Ceci sous la pression des citoyens et de nombreux scientifiques, même lorsqu'ils étaient directement impliqués dans ces recherches. Il n'y aurait pas de raison pour que la robotique et IA échappent à cette règle, si un contrôle démocratique sur leurs développements était convenablement assuré. Les extrémistes de la croissance zéro affirmeront que l'humanité pourrait très bien pu se passer de toutes ces recherches. Mais ils devraient alors admettre que les civilisations idéales, pour eux, étaient celles qui dominaient le monde avant l'ère industrielle et technoscientifique. Ils ne voudraient certainement pas se trouver reportés, même par la pensée, à de telles époques.

Dissiper le malentendu

Revenons au-delà de ces généralités sur le préjugé selon lequel les progrès de la conscience artificielle diminueraient le rôle et le poids de la conscience humaine ? Là est le malentendu qui mériterait pensons-nous d'être dissipé. Les sociétés démocratiques occidentales, depuis le siècle des Lumières et contrairement à bien d'autres, valorisent le rôle des individus comme facteurs de leur développement. Pour employer un terme un peu technique, elles considèrent les individus comme des agents proactifs et non comme des composants passifs. Elles ne nient certes pas, en général, que les individus comme les groupes soient déterminés par de grands conditionnements que les sciences s'efforcent d'étudier : géographiques, climatiques, génétiques, économiques, politiques… Mais elles mettent en valeur un processus que d'autres sociétés ne veulent pas voir ou nient, et que l'on nomme parfois l'individuation. Chaque individu, selon cette conception, dans une société qui s'enrichi et se complexifie, peut acquérir certaines marges de manœuvre à l'intérieur des différents déterminismes globaux pesant sur lui. En fonction de ses qualités propres, il peut prendre des décisions qui ne sont pas nécessairement celles des autres et qui, en principe, ne sont pas prévisibles au plan collectif. La conviction d'être un Je capable de décisions originales (autrement dit d'être un « Je primo-décisionnaire »), même si elle ne correspond pas exactement à la façon dont chaque individu exprime ses choix personnels, traduit l'importance que donnent les sociétés démocratiques à la «proactivité» des individus.

Ces décisions individuelles ne résultent pas du jeu d'un libre-arbitre hypothétique de nature quasi divine. Il s'agit d'émergences de complexité, si l'on peut dire, propres à chaque individu et à chaque situation, résultant de la conjugaison de facteurs causaux plus simples présents dans l'organisme et dans son cerveau. Comme toutes les émergences, elles ne sont ni prévisibles ni réductibles aux éléments simples les ayant provoquées. La décision une fois « émergée », c'est-à-dire prise, réorganise souvent autour d'elle l'activité du sujet tout entier. A ce stade, elle est donc causale.

L'individuation et l'organisation démocratique qui lui correspond globalement sont menacées par les théocraties et autocraties toujours en activité, mais elles semblent pour le moment encore se répandre, par suite des avantages compétitifs qu'elles confèrent. Le fait que les individus composant les sociétés démocratiques aient pu développer une relative auto-détermination a longtemps fait la force des sociétés occidentales. Leurs membres ont été les premiers à faire preuve de curiosité scientifique, face à de grandes questions dont les traditions anciennes, notamment religieuses, prétendent détenir seules les réponses. Aujourd'hui encore, les capacités de résilience ou résistance diversifiée aux agressions subies par les sociétés démocratiques, dues à l'autonomie des individus, semblent un atout important de survie pour l'avenir.

Faut-il qualifier de liberté la pro-activité dont jouissent les personnes ou «agents» dans le cadre du processus d'individuation ainsi décrit ? Peut-on, de façon plus précise, nommer conscience volontaire la capacité dont les agents individuels disposent pour essayer de s'autodéterminer ? Sans doute pas si l'on donne au concept de liberté un sens métaphysique qui l'apparenterait à la liberté absolue dont selon les dogmes religieux jouirait seule la divinité. Cependant, cette capacité à l'auto-détermination, fut-elle relative et intermittente, dont jouissent les individus dans une société démocratique ou tendant à la démocratie parait incontestable. Elle ne devrait donc pas être niée sans précautions par des hypothèses scientifiques affirmant que les individus sont entièrement déterminés par des chaînes de causalité massives ne leur laissant aucune marge d'adaptation. Le grand enjeu de la science moderne, selon nous, consiste précisément à comprendre les mécanismes qui, au niveau biologique, neurologique ou sociétal, permettent à l'individu de bénéficier de ce que l'on pourra faute de terme plus adapté continuer à nommer une conscience volontaire. Ceci n'est pas incompatible avec la recherche des déterminismes systémiques qui, notamment au niveau statistique, définissent les contenus de cette conscience et les comportements globaux en résultant.

Observons que la conscience, à supposer que cette faculté puisse être individualisée, n'est pas le monopole de l'espèce humaine dans sa forme actuelle. Elle est apparue sous des formes plus rudimentaires ou différentes au sein de bien d'autres systèmes en évolution. On ne parlera pas à leur égard de systèmes conscients mais de systèmes cognitifs, capables d'acquérir, transmettre et modifier des informations ou connaissances (cognitions) résultant de leur co-adaptation à leur environnement. Nous avons déjàconsacré plusieurs articles à ces questions, auxquels nous renvoyons le lecteur. Il convient selon nous d'insister plus particulièrement sur les facteurs épigénétiques qui permettent de comprendre les grandes évolutions collectives semblant affecter toutes les espèces vivantes, notamment l'espèce humaine. Concernant l'humanité, il s'agit notamment des relations se nouant entre les facteurs génétiques et les techniques instrumentales, utilisées de plus en plus massivement depuis l'invention des premiers outils. Nous les avons déjà évoquées sous le terme un peu barbare de systèmes anthropo-
techniques.

Conclusion

En conclusion, nous pensons que les considérations qui précèdent justifient l'hypothèse selon laquelle il ne devrait pas apparaître de contradictions entre les développements actuels et futurs de la conscience artificielle, et le rôle que par ailleurs jouent dans l'évolution globale les individus humains dotés d'un cerveau capable de générer des représentations conscientes d'elles-mêmes.

Certes, conscience artificielle et conscience «naturelle» devraient s'enrichir en se modifiant réciproquement, selon le processus dit de la co-évolution. Mais il n'y a pas de raison de supposer que les technologies de l'artificiel puissent définitivement se substituer aux « technologies » biologiques et neurologiques naturelles. De la même façon, les technologies du transport ne remettent pas en cause (quoiqu'on dise) la capacité des humains à se mouvoir sur leurs jambes. Elles se bornent à diversifier et enrichir les potentialités de la marche.

Selon nous, dans le cadre d'un scénario que l'on pourra qualifier d'optimiste, mais non d'irréaliste, les deux formes de conscience, conscience naturelle et conscience artificielle, devraient coopérer pour contribuer à étendre le champ des processus conscients au sein de l'univers.

Notes
(1) Que les Américains dénomment "Cognitive systems", dans leurs appels d'offre auprès des scientifiques [voir par exemple le site de la Defense Advanced Research Projects Agency (Agence pour les projets de recherche avancée de défense) : http://www.darpa.mil/ipto/thrust_areas/thrust_cs.asp
(2) Sur la science et la raison, on lira un débat en ligne très riche organisé par le la revue "NewScientist" de juillet 2008 :
http://www.newscientist.com/channel/opinion/dn14312

Voir aussi
Notre dossier : L'intelligence artificielle (IA).De l'IA faible à l'IA forte
Notre dossier : Vers le robot augmenté ou le post-robot
Dossier sur la conscience artificielle, par Alain Cardon.
http://www.futura-sciences.com/fr/comprendre/dossiers/doc/t/biologie/
d/conscience-artificielle-principes-architecturaux_727/c3/221/p1/

© Automates Intelligents 2008