Pour en savoir plus sur Alain Cardon,
voir son site http://www.alaincardon.net/

Automates Intelligents (AI) : Cher professeur Cardon, notre revue a suivi et commenté vos travaux sur la conscience artificielle depuis ses débuts (1). Aujourd'hui, vous publiez sur notre site votre dernier ouvrage «Un modèle constructible de système psychique »(2).
Comment définiriez-vous ce livre par rapport aux précédents?

Alain Cardon (AC) : Cet ouvrage concrétise un travail pluridisciplinaire de plusieurs années, mené avec le psychiatre Pierre Marchais, travail centré sur la modélisation du système psychique. Ce système génère intentionnellement des représentations des multiples choses du monde afin de les éprouver, les évaluer et les modifier. Il génère ce faisant le flot des pensées et met ainsi le corps en posture d'agir.

Il s'agissait pour nous de confronter deux approches, celle d'un clinicien qui a très longtemps observé, analysé et classé les cas pathologiques et la mienne, qui consiste à considérer que le système psychique est un système complexe informatique très particulier. Il l'est en ce sens qu'il manipule principalement de l'information dans de multiples niveaux informationnels à la fois dépendants et concurrents, qui sont en quelque sorte contrôlés grâce à l'architecture du système.

J'ai donc dû, en conséquence de cette confrontation, concevoir un modèle selon le paradigme constructiviste de l'informatique permettant de retrouver d'une part les éléments de base, leur architecture et, d'autre part, le contrôle. Il s'agit d'un auto-contrôle distribué, fluide, permettant de générer intentionnellement au bénéfice du système les représentations complexes qu'il éprouve et qu'ainsi il manipule.

J'ai introduit pour cela un élément important, le concept d'un nouveau type de contrôle, expliquant à la fois la rationalité de l'esprit et ses dérives pathologiques inévitables. C'est, si l'on veut, la transposition dans le calculable informationnel des topiques freudiennes qui utilisaient le concept d'énergie, un calculable informationnel qui manipule et créé de l'information sous forme de nuées de processus coactifs. Evidemment, cette information utilise et est utilisée par un corps sensible, également artificiel. Ici, la technologie robotique et électronique actuelle va très loin et permet de réaliser des prouesses.

AI : Pourquoi avoir choisi une édition en ligne de votre ouvrage, sous la licence "Creative Commons", qui ne rétribue pas l'auteur et encourage le téléchargement ?

AC : La modélisation que je propose est originale, pluridisciplinaire, et surtout elle est constructible et de niveau méta par rapport aux systèmes spécialisés que l'on utilise habituellement. Cela veut dire que certaines personnes, dans certaines institutions, utilisant cette modélisation, pourront construire un système qui pensera intentionnellement, qui créera et contrôlera de multiples systèmes informatiques et électroniques distribués ainsi que des échanges informationnels, tels le flot des messages échangés sur Internet, afin de les manipuler en temps réel. Il me semble donc nécessaire que tous les citoyens, je dis bien tous, soient au courant de ces possibilités techniques. Ils doivent comprendre que celles-ci ne sont pas neutres, que d'autres déjà les utilisent sans le dire. Ils doivent donc décider, en pleine connaissance, de les faire développer ou de ne pas les faire développer.

Le prix d'un livre et sa faible diffusion ne me semblent pas un bon moyen d'informer de ces problèmes. Il me semble qu'il y a une certaine urgence à communiquer sur ces sujets et le téléchargement gratuit en est le meilleur moyen.

AI : Votre livre est préfacé par le docteur Pierre Marchais, psychiatre, auteur de nouveaux ouvrages sur l'esprit dans ses états normaux ou pathologiques. Comment avez-vous été conduits à collaborer ? Et que pourriez-vous continuer à faire ensemble?

AC : J'ai connu le docteur Pierre Marchais dans la société savante dont nous sommes membres, l'Académie Européenne Interdisciplinaire des Sciences (http://www.science-inter.com/index.htm). Nous avons constaté la très forte convergence de nos idées et projets. Nous avons travaillé ensemble et nous continuons nos recherches communes pour les approfondir, notamment dans la recherche des processus causaux internes produisant les dysfonctionnements, c'est-à-dire les pathologies. L'objectif est de proposer une autre classification de ces pathologies prenant en compte les processus causaux multiples avec leurs évolutions, et pas simplement des symptômes apparents. On aborde donc les pathologies comme des processus complexes, évolutifs compte-tenu du contexte, multiformes et ne pouvant se résumer en états symboliques. C'est exactement cela que doit faire la recherche scientifique : analyser les connaissances courantes, produire et confronter des idées nouvelles, les clarifier, les approfondir, communiquer avec les communautés intéressées et poursuivre le processus de création.

AI : Le modèle de système psychique que vous décrivez est très complet. Est-il inspiré de ce que sait la science à propos du cerveau humain et de ses fonctions?

AC : Toutes les connaissances actuelles dans le domaine sont prises en considération. Mais je crois que très peu de laboratoires mènent des recherches pluridisciplinaires sur ce sujet précis, en se centrant sur ce qu'est l'esprit considéré comme un système, architecturé pour produire ce qu'il produit. Il existe de très nombreuses approches disciplinaires spécifiques, comme par exemple la neurobiologie cartographiant les mouvements neuronaux pendant que le sujet pense à certaines choses précises, ou bien la linguistique cherchant à définir les concepts profonds sous-jacents aux combinaisons de mots en phrases. Mais les laboratoires sont spécialisés, souvent très spécialisés. Ils ont aussi, ce qui est humain, la volonté d'aider leurs disciplines à se développer au détriment des autres, car cela leur apporte des crédits dans un univers où les dotations sont globalement très limitées.

Chercher ce qu'est l'architecture d'un système qui produit intentionnellement des pensées n'entre pas dans les champs disciplinaires usuels. La psychanalyse et la philosophie ont pu s'y intéresser dans le passé, mais ni l'une ni l'autre ne produisent des modèles constructibles précis. L'informatique tend de son côté à s'incorporer aux technologies commercialisables dans un monde où l'on vend des outils, oubliant qu'elle est d'abord la science du calculable.

AI: Si ce modèle était développé sous la forme d'une conscience artificielle incorporée au sein d'un «corps» lui-même artificiel, ses performances fonctionnelles permettraient-elles de mieux faire apparaître les points encore obscurs du psychisme humain, sur le plan individuel ou collectif ?

AC : Certainement et cela constitue le principal domaine de recherche à approfondir. L'homme dispose d'une architecture psychique qui est auto-adaptative de manière maximale. En effet, cette architecture psychique possède la capacité de se comprendre entièrement elle-même en utilisant les représentations rationnelles que la culture humaine ne cesse de développer. Je pense qu'il n'y a pas de mystères dans l'humain qui seraient inaccessibles en termes absolus. Il n'y a que des problèmes dont la science pourrait se saisir. La société, aidée par la science, doit donc les poser afin de produire de la connaissance et ainsi aider les individus et les groupes à mieux se connaître, à choisir leurs voies et surtout leur destin.

AI : Vous avez une conception très optimiste de la science.

AC : Je parle de la science telle qu'elle a est définie par l'Encyclopédie et les Lumières, valeurs auxquelles je pense que les sociétés européennes se réfèrent toujours à leur base, seules peut-être encore au monde. Je ne parle pas des technologies scientifiques développées à des fins de domination et de profit. Savoir comment et pourquoi on peut penser à ce que l'on pense là, ici et maintenant, est une quête majeure de l'humain et de l'humanité. Le but d'une civilisation n'est pas de se doter des moyens de contrôler ses membres pour conserver des hiérarchies de pouvoir qui se révèlent à la fois dangereuses et absurdes. Il est de se comprendre pour savoir comment vivre ensemble le mieux possible et progresser vers la sérénité, le bonheur, l'égalité et la fraternité entre les hommes.

Des systèmes militaires et de contrôle civil

AI : Mais vos travaux, et d'autres analogues, n'auront-ils pas pour conséquence de réaliser le rêve de tous les roboticiens aujourd'hui, réaliser un robot pensant capable de s'interfacer avec l'homme, pour mieux le cas échéant le contrôler, voire le dépasser ?

AC : Là, on est dans le domaine de la domination, de la volonté de la puissance, et cette perspective qui a été très bien traitée par Nietzsche est fortement d'actualité. Le but des décideurs politiques intervenant dans ces domaines n'est hélas pas comme certains naïfs le pensent, de faire construire un robot humanoïde jouet. Il est de mettre en place un système méta qui pense, qui est hébergé, volontairement ou involontairement, par des milliers ou des millions de machines ou de processus distribués. Ce système sera immergé dans un réseau communicationnel autonome morphologiquement unifié tout en étant distribué. Il génèrera des actions locales et globales à toutes les échelles. Internet existe dorénavant. De son fait, les systèmes informatiques locaux, isolés, sont devenus très rares. Alors oui, un tel système méta pourrait dépasser l'humain en faisant émerger une hiérarchie contrôlée par une hiérarchie très restreinte de dominants.

AI : Comment à cet égard pensez-vous que votre modèle se situe par rapport à toutes les recherches actives qui se font sur ce thème dans le monde ?

AC : Je ne connais que les recherches publiques, universitaires, qui sont assez rares dans ce domaine, mais qui se développent actuellement, notamment dans le cadre d'un projet de recherche européen sur la conscience artificielle(3). Les aspects technologiques du problème ne cessent d'avancer de tous côtés, les sous-problème se résolvent et il ne restera bientôt plus qu'à unifier et mettre en service l'ensemble. Si j'ai trouvé certaines choses, d'autres chercheurs l'ont fait aussi ou le feront. Mais qui aura les moyens et le désir de faire cette unification ?

Ce ne sera pas des universitaires, mais à la base des concepteurs de systèmes de défense et de sécurité qui, eux, travaillent dans une confidentialité stricte. J'ai des raisons de penser que le problème central, la représentation de la sensation artificielle de penser, l'intentionnalité et le libre arbitre artificiels sont en développement et seront opérationnels dans peu de temps. Je sais que sont menées des recherches très importantes, dans le domaine militaire notamment, où il s'agit bien de dominer "l'adversaire" en préparant le combat et en s'informant continuellement de tout et sur tout.

Il faut bien se persuader que nous sommes dans une société conflictuelle. La concurrence et l'individualisme déployés mondialement par la technologie la rendent chaotique, en posant chaque homme comme un objet statistique ponctuel utilisable dans le casino mondial où tout est considéré sous une simple valeur marchande. Mais on pourrait rêver, puisque «chaos» il y a, à une évolution rapide inattendue, à une bifurcation replaçant l'humanité de l'humain comme la valeur essentielle de la civilisation, à considérer et à approfondir en soi, et partout sans cesse.

AI : S'il s'agit d'un tel enjeu, pourquoi ne cherchez-vous pas à faire développer votre modèle, en France ou dans d'autres pays qui, on peut le supposer seraient disposés à y investir des sommes importantes ?

AC : Je ne développerai pas le système, par choix éthique et parce que je n'ai plus l'âge de l'aventure. Il y a des applications beaucoup trop dangereuses pour la société et je refuse de m'y engager. Je refuse de m'insérer dans un processus qui est aujourd'hui, vu l'état des choses, non maîtrisable. Cela m'a coûté très cher personnellement, car j'ai renoncé à aller au bout de vingt ans de travaux menés sans interruption : j'ai interrompu totalement mes recherches informatiques sur le sujet. C'est mon choix, et je ne le remettrai plus jamais en cause.

AI. Quelle procédure proposez-vous aujourd'hui pour valoriser vos travaux au bénéfice de la collectivité, sans en faire un produit couvert par le secret militaire ou professionnel ?

AC : Le mieux serait de faire prendre conscience du problème à la collectivité scientifique, afin qu'elle poursuive ces recherches de la façon la plus transparente possible et qu'elle en informe tous les citoyens. Ceux-ci seraient parfaitement capables de décider si la civilisation doit poursuivre son déval technologique en construisant et utilisant un tel système de façon confidentielle - ou bien en choisissant d'autres voies, plus éthiques, mettant la technologie à sa juste place, qui devrait être subalterne dans la civilisation. Je persiste à croire que la technologie est au service de la science et des citoyens et que ce ne devrait pas des flots de processus incontrôlables qui submergent l'humanité.

Une société savante ?

AI : La création d'une Société savante sur ce thème serait un bon moyen de faire dialoguer au plan interdisciplinaire les différents spécialistes intéressés au psychisme humain, qu'il soit naturel ou artificiel. Quel nom pourriez-vous lui proposer et que serait son rôle précis ?

AC : Ce serait une idée formidable. Vous devriez poser cette perspective dans votre revue et trouver une belle solution. L'argument de cette société pourrait être "La question de la conscience artificielle".

AI. Mais un tel projet ne devrait pas nous semble-t-il rester purement académique. De quelle façon verriez-vous le moyen d'encourager des développeurs à en réaliser des modules ?

AC : Pour passer de concepts architecturaux généraux à la réalisation de modules, il faut spécifier. Cette étape, longue, très délicate, est ici de l'ingénierie et de la recherche très fines, car le système n'est pas composé de modules indépendants mais de modules coactifs à plusieurs échelles. Tout nouveau module introduit dans le système modifie plus ou moins les autres ainsi que les relations entre les autres. Telle est le vécu d'une conscience qui diffère radicalement d'une base de données. Je ne pratique plus ces développements aujourd'hui, ce qui a été une partie de mon métier. On ne peut donc pas travailler sur des micro-ordinateurs non reliés les uns aux autres.

Mais je le répète, avant de réaliser des modules, il s'agit de décider si la société a besoin d'un tel système ou pas, et où en ce cas elle veut l'utiliser ? Comprenons bien qu'il s'agit de concevoir un vécu artificiel qui va conditionner toutes les générations de représentation. On trouve dans ce vécu des traces inévitables d'attracteurs de bifurcations, pour reprendre le terme que j'emploie. dans mon livre. Alors peut-on laisser n'importe qui introduire ce qu'il veut comme événements artificiels dans un vécu artificiel de système méta ?

On sait bien que la majorité des pays de l'ONU ne sont pas des démocraties et que les citoyens ne sont pas tous altruistes, que le coût d'entretien des armées aujourd'hui sur la planète Terre est supérieur au coût de la nourriture pour les 6.5 milliards d'humains. On ne peut pas toujours jouer avec le feu et la réalité impose, je crois, la retenue et les vrais choix.

AI : De quelle façon pourrait-on espérer que, sur le modèle du logiciel libre, de tels développements puissent constituer une véritable communauté de réalisateurs ouverts sur le grand public et faisant partager à tous les citoyens la conscience des enjeux et le bénéfice des réalisations ?

AC : Le système que j'ai modélisé est aux limites de la technologie informatique actuelle. Quels seraient donc aujourd'hui ces développeurs bénévoles et très moraux construisant un très vaste vécu artificiel, sachant que tout ordinateur, quel que soit son OS, est pénétrable par des spécialistes en moins d'une minute, qu'il peut être à distance très fortement perturbé et que toutes les communications informationnelles non fortement cryptées sont lisibles par les institutions spécialisées, qui sont des institutions d'Etat ?

Posons d'abord la question du bien fondé de la création du système et de ses usages, de son utilité dans le monde. Voyons ensuite comment procéder, si on veut le faire, de telle sorte que le développement soit connu et apprécié de tous, absolument de tous. Et comme ce système est limite dans son domaine, il serait bon en effet qu'il soit fait absolument bénévolement et donné à tous les citoyens. Est-ce possible dans nos sociétés ?

AI : Il s'agirait me semble-t-il d'un projet à forte connotation citoyenne ou de démocratie participative, si l'on peut employer ces termes. En quoi notre revue, qui est très lue dans certains milieux technologiques, pourrait-elle vous aider ?

AC : Votre revue est exemplaire sur les sujets qu'elle traite. Or dans le domaine de la conscience artificielle, et comme nous l'avons vu, se pose aujourd'hui un problème intéressant la société humaine tout entière. Il faut donc d'abord bien poser le problème, le faire comprendre, ce qui est majeur. Ensuite, on verra comment la société doit tenter de le résoudre. Ce problème n'entre pas dans la course à la puissance, car il est question de la liberté de chacun et de tous. Là, votre rôle est essentiel, car il y a d'abord un problème d'information et de critique, reposant sur l'organisation, à partir d'un site internet pilote, de larges dialogues.

Je le répète, nous ne sommes pas obligés d'organiser d'emblée la production d'un système débouchant comme par hasard sur un Big Brother, en reproduisant le processus qui a conduit la société humaine à produire des bombes nucléaires capables de détruire la planète. Il faut évaluer les limites acceptables de technologies informatiques utilisées partout et par tous. Vous y avez fait allusion dans deux articles précis de ce même numéro. Si personne ne suscite une prise de parole des citoyens sur ces questions, les développements limites se feront, inéluctablement, confidentiellement et, très probablement, sur le mode de l'agression et du contrôle.

Beaucoup de semeurs d'alerte (whistle blowers) le font déjà, certes. Mais ils sont plus ou moins bien informés de l'état et de l'évolution des technologies. Vous avez par contre l'avantage de connaître à fond des sujets généralement ignorés, même de ceux se disant spécialistes. Il faut en faire bénéficier le grand public.

AI: Y participerez-vous ?

AC: Bien sûr. En fonction de l'évolution et du sérieux des débats, je pourrai mettre à disposition des éléments de mon modèle encore non communiqués.

-----------------------------------------------------------------------------------------
Notes
(1) Voir notamment http://www.automatesintelligents.com/biblionet/2001/mar/a_cardon.html
Voir aussi http://www.automatesintelligents.com/biblionet/2010/oct/pmarchais.html

(2) Sur le livre d'Alain Cardon

Ouvrage téléchargeable ici au format pdf., Attention :ce livre est placé sous licence Creative Commons [obligation de citer le nom de l'auteur, utilisation commerciale interdite, modifications interdites].

(3) Projet Era-Net CHIST-ERA : http://www.agence-nationale-recherche.fr/magazine/actualites/detail/era-net-chist-era-1er-appel-a-projets-en-septembre-2010/
Voir aussi : http://www.chistera.eu/ et le texte de l'appel à projet (en anglais)