Archives 2007 2006 2005 2004 2003 2002 2001 2000 1999 En guise d'introduction

19 septembre 2004,
présentation par J.P Baquiast et C.Jacquemin

L'Institut pour la Singularité
Singularity Institute

Nous ne pouvons pas dans cette revue ignorer un phénomène que certains considéreront peut-être comme marginal, mais qui nous paraît révélateur de ce qui deviendra sans doute un raz de marée, si l'humanité ne s'effondre pas d'ici là dans le sous-développement physique et intellectuel : l'apparition probable, à relativement court terme, des super-intelligences et des post- ou transhumains. Beaucoup de gens en parlent, essentiellement aux Etats-Unis. Les uns en termes aussi scientifiques que possible, les autres en mélangeant sans hésiter la science-fiction et les rêveries plus ou moins New Age ou sectaires.

Parmi ceux qui en offrent une perspective pouvant être qualifiée de scientifique, nous nous devons de signaler l'existence d'un projet lancé par quelques jeunes scientifiques américains certainement un peu visionnaires, destiné à produire une intelligence artificielle (IA) d'un nouveau type, capable de renouveler les bases de l'intelligence humaine et de s'auto-enrichir quasi automatiquement. Les promoteurs de ce projet ont crée un Institut, encore très modeste en ce qui concerne les membres et les moyens, mais doté d'une ambition immense, l'Institut pour la Singularité, Singularity Institute. Cet Institut se veut entièrement visible à travers le web. Il offre accessoirement une liste de diffusion à laquelle nous nous sommes abonnés, pour ne rien perdre de l'évolution du projet. La meilleure façon d'étudier celui-ci est de se rendre sur le site singist.org qui propose un dossier très complet concernant les motivations et les objectifs poursuivis. Les auteurs affichent là une véritable volonté de partage des connaissances, qu'il faut louer à une époque où tout le monde se barricade derrière les copyrights. Certes, ils cherchent ce faisant à provoquer des adhésions (et des soutiens matériels), mais ils prennent le lecteur au sérieux en lui fournissant le maximum d'explications possibles, à propos d'un thème qui n'est pas facile. Si tous les professeurs d'université faisaient ainsi l'effort d'aller au devant du public, en termes aisément compréhensibles, nous ne serions pas au niveau d'inculture scientifique où nous nous trouvons.

L'ensemble de ce travail, qui est considérable, découle semble-t-il des intuitions initiales d'un très jeune chercheur, en partie autodidacte, Eliezer S. Yudkowsky, dont on ne peut qu'admirer la précocité et la pénétration. Un de nos correspondants, Jacques du Pasquier, nous signale la traduction française, publiée sur le site Transition, d'un article de celui-ci, écrit pour l'essentiel en 1996, soit à l'âge de 16 ans : Scruter la Singularité http://dtext.com/transition/yudkowsky/yudkowsky1.html. On retrouve les principaux éléments de cet article, présentés de façon plus scientifique, dans les pages publiées par le site. Eliezer Yudkowsky est aujourd'hui employé à plein temps par le Singularity
Institute. Il y développe des conceptions qui doivent conduire dans un proche avenir au démarrage du projet d'ingénierie informatique proprement dit.

Dans les limites de cette courte présentation, nous nous proposons de résumer les propositions du projet de l'Institut pour la Singularité, puis de les discuter. Mais nous incitons vivement nos lecteurs intéressés par l'informatique évoluée à se rendre sur le site.

En quoi consiste le projet ?

D'abord, qu'est ce que la Singularité ? La page What is the Singularity http://www.singinst.org/what-singularity.html définit celle-ci comme la création par des moyens technologiques d'une intelligence plus qu'humaine, ou super-intelligence. Les auteurs du projet n'innovent donc pas sur ce point. Ils reprennent les prévisions faites par les prospectivistes américains spécialistes des technologies de l'information, que nous avons souvent cités dans notre revue : Ray Kurzweil, Hans Moravec notamment. Les prochaines années verront (sauf catastrophe) les capacités des composants, réseaux et logiciels continuer à augmenter au rythme résumé par la célèbre loi de Moore (doublement des performances tous les 18 à 24 mois et baisse correspondante des prix). Il s'ensuit que les ordinateurs et les robots dotés de telles ressources seront capables dans quelques années (10 à 15 ans), théoriquement, de performances au moins égales à celle du cerveau humain actuel.

De plus, à partir d'une certaine concentration de ressources dans le temps et dans l'espace, on verra probablement s'organiser des phénomènes d'auto-enrichissement uniformément accéléré. Dans le domaine des matériels, apparaîtront des systèmes mixtes, artificiels et biologiques, capables de remédier seuls à leurs défauts, se réparer et ultérieurement s'assembler eux-mêmes, comme le vivant a su le faire au terme de millions d'années d'évolution. Il en sera de même pour les logiciels. Des générations successives de programmes apparaîtront sur un rythme rapide, toujours mieux adaptés, toujours plus enrichis en contenus cognitifs. Autrement dit, les rythmes lents de l'évolution génétique et culturelle naturelle seront remplacés par des rythmes toujours accélérés d'évolutions artificielles. D'où le terme de Singularité. De même que, suite à la Singularité cosmologique qui avait précédé le Big Bang, un univers tel que nous le connaissons s'est développé en quelques milliards d'années, de même, suite à ce nouvel événement fondateur que sera la Singularité technologique ainsi décrite, un nouveau type d'évolution fortement marquée d'artificiel apparaîtra sur Terre, avant de se répandre éventuellement dans le Cosmos.

Qu'en sera-t-il de l'humanité ? En bonne logique, les humains n'en resteront pas à leur niveau mental et corporel actuel. Ils pourront s'inscrire dans les événements faisant suite à la Singularité artificielle, puisqu'ils pourront se doter de corps et de cerveaux aux capacités considérablement augmentées. D'où le concept de posthumanité ou transhumanité. Les pessimistes craignent que les psychismes, déterminés par des hérédités encore inchangées, ne s'amélioreront pas pour autant, ce qui ouvrirait des perspectives assez sinistres, non seulement à l'humanité mais à la vie sur Terre. Pour les optimistes au contraire les humains ainsi augmentés mettront leur super-intelligence et leurs super-moyens physiques au service de l'amélioration de la vie sur Terre, au bénéfice non seulement de l'ensemble de l'humanité mais de l'ensemble des espèces vivantes et des grands équilibres écologiques.

Mais, pour que ce résultat favorable soit envisageable, il faudra que les humains agissent dans le bon sens. Si l'évolution des technologies primaires se fait sur le mode darwinien classique, c'est-à-dire sur le mode du hasard et de la sélection, tous types d'organisations physiques et psychiques pourront apparaître. Si au contraire les humains essaient dès maintenant d'orienter l'évolution en fonction des valeurs qu'ils estiment devoir sauvegarder ou faire apparaître, la posthumanité pourra marquer un progrès par rapport à l'humanité actuelle.

Il faut donc sans attendre s'engager dans la voie des travaux pratiques, compte tenu du fait que l'évolution technologique n'attend pas mais au contraire s'accélère, comme indiqué ci-dessus. C'est ici qu'interviennent les propositions de l'Institut pour la Singularité.

Deux domaines de recherches sont d'ores et déjà ouverts, celui des systèmes physiques : composants électroniques, réseaux, matériels divers et celui des logiciels. Le premier fera largement appel aux nanotechnologies puis ultérieurement à l'informatique quantique. Mais les investissements pour produire des systèmes auto-adaptatifs et auto-reproducteurs seront considérables, hors de portée des petites organisations. Dans le domaine des logiciels, avec des ressources en calcul relativement réduites, il est au contraire possible de développer des applications et systèmes de plus en plus ambitieux.. Plusieurs technologies pourront être utilisées à cette fin : interfaces directes entre le cerveau et la machine, amélioration biochimiques du fonctionnement du cerveau, ingénierie génétique permettant d'obtenir des cerveaux plus efficaces. Elles amélioreront la vitesse de traitement des informations, le nombre des neurones actifs, l'ampleur des connexions entre aires cérébrales, la performance des entrées sorties sensori-motrices. Mais vu les risques et les difficultés que présentent à ce jour ces techniques, on conçoit que les promoteurs du projet préfèrent s'en tenir à l'IA. Il faut cependant que celle-ci soit véritablement en rupture avec l'IA actuelle, très centrée sur des applications utilitaires de nature industrielle. Il faut définir une IA qui puisse devenir aussi bourgeonnante, aussi auto-complexifiante que l'intelligence naturelle - mais ceci dans un délai de quelques années et non pas au cours d'un processus de quelques millions d'années. Plusieurs technologies existent à l'intérieur de l'IA. Il semble que les auteurs du projet privilégient celles des systèmes multi-agents incorporés sur des réseaux de micro-ordinateurs. C'est la plus facile à mettre en œuvre.

Les travaux de cette nature obligent, on le sait depuis longtemps, à s'interroger en profondeur sur ce que sont l'intelligence et la conscience dans la nature, afin de faire aussi bien puis ensuite mieux que cette dernière. L'IA étant une création de l'intelligence humaine, elle peut donc en retour améliorer l'intelligence humaine, dans un cycle renouvelé sans fin. Ceci suppose une analyse de ce qu'est aujourd'hui l'intelligence. La page http://www.singinst.org/LOGI/ propose les premiers éléments d'une telle analyse, en distinguant les principaux niveaux emboîtés hiérarchiquement, relatifs au traitement de l'information élémentaire, du message sensoriel, du concept, de l'idée et finalement du raisonnement ou discours. Ceci n'a rien en soi d'original, mais ce qui est intéressant est la façon dont le type d'IA proposé pourrait améliorer les processus cognitifs naturels.

L'intelligence humaine d'aujourd'hui peut-elle concevoir une intelligence améliorée, ou simplement différente ? Plus généralement, peut-elle concevoir une société améliorée, tant en complexité qu'en fonctionnalités et services rendus, par rapport à la société d'aujourd'hui ? Les exercices de la science-fiction montrent à cet égard un désolant manque d'imagination. On se borne à extrapoler jusqu'au ridicule les traits actuels. Les primates pré-hominiens n'auraient pu imaginer notre société contemporaine, non plus d'ailleurs que nos grands-pères. Il faut donc mettre en place un dispositif auto-adaptatif de développement qui révise en permanence ses ambitions et ses moyens en fonction des résultats continuellement obtenus.

Nous n'entrerons pas ici dans les détails de la méthode en cours de mise en œuvre à l'Institut. La page http://www.singinst.org/LOGI/seedAI.html la précise et le lecteur devra s'y reporter. On peut traduire SeedAI par IA auto-génératrice ou séminale, en ce sens que ses développements s'engendreraient eux-mêmes par retour d'expérience.

Ajoutons que les promoteurs du projet insistent beaucoup pour que ces développements restent contrôlés par une volonté constamment réaffichée d'humanisme. Il faut faire une IA amicale, ou friendly. Ceci vise à désarmer les critiques, de plus en plus fréquentes, exprimées à l'égard d'un développement non contrôlé des technologies et systèmes, que ce soit en matière de nanotechnologies, de robotique ou de bionique. La page Friendly AI http://singinst.org/friendly/ décrit avec un grand luxe de détail les spécifications techniques et fonctionnelles du projet. Nous en laissons la lecture aux informaticiens. Sur le qualificatif de friendly, amical, on ne peut pas s'empêcher d'être un peu sceptique. Rien n'est jamais tout à fait amical dans le monde, y compris dans celui des logiciels. Il s'y mêle toujours un peu de prédation. Mais on ne peut dénier aux auteurs du projet une volonté affichée de partage des connaissances, mise au service d'un certain nombre d'objectifs visant à améliorer les relations inter-humaines.

Le site est constamment en évolution et perfectionnement, ce qui donne beaucoup à penser concernant la puissance de travail de son principal auteur, E. Yudkovsky. Le dernier texte disponible à la date où nous faisons cet article date de mai 2004 et s'intitule Collective Volition http://singinst.org/friendly/collective-volition.html. L'auteur nous annonce qu'il préfère désormais, au terme de Friendly AI, celui de Friendly Really Powerful Optimization Process... ce qui n'a pas besoin de traduction.

Qu'en penser ?

Les sceptiques verront dans tout cela soit l'illusion de quelques jeunes exaltés, soit une machine pour acquérir un peu de célébrité et d'argent, soit un des multiples produits d'une campagne d'intoxication visant à convaincre le monde que l'Amérique continue à disposer d'une avance intellectuelle substantielle lui permettant de revendiquer le leadership du monde. Nous ne céderons pas ici à ces facilités. Faute de temps et de moyens, nous ne prétendons pas expertiser la qualité technique des documents et informations fournies, au-delà des premières formulations qui paraissent prometteuses. Il nous semblerait cependant nécessaire d'y regarder de plus près, car, comme nous l'avons dit, l'entreprise pourrait prendre une grande portée, scientifique mais aussi politique.

Le projet consistant à essayer de développer une version avancée ou très avancée d'IA nous paraît excellent, et venir à son heure. L'IA aujourd'hui se complaît dans des recherches compartimentées, utilitaires, sans souci de communiquer avec le public, sans vision d'ensemble. C'est notamment le cas en France. La lecture des documents fournis par l'Institut de la Singularité représente à cet égard un véritable bain de Jouvence. On réalise mieux ce que pourrait être un grand programme d'IA capable d'optimiser les ressources constamment enrichies fournies par la technologie. On voit également qu'un tel grand programme ne nécessiterait sans doute pas des budgets considérables. Quelques petites équipes travaillant en réseau pourraient obtenir rapidement des résultats importants, dès lors qu'elles auraient pris les bonnes décisions d'organisation. On peut même penser que, au moins au début, beaucoup de travail pourrait être fait bénévolement par des programmeurs mettant des ressources en commun sur le mode du grid, parallèlement à leurs activités professionnelles. S'il fallait toujours attendre des financements publics ou privés pour commencer à travailler, on ne ferait jamais rien. C'est un peu l'enseignement qui se dégage de l'exemple donné par l'Institut de la Singularité.

Mais, à supposer qu'en Europe (ou même en France) des spécialistes d'IA s'intéressent à une telle initiative, que devraient-ils faire ? Deux vois sont possibles, après une évaluation sérieuse de la portée scientifique de la démarche et des documents proposés par l'Institut.
- Soit prendre contact avec l'équipe de E.Yudkowsky, comme le site les y invite, et négocier une collaboration possible (nécessairement en télétraitement).
- Soit, sur des spécifications identiques ou très proches, développer seul des solutions originales -ce qui n'empêcherait pas d'entretenir des contacts avec l'Institut.

Ajoutons, pour ceux qui ne sont pas spécialistes des développements de l'IA aux Etats-Unis, que plusieurs chercheurs ont entrepris depuis quelques années, au plan académique, de développer des versions ambitieuses de l'IA. C'est aussi, évidemment, un enjeu pour les systèmes de sécurité et de défense, mais là les informations sont rarement disponibles.

Quoi qu'il en soit, si certains de nos lecteurs voulaient approfondir cette perspective et souhaitaient le faire savoir, nous serions heureux de publier leurs commentaires et propositions.