13 Juin 2002
Notes par Jean-Paul Baquiast

Arguing A.I.
The Battle for Twenty-first
Century Science

Sam Williams AtRandom.com Books, New York, 2002 (anglais) AtRandom.com

Sam Williams est un auteur scientifique indépendant qui s'intéresse particulièrement aux logiciels et à la culture numérique. Il publie généralement ses articles dans Upside Today (www.upside.com) et dans BeOpen.com, ainsi que dans de nombreux autres magazines. AtRandom.com Books est un nouvel éditeur du groupe Random House Trade Corp http://www.randomhouse.com/atrandom/ . Il se spécialise dans l'étude des nouvelles technologies. Chaque titre est prévu pour paraître à la fois sur divers supports électroniques et en édition-papier. Il comporte un abondant répertoire de références Internet (Website Resources Directory). L'éditeur vise des communautés professionnelles et scientifiques qui ont besoin d'une information récente et accessible sur les thèmes qu'ils doivent connaître à titre professionnel ou de loisir. Sur l'Intelligence Artificielle, on pourra aussi lire un article assez pessimiste de Konstantin Golubev: Is there any future for AI ?  publié par le General Knowledge Machine Research Group http://fast.to/gkm et http://www.geocities.com/gkmgeosite/gkm-ai.htm

Voici un livre que nous n'aurions pas beaucoup de chances de trouver dans le catalogue d'un éditeur français, ceci pour plusieurs raisons. Les comités de lecture, en premier lieu, refuseraient le manuscrit en expliquant que le sujet, l'Intelligence Artificielle (IA), n'intéresserait que les informaticiens - alors qu'il s'agit d'un thème qui fait depuis cinquante ans et continue à faire l'objet de débats passionnés, philosophiques et politiques autant que scientifiques, aux Etats-Unis.
Par ailleurs, un ouvrage de moins de 80 pages vendu pour quelques dollars et comportant de nombreuses références à Internet, ainsi que des versions sur divers supports numériques, serait considéré comme soit invendable (quel lecteur dispose d'un ordinateur connecté à Internet ? demanderait-on) ou, s'il se vend, comme risquant d'introduire dangereusement le loup numérique dans la bergerie de l'édition papier, où les livres doivent peser au moins 250 pages et être facturés au moins 60 euros.

Le livre, comme son titre l'indique, porte moins sur l'IA que sur les discussions qui l'ont entourée depuis que le terme a été introduit dès après la seconde guerre mondiale dans les cercles intellectuels. Il n'a cessé depuis lors, tout au moins dans les pays intéressés par l'évolution des sciences et des techniques, de susciter des espoirs, commentaires et critiques beaucoup plus vives que ne l'avait fait le concept antérieur de robotique et celui, peu de temps après, d'informatique. C'est que dès le début, les promoteurs de l'IA avaient mis la barre très haut en annonçant qu'ils ambitionnaient d'égaler, sinon remplacer l'intelligence humaine. Les humanistes et spiritualistes de tous bords ont cru bon de prendre les armes. Les arguments échangés ont fait et continuent à faire autant appel à une foi aveugle et à l'ego des auteurs qu'à la rationalité scientifique.

En fait, pour diverses raisons dont certaines tiennent à des impasses évolutives dans lequel le développement de la jeune IA s'était engagé, les promesses initiales furent loin d'être tenues. Ceux que l'IA dérangeaient purent espérer respirer. En face d'eux, ils ne trouvaient plus que des adversaires relativement plus maniables, les gens de l'informatique et de l'Internet, que l'on peut toujours renvoyer au sous-sol technologique n'intéressant que les ingénieurs et les commerçants.

Mais subitement, l'IA est revenue en force dans le débat philosophico-scientifique, suite à divers événements médiatisés comme le duel de Kasparov, champion mondial d'échec, avec Deeper Blue, gagné par ce dernier (qui n'incarne cependant qu'une forme d'IA assez sommaire). Différentes causes ont justifié ce retour en force : l'apparition de l'IA évolutionnaire qui ne cherche plus à copier d'emblée l'esprit humain mais à construire des systèmes capables d'apprendre à se construire en se situant dans des environnements enrichissants auxquels ils doivent s'adapter - le développement à un tout autre niveau de réseaux reliant par Internet des communautés de plus en plus nombreuses produisant des connaissances qui commencent à s'organiser et s'enrichir quasiment sans intervention humaine, sur le modèle du cerveau global - la croissance permanente des technologies, en illustration de la loi dite de Moore, notamment avec la perspective des nanotechnologies, qui rapprochent de plus en plus les machines des organismes vivants, avec leurs cellules, leurs ADN et aussi leurs neurones.

Sam Williams ne cherche pas dans son livre à faire le point de l'IA aujourd'hui et moins encore à tenter de pronostiquer ce qu'elle va devenir. Plus modestement, il a donné la parole, en les présentant d'une façon il est vrai très éclairante, aux principaux acteurs du débat sur l'IA dans le demi-siècle qui vient de s'écouler (demi-siècle qui fut essentiellement américain, nous l'avons regretté). Il montre comment les ténors de ce débat, dont la plupart vivent encore aujourd'hui et s'expriment toujours, se sont constamment efforcés de tenir compte de la rapide évolution technologique et sociétale, tant dans les sciences de l'information que dans les sciences directement concernées, la biologie et la neurologie, sans pour autant abandonner leurs motivations personnelles fortes. Il rappelle comment dès le début, face aux visionnaires qui adoptaient d'emblée le modèle du HAL de 2001, Odyssée de l'Espace, de nombreux autres experts ont fait des prévisions plus pessimistes. En nous présentant les caractères les plus connus du clan des optimistes et de celui des pessimistes, il nous permet de nous situer nous-mêmes dans la discussion, qui ne cesse en fait de s'étendre.

Cette discussion sur l'IA s'étend d'autant plus qu'elle rejoint celle qui prend de plus en plus d'ampleur parallèlement, concernant les sciences en général et leur place dans la société et dans la philosophie : quelles sont les limites de la recherche, en termes d'indécidabilité ? Qu'est-ce que l'intelligence ? L'homme est-il vraiment spécifique par rapport aux autres créatures de l'évolution ? Faut-il avoir peur de ce qui se prépare ?

Un tel débat, le lecteur le verra, pourra certainement trouver de nouveaux rebondissements avec les hypothèses audacieuses d'un Stephen Wolfram, cité dans ce même numéro de notre revue, hypothèses dont nous sommes certains que Sam Williams fera mention dans la prochaine édition de son livre.

Les Ténors

Ceci dit, sans vouloir vous décourager de lire le livre, que nous ne pouvons résumer ici, voici la liste des principaux ténors du débat sur l'AI sélectionnés par Sam Williams. Nous reprenons quelques adresses des principaux sites de référence mentionnés par lui. Nous n'avons rien de particulier à ajouter (sauf des observations de détail en italique rouge) aux commentaires qu'il fait de leurs travaux, commentaires qui nous ont paru bien situer les auteurs dans les traditions intellectuelles, scientifiques et philosophiques de leur époque, tout en restant de lecture très agréable. On trouvera par ailleurs dans le livre p.XVII de l'introduction les principales dates ayant marqué la discussion, depuis la publication de Mathématical Problems par David Hilbert en 1900 jusqu'à nos jours, fin 2001..

Chapitre I. Les fondateurs: Hilbert et Turing

Sur Hilbert et ses "Twenty three problems", voir http://aleph0.clarku.edu/~djoyce/hilbert/problems.html
Sur Turing et sa machine, voir http://plato.stanford.edu/entries/turing-machine/
Voir aussi Turing. Computing machinery and intelligence http://www.abelard.org/turpap/turpap.htm

Chapitre 2. Le pionnier: John Mac Carthy

John Mac Carthy passe pour avoir inventé le terme de Intelligence Artificielle à l'occasion du fameux Congrès de Dartmouth sur l'AI en 1956, qu'il avait initié. A 74 ans aujourd'hui, il est toujours professeur émérite à Stanford. Son site web est une véritable anthologie de l'AI. Il faut absolument l'explorer en détail. http://www-formal.stanford.edu/jmc/ (Nous avons là l'exemple d'un site qui sacrifie le clinquant commercial à la richesse presque inépuisable des contenus. Pour ceux qui s'interrogent sur la valeur éducative d'Internet, aux mains de scientifiques désintéressés, il s'agit d'une référence extraordinaire).

Le chapitre, que nous ne pouvons résumer ici, décrit les collaborations et les divergences entre les pionniers de l'IA, depuis les années 50 jusqu'à nos jours. On y rencontre J. Von Neumann, Claude Shannon, Marvin Minsky, Herbert Simon, George Polya. Les premiers opposants à l'IA conquérante des années 50 (le General Problem solver par exemple) sont également mentionnés: le britannique John Lucas, Hubert Dreyfus, John Searle (toujours aussi virulent aujourd'hui) célèbre par l'argument de sa Chambre Chinoise, Roger Penrose,  etc. Les apports bien connus de Douglas Hofstadter  et de Daniel Dennett sont également évoqués dans la perspective dressée par Sam Williams à propos de Mac Carthy.

Chapitre 3 L'optimiste. Ray Kurzweil

La carrière de Kurzweil, commencée comme jeune musicien précoce, l'a conduit très vite, après le MIT, à inventer divers systèmes à finalité marchande, dans le domaine des TIC, en lançant les entreprises appropriées. On en trouve la liste sur le site http://www.kurzweiltech.com/ktiflash.html (tout le contraire du site de Mc Carthy. JPB). Mais avec son premier livre, The age of intelligent machines, il a défini en 1990 ce qui serait dorénavant son visage: un prophète du rapprochement sans limites entre l'homme et la machine, finissant par une symbiose où les deux partenaires seraient sans doute inidentifiables. C'est ce que l'on appelle aussi la version forte de l'AI, s'opposant à la bonne vieille AI (strong AI versus good old fashioned AI) Son prochain livre, annoncé pour juin 2002, promet de poursuivre et d'amplifier cette veine. Ray Kurzweil s'appuie sur les extrapolations du développement des technologies, sur le modèle de la loi de Moore, pour prédire à quelques années près les dates de réalisation de l'homme-machine nouveau. Sam Williams, sans prendre le contre-pied de Kurzweil, montre le côté un peu allumé du personnage, ce qui ne retire rien à ses mérites d'ailleurs.

(Sur  le prochain livre de Kurzweil, voir notre rubrique actualité dans ce numéro. Nous avons  par ailleurs plusieurs fois signalé dans notre revue le site de Kurzweil, http://www.kurzweilai.net/index.html?flash=1, régulièrement actualisé, auquel il est indispensable de se reporter régulièrement si on veut comprendre les enjeux tels que définis par les optimistes de l'AI, dans la cohorte desquels nous aurions tendance à nous ranger).

Chapitre 4. L'humaniste. Jaron Lanier

Selon Williams, Jaron Lanier aurait toujours été un enfant terrible de l'AI, ferraillant dans la réalité virtuelle et l'AI. Il s'est fait connaître par son manifeste contre les optimistes (ou fétichistes) de l'AI, One Half of a manifesto. Why stupid machines will save the future from darwinian machines.  Il argue des défauts et bugs permanents de l'informatique pour expliquer que rien de révolutionnaire n'arrivera. Si cela était le cas, tout le monde serait obligé de se transformer en agents de maintenance, pour faire marcher les machines intelligentes. Mais, toujours selon Williams, Lanier n'a guère ému les défenseurs de l'IA forte, non plus que les philosophes partisans de l'évolutionnisme darwinienne, dans la ligne de Daniel Dennett, auxquels il a tenté d'opposer le regretté Stephen Jay Gould.

Chapitre 5. Le pessimiste. Bill Joy

On en arrive à l'actualité récente, les mises en garde de Bill Joy, directeur à Sun Microsystems, à l'égard de l'avenir dessiné par les technologies. Son manifeste dans Wired de Avril 1999, (http://www.wired.com/) Why the future does not need us, met l'accent sur les menaces nouvelles de la robotique, de la génétique, des nanotechnologies (prioritairement d'ailleurs aux éventuelles menaces de l'IA proprement dite). Il pense que ces diverses technologies vont assez rapidement permettre de fabriquer des systèmes auto-répliquants ou envahissants qui risquent d'échapper au contrôle humain, ne fut-ce que parce que leurs défauts seront nombreux et pourront provoquer des effets négatifs inattendus. Bill Joy est un de ceux qu'a marqué la maladie de la vache folle, comme l'explosion des virus sur Internet. Il n'était pas loin en 2000 de recommander une pause (relinquisment) dans les progrès de la science. Cette perspective a ému les défenseurs de recherches toujours accélérées, tels que Kurzweil. Elle n'a eu jusqu'à ce jour d'ailleurs aucun effet. Les chercheurs en AI, de toutes façons, qui gagnent péniblement leur vie dans un secteur toujours à court de ressources, ne voient pas des robots auto-répliquants prendre rapidement le pouvoir, ou être utilisés par des terroristes. Ils craignent bien plutôt le terrorisme classique utilisant les menaces nucléaires et chimiques. On les comprend.

Conclusion

La fiction d'un robot humanoïde, sur le modèle de HAL du film de Spielberg,  relayé en 2001 par le film AI de Kubrick, ne cesse pas d'inspirer les rêves des non-spécialistes de l'AI. Mais les avancées ne se font pas pour le moment dans les directions où le grand public les attend. Sam Williams dans sa conclusion, cite Pat Hayes de l'Institute for Human Machine Cognition de Pensacola, beaucoup plus attentif aux progrès des agents intelligents sur le web, tel que Google. Il s'agit en fait d'accroître le champ et les possibilités de l'intelligence humaine par le travail en réseaux intelligents. Ces systèmes ne chercheront pas à copier l'intelligence humaine, avec ses faiblesses, mais exploreront des voies tout à fait nouvelles. Dans cette ligne se développe tout un courant philosophique et politique fort intéressant, concernant l'intelligence répartie. On citera le projet Open Mind http://www.openmind.org/index.shtml et l'initiative de l'Open Source http://www.opensource.org/ qui s'inscrit, suivant la tradition de la science académique, à l'encontre des politiques de rétention des sources pratiquées par les industriels.

Mais les pionniers de l'AI traditionnelle n'abandonnent pas pour autant leurs objectifs et leurs rêves. En 2001, Marvin Minsky a expliqué que si l'on voulait concentrer les moyens disponibles sur la réalisation d'un humanoïde super-intelligent, on y arriverait très vite. Les ressources sont toutes là. Il faut les mettre ensemble dans une théorie cohérente (voir Minsky. It's 2001, Where is Hal http://technetcast.ddj.com./tnc_play_stream.html?stream_id=526). Seul un tel objectif, à n'en pas douter, pourra soulever l'enthousiasme du public et l'intérêt des financiers. Il faut construire des machines qui interagissent avec le monde, répète de son côté Rodney Brooks, avec le succès que l'on sait (voir notre précédent article sur le livre récent Flesh and Machines de R.Brooks http://www.automatesintelligents.com/biblionet/2002/mai/brooks.html).

On le voit, robotique, IA, réseaux intelligents sont plus que jamais appelés par les scientifiques à collaborer. On peut penser que les stratèges militaires l'ont, aux Etats-Unis du moins, compris depuis longtemps, et financent des systèmes d'armes qui exploiteront ces diverses possibilités de façon cohérente.

Automates Intelligents © 2002