Automates Intelligents : labos

Commentaires du livre
A Knew Kind of Science,
par Ray Kurzweil
Condensé par Jean Paul Baquiast

Dans son livre remarquable, Stephen Wolfram (SW) affirme que les opérations conduite dans les automates cellulaires (AC) se retrouvent presque partout dans le monde réel. Il propose même l'hypothèse selon laquelle l'univers entier serait un vaste calculateur fonctionnant sur le mode d'un automate cellulaire. Il ne parait pas que ces hypothèses puissent expliquer toute la complexité de la vie, de l'intelligence et des phénomènes physiques.

Le livre couvre l'ensemble des sujets de connaissances scientifiques, en prétendant les examiner à la lumière des règles de fonctionnement des automates cellulaires, plus particulièrement celui de l'AC dit de la règle 110.

Il faut saluer l'amour exclusif que SW porte à ses AC, même s'il tourne à l'ubris. (suit une bonne description de ce que sont les AC et les règles qu'ils mettent en œuvre) L'AC dit de la règle 110 dans la classe 4 est le plus significatif, en ce sens qu'il produit des formes étonnamment complexes qui ne se répètent pas. L'ensemble n'est ni régulier ni complètement aléatoire. Il semble relever d'un ordre, mais d'un ordre non prédictible. Ceci est important car le processus résulte de l'application d'une règle aussi simple que possible et d'un point de départ lui aussi très simple : une seule cellule. On pourrait donc attendre un processus répétitif et déterminé. Or tous les tests ont montré qu'il demeurait aléatoire. En fait, l'AC produit autre chose que du simple aléatoire, ce qui n'aurait guère d'intérêt. On peut y discerner des formes ou structures (patterns) révélant une sorte d'ordre et une apparente intelligence. Comme quoi, selon SW, une règle simple peut engendrer de la complexité.

Or de tels phénomènes sont déjà connus. On peut citer les fractals, le chaos, les théories de la complexité et de l'émergence, les réseaux neuronaux (modèle de Markov) et finalement le cerveau humain et le génome, lesquels génèrent des complexités considérables par l'application de règles simples à des éléments discrets eux-mêmes simples. De même les processus déterministes générant de l'aléatoire sont connus depuis longtemps, par exemple les générateurs de nombres au hasard.

Mais SW prétend fournir une explication théorique complète de telles situations, en expliquant que la seule source de la complexité dans le monde est l'application de la règle de l'AC 110. Certes, la computation est à la source de tout ce qui nous entoure, et beaucoup des formes que nous voyons sont créées par l'équivalent d'AC. Mais la vraie question est la suivante : de quelle sorte de complexité sont les résultats des AC de classe 4 ? Or les formes produites par les AC de classe 4 ont toutes un aspect général commun, bien que ne se répétant pas. Leur intérêt et leur intelligence sont limités. De plus, elles n'évoluent pas vers quelque chose de plus complexe, elles ne produisent pas de nouvelles sortes de structures. Faire tourner l'AC des milliards de fois n'y changerait rien. On est loin de ce que produit la vie.

La complexité

Ceci pose la question de la définition donnée à la complexité. La complexité est un processus continu. L'auteur (Ray Kurzweil) avait suggéré le mot "ordre" comme synonyme de complexité, en le définissant comme une information répondant à un objectif. Un processus complètement prévisible est d'ordre zéro. Un haut niveau d'information seul ne signifie pas nécessairement un haut niveau d'ordre (c'est le cas d'un annuaire téléphonique). Une séquence aléatoire est de l'information pure, non prévisible, mais elle n'a pas d'ordre. Les formes produites par les AC de classe 4 possèdent un certain niveau d'ordre. Mais la structure correspondant à un être humain possède un niveau bien supérieur d'ordre ou de complexité. C'est en fait une hiérarchie très imbriquée de structures. On ne voit pas comment un AC de classe 4 pourrait évoluer vers une telle hiérarchie.

Le fait que l'on puisse présenter l'automate 110 comme un calculateur universel ne le rend pas pour autant capable d'intelligence. Ce qui rend les calculateurs intelligents est le logiciel. Pour aller plus loin dans la complexité, il faut faire appel à un algorithme évolutionnaire. Pour SW, un tel algorithme et un AC de classe 4 sont équivalents. Mais ils ne le sont qu'au plan du hardware. Au plan du software, ils présentent des ordres de complexité très différents. Les algorithmes évolutionnaires peuvent être spécifiés de très nombreuses façons et fournir des solutions optimales à de très nombreux problèmes. On considère aujourd'hui qu'ils peuvent résoudre des questions relevant de l'IA au sens faible (narrow)

Cependant, à eux aussi manque quelque chose. Ils ne peuvent résoudre des problèmes relevant de l'AI forte (strong), c'est-à-dire les problèmes que résout le cerveau humain, particulièrement dans la reconnaissance des structures (patterns) et la génération du langage. Il semble par ailleurs qu'ils ne puissent dépasser un certain niveau dans la création de la complexité. La complexité évolutive n'apparaîtra qu'au sein de systèmes évolutifs à multiples niveaux. Les algorithmes génétiques devront évoluer, le code génétique aussi, de même que les règles de l'évolution. La nature a donné l'exemple en ne limitant pas l'évolution à celle d'un seul chromosome. Pour que la complexité puisse augmenter, il faut mettre en place un environnement complexe et interagissant au sein duquel se produira l'évolution.

Dans la perspective de l'AI forte (strong), il faudra faire l'ingénierie inverse du cerveau humain, un projet en cours actuellement, qui bénéficiera des processus évolutionnaires déjà utilisés. Les algorithmes génétiques procéderont de la même façon que le fait déjà la nature : ainsi le câblage du cerveau du fœtus est aléatoire dans certaines zonescérébrales de sorte que la majorité des connexions sont détruites lorsque le cerveau du nouveau-né se construit de façon à donner un sens à son environnement et à sa situation.

La sélection naturelle et la complexité en biologie

Pour en revenir à la discussion des thèses de SW, on peut contester d'abord ses affirmations concernant la complexité en biologie. Certes certaines des formes de complexité visibles dans la nature peuvent être attribuées à des processus analogues à ceux des AC (par exemple les formes et les dessins des coquillages). Mais il ne s'agit pas de comportements d'une grande complexité. Ils ont certes un haut niveau d'aléatoire et d'imprédicabilité. Il est vrai aussi qu'ils présentent des constantes. Mais la complexité y est modeste et surtout n'évolue pas vers des complexité plus élevées. SW considère que la complexité d'un être humain est équivalente à celle d'un automate de classe 4 parce que, dit-il, ils sont équivalent au plan computationnel, c'est-à-dire qu'ils peuvent tous deux tourner sur une machine de Turing universelle. Mais leur "logiciel" ne présente aucune similitude en termes de complexité

En ce qui concerne la sélection naturelle, il est difficile d'accepter l'idée que celle-ci aurait un rôle limité dans la production de la complexité des êtres vivants. Un être vivant ne peut être modélisé par un AC de la même façon que l'est l'écoulement d'un fluide. La complexité de l'être vivant résulte du conflit chaotique pour l'accès aux ressources qui fonde précisément l'évolution darwinienne. La complexité formelle des formes générées par un AC n'est pas comparable à celle des milliards d'êtres vivants formés tout au long de l'évolution.

SW a raison de noter que certains processus computationnels algorithmiques ne sont pas prédictibles. On ne peut pas prévoir les résultats sans dérouler l'ensemble du calcul. On ne pourrait le faire qu'en simulant ce calcul sur un modèle susceptible de tourner plus vite que l'algorithme. L'univers, en ce qui le concerne, tournant à la plus grande vitesse possible pour lui, on peut difficilement court-circuiter son processus évolutif. Cependant les milliards d'années de l'évolution ont donné des produits d'un ordre de complexité élevé, et on peut dorénavant en tirer parti en utilisant les outils évolutionnaires existants pour faire l'ingénierie inverse des produits de l'évolution biologique. Il faut rappeler à ce sujet que l'univers évolue d'une façon massivement parallèle. ON évoquera aussi la théorie de Marvin Minsky (A society of mind) selon laquelle l'intelligence résulte de l'interaction de multiples agents simples peu différents des AC. Ceci étant, ceux-ci seuls n'évoluent pas suffisamment et doivent être confrontés à un processus évolutionnaire plus général supposant conflit et compétition.

La machine de Turing universelle et la physique

Le point peut-être le plus remarquable dans le livre de SW est la démonstration faite par celui-ci de l'universalité de la computation à partir de règles simples. Certes on le savait déjà. La machine universelle de Turing, avec ses 7 règles simples, peut simuler n'importe quel calculateur. SW démontre qu'une machine de Turing avec 2 états et 5 couleurs possibles peut être un calculateur universel, de même que l'AC 110 peut faire n'importe quel calcul (à condition de disposer du bon logiciel).

Par contre, la thèse de SW la plus sujette à controverse est celle par laquelle il postule que l'univers est un grand AC, qu'il y a une base numérique universelle dans les phénomènes apparemment analogiques de la physique et que nous pouvons nous les représenter comme les transformations d'un AC. L'hypothèse avait déjà été avancée par Richard Feynman et Norbert Wiener, mettant l'accent sur le fait que l'information et non l'énergie représentait les blocs constitutifs de l'univers. Dans les années 1980 Edward Fredkin avait proposé ce qu'il avait appelé une nouvelle théorie physique reposant sur l'idée que l'univers était composé de logiciel, c'est-à-dire de bits de données soumis à des règles de computation, et non de particules et de forces, ceci depuis les phénomènes physiques de base jusqu'à la vie (ADN) et la conscience. Robert Wright avait observé que cette conception ne permettait pas de court-circuiter le fonctionnement de l'univers pour anticiper ce vers quoi il allait. De même, pour connaître le produit du calcul d'un AC, ou de tout calcul utilisant des algorithmes, il faut le dérouler entièrement - ce qui n'est pas nécessaire dans l'approche analytique des mathématiques traditionnelles y compris des équations différentielles.

Tout ceci a été discuté dans le livre deKurzweil, The age of intelligent machines (1990). Dans ce livre, il a montré que tout pour nous est tantôt analogique, tantôt digital. Fredkin, relayé par SW (qui ne semble pas s'être inspiré de ses travaux) propose une théorie numérique (c'est-à-dire computationnelle) destinée à se substituer aux équations continues modélisant l'ensemble de la physique. La vérification de la pertinence d'une telle théorie obligera peut-être à rechercher quels mécanismes plus profonds sous-tendent les computations des AC. Sous-jacent au grand AC que serait l'univers, y aurait-t-il un phénomène analogique plus général qui serait sujet à des seuils permettant les calculs numériques ?

Ainsi, établir une base numérique à la physique ne résoudra pas le problème philosophique de savoir si l'univers est digital ou analogique. Ce serait cependant une réalisation considérable. Aujourd'hui déjà, cependant, on peut prouver qu'un modèle numérique de la physique est faisable. A n'importe quel niveau les équations analogiques peuvent recevoir des correspondances sous forme de transformations discrètes des valeurs. Il s'agit d'ailleurs du théorème fondamental du calcul (calculus), selon lequel l'intégration et la différenciation sont des opérations inverses. Mais cette hypothèse semble compliquer inutilement les choses. Utiliser les AC simplifie-t-il les calculs ? Une nouvelle théorie physique doit pouvoir faire des prédictions ? Or le trait fondamental d'un AC est qu'il ne le peut pas.

SW décrit l'univers comme un réseau de nœuds. L'espace tel que nous le percevons serait une illusion crée par la transition continue des phénomènes au sein d'un réseau de nœuds. Les évènements tels que les ondes et les particules qui semblent se mouvoir à travers l'espace seraient représentés par des " planeurs " cellulaires (gliders) qui progresseraient à travers le réseau à chaque cycle de calcul, sur le modèle du Jeu de la Vie. La vitesse de la lumière serait la traduction de la vitesse de l'horloge du calculateur céleste faisant avancer les planeurs cellule par cellule.

La relativité générale d'Einstein peut être représentée dans ce schéma. On peut imaginer un réseau à 4 dimensions et les courbures apparentes de l'espace de la même façon que les courbures dans un espace à 3 dimensions. Le réseau deviendrait plus dense dans certaines régions pour représenter de telles courbures.

Le modèle de l'AC peut être également utile pour expliquer l'apparent accroissement d'entropie de la 2e loi de la thermodynamique. Le déroulement d'un AC de classe 4 qui produit de l'aléatoire est consistant avec l'aléatoire du mouvement brownien et de la 2e loi.

La relativité restreinte est plus difficile à situer. Le réseau d'un AC peut être transcrit sans difficulté dans le modèle Newtonien. Mais celui-ci n'est pas compatible avec la relativité restreinte, puisque les vitesses et temps deviennent relatifs aux vitesses des observateurs. Une description commune de l'espace et des nœuds y devient difficile, Chaque observateur a besoin de son propre réseau. On peut le convertir en réseau newtonien, mais cela n'est pas une simplification. .

Une représentation de la réalité sous forme d'un réseau cellulaire de nœuds peut par contre avoir de l'intérêt pour comprendre certains aspects de la mécanique quantique. Elle expliquerait l'aléatoire que nous observons dans les phénomènes quantiques. L'apparition aléatoire, par exemple, de paires de particules-antiparticules pourrait relever du même type de phénomène que celui constaté dans les AC de classe 4. De la même façon que les phénomènes quantiques, bien que prédéterminé, le comportement des AC ne peut être anticipé et paraît aléatoire (sauf à le faire tourner) .

Ceci évoque la formule des variables cachées qui pour certains physiciens expliqueraient les comportements apparemment aléatoires qu'on observe en mécanique quantique. Cette interprétation n'est pas incompatible avec les formules de celle-ci, mais elle n'est pas très populaire chez les physiciens quantiques car elle semble très improbable. Mais cela ne devrait pas suffire à la faire rejeter. Notre univers est très improbable et pourtant il est là.

Comment tester une telle théorie ? Les AC ne peuvent aider à le faire, puisqu'ils sont imprédictibles, même s'ils sont déterministes. L'univers en réseau proposé par SW ouvre un éclairage sur le phénomène de la superposition quantique et la réduction de la fonction d'onde. Celle-ci, qui permet de matérialiser la particule dans notre univers, peut être vue dans la perspective d'un AC comme l'intersection de l'observé avec l'observateur. Comme observateurs, nous sommes en effet à l'intérieur du réseau. Dans la logique des AC, deux entités (ou cellules) ne peuvent interagir sans être toutes les deux modifiées, ce qui suggère une base pour la modélisation de la réduction de la fonction d'onde au sein d'un AC. SW écrit que si l'univers est un réseau, alors il peut contenir des liens (threads) qui continuent à connecter les particules même séparées dans l'espace ordinaire. Ceci pourrait expliquer les récentes expériences (Alain Aspect) concernant la non-localité. SW reconnaît lui-même cependant qu'expliquer toute la physique de cette façon constituera une tâche considérable.

Les structures (patterns) dans l'univers

SW étend la discussion à la philosophie, et notamment au libre-arbitre, dont les décisions semblent déterminées mais imprédictibles, de façon comparable à ce qui se passe dans un AC. Il paraît difficile cependant d'assimiler le libre-arbitre à tous les phénomènes imprédictibles de la nature. C'est pourtant ce que semble faire SW quand il considère que les phénomènes de l'esprit sont computationnellement équivalents à ceux de la turbulence dans l'écoulement d'un fluide.

La philosophie de Ray Kurzweil n'est pas là-dessus celle de SW. C'est celle d'un " patterniste " autrement dit d'un scientifique qui s'est spécialisé dans la reconnaissance des structures (patterns). La réalité fondamentale du monde, pour lui, n'est pas la matière mais les structures. A la question de savoir ce que je suis, dit-il, je suis certainement un certain arrangement, chaotique et ordonné, des molécules qui composent mon corps et mon cerveau. Mais celles-ci ne sont pas celles qui les composaient quelques temps auparavant. Ce qui a persisté c'est leur structure, leur organisation. Celles-ci changent aussi, mais plus lentement et en continuité avec mon moi passé.

Les structures, (les gens, les idées) persistent. En principe, considérer l'univers comme un AC propose la même perspective : la réalité est finalement une structure d'informations. L'information n'est pas un contenu dans un contenant mais constitue la réalité ultime. Ce que nous percevons de la matière et de l'énergie sont des abstractions, c'est-à-dire des propriétés des structures. La grande majorité des processus définissant l'intelligence humaine concerne la reconnaissance des structures.

Cependant, ceci n'est pas semblable à ce que fait un AC de classe 4, qui crée essentiellement des assemblages de bas niveau. Certains observateurs ont prétendu y voir des figures fantomatiques et autres significations, mais celles-ci révélaient plus l'intelligence de l'observateur que celle de l'AC.

Finalement le travail de SW propose une image attirante mais finalement surévaluée et incomplète de l'univers. Il rejoint la communauté de ceux qui voient la réalité faite plus de réseaux d'information et de computation que de matière et d'énergie. Son travail apporte beaucoup à cette hypothèse et devra être poursuivi, en collaboration avec les autres scientifiques partageant ces vues, afin de construire une théorie robuste du rôle universel des algorithmes dans l'univers.

Pour conclure, la théorie de SW ne paraît pas expliquer toutes les phénomènes biologiques, même si le manque de prédicabilité des AC de classe 4 se retrouve dans certains aspects de l'apparente complexité du monde biologique, et méritera d'être émulé dans la technologie utilisée par les chercheurs s'intéressant à la vie artificielle. Peut-être par contre pourra-t-elle expliquer toute la physique. Alors le livre de SW aura mérité son titre. De toutes façons le travail de SW constitue un apport important à l'ontologie.

Premières conclusions

Nous pourrions à ce stade de l'étude de A New Kind of Science, et compte tenu de l'avis autorisé de Ray Kurzweil, proposer à nos risques et périls quelques premières conclusions tout à fait fragiles :

- il existe probablement dans la nature de nombreux processus évolutifs computationnels algorithmiques qui à partir de règles très simples, génèrent intrinsèquement de la complexité sur le mode aléatoire non prédictible (il faut laisser se dérouler le processus pour voir à quoi il aboutit).

- les AC de classe 4 de Wolfram (celui de la règle 110) expriment sans doute un de ces processus, mais ceux-ci sont certainement beaucoup plus nombreux, dans l'univers tel qu'il se présente aujourd'hui après un certain nombre de milliards d'années d'évolution computationnelle. La lisibilité exceptionnelle des AC en fait un instrument de modélisation tout à fait intéressant, qui nous permet d'identifier dans la nature des processus analogues moins évidents.

- Il semblerait que les modes de génération de la complexité et les formes de celles-ci soient communes à tous les processus évolutionnaires de ce type, quelles que soient les bases physiques, biologiques ou numériques à partir desquelles ils se mettent en place. Il y aurait en d'autres termes là un universel dont l'AC de classe 4 nous donne un exemple particulièrement visible mais qui reste à expliquer (voir ci-dessous).

- la complexité créée intrinsèquement par ces processus computationnels s'arrête très vite à un certain niveau qu'elle ne dépasse pas, si l'évolution reste confinée dans les règles et le cadre du système. A elle seule, elle ne peut donc expliquer l'immense complexité et diversité de la nature. Mais les processus évolutifs en question ne sont pas isolés. Wolfram a lui-même montré que les AC peuvent enregistrer un aléatoire venu de l'extérieur, notamment par interaction avec un environnement complexe. Plus généralement, les processus évolutifs dans la nature entrent en interaction (symbiose) et en compétition sélective les uns avec les autres. Les mécanismes de génération intrinsèque de complexité peuvent donc être relancés en permanence, en s'imbriquant les uns les autres, si les conditions sont favorables. Si on tenait absolument à comparer l'univers entier à un vaste AC, il faudrait alors admettre que ce serait un AC comportant tellement d'AC imbriqués que son analyse resterait très problématique.

- ceci entre autres redonne tout son sens à la sélection darwinienne comme moteur de l'évolution, sans rien retirer à la pertinence de l'observation de Wolfram selon laquelle de nombreux traits évolutifs résultant de la production intrinsèque de complexité sont apparus et se sont développés au hasard, sans influence (au moins initialement) sur les aptitudes adaptatives des espèces.

- si nous admettons ce qui précède, un mystère demeure : existe-t-il des règles sous-jacentes (underlying rules) et, si oui, quelles sont-elles, par lesquelles un processus computationnel génère intrinsèquement de la complexité aléatoire au sein d'un AC de classe 4 et au sein des processus évolutionnaires naturels de même nature. On pourrait aussi appeler ces règles, par référence à une certaine interprétation de la mécanique quantique, des variables cachées.

- Il semblerait précisément que de telles règles auraient quelque chose à voir avec l'univers quantique, dont on mesure de plus en plus qu'il doit être pris en considération dans la compréhension des phénomènes macroscopiques de notre univers, tant au niveau des systèmes physiques que des systèmes biologiques. Nous n'en dirons pas plus pour le moment, d'autant plus que Wolfram aborde ces questions dans un chapitre que nous n'avons pas encore étudié.

Retour accueil dossier Wolfram