Dans un livre récent(1), Georges Charpak et Henri Broch veulent démystifier les vendeurs d'irrationnel et recommandent l'attitude scientifique face à l'inconnu et au connu de ce monde. Ils rappellent en introduction que l'humanité a été, en tant qu'espèce, optimisée génétiquement pour survivre dans la nature sauvage.
On admire en effet l'intelligence implicite des sociétés Pygmées ou Inuits plongées dans des environnements très difficiles. Mais cette même intelligence a engendré les sciences et les technologies, lesquelles, utilisées avec l'esprit tribal et belliqueux hérité de nos ancêtres, se révèlent aujourd'hui menaçantes pour l'avenir même de la vie sur Terre. Peut-on alors parler encore d'intelligence dans les choix collectifs actuels ? Comment faire croire que consommer en 50 ans ce qui reste d'énergie fossile en provoquant des hausses considérables de température et de pollution ne provoquera pas des catastrophes écologiques ? Comment penser que 2 à 3 milliards d'hommes, déjà nés ou encore à naître, accepteront d'être cantonnés dans des poches de misère, alors que le Nord prétendrait bénéficier d'un confort toujours accru ? Face à ces risques, disent-ils, il est urgent d'apprendre à penser scientifiquement, plutôt que fuir les réalités dans les illusions de l'irrationnel. Leur message s'adresse aussi bien à un George Bush qui ne veut pas faire la moindre concession aux nécessités du développement durable, qu'aux populations du tiers-monde refusant, par exemple, le contrôle des naissances et l'émancipation de la femme, sous prétexte de rester fidèle à des prescriptions religieuses vieilles de plus de 2.000 ans.

Cet appel d'un Prix Nobel à l'intelligence collective et individuelle, lesquelles restent d'ailleurs à définir, doit être rapproché ici des prédictions, auxquelles nous donnons une place privilégiée dans ce numéro, relative à l'émergence, dans ces mêmes cinquante prochaines années, de super-intelligences artificielles.

Pour ce qui nous concerne, nous pensons utile de rappeler qu'il serait politiquement tout à fait dangereux d'évoquer de telles super-intelligences sans tenter de préciser dans quels domaines elles s'exerceront, et au profit de qui elles le feront. Posons d'abord pour acquis que de telles intelligences artificielles verront le jour dans les délais annoncés par les experts, sauf catastrophe écologique ou politique majeure survenant d'ici là. Admettons également qu'il s'agira d'intelligences partagées entre des machines dont le niveau de compétence dépassera largement celui de l'humain ordinaire, et une petite minorité d'hommes promoteurs, utilisateurs et finalement partenaires de ces machines, dont les capacités cognitives et les connaissances se seront à leur contact considérablement étendues(2).

Domaines

Dans quels domaines de telles super-intelligences s'exerceront -elles? S'il est possible - à supposer que cela soit faisable - d'orienter leur développement, le bon sens voudrait qu'elles soient appliquées à prévenir en urgence les catastrophes autrement inévitables au devant desquelles court l'humanité actuelle(3). Ceci voudrait dire d'abord observer et alerter. Multiplier les réseaux d'observation de la Terre et des paramètres vitaux de survie, alerter l'opinion face aux comportements à risque, évaluer l'efficacité des mesures de protection, offrira là matière à beaucoup d'investissements intelligents dont on est loin encore d'avoir pris la mesure. Mais il faudra surtout développer de nouvelles sciences et technologies capables de faire sortir l'humanité des impasses dans lesquelles l'ont conduite certaines des technologies actuelles, aux mains de pouvoirs économiques et politiques globalement "inintelligents". On pense à court terme aux recherches concernant les énergies renouvelables, les industries non-polluantes et plus généralement ce que la National Science Foundation américaine appelle les 4 NBIC (Nanotechnologies, Biotechnologies, Infotechnologies et Technologies Cognitiques). A plus long terme, il s'agira d'exploiter (sans en abuser) les possibilités de l'Espace proche ou plus profond. L'idée animant de tels projets sera simple : puisqu'il n'est plus possible de revenir sur les effectifs prévisibles de l'humanité, qui globalement aujourd'hui excèdent largement les ressources actuellement disponibles, il faut faire le maximum pour leur procurer les moyens de survivre et le confort minimum qu'ils exigeront de toutes façons, sans conduire la Terre à la catastrophe planétaire. Il faut donc inventer d'urgence, outre évidemment des modes de vie moins polluants et moins gaspilleurs, de nouvelles ressources pour faire face à la poursuite d'un vrai développement durable. Seule les sciences et les technologies les plus révolutionnaires peuvent vraiment nous aider dans cette voie..

Bénéficiaires

Au profit de qui les super-intelligences devraient-elles s'exercer ? Ce que nous venons de proposer relativement à leurs domaines d'exercice répond en partie à la question, mais il faut cependant la formuler en tant que telle. Parler de super-intelligences sous-tend fâcheusement l'idée de sous-intelligences. Il ne faut pas se faire d'illusion en effet. Nous sommes engagés dans une mutation de phase intéressant l'évolution de l'intelligence sur terre, semblable sans doute à celle qui s'est produite quand les hominiens ont divergé d'avec leurs presque homologues d'alors, les autres grands singes, en se dotant de la parole et de l'outil symbolique, père des technologies modernes.

Aujourd'hui sans doute une nouvelle espèce conservant encore un temps le corps des hommes, mais déjà dotée de capacités intellectuelles et physiques considérablement augmentées par les machines intelligentes, est en train d'apparaître. Ceux qui, comme vous et moi, favorisés par l'accès à une information pertinente, nous en rendons compte, avons le devoir de poser sans peur du politiquement correct la question de fond. Voulons-nous que quelques centaines de millions d'entités super-intelligentes s'imposent dans la suite de l'évolution à plusieurs milliards d'êtres réduits à la sous-intelligence, qui n'auront même pas pour nous l'infinie patience des animaux lesquels acceptent, jusqu'à présent, leur extermination sans guère se défendre ?

Il ne faut pas se bercer d'illusions. Nous en sommes-là, ou nous en serons très vite là - en supposant d'ailleurs que le je qui vous parle et le vous qui me lisez restions du côté des super-intelligences de demain, ce qui n'a rien de garanti vu le peu d'intérêt que portent nos dirigeants à ces questions.

Pour ma part, la réponse, inspirée d'ailleurs par la prudence plus que par la bienveillance, s'impose d'elle-même. Il faudra que les super-intelligences de demain sauvent l'humanité toute entière des risques de sous-intelligence. Peut-être ne faudra-t-il pas le faire par la force. Mais il faudra au moins leur en donner le choix, notamment par l'accès aux ressources minimales qui permettent à la dignité d'un homme de prendre le dessus sur ses instincts hérités du paléolithique, ressources économiques, mais aussi ressources d'éducation et de connaissances.

D'où l'intérêt d'orienter les futures super-intelligences vers le développement des NBIC précédemment évoquées. Pourvu qu'elles se laissent convaincre!

Notes
(1) "Devenez sorciers, devenez savants", Georges Charpak et Henri Broch, Editons Odile Jacob 2002
(2) Inutile de rappeler que c'est déjà ce qui se passe. Comment comparer les possibilités d'un individu moderne disposant de toutes les ressources et de toutes les libertés offertes par la société de l'information, et celles d'une jeune fille d'un village du Tiers-monde (pour rappeler un événement récent) violée rituellement par les mâles du village pour la punir du fait que son frère avait osé parlé à une femme d'une caste supérieure ?
(3) A cet égard, on peut mentionner le livre de Jean-Pierre Dupuy, "Pour un catastrophisme éclairé. Quand l'impossible est certain", Le Seuil, 2002. L'auteur y développe une thèse qui n'est pas toujours utilisable, selon nous, mais qui est intéressante. Pour lui, les catastrophes les pires possibles se produiront inexorablement, si on se borne à lutter contre elles par un principe de précaution trop généraliste. Le catastrophisme éclairé consistera à se projeter dans le futur pour considérer la catastrophe réalisée, et apprécier en quoi elle était inévitable. On pourra alors essayer, rétrospectivement si on peut dire, essayer de la prévenir. Cette saine hygiène de démarche n'assurera pas cependant, d'une part que nous pourrons aujourd'hui imaginer toutes les catastrophes possibles (rappelons que le monde est un système chaotique imprédictible dans le détail) et, d'autre part, que nous pourrons mettre en œuvre toutes les mesures préventives souhaitables. Cependant, en ce qui concerne le pire que nous prévoient les spécialistes de l'environnement, il n'y a aucun doute à avoir. Dans une certaine mesure, il s'est déjà produit, hélas.

Retour page d'accueil dossier "Super-intelligences"

Automates Intelligents © 2002