3 janvier 2007
Présentation par Jean-Paul Baquiast

Annihilation from Within

Annihilation from Within Fred Charles Iklé Columbia University Press, 2006

Ceux qui s'efforcent de réfléchir à l'avenir des sociétés humaines sont confrontés à une question difficile : ces sociétés utilisent-elles les outils d'aide à la décision offerts par les nouvelles sciences du gouvernement des sociétés complexes, ou restent-elles sous l'emprise des déterminismes ancestraux sous commande mi-génétique mi-culturelle ayant permis aux humains primitifs de survivre dans un milieu naturel peu modifié par l'homme.

La question se pose avec de plus en plus d'acuité lorsque l'on fait la constatation que les sciences et les technologies, y compris sous leurs formes les plus dangereuses, se développent non seulement sur un rythme exponentiel mais d'une façon qui échappe presque totalement aux contrôles humains. Or dans le même temps, les sociétés humaines continuent à évoluer sous commandes d'automatismes ancestraux où la rationalité moderne n'a qu'une faible part. Ceci qu'il s'agisse des sociétés du tiers-monde encore peu pénétrées par la culture dite scientifique, ou des sociétés occidentales elles-mêmes.

Le danger de cette différence dans le rythme et dans la nature du développement résulte du fait que l'utilisation de technologies de plus en plus potentiellement destructrices dépend d'individus et de groupes se comportant vis-à-vis d'elles comme leurs ancêtres le faisaient vis-à-vis des haches de pierre et des sagaies. Autrement dit, pour résoudre des conflits de voisinage ou des antagonismes entre ethnies et croyances qui se seraient réglés chez les chasseurs-cueilleurs par des affrontements entre quelques dizaines d'individus, sans impact sur le milieu naturel, les sociétés modernes ou certains individus délirants en provenant pourraient utiliser des armes de destruction massive aux conséquences incalculables, à la fois sur les hommes et sur le milieu naturel.

Depuis l'Antiquité, les modes de gouvernement des sociétés n'ont évolué que très lentement, et sur un mode présentant des hauts et des bas. Tantôt, certains progrès de démocratie sont apparus. La constitution américaine pendant plus de deux cents ans a pu réguler sans refontes radicales le développement d'une nation passée de 10 millions de citoyens à plusieurs centaines de millions. L'Europe s'est à son tour dotée de constitutions démocratiques qui se sont généralisées à tous les Etats à la chute du mur de Berlin. Après la seconde guerre mondiale enfin, un ordre international a été esquissé avec la création de l'ONU. Mais parallèlement, derrière des façades apparemment démocratiques, des régressions importantes se sont produites dans certaines parties du monde, avec le développement de dictatures et de tyrannies. Celles-ci sont aujourd'hui plus nombreuses que les démocraties, ce qui n'est pas rassurant. On ne peut donc pas dire que globalement, les méthodes de contrôle social permettant à l'humanité de gérer le développement des technologies se soient améliorées.

Même dans les pays réputés démocratiques, des affrontements armés internes peuvent à tout moment surgir. Il est indéniable qu'aujourd'hui, y compris en Occident, par exemple en Irlande et surtout aux Etats-Unis, les fondamentalismes chrétiens sont prêts à en venir aux mains avec leurs adversaires, de la même façon que les fondamentalismes s'inspirant d'autres religions dans les parties moins développées du monde. Les revendications pour le territoire ou pour la purification ethnique demeurent virulentes. Des guerres locales pour ces motifs ne demandent qu'à éclater en Europe (Balkans, frontières orientales de l'Europe), de la même façon qu'elles font rage au Moyen Orient, en Afrique et dans certaines régions d'Asie.

Décalage entre développement scientifique et contrôle social

Le problème qui menace la paix mondiale est que dorénavant les belligérants déclarés ou potentiels peuvent accéder à des armes susceptibles de détruire une partie du monde. Ceci parce que le développement scientifique et technologique se poursuit inexorablement, sans qu'aucune autorité sociale ne soit capable de le contrôler afin de prévenir les applications mortelles que certains pourraient en faire pour s'imposer par la force.

Fred Iklé, confronté à cette question, a publié récemment un petit livre très dense mais facile à lire, qui mérite une attention approfondie. Il s'agit de Annihilation from Within, the Ultimate Threat to Nations, Columbia University Press 2006.
Le livre analyse les causes du décalage entre les technologies et le contrôle politique, les conséquences qu'il pourrait entraîner et les meilleures façons de se protéger contre des risques que les décideurs, selon lui, sous-estiment gravement.

Fred Iklé a été très averti de ces questions dans l'exercice de ses fonctions de directeur de l'US Arms Control and Disarmament Agency sous les présidents Nixon et Ford. Cette Agence avait pour mission, durant la guerre froide, de vérifier que les Traités destinés à limiter les armements nucléaires chez les parties signataires étaient bien appliqués. Or il avait constaté qu'il était pratiquement impossible d'empêcher les usages pacifiques de l'énergie atomique de dériver vers la production de bombes, quelles que soient les déclarations en sens contraire des gouvernements. Ce problème est bien connu aujourd'hui puisqu'il est à la source de la dissémination des armements nucléaires qui rendent pratiquement sans effet le Traité de non-prolifération.

Fred Iklé s'était donc élevé, sans être écouté, contre l'autorisation donnée par les Etats-Unis à l'exportation de technologies nucléaires civiles, montrant qu'elles conduiraient inévitablement à l'apparition de nouveaux pays possesseurs de l'arme atomique. On sait qu'aujourd'hui la question continue à se poser dans les relations des Etats-Unis avec l'Inde. Dans le cadre d'un accord économique global avec ce pays, le président Bush a promis d'autoriser le transfert de technologies nucléaires destinées à la construction de centrales, ce à quoi le Sénat s'était opposé jusqu'a ces derniers jours. Cependant aujourd'hui, l'accord du Sénat aurait été obtenu, en échange d'ailleurs de droits à contrôle que certains responsables indiens jugent insultants pour leur souveraineté(1).

Pour Iklé, la dissémination des technologies nucléaires obéit à des logiques propres, qui sont celles de la diffusion spontanée des pratiques et des savoirs scientifiques. Il s'agit de lois de type systémique pratiquement incontrôlables par des mesures d'ordre volontaires, telles que la mise en place de règlements et de contrôles. Il en est de même pour toutes les technologies, notamment de celles dites duales c'est-à-dire pouvant avoir des applications militaires aussi bien que civiles. Aujourd'hui, leur champ est considérable. Il existe donc un risque grandissant de voir des armes de destruction massives, atomiques, bactériologiques ou chimiques, proliférer dans le monde entier, aux mains de pouvoirs politiques, d'organisations terroristes ou même de simples illuminés ou fous. Il est inévitable, pense Fred Iklé, qu'un jour ou l'autre l'une de ces armes soit utilisée et provoque des destructions de grande ampleur.

Quelle cause provoqua la rupture de l'équilibre relativement harmonieux caractérisant les sociétés traditionnelles. Celles-ci avaient confié au gouvernement de la cité (religieux ou civil) le contrôle de la pratique des techniques de production (dans l'agriculture, le commerce, l'architecture…) et des techniques militaires elles-mêmes. Or ce contrôle par le politique disparût en quelques décennies. Fred Iklé estime (chapitre 2) qu'un véritable divorce ou schisme entre l'ordre politico-religieux et l'ordre technologique se produisit en Europe avec la Renaissance et surtout les Lumières. Auparavant, sous l'influence des églises et d'institutions sociales immuables, les pratiques manufacturières étaient soumises à un encadrement religieux et politique. Elles servaient à célébrer à la fois la grandeur des dieux et celle des souverains. Il en était résulté un équilibre heureux entre le fonctionnement social et le développement lent et maîtrisé des techniques. La Chine d'avant le XVI^e siècle donna l'exemple d'un tel équilibre. L'homme devait y rester humble et passif face aux possibilités de découverte et de changement. L'empereur Zhu Di en 1433 avait ainsi interdit les voyages océaniques d'exploration que proposait son grand amiral.

La rupture se produisit en Europe au 15e siècle, avec le développement du rationalisme et de l'économie marchande ou capitaliste qui ont incité des inventeurs et des entrepreneurs à développer des outils et des usages ayant la capacité de se reproduire et de se complexifier en dehors de tous contrôles. Les institutions n'y purent rien. Ainsi l'Eglise catholique, malgré ses efforts, n'a pas réussi à empêcher le processus de remise en question des connaissances traditionnelles enclenché par la révolution copernicienne. Mais au lieu d'évoluer à son tour et tenter d'accompagner le progrès, elle s'est repliée sur ses textes fondateurs. Il en fut de même des autres religions monothéistes. Les institutions politiques sont de leur côté restées très imbriquées avec les religions. Elles n'ont jamais, sauf peut-être très récemment et dans certains pays seulement, tenté de comprendre et rationaliser le mouvement des sciences. Au contraire, quand elles l'ont fait, ce fut dans le cadre d'une course aux armements dont le moins que l'on puisse dire est qu'elle n'était pas rationnelle – au regard tout au moins des intérêts globaux de l'humanité et du monde vivant.

Ainsi, le schisme entre science, politique et religions n'a fait que grandir. Il s'est étendu au monde entier, indépendamment des traditions des civilisations touchées par le phénomène. Partout s'est approfondi le fossé entre une économie techno-scientifique mondialisée et des sociétés restées traditionnelles qui sont devenues des isolats irréductibles. Les tensions et conflits en résultant sont désormais universels. Le rêve d'une fraternisation de l'ensemble des civilisations sous l'influence bénéfique des technologies se révèle de plus en plus illusoire. Ceci explique en particulier que la société de l'information, censée faire du monde un village global, se fragmente actuellement entre de multiples acteurs incapables de s'entendre et même de simplement communiquer.

La bombe atomique et les robots super-intelligents

Le cadre ainsi posé, Fred Iklé montre que les risques de divergence entre les possibilités ouvertes par les progrès scientifiques et l'incapacité des civilisations à les contrôler ne vont faire qu'augmenter avec l'émergence des nouvelles sciences. Il reprend les prévisions intéressant les progrès convergents et émergents des sciences présentées par les futurologues optimistes, tels Ray Kurzweil, mais il en fait des raisons d'inquiétude. En dehors de l'atome militaire, le plus grand risque menaçant selon lui les sociétés humaines tient à la possibilité de contrôler les cerveaux individuels par les prothèses cérébrales et autres techniques de production de contenus cognitifs individuels et collectifs. L'échec des contrôles tentés dans la dernière décennie du XX^e siècle pour limiter les recherches concernant les armes biologiques lui montre qu'il sera tout aussi impossible de contrôler les recherches concernant l'intelligence artificielle et ses applications, visant à produire des robots super-intelligents aux finalités militaires, policières ou terroristes.

Pour le prouver, l'auteur rappelle son expérience du contrôle de la prolifération nucléaire. Il présente ce qu'il nomme les leçons de l'énergie nucléaire. La première leçon concerne le caractère illusoire des bonnes intentions visant à restreindre le nucléaire à ses usages pacifiques, sous le contrôle des Nations Unies. Son passé de secrétaire adjoint à la défense et de conseiller des présidents américains fait de lui sur ce point un témoin particulièrement bien informé. Il montre que, malgré les efforts constants déployés par le gouvernement américain depuis le lancement de la première bombe atomique sur le Japon, il fut impossible d'empêcher la dissémination de cette arme, en URSS d'abord, dans d'autres pays ensuite. Il ne pourra pas en être autrement à l'avenir dans les autres domaines du contrôle de la diffusion des technologies potentiellement dangereuses à grande échelle biotechnologies, nanotechnologies, intelligence artificielle.

La deuxième leçon de l'énergie nucléaire concerne le concept d'équilibre de la terreur ou MAD (destruction mutuelle assurée). Pour l'auteur, il était fondamentalement vicié. Il reposait sur l'hypothèse que la crainte d'une riposte de la part d'un Etat nucléaire empêcherait toute agression de cet Etat par un autre Etat, nucléaire ou non. Or ce ne fut pas le cas. L'attaque de la Corée du Nord en Corée fut autorisée par Staline malgré la supériorité atomique américaine à cette époque (350 bombes contre 5 en URSS). Il en fut de même lors de la guerre du Viet-Nam ou de la crise de Cuba. Ceci parce que les raisonnements rationnels dans le domaine des conflits n'existent pas. On se trouve en présence de joueurs prêts à tout risquer dans l'espoir d'un coup de chance. Les déclenchements accidentels (ou provoqués par des militaires fous) sont encore plus probables. Ce dernier risque fut une des grandes craintes des Etats-Unis pendant toute la guerre froide.

De plus, l'idée même d'une riposte déclenchée après détection d'une attaque (launch-on-warning) n'était pas réaliste. Comment distinguer une vraie attaque d'une fausse ? Ce fut d'ailleurs une des raisons qui poussèrent à préparer la guerre des étoiles, c'est-à-dire la réalisation d'un mur de protection contre les missiles balistiques. Mais les défenses anti-missiles se révélèrent techniquement hors de portée et possiblement dangereuses, car elles auraient relancé la course aux armements.

Aussi bien, la 3e leçon proposée par Iklé est que si la guerre nucléaire n'a finalement pas éclaté, ce fut par un simple coup de chance. Tout pouvait au contraire laisser penser que la catastrophe se produirait. L'auteur souligne qu'en ce cas, les autorités politiques et militaires américaines auraient été incapables de maîtriser la situation afin de la gérer intelligemment. Le gouvernement et l'Etat-major auraient réagi sur le mode irrationnel et passionnel, ouvrant une porte grande ouverte à la destruction totale qu'il fallait éviter. Il était bien placé pour en faire le constat, étant au coeur du dispositif de Sécurité nationale. Aujourd'hui, le danger n'est pas derrière nous. Le risque nucléaire demeure. La Russie reste menaçante, d'autres nations se dotent de la bombe (sans parler de diverses armes de destruction massive). Fred Iklé ne pense pas, sauf un changement dramatique de leur mode de gouvernement, que les Etats-Unis sauront mieux affronter les risques futurs qu'ils ne l'ont fait dans le passé.

Nous ne développerons pas ici les autres leçons que l'auteur nous propose de retenir de cette période de guerre froide, sauf à insister une nouvelle fois sur la certitude qui est la sienne : c'est une illusion dangereuse d'imaginer que la coopération dans le domaine de l'atome civil soit possible sans être suivie d'applications militaires. C'est bien ce que craint aujourd'hui la communauté internationale dans le cas de l'Iran et le Sénat américain à propos de l'Inde.

L'annihilation de l'intérieur

La suite du livre développe l'hypothèse qui donne son titre à l'ouvrage, celle d'une annihilation de l'intérieur. Fred Iklé retrouve sa vocation de conseiller présidentiel pour la sécurité nationale en mettant en garde ses lecteurs. Aucun Etat aujourd'hui n'est à l'abri d'une nouvelle sorte de destruction, s'en prenant à la tête même du pouvoir. L'Amérique ne l'est pas plus que les autres. L'auteur imagine un scénario relativement simple à réaliser : détruire le sommet de l'Etat, la Maison Blanche ou le Congrès, avec une arme de faible intensité, suffisante cependant pour faire des milliers de morts et paralyser l'institution visée. D'autres grands Etats peuvent aussi être la cible de tels attentats. Il pense particulièrement à la Russie d'aujourd'hui, qui n'est pas à l'abri d'une secousse dévastatrice. Les armes nécessaires sont désormais, selon lui, à la portée d'une organisation terroriste un tant soit peu méthodique. Il ne semble pas craindre en ce cas Al Quaida ou des mouvements analogues qu'il semble prendre pour des amateurs. Il craint bien davantage des tyranneaux issus de petits Etats sans stabilité politique et désireux d'atteindre d'un coup à une reconnaissance mondiale. L'Amérique centrale peut en susciter, aussi bien que la zone troublée située entre la Russie et l'Asie.

Cependant Fred Iklé n'exclut pas que le coup provienne d'un ennemi de l'intérieur. Il a été comme beaucoup d'Américains marqué par le fait que l'auteur de l'attentat à l'anthrax qui a suivi le 11 septembre 2001 provenait vraisemblablement du monde scientifique américain. Il est toujours possible aujourd'hui que dans l'état de dérèglement mental qui frappe les groupes fondamentalistes et les sectes aux Etats-Unis, un attentat destiné à tuer les impies et à faire revenir le Christ Roi soit décidé et trouve des soutiens dans certains milieux scientifiques. Le livre montre que rien n'est préparé pour faire face à un tel évènement. Toutes les institutions s'écrouleraient comme un château de cartes et les opinions seraient tellement déstabilisées qu'elles suivraient pour se rassurer n'importe quelle proposition délirante. Il consacre donc le dernier chapitre du livre à faire des propositions pour prévenir de tels risques et prendre les mesures de reconstruction politique et sociale qui s'imposeraient si la destruction annoncée se produisait.

Les lecteurs européens penseront que le risque d'une destruction par l'intérieur de l'Etat fédéral américain est assez faible. On se demandera si l'auteur ne cherche pas en l'évoquant à susciter la crainte afin de faire parler de lui dans les médias. Mais il faut être prudent concernant l'avenir des Etats-Unis. La grande république semble aujourd'hui dans un tel désarroi politique et moral que des forces de destruction externes ou internes peuvent se sentir encouragées à agir. En Europe, des attentats de cette nature sont théoriquement possibles également et les plans de sécurité publique doivent les envisager. Mais le pouvoir politique n'y est pas fédéral. Il est réparti en plusieurs Etats. Même si l'un était attaqué à la tête, les autres viendraient vraisemblablement à son aide. Le risque d'effondrement général est donc moindre. Des attentats de grande ampleur se produiront sûrement. Il serait dangereux de s'imaginer le contraire. Mais ils n'ébranleraient sans doute pas les bases mêmes de la démocratie européenne.

Commentaires

Les analyses présentées par Fred Iklé sont susceptibles de plusieurs interprétations. Les esprits religieux concluront que c'est la baisse de l'influence de la foi qui a permis depuis l'époque des Lumières le développement d'un rationalisme scientifique ne respectant aucune norme éthique. Il faudrait donc en revenir à une approche frileuse de la connaissance, basée sur l'étude des Ecritures et un dialogue (sans portée selon nous) entre la foi et la raison. On sait que ce retour à la Genèse est de plus en plus d'actualité aux Etats-Unis d'aujourd'hui (voir notre éditorial) comme dans une moindre mesure au Vatican. Ne mentionnons pas les islamistes…

Mais les matérialistes estimeront qu'il faut expliquer scientifiquement pourquoi la science et la technologie se sont émancipées brutalement des contraintes imposées par les cultures traditionnelles. Le pourcentage des populations dominées par les religions n'a certainement pas diminué depuis le 18e siècle. Si le développement technique s'est fait en dehors d'elles, c'est parce qu'il a répondu à des dynamiques nouvelles et puissantes, relevant de processus largement involontaires. Pour l'analyse mémétique appliquée aux super-organismes, l'étude de ces processus suppose de considérer comme des populations de mèmes (ou techno-mèmes) en compétition darwinienne les unes avec les autres, les entités composées de 1. une technologie donnée et 2. des humains qui l'utilisent et la valorisent par leur discours, Pris au pied de la lettre, ces termes ne signifient pas grand-chose, mais ils proposent cependant des directions où mener des analyses plus approfondies.

On se demandera ainsi pourquoi les technologies susceptibles d'applications militaires trouvent plus d'écho dans les sociétés humaines que les technologies visant à l'amélioration de la santé ou la protection de l'environnement. La réponse à cette question permettra de faire le lien entre la mémétique et la génétique. Nous avons indiqué par ailleurs(2) que les mèmes ne prolifèrent que dans des organismes leur offrant un terrain favorable. A l'inverse, les organismes qui leur offrent un terrain favorable profitent de leur prolifération. On retrouve là un phénomène classique dans le domaine vivant, le co-développement ou symbiose. Or, sans faire de sociobiologie hasardeuse, on peut estimer que les comportements culturels sous contrôle génétique visant à organiser la défense du territoire, des ressources, du groupe se sont développés plus vite chez les hominiens que ceux visant par exemple à organiser la coopération avec d'autres espèces vivantes et la défense de l'écosystème. Ceci a donc donné une prime aux technologies militaires. Ce déterminisme, aussi contrariant qu'il soit pour les pacifistes, joue toujours pleinement puisque ce sont pour l'essentiel les crédits militaires ou ceux mis au service de politiques de puissance qui permettent de faire progresser les sciences et les technologies.

Si Fred Iklé s'appuyait sur de telles analyses, il pourrait peut-être envisager des méthodes permettant d'assurer le succès des sciences et technologies civiles, notamment lorsque celles-ci peuvent servir à résoudre les grands enjeux énergétiques et environnementaux qui sont dorénavant ceux de la planète. Il faudrait relier ces technologies à des comportements culturels différents, eux-mêmes déterminés par un contrôle génétique acquis tout au long de l'évolution. De quels déterminismes pourrait-il s'agir ? Ce pourrait être ceux qui privilégient la peur salutaire face, non plus à l'hostilité de l'autre, mais à l'hostilité du milieu naturel. Si les humains d'aujourd'hui prenaient conscience que leur véritable ennemi dans l'avenir sera moins l'homme qu'un environnement détruit par l'homme et devenu meurtrier, ils accepteraient plus facilement les politiques de contrôle de la production des gaz à effet de serre ou de limitation des consommations gaspilleuses. Ils retrouveraient face à la nature, considérée à tort comme éternellement bienveillante, la peur salutaire qui était celle de leurs ancêtres confrontés aux éruptions volcaniques, aux inondations, aux tremblements de terre et autre cataclysmes qui ne feront que se multiplier si l'humanité ne fait rien pour les prévenir.

Il s'agit là d'un challenge aussi important que celui visant à empêcher la dissémination des armements atomiques. L'humanité face à de tels risques en est encore au niveau zéro de la dissuasion. Aucun traité de non prolifération n'est en perspective. Il serait temps que les stratèges de la sécurité nationale et internationale, dans la lignée des Fred Iklé, commencent à alerter sur ce nouveau grand risque non seulement l'opinion mondiale mais les chefs d'Etat les plus influents(3).

Mais la tâche ne sera pas facile. Une politique publique essayant de réactiver des comportements génétiquement acquis qui privilégieraient l'économie des ressources naturelles, la non-croissance et le respect de la nature se heurtera à des comportements encore plus primitifs qui, sans être belliqueux en tant que tels, sont tout aussi destructeurs. Ce sont par exemple ceux commandant de se reproduire sans aucun frein. La bombe démographique qui en résulte est loin d'être désamorcée. Elle continuera longtemps à menacer les écosystèmes bien plus concrètement que la bombe nucléaire.

Notes
(1) Lu dans Le Monde, 11 décembre 2006:
"L'Inde a accueilli avec un soulagement mêlé d'inquiétude la signature, samedi 9 décembre, par le Congrès américain, du projet de loi qui va permettre à Washington de fournir à l'Inde du combustible et de la technologie nucléaire civile en dépit du fait que New Delhi n'est pas signataire du traité de non-prolifération nucléaire (TNP).
Cette "exception indienne" au régime de non-prolifération est "le symbole du nouveau partenariat stratégique entre l'Inde et les Etats-Unis", a affirmé, à New Delhi, le sous-secrétaire d'Etat américain, Nicholas Burns.
Le texte adopté par les législateurs américains, et qui devrait être prochainement promulgué par le président George Bush, ne met pas totalement fin au malaise exprimé par de nombreuses critiques en Inde. Elles estiment que Washington cherche à exercer une sorte de contrôle sur le programme nucléaire indien."
(2) Voir Baquiast: "Comprendre - Nouvelles sciences, nouveaux citoyens
Introduction à la complexité" http://www.admiroutes.asso.fr/baquiast.htm
(3) C'est le travail qu'ont commencé à faire, dans des registres différents, Al Gore et Nicolas Hulot. Dans cet esprit, les anglophones liront avec intérêt, de l'anglo-canadien Thomas Horner-Dixon, "The Upside of Down : creativity and the renewal of civilisations", 2006. L'auteur dirige le Trudeau Centre for peace and Conflict Studies. Il a publié précédemment un livre également intéressant : "The Ingenuity Gap and Environment, Scarcity and Violence" . Voir pour plus de détails http://www.homerdixon.com/

Pour en savoir plus
Interview de l'auteur
http://www.columbia.edu/cu/cup/publicity/ikleinterviewannihilation.html

Automates Intelligents © 2007