1.2 - Alliage et émergence

L'alliage de l'automate et du cerveau est un fait relativement récent. Il est utile d'ouvrir ici une parenthèse pour examiner les effets d'émergence qui résultent de la découverte d'un nouvel alliage.

Les alliages ne sont pas tous féconds mais certains d'entre eux ont des propriétés dont l'émergence, faisant apparaître des possibilités nouvelles, transforme le rapport entre la société humaine et la nature – et transforme la nature elle-même si on la définit comme « ce qui se présente comme outil ou comme obstacle devant les intentions humaines ».

Un alliage fécond n'est pas une « union accidentelle » mais une « union substantielle », (dans le langage de la philosophie) car il fait apparaître dans le monde de la nature un être radicalement nouveau : ainsi l'acier, obtenu par alliage du fer et du carbone, fait émerger un métal plus rigide que le fer car les atomes de carbone s'intercalent entre les atomes de fer et entravent leur glissement.

L'alliage de la société humaine et de la production au début du néolithique a fait émerger l'échange, les villes, la comptabilité, l'écriture, bref la civilisation – et aussi la guerre, car le cheptel et les stocks de semences étaient des proies tentantes pour les razzias.

L'alliage de la machine et de la main humaine (« main d’œuvre »), survenu au XVIII^e siècle en Grande-Bretagne, a fait émerger la société industrielle avec les usines, le salariat, la lutte des classes, l'extension des systèmes éducatif et de santé, l'impérialisme et le colonialisme, enfin les guerres mondiales du XX^e siècle.

Bertrand Gille [12] a décrit la succession des « systèmes techniques » qui, fondés chacun sur la synergie de quelques techniques fondamentales, ont fourni aux sociétés le socle du leur système productif et du bien-être matériel.

L'informatisation s'appuie, elle, sur l'alliage de l'automate et du cerveau humain devenu un « cerveau d’œuvre ». Elle transforme les entreprises et les institutions, l'équilibre économique, le marché et les formes de la concurrence ainsi que la fonction d'utilité des consommateurs. Elle apporte ainsi des bouleversements de nature différente, mais d'ampleur comparable à ceux que la société avait connus avec l'industrialisation.

Les exemples que nous venons de donner montrent que l'émergence d'un alliage s'accompagne de possibilités nouvelles, mais aussi de périls nouveaux : elle ouvre à l'action un continent vierge qu'il faut explorer, baliser et coloniser, dont il faut apprendre à connaître la faune et la flore etc.

Quels sont les deux éléments que l'informatisation allie ?

L'ordinateur individuel est devenu le terminal d'un automate formé par l'ensemble des ordinateurs et qui, grâce au réseau, est devenu accessible depuis n'importe quel endroit : on peut donc le qualifier d'ubiquitaire. L'écran clavier posé sur notre bureau, ou bien notre téléphone mobile « intelligent », sont des interfaces vers cet automate programmable ubiquitaire (APU) qu'ils mettent en relation avec notre cerveau.

L'APU est un automate programmable car il est a priori apte à réaliser tout ce qu'il est possible de programmer : calcul, traitement des textes, sons et images, pilotage des robots...

L'automate programmable se distingue des autres automates. Le métier à tisser ou l'orgue de barbarie sont des automates qui obéissent à des programmes, mais ils ne peuvent remplir que des fonctions limitées. Pour concevoir l'automate à tout faire, capable de commander les équipements périphériques les plus divers – disques durs, écrans, hauts parleurs, ailerons d'un avion en pilotage automatique, commandes des machines-outils, freinage assisté des automobiles – il a fallu un étonnant effort d'abstraction.

Qui sommes-nous en face de l'APU ? Dans notre vie courante, nous sommes l'individu qui utilise le Web pour se documenter, la messagerie pour communiquer. Dans l'entreprise, nous sommes l'« être humain organisé », EHO, car notre cerveau et notre action s'insèrent dans l'organisation du processus de production. L'entreprise contemporaine met en œuvre l'alliage de l'EHO et de l'APU. Elle est elle-même le résultat d'une évolution que nous allons décrire.

*     *

L'alliage du cerveau humain et de l'automate a fait émerger un être capable d'actions auparavant impossibles, donc un être nouveau. Le pilote automatique d'un avion de ligne permet par exemple de donner à l'avion pendant le vol la position qui minimise la consommation de carburant – position qu'un pilote humain ne pourrait maintenir qu'un instant, car ce serait aussi difficile que de tenir une assiette en équilibre sur une épingle.

L'efficacité de cet alliage nécessite que chacune des composantes apporte ce qu'elle sait faire le mieux : tandis que seul l'être humain sait se débrouiller devant l'imprévu, l'automate est infatigable dans l'exécution des tâches répétitives, qu'elles soient mentales (recherche documentaire, contrôle visuel de qualité) ou physiques.

Aucun logiciel ne peut d'ailleurs être sans défaut – le logiciel le mieux vérifié comporte en moyenne un défaut pour 10 000 lignes de code source (Printz [29]) – et un programme, étant une suite finie d'instructions, ne peut pas contenir la réponse à toutes les situations que peut présenter la complexité illimitée du monde de la nature.

Il faut donc articuler intelligemment les deux composantes. Cela suppose de sous-automatiser pour que l'être humain puisse prendre la main en cas d'incident imprévu : les grands automatismes (réseau télécom, installations nucléaires) doivent être soumis à une supervision humaine. Un excès d'automatisation provoquera des catastrophes (cf. les incidents que provoque à répétition le trading automatisé dans la Finance).

Certaines des tentatives de l'« intelligence artificielle » visent à faire reproduire par l'ordinateur le comportement humain jusqu'à simuler des émotions. Elles tentent ainsi de masquer la différence entre l'automate et le cerveau, au risque d'empêcher de penser leur articulation. Par ailleurs, tout comme l'économie fondée sur la mécanique a été tentée d'ériger la machine en exemple pour le comportement humain (l'« homme nouveau » des régimes totalitaires), notre économie risque d'être tentée d'ériger l'ordinateur en exemple pour l'être humain et de nier la composante humaine de l'alliage.

L'émergence de l'alliage pose enfin des problème de savoir-faire et de savoir-vivre : les institutions, comme les individus, ne peuvent acquérir ces savoirs que par tâtonnement et donc après avoir commis des erreurs.