L’intelligence artificielle nous rappelle, s’il en était besoin, que les progrès technologiques sont tout aussi lourds de menaces qu’emplis de promesses. Ce constat avait déjà été rendu évident avec la maîtrise de l’atome, qui rendait possible la destruction de l’humanité tout autant que son approvisionnement potentiellement illimité en énergie.
Mais l’intelligence artificielle porte la menace sur un autre plan. Ce ne sont plus, en effet, les conditions de vie matérielle de l’humanité qui sont en jeu. Ce sont les conditions de sa vie intellectuelle et – nous en sommes convaincus parce que nos sociétés ont réduit l’esprit à l’intelligence – de sa vie spirituelle. L’intelligence artificielle serait à ce titre plus judicieusement comparée à l’invention de l’imprimerie qui, en permettant une diffusion sans précédent de la connaissance et, notamment, des textes bibliques, avait menacé le monopole du clergé sur les Écritures saintes, donc sur la connaissance de la Parole de Dieu et, ultimement, sur la foi. Cependant, l’intelligence artificielle ne menace pas seulement le pouvoir que la connaissance donne à un groupe d’hommes sur un autre. Elle touche au pouvoir de chaque homme ou femme sur sa propre vie, et à celui de l’humanité sur son propre destin.
Cette menace n’est pas due à l’intelligence artificielle elle-même ; elle n’est pas inhérente à l’outil. Elle est due au fait que l’intelligence artificielle semble être en passe de rendre réel l’un des idéaux sur lesquels s’est construite la société moderne. Cet idéal, qui traverse l’Occident depuis les origines de sa philosophie, est celui d’une raison impersonnelle, d’une raison détachée de tout sujet personnel, concret, incarné. L’intelligence artificielle donne ainsi une forme technique à une tendance bien identifiée par Hannah Arendt chez Platon – en particulier dans La République – : celle d’une « prétention impersonnelle de la raison à la domination ».
Il fallut cependant du temps pour construire des institutions capables de donner corps à cet idéal. L’un des principes constitutifs de l’État moderne et de la démocratie libérale consiste précisément à limiter autant que possible la dépendance à l’égard des volontés personnelles pour soumettre l’exercice du pouvoir à des règles générales et impersonnelles : « pour se libérer de tout lien de dépendance personnelle, les hommes doivent se soumettre aux mêmes lois générales et abstraites[1] ». Cet objectif a profondément structuré l’organisation des sociétés modernes. C’est vrai de leurs institutions politiques, dont les procédures tendent à soustraire autant que possible la décision à la volonté d’un individu particulier. La Ve République de 1958 constitue à cet égard une exception relative, en réintroduisant au sommet de l’État une responsabilité personnelle particulièrement forte.
Plus encore que leurs institutions politiques, c’est l’univers professionnel caractéristique des sociétés modernes qui traduit le plus clairement cette aspiration à l’impersonnalité. Les entreprises modernes se sont « rationalisées » à l’extrême – en particulier grâce à l’essor du management. Le Châtelier, qui diffusa le « système Taylor » en France, écrivait qu’il « n’est autre chose que l’application des principes de l’organisation et de la méthode scientifique aux travaux de toute nature » et qu’ainsi il « s’applique aux travaux de quelque nature qu’ils soient, même au travail purement intellectuel de l’écrivain[2] ». Des tâches physiques aux processus cognitifs, et même psychologiques et sociaux, le management reflète la tentation de prescrire scientifiquement – c’est-à-dire en fonction de « lois générales et abstraites » – les différents processus à l’œuvre au sein d’une organisation. Ce caractère généraliste explique que le management ait largement débordé son domaine initial d’application, l’entreprise. Les organisations publiques comme les ONG en sont désormais tributaires.
L’utopie d’une « raison » impersonnelle gouvernant le monde a été formulée à de nombreuses reprises. En 1948, la découverte de la cybernétique inspirait Dominique Dubarle, dominicain et doyen de l’Institut Catholique de Paris, qui se prenait à « rêver à un temps où une machine à gouverner viendrait suppléer – pour le bien ou pour le mal, qui sait ? – l’insuffisance aujourd’hui patente des têtes et des appareils coutumiers de la politique »[3].
La menace que semble représenter l’intelligence artificielle ne réside pas dans l’outil lui-même. Elle provient de ce que cet outil est la production d’un monde qui cherche à s’affranchir de l’homme, de ses limites et de ses faiblesses. Au fond, au lieu de se demander si l’IA peut remplacer une personne, il faut se demander quelle fonction a été vidée de sa substance au point qu’une IA puisse désormais l’exercer à la place d’une personne.
[1] Alain Supiot, La Gouvernance par les nombres – Cours au Collège de France (2012 – 2014) (Fayard/Pluriel, 2020), p. 81.
[2] Stéphane Rials, Administration et organisation : de l’organisation de la bataille à la bataille de l’organisation dans l’administration française (Beauchesne, 1977), pp. 52-53.
[3] Dominique Dubarle, « La manipulation mécanique des réactions humaines créera-t-elle un jour » le meilleur des mondes « ? Les premiers grands relais du cerveau humain – Le dépassement du système nerveux – Les processus de la pensée probabilité – Un prodigieux » jeu de l’homme » – Vers le bonheur (?) statistique des masses. », Le Monde, 28 décembre 1948,.