Y a-t-il une prospective chrétienne pour la “civilisation de l'algorithme”?
Janvier 2022
Le souci d'une attitude critique par rapport aux fondements et aux pratiques de la culture numérique dans laquelle nous sommes définitivement entrés s'affiche de plus en plus régulièrement.
Que le monde catholique commence à affronter sympathiquement mais critiquement ces fondements et ces pratiques est un heureux “signe des temps”… surtout pour ceux qui, comme le signataire, ont déjà tenté de provoquer une telle réflexion dès les années 1980ss (Journées de Réflexion sur l'Informatique aux Facultés universitaires de Namur, à partir de 1982;
L'informatique et les Églises dans Interface 1984-14 texte présenté à la réunion des évêques européens responsables des médias en 1983)!
Y a-t-il une prospective chrétienne pour la “civilisation de l'algorithme” ? On est donc heureux d'y réfléchir à partir du récent livre (octobre 2021) de Pierre Giorgini (ancien recteur de la Catho de Lille) et de Thierry Magnin (prêtre et physicien, professeur à la Catho de Lille):
Vers une civilisation de l'algorithme. Un regard chrétien sur un défi éthique, Paris, Payard, 2021, 348 pp. ISBN 978-2-227-50025-9.
Comme le dit Jérôme Vigneron, Administrateur de l'université catholique de Lille, dans la Postface qu'il donne à ce recueil:
Pierre Giorgini et Thierry Magnin sont des lanceurs d'alerte. Ils donnent à voir, comme une évidence jaillie de leur rencontre, les risques vertigineux d'un bouleversement épistémologique et anthropologique affectant les fondements de notre commune humanité.
Ils montrent, en effet, comment la numérisation systématique conduit à l'effacement de la conscience et du jugement humain en substituant à la méthode scientifique basée sur la recherche des causes, une démarche empirique fondée sur les corrélations.
[...] Admirateurs de Teilhard, ils ne partagent pas cependant sa confiance dans un progrès scientifique qui conduirait automatiquement à une convergence éthique mondiale sublimée dans la noosphère. Lecteurs attentifs de Jacques Ellul, ils ne prédisent pas comme lui une tyrannie irrésistible portée par la technologie. Ils proposent au contraire d'affronter les yeux ouverts les ambiguïtés actuelles de cette civilisation algorithmique qui porte en elle, à ce stade, le pire mais aussi le meilleur, la mystification mais aussi un approfondissement de l'intelligence par le partage des savoirs. (pp. 331-333)
Ce descriptif de la démarche présentée par Pierre Giorgini et Thierry Magnin dit l'essentiel de leur apport.
Mais… autant j'ai aimé les publications de Pierre Giorgini devenues des “classiques” comme introduction à la réflexion sur la culture numérique (La transition fulgurante, 2014; Au crépuscule des lieux, 2016; La fulgurante recréation, 2016), autant j'ai été déçu par cette création à quatre mains et deux esprits qui ne me semble relever ni du vrai discours scientifique, ni d'une réflexion philosophique ou théologique vraiment critique.
Aucune bibliographie sérieuse ne soutient le propos. Aucune référence critique à la recherche en “intelligence artificielle” ne ressort clairement des propos rassemblés. Peu de réflexion sur les recherches anthropologiques ou sociologiques en cours. Aucune attention à ce qui se ferait comme réflexion au niveau des communautés ou des chercheurs chrétiens (hors une référence, non systématique, à Pierre Teilhard de Chardin ou à Jacques Ellul)!
Dans la
tradition des écrits de Pierre Giorgini, on
n'hésite pas à accumuler les néologismes,
souvent sans les expliciter et les
présenter.
Toute la réflexion aboutit à
proposer “7 contreforts éthiques issus de la
pensée sociale chrétienne sur fond
d'écologie intégrale pour les technosciences
numérisées” (pp. 295-316).
Face aux
risques d'un développement tyrannique des
techno-sciences par rapport à ce qui fait
véritablement l'humain, les Auteurs
proposent donc les 7 garde-fous suivants:
1. promotion de l'humain comme “totalité
vivante”
2. vigilance éthique devant la
révolution numérique
3. défense du libre
arbitre à la base de toute construction
sociale
4. co-élaboration éthique au sein
de tiers lieux endocontributifs – comme
racine d'une éducation populaire
5.
sauvegarde de la maison commune
6.
sauvegarde de la santé globale de l'homme
7. principe de réversibilité pour toute
expérimentation relevant de technosciences
numérisées où l'homme n'a pas la main sur
les décisions de la machine.
Sans discuter ces garde-fous (que les Auteurs soumettent d'ailleurs à la discussion autant qu'ils en font une Charte pour la recherche comme pour l'action citoyenne ou politique), je relève quelques traits proposés par les Auteurs et qui méritent d'être notés.
“Dans le cadre des technosciences numérisées, nous verrons que la recherche de la vérité scientifique devient seconde par rapport à la “prédiction pour faire”” (p. 24).
“ Le statut de la vérité scientifique se modifie fortement lorsque les technosciences sont pilotées par le numérique” (p. 29).
Et ce rappel très opportun d'un propos de Karl Popper dans sa Logique de la vérité scientifique (Payot, 1978): “Ce qui fait l'homme de science, ce n'est pas la possession des connaissances d'irréfutables vérités, mais la quête obstinée et audacieusement critique de la vérité” (p. 39): un propos très proche de la position fondamentale de Teilhard de Chardin!
Et avec insistance: “Nous allons montrer qu'alors que la posture scientifique est celle du “connaître pour faire”, celle du technoscientifique sera davantage de “connaître par le faire” voir de “faire pour connaître”. Avec les technosciences, incluant les derniers développements de l'IA, nous passerons à la primauté du “prédire pour faire”” (p.40).
C'est dans ce cadre que l'on passe à l'un des néologismes forgé par Pierre Giorgini: “Le terme “naturficiel”… désigne des structures inertes ou vivantes manipulées ou manufacturées par la technologie et dont il est impossible de différencier le caractère naturel ou artificiel – comme le cas de bactéries programmées pour réaliser des fonctions inexistantes à leur état naturel” (pp. 46-47).
Dans ce cadre (et ailleurs
dans le livre) on parle de “réseaux de
neurones artificiels” sans jamais en
décrire la nature et le fonctionnement exact
(cf. p. 53).
Et, à propos des
néologismes, en voici quelques-uns qui
auraient tous mérités un petit lexique
critique pour ne pas constituer une sorte de
magie verbale détournant de la vraie
explication scientifique [les définitions ou
explications sont reprises par mes soins
dans Internet]: microbiote (p. 63 -
“ensemble des micro-organismes qui vivent
dans un environnement spécifique … par
exemple: la flore intestinale”);
métagénomique (p. 64 - “étude du
microbiome, notamment par le séquençage des
génomes des organismes présents dans le
milieu à analyser”); CRISPR (p. 68 -
“CRISPR/Cas9 est un système pour couper
l'ADN à un endroit précis du génome”);
exodistribution (p. 85: inconnu dans
Internet); endocontributives (p. 85 –
définition p. 86); cybiontes (p. 88 “créé
par Joël de Rosnay et désignant des
automates mixtes associant des éléments
humains et des artefacts auto-adaptatifs”);
exosomatisation (p. 112 - “externalisation
de nos mémoires dans des objets
technologiques – Lotka, 1945); écorithmes
(p. 115 “algorithmes auto-apprenants” à
distinguer du terme “écorythme” utilisé
dans le domaine de l'architecture
écologique”)!!
Et puis une affirmation qui revient répétitivement dans le livre et dont il faut effectivement bien mesurer l'importance pour l'avenir de la recherche scientifique:
N'oublions pas que le processus IA identifie les corrélations et non des causes. Il fournit de possibles modèles et solutions de prédictions de l'évolution des systèmes étudiés (ce qui est très précieux) sans pour autant que le chercheur ait accès aux mécanismes biologiques présidant à ces solutions (ce qui pose question). (p. 73-74)
En
parlant de façon générale “du processus de
l'IA” la vision n'est-elle pas quelque peu
réductrice?
Il n'y a pas qu'un seul
“processus de l'IA”… et toutes les
requêtes actuelles (comme la Convention de
Montréal “pour un développement responsable
de l'IA” en 2018 ou celle signée, notamment
par le Président de Microsoft, Brad Smith,
au Vatican “pour une IA éthique” en
février 2020) visent précisément à une plus
grande transparence des processus d'IA mis
au point dans différents domaines et avec
différents objectifs.
Plus les algorithmes et les systèmes régiront la vie en société, plus l'humain devra se conformer au système, quitte à y perdre sa liberté … La perte du sens de l'incomplétude fera-t-elle entrer la majorité d'entre nous dans une nouvelle servitude, celle des systèmes statistiques? (p. 182)
Ce phénomène n'est pas nouveau et ne doit pas être mis au futur. Depuis les révolutions comptables et financières d'après la guerre de 1940-45, avec accélération depuis le triomphe du pétro-dollar (1971) et du libéralisme planétaire, les sociétés sont gouvernées sur des bases comptables et statistiques!
Les auteurs se réfèrent souvent à un texte attribué aux Homélies sur l'Hexaméron (Sources Chrétiennes, 1950, p. 49) de Saint Basile de Césarée affirmant que “l'homme pourrait pénétrer dans l'atelier de la création divine et qu'il avait accès au logos enteknos, à la raison “industrieuse” de Dieu”. L'affirmation est reprise sans en déployer le contexte anthropologique et historique comme un passe-partout magique justifiant le titre et les actions de “co-créateur” de l'humain!
Mais, bien sûr, les Auteurs ont raison de lancer l'alerte sur les risques et les limites des efforts “pseudo-scientifiques” d'un certain type de recherche à ce jour:
Laisser se déployer sans limites, sans garantie de réversibilité, ces technologies numérisées a-certaines est un risque fou … L'abandon de la tentative de compréhension humaine scientifique de l'efficacité d'une solution au nom de priorités technoéconomiques ne peut qu'être proscrit en vertu du principe de responsabilité directe de l'homme. (p. 245)
Quant à la position de l'Église en tout ce débat (N.B. : selon le titre “un regard chrétien” on ne devrait pas focaliser le questionnement sur l'Église qui évoque et limite immédiatement à la Catholicité), il y a près de 40 ans (voir plus haut) que certains tentent de faire prendre conscience des urgences d'une présence chrétienne dans toutes ces avancées de la recherche humaine. Quand les Auteurs proposent donc:
Il serait éthique que l'Église (à travers ses universités et ses écoles) se lance dans l'intelligence artificielle pour en faire un outil de solidarité, de charité, de mise au service de la pensée sociale, au lieu de combattre à main nue des ensembles interconnectés hyperpuissants. Dans le même ordre d'idée, l'Église doit proposer des solutions “progressistes” (au sens de l'écologie intégrale), embarquant la technologie de pointe (biotechnologie, neurotechnologie), pour prendre en compte les aspirations mais aussi les souffrances contemporaines (p. 276)
il me semble que c'est assez restrictif, tant dans l'ère d'application que dans les moyens à mettre en œuvre! Les chrétiens devraient plutôt être encouragés, toutes confessions confondues, à constituer eux-mêmes, de façon personnalisée et consciente dans la même Foi, un “ensemble interconnecté hyperpuissant”!
Au-delà de ces limites, concluons cette présentation en retenant trois très beaux textes relevés et communiqués par les Auteurs: rien que le partage de ces textes vaut la prise en compte de ce livre.
1. Hannah Arendt, dans Condition de l'homme moderne, Paris, 1983:
Cet Homme futur, que les savants produiront, nous disent-ils, en un siècle, pas davantage, paraît en proie à la révolte contre l'existence humaine telle qu'elle est donnée, cadeau venu de nulle part (laïquement parlant) et qu'il veut pour ainsi dire échanger contre un ouvrage de ses propres mains. Il n'y a pas de raison de douter que nous soyons capables de faire cet échange, de même qu'il n'y a pas de raison de douter que nous soyons capables à présent de détruire toute vie organique sur terre. La seule question est de savoir si nous souhaitons employer dans ce sens nos nouvelles connaissances scientifiques et techniques, et l'on ne saurait en décider par des méthodes scientifiques. C'est une question politique que l'on ne peut guère, par conséquent, l'abandonner aux professionnels de la science ni à ceux de la politique. (p. 260)
2. Emmanuel Mounier (sans références précises malheureusement):
Plasticité génétique, neuronale, et relation de l'homme à son environnement historique, physique et socioculturel: Le cumul de ces deux avancées scientifiques conforte la conviction ancienne de l'anthropologie chrétienne tripartite “corps, âme, esprit” et donne, par exemple, une résonance biologique aux thèse d'Emmanuel Mounier sur la liberté par le personnalisme. L'homme est programmé, surdéterminé par ses structures biologiques, génétiques et sociales, mais conserve un espace où peut s'exercer sa liberté, son libre arbitre, venant modifier en partie le déterminisme génétique, mental ou social. Et c'est dans cet espace parfois ténu, fine point de l'âme (esprit), que se fonde tout le principe de la liberté. Celui-ci doit être absolument préservé, fait à la fois de rencontres, d'évènements, mais aussi de choix conscients et inconscients, de choix responsables. C'est, pour les chrétiens, l'espace où Dieu nous parle dans le discernement nécessaire à toute décision ou action. (p. 278)
3. “Il s'agit de Bergson – Les deux sources de la morale et de la religion au chapitre IV, Remarques finales, Mécanique et mystique, dont je [Pierre Giorgini] me propose de citer un extrait”:
[…] Si nos organes sont des instruments naturels, nos instruments sont par là même des organes artificiels. L'outil de l'ouvrier continue son bras; l'outillage de l'humanité est donc un prolongement de son corps. La nature, en nous dotant d'une intelligence essentiellement fabricatrice, avait ainsi préparé pour nous un certain agrandissement. Mais des machines qui marchent au pétrole, au charbon, (la “houille blanche”), et qui convertissent en mouvement des énergies potentielles accumulées pendant des millions d'années, sont venues donner à notre organisme une extension si vaste et une puissance si formidable, si disproportionnée à sa dimension et à sa force, que sûrement il n'en avait rien été prévu dans le plan de structure de notre espèce: ce fut une chance unique, la plus grande réussite matérielle de l'homme sur la planète. Une impulsion spirituelle avait peut-être été imprimée au début: l'extension s'était faite automatiquement, servie par le coup de pioche accidentel qui heurta sous terre un trésor miraculeux [… le charbon!!!]. Or, dans ce corps démesurément grossi, l'âme reste ce qu'elle était, trop petite maintenant pour le remplir, trop faible pour le diriger.
D'où le vide entre lui et elle. D'où les redoutables problèmes sociaux, politiques, internationaux, qui sont autant de définitions de ce vide et qui, pour le combler, provoquent aujourd'hui tant d'efforts désordonnés et inefficaces: il y faudrait de nouvelles réserves d'énergie potentielle, cette fois morale. Ne nous bornons pas à dire, comme nous le faisions plus haut, que la mystique appelle la mécanique. Ajoutons que le corps agrandi attend un supplément d'âme, et que la mécanique exigerait une mystique. Les origines de cette mécanique sont peut-être plus mystiques qu'on ne le croirait; elle ne retrouvera sa direction vraie, elle ne rendra des services proportionnés à sa puissance, que si l'humanité qu'elle a courbée encore davantage vers la terre arrive par elle à se redresser, et à regarder le ciel. (pp. 320-322)
Merci à Pierre Giorgini pour ce rappel “lumineux”.
Ne peut-on suggérer que la vraie Intelligence Artificielle pourrait bien être celle qui réunira en un Corps solidaire tous ceux que la même Foi ancrée dans une vision cohérente et bien incarnée d'un Christ cosmique, qui réunira tous les baptisés pour rendre, dans sa résurrection totalement accomplie, toute la Création à son Père (les 2022 années en cours depuis l'embryon né à Bethléem n'étant que le tout début du développement de ce Corps de résurrection)?