L'intelligence artificielle et la sagesse du cœur : vers une communication pleinement humaine

MESSAGE DE SA HOLINESS FRANCIES POPE POUR LA 58ème JOURNÉE MONDIALE DES COMMUNICATIONS SOCIALES

L'intelligence artificielle et la sagesse du cœur : vers une communication pleinement humaine

Chers frères et sœurs !

Le développement de systèmes d'intelligence artificielle, auquel j'ai consacré mon récent Message pour la Journée mondiale de la paix, affecte radicalement le monde de l'information et de la communication, et par lui, certains fondements de la vie dans la société. Ces changements touchent tout le monde, pas seulement les professionnels de ces domaines. La propagation rapide d'innovations étonnantes, dont le fonctionnement et le potentiel sont au-delà de la capacité de la plupart d'entre nous à comprendre et à apprécier, s'est révélée à la fois excitante et désorientante. Cela conduit inévitablement à des questions plus profondes sur la nature des êtres humains, notre spécificité et l'avenir de l'espèce. homo sapiens à l'ère de l'intelligence artificielle. Comment pouvons-nous rester pleinement humains et guider cette transformation culturelle pour servir un bon but?

En commençant par le cœur

Avant tout, nous devons mettre de côté les prévisions catastrophiques et leurs effets engourdissants. Il y a un siècle, Romano Guardini a réfléchi à la technologie et à l'humanité. Guardini nous a exhortés à ne pas rejeter « le nouveau » dans une tentative de « préserver un beau monde condamné à disparaître ». Dans le même temps, il avertit prophétiquement que "nous sommes constamment en train de devenir. Nous devons entrer dans ce processus, chacun à sa manière, avec ouverture mais aussi avec sensibilité à tout ce qui est destructeur et inhumain. » Et il conclut: "Ce sont des problèmes techniques, scientifiques et politiques, mais ils ne peuvent être résolus qu'en partant de notre humanité. Un nouvel être humain doit prendre forme, doté d'une spiritualité plus profonde et d'une liberté et d'une intériorité nouvelles ». [1]

En ce moment de l'histoire, qui risque de devenir riche en technologie et pauvre en humanité, nos réflexions doivent commencer par le cœur humain. [2] Ce n'est qu'en adoptant une façon spirituelle de voir la réalité, qu'en récupérant une sagesse du cœur, que nous pourrons confronter et interpréter la nouveauté de notre temps et redécouvrir le chemin d'une communication pleinement humaine. Dans la Bible, le cœur est considéré comme le lieu de la liberté et de la prise de décisions. Elle symbolise l'intégrité et l'unité, mais elle engage aussi nos émotions, nos désirs, nos rêves; c'est avant tout le lieu intérieur de notre rencontre avec Dieu. La sagesse du cœur est donc la vertu qui nous permet d'intégrer l'ensemble et ses parties, nos décisions et leurs conséquences, notre noblesse et notre vulnérabilité, notre passé et notre avenir, notre individualité et notre appartenance à une communauté plus vaste.

Cette sagesse du cœur se laisse trouver par ceux qui la cherchent et sont vus par ceux qui l'aiment ; elle anticipe ceux qui la désirent et elle va à la recherche de ceux qui en sont dignes (cf. Wis 6:12-16). Il accompagne ceux qui veulent prendre des conseils (cf. Voir 13:10), ceux qui ont un cœur docile et écoutant (cf. 1 kg 3.9). Don de l'Esprit Saint, il nous permet de regarder les choses avec les yeux de Dieu, de voir les connexions, les situations, les événements et de découvrir leur sens réel. Sans ce genre de sagesse, la vie devient fade, car c'est précisément la sagesse – dont la racine latine sapère est lié au nom Sapor – qui donne "savour" à la vie.

Opportunité et danger

Une telle sagesse ne peut être recherchée auprès des machines. Bien que le terme «intelligence artificielle» ait maintenant supplanté le terme plus correct, «apprentissage automatique», utilisé dans la littérature scientifique, l'utilisation même du terme «intelligence» peut se révéler trompeuse. Sans aucun doute, les machines possèdent une capacité sans limite plus grande que les êtres humains pour stocker et corréler des données, mais les êtres humains seuls sont capables de donner un sens à ces données. Il ne s'agit pas simplement de faire apparaître des machines plus humaines, mais d'éveiller l'humanité du sommeil induit par l'illusion de l'omnipotence, basée sur la croyance que nous sommes des sujets totalement autonomes et autoréférentiels, détachés de tous les liens sociaux et oubliés de notre statut de créatures.

Les êtres humains ont toujours réalisé qu'ils ne sont pas autosuffisants et ont cherché à surmonter leur vulnérabilité en employant tous les moyens possibles. Dès les premiers artefacts préhistoriques, utilisés comme prolongements des bras, puis des médias, utilisés comme prolongement de la parole, nous sommes maintenant capables de créer des machines très sophistiquées qui servent de support à la pensée. Chacun de ces instruments, cependant, peut être abusé par la tentation primordiale de devenir j'aime Dieu sans Dieu (cf. Gen 3), c'est-à-dire vouloir saisir par notre propre effort ce qui devrait être reçu librement comme un don de Dieu, pour être apprécié en compagnie des autres.

Selon l'inclination du cœur, tout à notre portée devient une opportunité ou une menace. Nos corps mêmes, créés pour la communication et la communion, peuvent devenir un moyen d'agression. De même, toute extension technique de notre humanité peut être un moyen d'amour ou de domination hostile. Les systèmes d'intelligence artificielle peuvent aider à surmonter l'ignorance et faciliter l'échange d'informations entre les différents peuples et générations. Par exemple, ils peuvent rendre accessible et compréhensible un énorme patrimoine de connaissances écrites des âges passés ou permettre la communication entre les personnes qui ne partagent pas un langage commun. Pourtant, en même temps, ils peuvent être une source de « pollution cognitive », une distorsion de la réalité par des récits partiellement ou complètement faux, crus et diffusés comme s'ils étaient vrais. Nous avons besoin de penser au problème de la désinformation sous forme de fausses nouvelles, [3] qui aujourd'hui peut employer "deepfakes", à savoir la création et la diffusion d'images qui semblent parfaitement plausibles mais fausses (j'ai moi aussi été l'objet de cela), ou de messages audio qui utilisent une voix de personne pour dire des choses que cette personne n'a jamais dites. La technologie de simulation derrière ces programmes peut être utile dans certains domaines spécifiques, mais elle devient perverse lorsqu'elle fausse nos relations avec les autres et avec la réalité.

En commençant par la première vague d'intelligence artificielle, celle des médias sociaux, nous avons vécu son ambivalence : ses possibilités mais aussi ses risques et ses pathologies associées. Le deuxième niveau d'intelligence artificielle génératrice représente incontestablement un saut qualitatif. Il est donc important de comprendre, d'apprécier et de réglementer les instruments qui, dans les mauvaises mains, pourraient conduire à des scénarios inquiétants. Comme tous les autres produits de l'intelligence et des compétences humaines, les algorithmes ne sont pas neutres. Pour cette raison, il est nécessaire d'agir préventivement, en proposant des modèles de régulation éthique, pour prévenir les effets néfastes, discriminatoires et socialement injustes de l'utilisation des systèmes d'intelligence artificielle et pour combattre leur utilisation abusive dans le but de réduire le pluralisme, de polariser l'opinion publique ou de créer des formes de pensée de groupe. J'appelle une fois de plus la communauté internationale à « travailler ensemble pour adopter un traité international contraignant qui réglemente le développement et l'utilisation de l'intelligence artificielle sous ses multiples formes ». [4] En même temps, comme dans tous les contextes humains, la réglementation n'est pas suffisante.

Croissance dans l'humanité

Nous sommes tous appelés à grandir ensemble, dans l'humanité et en tant qu'humanité. Nous devons faire un saut qualitatif pour devenir une société complexe, multiethnique, pluraliste, multireligieuse et multiculturelle. Nous sommes appelés à réfléchir attentivement au développement théorique et à l'utilisation pratique de ces nouveaux instruments de communication et de connaissance. Leurs grandes possibilités pour le bien s'accompagnent du risque de tout transformer en calculs abstraits qui réduisent les individus à des données, en pensant à un processus mécanique, en experience à des cas isolés, en bonté de profiter et, surtout, en déni de l'unicité de chaque individu et de son histoire. Le caractère concret de la réalité se dissout dans un flot de données statistiques.

La révolution numérique peut nous apporter une plus grande liberté, mais pas si elle nous emprisonne dans des modèles que l'on appelle aujourd'hui « chambres d'écho ». Dans de tels cas, au lieu d'accroître le pluralisme de l'information, nous risquons de nous retrouver à la dérive dans une boue de confusion, en proie aux intérêts du marché ou des puissances. Il est inacceptable que l'utilisation de l'intelligence artificielle conduise à une réflexion de groupe, à une collecte de données non vérifiées, à un manquement collectif au devoir éditorial. La représentation de la réalité dans les « grandes données », si utile que soit le fonctionnement des machines, entraîne en fin de compte une perte substantielle de la vérité des choses, qui entrave la communication interpersonnelle et menace notre humanité même. L'information ne peut être séparée des relations vivantes. Ceux-ci impliquent le corps et l'immersion dans le monde réel; ils impliquent la corrélation non seulement des données mais aussi des expériences humaines; ils nécessitent une sensibilité aux visages et aux expressions faciales, à la compassion et au partage.

Je pense ici au reportage sur les guerres et la "guerre parallèle" menée par des campagnes de désinformation. Je pense aussi à tous ces journalistes qui ont été blessés ou tués dans l'exercice de leurs fonctions afin de nous permettre de voir ce qu'ils ont eux-mêmes vu. Car ce n'est que par un tel contact direct avec la souffrance des enfants, des femmes et des hommes que l'on peut apprécier l'absurdité des guerres.

L'utilisation de l'intelligence artificielle peut apporter une contribution positive au secteur des communications, à condition qu'elle n'élimine pas le rôle du journalisme sur le terrain mais qu'elle le soutienne. À condition aussi qu'elle valorise le professionnalisme de la communication, qu'elle rende chaque communicateur plus conscient de ses responsabilités et qu'elle permette à tous d'être, comme ils le devraient, des participants à l'œuvre de communication.

Questions pour aujourd'hui et pour l'avenir

À cet égard, un certain nombre de questions se posent naturellement. Comment préserver le professionnalisme et la dignité des travailleurs dans les domaines de l'information et de la communication, ainsi que celle des utilisateurs du monde entier? Comment assurer l'interopérabilité des plateformes? Comment pouvons-nous permettre aux entreprises qui développent des plateformes numériques d'assumer leurs responsabilités en matière de contenu et de publicité de la même manière que les éditeurs de médias traditionnels de communication? Comment rendre plus transparents les critères qui guident le fonctionnement des algorithmes d'indexation et de désindexation, ainsi que les moteurs de recherche capables de célébrer ou d'annuler des personnes et des opinions, des histoires et des cultures? Comment garantir la transparence du traitement de l'information? Comment identifier la paternité des écrits et la traçabilité des sources cachées derrière le bouclier de l'anonymat ? Comment pouvons-nous préciser si une image ou une vidéo représente un événement ou simule un événement? Comment empêcher que les sources ne soient réduites à une seule, favorisant ainsi une approche unique, développée sur la base d'un algorithme? Comment promouvoir un environnement propice à la préservation du pluralisme et à la représentation de la complexité de la réalité? Comment pouvons-nous rendre une technologie durable aussi puissante, coûteuse et consommatrice d'énergie? Et comment le rendre également accessible aux pays en développement?

Les réponses que nous donnerons à ces questions et à d'autres détermineront si l'intelligence artificielle finira par créer de nouvelles castes basées sur l'accès à l'information et donnant ainsi lieu à de nouvelles formes d'exploitation et d'inégalité. Ou, s'il en résulte une plus grande égalité en favorisant une information correcte et une plus grande prise de conscience du changement épochal que nous vivons en permettant de reconnaître les nombreux besoins des individus et des peuples au sein d'un réseau d'information bien structuré et pluraliste. Si, d'une part, nous pouvons entrevoir le spectre d'une nouvelle forme d'esclavage, d'autre part, nous pouvons aussi envisager un moyen de plus grande liberté; soit la possibilité qu'un petit nombre puisse conditionner la pensée des autres, soit que tous puissent participer au développement de la pensée.

The answer we give to these questions is not pre-determined; it depends on us. It is up to us to decide whether we will become fodder for algorithms or will nourish our hearts with that freedom without which we cannot grow in wisdom. Such wisdom matures by using time wisely and embracing our vulnerabilities. It grows in the covenant between generations, between those who remember the past and who look ahead to the future. Only together can we increase our capacity for discernment and vigilance and for seeing things in the light of their fulfilment. Lest our humanity lose its bearings, let us seek the wisdom that was present before all things (cf. Monsieur le Président, 1:4): it will help us also to put systems of artificial intelligence at the service of a fully human communication.

Rome, Saint John Lateran, 24 January 2024

FRANCIS

[1] Letters from Lake Como.

[2] The 2024 Message for the World Day of Social Communications takes up the preceding Messages devoted to encountering persons where and how they are (2021), to hearing with the ear of the heart (2022) and speaking to the heart (2023).

[3] Cf. “The Truth Will Make You Free” (Jn 8:32). Fake News and Journalism for Peace, Message for the 2018 World Day of Social Communications.

[4] Message for the 57th World Day of Peace, 1 January 2024, 8.