Publié le 29 janvier 2025
Un texte signé par les cardinaux Víctor Fernández et José Tolentino Mendonça aborde l’impact de l’IA dans des domaines tels que l’éducation, le travail, la santé, la guerre et la spiritualité
Le Vatican a publié hier un nouveau document sur le développement de l’intelligence artificielle (IA), mettant en garde contre les risques liés à ces systèmes ainsi qu’à la concentration des ressources entre les mains de certaines entreprises « puissantes ».
« Le fait que la majeure partie du pouvoir sur les principales applications de l’IA soit actuellement concentrée entre les mains de quelques entreprises puissantes soulève d’importantes préoccupations éthiques », indique la note Antiqua et nova (« ancienne et nouvelle »), qui explore la relation entre l’IA et l’intelligence humaine.
Le texte est signé par les cardinaux Víctor Fernández, préfet du Dicastère pour la Doctrine de la Foi, et José Tolentino Mendonça, préfet du Dicastère pour la Culture et l’Éducation.
Le document met en garde contre le fait qu’aucun individu « ne peut avoir une supervision complète des vastes et complexes ensembles de données utilisés pour le calcul ».
« Cette absence de responsabilité clairement définie entraîne le risque que l’IA soit manipulée à des fins personnelles ou commerciales, ou qu’elle serve à orienter l’opinion publique selon les intérêts d’un secteur particulier », peut-on lire dans le document envoyé aux journalistes.
Sur 35 pages, comprenant 215 notes de bas de page, ce nouveau texte aborde les questions anthropologiques et éthiques soulevées par l’IA, exprimant des « préoccupations quant à son influence possible sur la crise croissante de la vérité dans le débat public ».
Les collaborateurs du pape soulignent que l’IA doit être utilisée pour « promouvoir la dignité humaine et le bien commun, et non pour remplacer ou dévaloriser la personne humaine ».
Le texte exprime également des inquiétudes concernant les « problèmes majeurs de responsabilité éthique et de sécurité, avec des répercussions plus larges sur l’ensemble de la société ».
La relation entre l’IA et le monde du travail est perçue comme une « source d’opportunités considérables, mais aussi de risques profonds ».
« Bien que l’IA promette d’augmenter la productivité en prenant en charge certaines tâches, les travailleurs sont souvent contraints de s’adapter à la vitesse et aux exigences des machines, au lieu que les machines soient conçues pour les assister », note le Vatican.
Le document rejette l’idée d’une « humanité asservie à l’efficacité », alertant sur les « implications anthropologiques et éthiques » du développement technologique.
« L’humanité risque de créer un substitut à Dieu. En fin de compte, ce n’est pas l’IA qui est divinisée et adorée, mais l’être humain lui-même, qui devient ainsi esclave de son propre travail ».
Le document explore des thématiques spécifiques, telles que l’impact de l’IA sur la société, l’éducation, le travail, la santé, la guerre et la spiritualité.
« Bien que l’IA puisse traiter et simuler certaines expressions de l’intelligence, elle reste fondamentalement confinée à un domaine logico-mathématique, ce qui lui impose des limites intrinsèques », précise le Vatican.
L’analyse met en avant la « dignité humaine », estimant essentiel que « la personne prenant des décisions basées sur l’IA en assume la responsabilité et puisse justifier l’utilisation de l’IA à toutes les étapes du processus ».
Appelant à des algorithmes « fiables », les responsables du Saint-Siège soulignent « le degré élevé de dépendance à la technologie qui caractérise la société contemporaine ».
Le texte met en garde contre « l’anthropomorphisation de l’IA », rappelant qu’aucune application n’est « réellement capable d’éprouver de l’empathie ».
« Dans un monde de plus en plus individualiste, certaines personnes se tournent vers l’IA pour rechercher des relations humaines profondes, un simple compagnonnage ou même des liens émotionnels ».
En ce qui concerne les soins de santé, le Vatican salue les avancées en matière de diagnostic et de traitement, tout en rejetant l’idée que les patients interagissent « avec une machine plutôt qu’avec un être humain ».
Le document s’intéresse également au domaine de l’éducation, insistant sur « l’importance de la relation entre enseignant et élève », particulièrement dans un « contexte largement numérisé ».
« Une utilisation excessive de l’IA dans l’éducation pourrait accroître la dépendance des élèves vis-à-vis de la technologie », mettent en garde les responsables de la Curie romaine.
« Il est essentiel que les utilisateurs de tous âges, et en particulier les jeunes, développent une capacité de discernement quant aux données et aux contenus disponibles sur Internet ou générés par des systèmes d’intelligence artificielle. »
Le Vatican consacre un passage spécifique aux phénomènes de désinformation et aux deepfakes, rappelant que « les programmes actuels d’IA peuvent produire des informations biaisées ou totalement fabriquées ».
« Ce type de tromperie généralisée n’est pas un problème mineur : il touche le cœur même de l’humanité, détruisant la confiance fondamentale sur laquelle les sociétés sont bâties », avertit le texte.
Le document met aussi en garde contre les mécanismes de surveillance sociale et les violations de la vie privée, appelant à un plus grand respect des données personnelles.
« Rien ne justifie leur utilisation à des fins de contrôle, d’exploitation, de restriction des libertés individuelles ou de bénéfice pour une minorité au détriment de la majorité », souligne le texte.
Tout en identifiant des « avancées potentielles » dans la lutte contre le changement climatique grâce à l’IA, le Vatican rappelle également « l’impact environnemental considérable de ces technologies ».
Citant le discours du pape lors de la session du G7 sur l’intelligence artificielle à Borgo Egnazia (Italie), le 14 juin 2024, la note souligne que les systèmes d’armes autonomes létaux, capables d’identifier et d’éliminer des cibles sans intervention humaine directe, constituent « un motif sérieux de préoccupation éthique ».
« Étant donné la faible distance qui sépare les machines capables de tuer avec précision et de manière autonome de celles pouvant causer une destruction massive, certains chercheurs en IA expriment la crainte que cette technologie ne représente un ‘risque existentiel’, susceptible d’agir de manière à menacer la survie de l’humanité », met en garde le Vatican.
Le document réfléchit aussi à la relation entre l’humanité et Dieu, notant que « à mesure que la société s’éloigne de sa connexion au transcendant, certains sont tentés de recourir à l’IA pour rechercher un sens ou une forme d’accomplissement ».
Approuvé par le pape lors d’une audience avec les responsables des dicastères pour la Doctrine de la Foi et pour la Culture et l’Éducation, le 14 janvier, ce document est publié ce mardi 28 janvier, en la fête liturgique de saint Thomas d’Aquin, docteur de l’Église.
