Magnifica humanitas

§ 102L’utilisation de l’IA n’est jamais un fait purement technique : lorsqu’elle intervient dans des processus qui ont une incidence sur la vie des personnes, elle touche aux droits, aux opportunités, à la réputation et à la liberté. Des décisions délicates qui touchent au travail, au crédit, à l’accès aux services et à la réputation des personnes risquent d’être entièrement confiées à des systèmes automatisés qui ne connaissent pas « la compassion, la miséricorde, le pardon et, surtout, l’ouverture à l’espérance d’un changement de la personne »,Note 125François, Discours aux participants à la rencontre des « Minerva Dialogues » organisée par le Dicastère pour la Culture et l’Éducation (27 mars 2023) : AAS 115 (2023), p. 465. et peuvent ainsi engendrer de nouvelles formes d’exclusion. Il peut y avoir des utilisations manifestement inhumaines, comme la manipulation de l’information ou la violation de la vie privée, mais il peut aussi y avoir un danger moins évident, lorsque les systèmes d’IA, se présentant comme neutres et objectifs, reflètent et renforcent les stéréotypes ou les positions idéologiques de ceux qui les ont conçus et formés.

§ 103Confier, dans les faits, à un algorithme le pouvoir de sélectionner qui mérite et qui ne mérite pas sans que personne n’assume plus le poids de cette décision, revient à lui confier la tâche de redéfinir les limites des possibilités humaines. Ce qui fait défaut dans ce processus, ce n’est pas seulement l’empathie envers l’exclu, qui peut être imitée artificiellement, mais la responsabilité politique, car l’écartement des plus faibles est revêtu de neutralité et d’objectivité, face auxquelles il est impossible de protester. Ainsi, l’injustice devient silencieuse, et la compassion, la miséricorde et le pardon, non pas comme de simples apparences, mais comme des gestes politiques disparaissent de l’horizon.

§ 104Il en découle une conséquence simple mais incontournable : nous ne pouvons pas considérer l’IA comme moralement neutre. En réalité, tout dispositif technique implique des choix et des priorités : ce qu’il mesure, ce qu’il ignore, ce qu’il optimise, et la manière dont il classe les personnes et les situations. Si un système est conçu ou utilisé de manière à traiter certaines vies comme moins dignes ou à les exclure sans possibilité d’appel, il ne s’agit pas d’un simple instrument “à bien utiliser” ; il introduit déjà un critère qui contredit la dignité inaliénable de la personne. C’est pourquoi le discernement éthique ne peut se limiter à se demander si nous utilisons un certain système à des fins bonnes ou mauvaises, mais doit également s’interroger sur la manière dont il est conçu et sur la conception de la personne et de la société qui est inscrite dans les données et les modèles qui le guident.Note 126Cf. Dicastère pour la Doctrine de la Foi – Dicastère pour la Culture et l’Éducation, Note Antiqua et nova (14 janvier 2025), n. 41 : AAS 117 (2025), p. 178.

§ 105Pour que l’IA respecte la dignité humaine et serve véritablement le bien commun, il est essentiel que les responsabilités soient clairement définies à chaque étape : depuis ceux qui conçoivent et programment les systèmes jusqu’à ceux qui les utilisent ou ceux qui décident de leur confier des choix concrets. Cependant, dans de nombreux cas, les processus internes qui mènent à un résultat peuvent manquer de transparence, ce qui rend plus difficile l’attribution des responsabilités et la correction des erreurs. C’est là que la responsabilité devient décisive, à savoir la possibilité d’identifier qui doit “rendre compte” des décisions, les motiver, les contrôler et, si nécessaire, les contester et réparer les dommages qui en dérivent.Note 127Cf. ibid., nn. 44-45 : AAS 117 (2025), pp. 179-180.

§ 106Appeler à la prudence, à des contrôles rigoureux et parfois même à un ralentissement dans l’adoption de l’IA ne signifie pas être contre le progrès, mais faire preuve d’une attention responsable envers la famille humaine. Cette exigence est d’autant plus urgente qu’il existe souvent un déséquilibre entre la vitesse du développement technologique et le rythme auquel se développent les consciences, les normes, les contrôles et les institutions capables d’en réguler les effets. Il ne suffit pas d’invoquer de façon générale l’éthique : il faut des cadres juridiques adéquats, une surveillance indépendante, l’éducation des utilisateurs, une politique qui n’abdique pas son devoir. Autrement le changement ne sera régi que par des logiques technocratiques et présenté comme nécessaire et inévitable, finissant par imposer des règles dictées par ceux qui possèdent les données, les infrastructures et les capacités de calcul.

§ 107Nous ne pouvons pas nous contenter d’invoquer la moralisation de la machine, ce qu’on appelle “l’alignement” de l’IA sur les valeurs humaines, sans avoir le courage de poser une condition supplémentaire : la possibilité de débattre du code éthique à utiliser, en le soumettant à des critères de justice sociale partagés. Sans cela ceux qui contrôlent l’IA imposeront leur propre vision morale qui deviendra l’infrastructure invisible des systèmes. Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. Il faut une politique plus présente, capable de ralentir là où tout s’accélère et de protéger les espaces où les communautés peuvent encore participer et s’interroger.

§ 108En effet, comme c’est le cas pour toute grande avancée technologique, l’IA tend surtout à renforcer le pouvoir de ceux qui disposent déjà de ressources économiques, de compétences et de l’accès aux données. À la lumière du bien commun et de la destination universelle des biens, ce phénomène suscite de sérieuses préoccupations : de petits groupes très influents peuvent orienter l’information et la consommation, conditionner les processus démocratiques et influencer les dynamiques économiques à leur avantage, en contradiction avec la justice sociale et la solidarité entre les peuples. C’est pourquoi il est indispensable que l’utilisation de l’IA – surtout lorsqu’elle touche aux biens publics et aux droits fondamentaux – s’accompagne de critères clairs et de contrôles effectifs, inspirés de la participation et de la subsidiarité : les communautés et les corps intermédiaires ne peuvent être réduits à de simples destinataires de décisions prises ailleurs, mais doivent pouvoir contribuer au discernement et à la vigilance. En outre, la propriété des données ne peut être confiée uniquement à des acteurs privés, mais doit être réglementée. Elles sont le fruit de la contribution de nombreux acteurs et ne peuvent être vendues ou confiées à quelques-uns. Une créativité capable de les gérer comme un bien commun ou collectif est nécessaire, dans une logique de partage, comme le suggérait déjà saint Jean-Paul II à propos des biens collectifs.Note 128Cf. Saint Jean-Paul II, Lett. enc. Centesimus annus (1 er mai 1991), n. 40 : AAS 83 (1991), p. 843.

§ 109Les principes de la Doctrine sociale nous aident à lire cette nouvelle réalité. Dans un monde où quelques sujets concentrent les données, les ressources informatiques et le pouvoir réglementaire, parler de bien commun signifie démasquer cette nouvelle asymétrie épistémique, économique et politique, en dénonçant les nouveaux monopoles de l’IA. Parler de destination universelle des biens signifie trouver des moyens d’assurer l’accès universel aux technologies et à la formation. Parler de subsidiarité exige de protéger la capacité des communautés à choisir et à corriger, sans reléguer leur intervention à un simple rôle de surveillance, une fois que les normes ont été établies ailleurs. Parler de solidarité oblige à reconnaître le travail invisible, souvent exploité, qui alimente les modèles algorithmiques. Parler de justice impose de s’interroger sur les géographies du pouvoir définissant qui peut entraîner les modèles et qui n’est qu’objet d’entraînement, et de reconnaître que la justice sociale n’est pas seulement un objectif à protéger après l’adoption des technologies, mais une condition préalable à mettre en œuvre dès leur conception.

§ 110Je voudrais enfin employer un mot qui me tient à cœur : “désarmer”. Désarmer l’IA, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive. C’est la course à l’algorithme le plus performant et à la banque de données la plus vaste dans le but de consolider un avantage géopolitique ou commercial sur tous les autres. Désarmer, c’est rompre cette équivalence entre la puissance technique et le droit de gouverner. Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain. Cela signifie la soustraire aux monopoles, la rendre discutable, contestable, et donc habitable, en la restituant à la pluralité des cultures humaines et des formes de vie. La tâche, aujourd’hui, n’est pas seulement éthique ou technique : elle est écologique au sens le plus radical, car elle met en jeu une nouvelle dimension de notre Maison commune. L’IA est déjà un environnement dans lequel nous sommes immergés et un pouvoir avec lequel nous devons composer. C’est pourquoi il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible.

§ 111J’adresse un appel particulier à ceux qui développent les intelligences artificielles. L’innovation technologique peut être, d’une certaine manière, une forme humaine de participation à l’acte divin de la création. Les développeurs portent donc une responsabilité éthique et spirituelle particulière, car chaque choix de conception exprime une vision de l’humanité. Tout comme l’auteur d’une œuvre artistique ou littéraire est tenu de prendre en compte les valeurs qu’elle exprime, ils sont appelés à traiter avec le sérieux qui s’impose les valeurs qu’ils insufflent à leurs projets : avec transparence, avec responsabilité envers les communautés impliquées et en veillant à vérifier que ce qui est cultivé est véritablement un bien.