Magnifica humanitas

§ 170Après avoir abordé les thèmes de la vérité et de l’éducation, du travail et de la famille, nous devons maintenant nous pencher sur l’impact de la révolution numérique sur la liberté humaine, en réfléchissant à la manière d’affronter tant les risques liés à la psychologie individuelle que les grands drames sociaux. Il ne faut pas sous-estimer les formes les plus subtiles de dépendance liées à l’économie numérique de l’attention, où les plateformes et les services sont conçus pour capter le temps et le regard des utilisateurs, en exploitant leurs fragilités et en affaiblissant leur liberté intérieure. Lorsque des modèles commerciaux prospèrent sur la faiblesse humaine, la personne est traitée comme un moyen et non comme une fin, et ceux qui conçoivent ou financent ces systèmes assument une responsabilité morale à laquelle ils ne peuvent se soustraire. Il est urgent de promouvoir une utilisation des technologies qui renforce la liberté intérieure : éducation à la sobriété numérique, protection des mineurs et lutte contre les modèles qui prospèrent sur la vulnérabilité.

§ 171Un autre risque, moins visible mais non moins grave, est celui du contrôle social, rendu possible par la collecte massive de données et l’utilisation de systèmes algorithmiques. Lorsque chaque geste laisse des traces – déplacements, achats, relations, préférences –, un nouveau pouvoir se crée : celui de profiler, de prévoir et d’orienter les comportements, souvent sans que les personnes en aient pleinement conscience. Si ces données sont utilisées pour prendre des décisions qui ont une incidence sur des opportunités concrètes (accès au crédit, recrutement, services), on risque de porter atteinte à la liberté et de discriminer les plus vulnérables. De plus, le contrôle ne passe pas seulement par des interdictions explicites, mais par l’architecture de la visibilité : ce qui est amplifié ou rendu invisible, ce qui est récompensé ou pénalisé, finit par façonner les opinions et les choix, générant conformisme et autocensure. C’est pourquoi la liberté, à l’ère numérique, n’est pas seulement une question intérieure : elle est aussi une question publique, qui exige des règles claires, de la transparence, des voies de recours et des limites proportionnées à l’utilisation de technologies intrusives, afin que la technique reste au service de la personne et ne devienne pas une forme d’emprise des consciences.

§ 172À l’origine de ces problèmes se trouve une mentalité technocratique et post-humaniste qui tend à considérer la personne comme un objet manipulable ou une ressource à optimiser,Note 172Cf. François, Message pour la célébration de la 48e Journée Mondiale de la Paix (8 décembre 2014), n. 4 : AAS 107 (2015), pp. 70-71. en éliminant tout ce qui fixe des limites à la maximisation du profit : ce qui compte, c’est l’efficacité, et non le respect de la liberté et de la dignité humaine. Certains courants post-humanistes vont même jusqu’à envisager des êtres humains “de seconde classe”, au service des intérêts d’élites qui se perçoivent comme supérieures : une perspective inquiétante, d’autant plus grave lorsqu’elle s’associe à des outils technologiques qui amplifient de manière exponentielle le pouvoir de contrôle et de sélection. De même certaines logiques d’endettement structurel qui maintiennent des peuples entiers dans des conditions de dépendance, révèlent la même mentalité en acceptant, sous de nouvelles formes, des relations de subordination proches de l’esclavage.