§170 — La révolution numérique menace la liberté humaine par les dépendances subtiles de l’économie de l’attention : les plateformes exploitent les fragilités, traitent la personne comme un moyen, et leurs concepteurs assument une responsabilité morale.
Chapitre 4 - Préserver l’humain dans la transformation - Vérité, travail, liberté › Préserver la liberté face à la dépendance et à la marchandisation › Dépendances et contrôle social
Le texte du paragraphe — §170
Après avoir abordé les thèmes de la vérité et de l’éducation, du travail et de la famille, nous devons maintenant nous pencher sur l’impact de la révolution numérique sur la liberté humaine, en réfléchissant à la manière d’affronter tant les risques liés à la psychologie individuelle que les grands drames sociaux. Il ne faut pas sous-estimer les formes les plus subtiles de dépendance liées à l’économie numérique de l’attention, où les plateformes et les services sont conçus pour capter le temps et le regard des utilisateurs, en exploitant leurs fragilités et en affaiblissant leur liberté intérieure. Lorsque des modèles commerciaux prospèrent sur la faiblesse humaine, la personne est traitée comme un moyen et non comme une fin, et ceux qui conçoivent ou financent ces systèmes assument une responsabilité morale à laquelle ils ne peuvent se soustraire. Il est urgent de promouvoir une utilisation des technologies qui renforce la liberté intérieure : éducation à la sobriété numérique, protection des mineurs et lutte contre les modèles qui prospèrent sur la vulnérabilité.
Les affirmations qu’il éclaire
Laurent Alexandre
- Nuance — La fusion du cerveau avec l’IA met fin à l’autonomie intellectuelle individuelle : Le pape partage l’inquiétude d’une soumission de la personne aux systèmes technologiques, mais il situe le problème dans la dépendance et la marchandisation de l’attention plutôt que dans la fusion physique du cerveau avec l’IA, et il propose l’éducation à la sobriété numérique et la protection des mineurs.
- Accord — Devenir amoureux de ChatGPT est dangereux : Le pape rejoint l’auteur sur la dangerosité des relations captives avec l’IA : il dénonce les dépendances subtiles créées par des services conçus pour capter le temps et exploiter les fragilités, et demande une utilisation des technologies qui renforce la liberté intérieure.