§104 — L’IA ne peut être considérée comme moralement neutre : tout dispositif technique implique des choix (mesurer, ignorer, optimiser, classer), et un système qui traite certaines vies comme moins dignes contredit la dignité inaliénable de la personne, ce qui exige un discernement portant sur sa conception même.
Chapitre 3 › L’intelligence artificielle › Responsabilité, transparence et gouvernance de l’IA
Le texte du paragraphe — §104
Il en découle une conséquence simple mais incontournable : nous ne pouvons pas considérer l’IA comme moralement neutre. En réalité, tout dispositif technique implique des choix et des priorités : ce qu’il mesure, ce qu’il ignore, ce qu’il optimise, et la manière dont il classe les personnes et les situations. Si un système est conçu ou utilisé de manière à traiter certaines vies comme moins dignes ou à les exclure sans possibilité d’appel, il ne s’agit pas d’un simple instrument “à bien utiliser” ; il introduit déjà un critère qui contredit la dignité inaliénable de la personne. C’est pourquoi le discernement éthique ne peut se limiter à se demander si nous utilisons un certain système à des fins bonnes ou mauvaises, mais doit également s’interroger sur la manière dont il est conçu et sur la conception de la personne et de la société qui est inscrite dans les données et les modèles qui le guident.
Les affirmations qu’il éclaire
Laurent Alexandre
- Opposition — Découvrir les nouvelles technologies par des usages légers est sans problème moral : Le pape conteste l’idée d’un usage sans problème moral : un système n’est pas un simple instrument à bien utiliser, il inscrit déjà une conception de la personne dans ses données et ses modèles.