§103 — Confier à un algorithme le pouvoir de sélectionner qui mérite, sans que personne n’en assume la responsabilité, redéfinit les limites de l’humain : l’exclusion des plus faibles se revêt de neutralité, l’injustice devient silencieuse et la compassion disparaît comme geste politique.
Chapitre 3 › L’intelligence artificielle › Responsabilité, transparence et gouvernance de l’IA
Le texte du paragraphe — §103
Confier, dans les faits, à un algorithme le pouvoir de sélectionner qui mérite et qui ne mérite pas sans que personne n’assume plus le poids de cette décision, revient à lui confier la tâche de redéfinir les limites des possibilités humaines. Ce qui fait défaut dans ce processus, ce n’est pas seulement l’empathie envers l’exclu, qui peut être imitée artificiellement, mais la responsabilité politique, car l’écartement des plus faibles est revêtu de neutralité et d’objectivité, face auxquelles il est impossible de protester. Ainsi, l’injustice devient silencieuse, et la compassion, la miséricorde et le pardon, non pas comme de simples apparences, mais comme des gestes politiques disparaissent de l’horizon.
Les affirmations qu’il éclaire
Laurent Alexandre
- Opposition — La classe politique ignore la technologie et doit rester aux mains des humains : Le pape affirme que ce qui manque n’est pas seulement l’empathie mais la responsabilité politique : le pouvoir de décision ne peut être transféré à l’algorithme, car il faut quelqu’un pour en répondre et le contester.
- Nuance — L’IA divise l’humanité entre adaptés et laissés pour compte : Le pape reconnaît un clivage entre ceux que l’IA sélectionne et les exclus, mais il le voit comme le produit de décisions algorithmiques présentées comme objectives, non comme le résultat d’une inégalité naturelle d’intelligence.