§102 — L’IA n’est jamais un fait purement technique : confiée à des décisions sur le travail, le crédit ou la réputation, elle ne connaît ni compassion ni pardon et peut créer de nouvelles exclusions, manipuler l’information, violer la vie privée et renforcer, sous une apparence de neutralité, les idéologies de ses concepteurs.
Chapitre 3 › L’intelligence artificielle › Responsabilité, transparence et gouvernance de l’IA
Le texte du paragraphe — §102
L’utilisation de l’IA n’est jamais un fait purement technique : lorsqu’elle intervient dans des processus qui ont une incidence sur la vie des personnes, elle touche aux droits, aux opportunités, à la réputation et à la liberté. Des décisions délicates qui touchent au travail, au crédit, à l’accès aux services et à la réputation des personnes risquent d’être entièrement confiées à des systèmes automatisés qui ne connaissent pas « la compassion, la miséricorde, le pardon et, surtout, l’ouverture à l’espérance d’un changement de la personne », et peuvent ainsi engendrer de nouvelles formes d’exclusion. Il peut y avoir des utilisations manifestement inhumaines, comme la manipulation de l’information ou la violation de la vie privée, mais il peut aussi y avoir un danger moins évident, lorsque les systèmes d’IA, se présentant comme neutres et objectifs, reflètent et renforcent les stéréotypes ou les positions idéologiques de ceux qui les ont conçus et formés.
Les affirmations qu’il éclaire
Laurent Alexandre
- Opposition — L’IA surpasse les médecins en diagnostic et en empathie : Le pape refuse d’assimiler l’empathie à une fonction technique : les systèmes automatisés ne connaissent pas la compassion ni l’espérance de changement de la personne, et l’empathie imitée artificiellement ne remplace pas le jugement humain.
- Nuance — L’IA est politiquement centre-gauche mais ne fait pas la politique fiscale : Le pape confirme que l’IA n’est pas politiquement neutre, mais il attribue son orientation aux choix des concepteurs plutôt qu’à la machine elle-même.
- Accord — L’IA est un tsunami qui rend la vérité fabriquable : Le pape désigne la manipulation de l’information comme une utilisation manifestement inhumaine de l’IA, rejoignant l’inquiétude sur la fabrication du faux.