§108 — L’IA tend à renforcer le pouvoir de ceux qui ont déjà ressources, compétences et données : de petits groupes peuvent orienter l’information et la démocratie ; il faut des contrôles inspirés de la participation et de la subsidiarité, et une propriété des données réglementée comme bien commun.
Chapitre 3 › L’intelligence artificielle › Responsabilité, transparence et gouvernance de l’IA
Le texte du paragraphe — §108
En effet, comme c’est le cas pour toute grande avancée technologique, l’IA tend surtout à renforcer le pouvoir de ceux qui disposent déjà de ressources économiques, de compétences et de l’accès aux données. À la lumière du bien commun et de la destination universelle des biens, ce phénomène suscite de sérieuses préoccupations : de petits groupes très influents peuvent orienter l’information et la consommation, conditionner les processus démocratiques et influencer les dynamiques économiques à leur avantage, en contradiction avec la justice sociale et la solidarité entre les peuples. C’est pourquoi il est indispensable que l’utilisation de l’IA – surtout lorsqu’elle touche aux biens publics et aux droits fondamentaux – s’accompagne de critères clairs et de contrôles effectifs, inspirés de la participation et de la subsidiarité : les communautés et les corps intermédiaires ne peuvent être réduits à de simples destinataires de décisions prises ailleurs, mais doivent pouvoir contribuer au discernement et à la vigilance. En outre, la propriété des données ne peut être confiée uniquement à des acteurs privés, mais doit être réglementée. Elles sont le fruit de la contribution de nombreux acteurs et ne peuvent être vendues ou confiées à quelques-uns. Une créativité capable de les gérer comme un bien commun ou collectif est nécessaire, dans une logique de partage, comme le suggérait déjà saint Jean-Paul II à propos des biens collectifs.
Les affirmations qu’il éclaire
Laurent Alexandre
- Opposition — L’IA accroît les inégalités mais leur coût peut baisser : Le pape conteste l’idée que la baisse des coûts suffise à rendre le projet égalitaire : l’IA accroît le pouvoir de ceux qui disposent déjà de ressources, en contradiction avec la justice sociale et la solidarité entre les peuples.
- Nuance — L’IA divise l’humanité entre adaptés et laissés pour compte : Le pape reconnaît une asymétrie entre ceux qui décident et les simples destinataires des décisions, mais il la corrige par la participation des communautés et des corps intermédiaires plutôt que par la seule compétition des intelligences.