§106 — Appeler à la prudence, aux contrôles et parfois à un ralentissement n’est pas être contre le progrès : le déséquilibre entre la vitesse technologique et le rythme des consciences et des institutions exige des cadres juridiques, une surveillance indépendante et une politique qui n’abdique pas, sous peine de règles imposées par les détenteurs des données et du calcul.
Chapitre 3 › L’intelligence artificielle › Responsabilité, transparence et gouvernance de l’IA
Le texte du paragraphe — §106
Appeler à la prudence, à des contrôles rigoureux et parfois même à un ralentissement dans l’adoption de l’IA ne signifie pas être contre le progrès, mais faire preuve d’une attention responsable envers la famille humaine. Cette exigence est d’autant plus urgente qu’il existe souvent un déséquilibre entre la vitesse du développement technologique et le rythme auquel se développent les consciences, les normes, les contrôles et les institutions capables d’en réguler les effets. Il ne suffit pas d’invoquer de façon générale l’éthique : il faut des cadres juridiques adéquats, une surveillance indépendante, l’éducation des utilisateurs, une politique qui n’abdique pas son devoir. Autrement le changement ne sera régi que par des logiques technocratiques et présenté comme nécessaire et inévitable, finissant par imposer des règles dictées par ceux qui possèdent les données, les infrastructures et les capacités de calcul.
Les affirmations qu’il éclaire
Laurent Alexandre
- Opposition — Freiner l’IA est impossible et laisserait la Chine dominer : Le pape défend explicitement le droit de ralentir l’adoption de l’IA comme attention responsable envers la famille humaine, ce que l’auteur traite d’illusion enfantine.
- Opposition — L’Europe est un nain technologique qui se réglemente elle-même : Loin de voir la réglementation comme la spécialité d’un nain technologique, le pape juge indispensable des cadres juridiques adéquats et une politique qui n’abdique pas son devoir.
- Opposition — La classe politique ignore la technologie et doit rester aux mains des humains : Le pape refuse que le changement soit régi par des logiques technocratiques : la politique doit assumer son rôle de régulation plutôt que laisser imposer des règles par ceux qui possèdent les infrastructures.