§209 — Ceux qui œuvrent dans la recherche — scientifiques, entrepreneurs, autorités académiques, responsables politiques — sont appelés à la transparence et à la responsabilité sur les finalités des progrès technologiques, y compris l’IA, sous peine de coopérer à des projets obscurs de violence, manipulation et domination.
Chapitre 5 - La culture du pouvoir et la civilisation de l’amour › La culture du pouvoir › Un prétendu réalisme politique
Le texte du paragraphe — §209
Une responsabilité particulière incombe à ceux qui œuvrent dans le monde de la recherche. Tous les acteurs dans ce domaine – scientifiques, entrepreneurs, autorités académiques, responsables politiques, et autres – sont appelés à travailler dans une logique de transparence et de responsabilité, en gardant à l’esprit le cadre général dans lequel s’inscrivent les progrès technologiques auxquels ils contribuent, y compris ceux liés à l’IA. Lorsque l’on se limite à ne considérer que son propre secteur, on croit à tort accomplir une tâche moralement neutre et on évite de s’interroger sur les finalités ultimes qui orientent certaines expérimentations. Le risque est alors de coopérer, peut-être sans le vouloir, à des projets obscurs qui alimentent de nouvelles formes de violence, de manipulation et de domination.
Les affirmations qu’il éclaire
Laurent Alexandre
- Opposition — Il se définit comme observateur des conséquences politiques de l’IA : Le pape refuse la posture du simple observateur : il estime que croire accomplir une tâche moralement neutre en se limitant à son propre secteur est une erreur, et que tous les acteurs de la recherche doivent répondre des finalités ultimes de leurs travaux.
- Nuance — La classe politique ignore la technologie et doit rester aux mains des humains : L’encyclique inclut les responsables politiques parmi les acteurs appelés à travailler dans une logique de transparence et de responsabilité, ce qui corrige l’idée que le pouvoir politique ignorerait la technologie et resterait spectateur de la révolution des intelligences.
- Accord — Les risques existentiels de l’IA sont réels : Le paragraphe confirme la face dangereuse de l’ambivalence technologique : le risque est de coopérer, même sans le vouloir, à des projets qui alimentent de nouvelles formes de violence, de manipulation et de domination.